Tormenta de ideas

[MOD-Félix-2]

Buenas tardes delegados,

¡Comenzamos el uso del foro!
En este apartado pueden proponer ideas relacionadas con los temas a tratar en esta comisión para así generar nuevas líneas de debate más adelante. Les animo a todos a participar activamente sin miedo alguno.

¡Mucho ánimo!
Félix Baeza

[46034211-2-Alba-2]

Buenos días, Presidencia y delegados.

Los Derechos Humanos son continuamente vulnerados, por lo que propongo que deba existir un control en el mundo real y el virtual. Las leyes en los dos ámbitos deberían ser las mismas para proteger los derechos fundamentales. La libertad de expresión debe respetar el derecho al honor de cada persona.

La falta de ética en la realidad comporta que tengamos que abordar qué ocurre si alguien plantea una Inteligencia Artificial con sesgos discriminatorios. De hecho, la UE podría tener que adaptar su ley de IA para adaptarla a los casos de 'desnudos fake' como el de las chicas de Almendralejo:

https://www.20minutos.es/noticia/5174137/0/almendralejo-ley-inteligencia-artificial-ue-porno-futuro

Si herramientas como ChatGPT deben ser accesibles a todo el público, es importante enseñar desde casa y centros educativos a emplear la moral y el pensamiento crítico para citar fuentes verificadas, no sesgadas e influenciadas por fobias, falsedades o conspiranoias. Es importante que incluyamos una cláusula en la que se aborde cómo se enseña a usar la IA. Según un informe del Consejo de Juventud de España, casi el 50% consume contenido político a través de Tik Tok, por lo que muchos jóvenes se ven influenciados al no saber que lo que leen o ven es falso.

¿Debería prohibirse en colegios como se ha hecho en Estados Unidos? https://www.lavanguardia.com/vida/20230106/8669098/nueva-york-prohibe-escuelas-chatgpt-temor-mentiras.html

El plagio que provoca si no se citan viola los derechos de autor y la propiedad intelectual, así que es algo que no es ético.

Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).

[46034211-2-Alba-2]

Buenas tardes, Presidencia y delegados. 

El uso de la IA depende de la moral de cada uno por lo que, estando el mundo actual con espionajes y guerras, deberíamos debatir si se debe monitorizar a ciertas empresas y países para que no la usen para espiar a otros países. Mediante una serie de productos, pueden interferir en Democracias y territorios de todo el mundo.  Esto va más allá de la ética y moral, por lo que al violar derechos fundamentales es un arma contra la libertad y la democracia. Ya existen en la UE las Comisiones Especiales sobre Injerencias Extranjeras en Todos los Procesos Democráticos de la Unión Europea, en particular la Desinformación, por lo que con leyes como la de Servicios Digitales y de la IA que nombraré deberíamos tener esto muy en cuenta para la Resolución: https://www.socialistsanddemocrats.eu/es/committees/comisiones-especiales-sobre-injerencias-extranjeras-en-todos-los-procesos-democraticos

Sobre el plagio que he citado esta mañana, creo que deberían existir unas leyes de propiedad intelectual que se adaptasen a los nuevos tiempos. La legislación ha ido modificándose a medida que hemos avanzado como sociedad, por lo que ahora, debido a estos avances tecnológicos, deberíamos implantar nuevas leyes para regular esto mismo. Es importante el contenido y la forma de redactar ya que ambas se complementan: es necesario que el contenido sea verídico y la forma de redactarlo, coherente.       

Aunque es verdad que es muy difícil combatir el sesgo de estas herramientas al ser ilimitadas y están a disposición de todo el mundo, es verdad que se pueden intentar regular con ciertas medidas que se implanten en las redes sociales como Tik-Tok o Instagram. La Ley de Servicios Digitales de la UE debería ser importante para la Resolución: https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_es

En mi opinión, la inteligencia artificial no debería de ser accesible para todo el mundo, ya que los niños mas pequeños no son conscientes del mundo al que se están exponiendo. Aunque a partir de una determinada edad sí que debería de ser accesible, pienso que debe de haber algún modo regulador para restringir aquel contenido dañino que se pueda encontrar. Aparte de la LSD, la UE ha impulsado la Ley de IA,  primera normativa sobre inteligencia artificial en la que se señalan varios niveles de riesgo: https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial

Para eso es necesario que desde casa y centros educativos se inculque el pensamiento crítico. ¿Creando una asignatura en la que se enseñe? Eso daría para debatir, ya que hay bastante carga de clases y habría que decidir si es una optativa (no llegaría a todo el mundo) o si es evaluable.

Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).

[15004125-2-Iván-16]

Buenos días, Presidencia y delegados.

Me gustaría realizar un breve comentario acerca de la Inteligencia Artificial como fuente de información, distinguiendo dos enfoques donde la ética se encuentra en debate.

En primer lugar, a pesar de las innumerables ventajas que nos ha aportado la evolución tecnológica, la brecha digital nos está distanciando cada vez más como sociedad. ¿Es ético que ahora restrinjamos la evolución solamente a aquellos que tengan los recursos y conocimiento necesarios para avanzar?

Desde mi punto de vista, hay dos colectivos que a día de hoy se ven con dificultades para acceder a la Inteligencia Artificial como fuente de información: las personas de la tercera edad y las familias con escasos recursos económicos. Según Eurostat, la población mayor de 65 años en la Unión Europea es de un 21,1%, que representa más de una quinta parte de sus habitantes mientras que una décima parte de los hogares de la UE, según el Instituto Nacional de Estadística, no tienen acceso a Internet.

El libre acceso a la información debe ser libre e igualitario, por lo que debería existir una legislación que eduque y acerque estos recursos a los sectores más desfavorecidos, para que todos podamos avanzar por igual en esta era digital.

En segundo lugar, debemos aceptar a la Inteligencia Artificial como un recurso de ayuda y de información, como actualmente lo hacemos a los libros, manuales, enciclopedias, fuentes de Internet… Y al igual que se han realizado con estas, debe legislarse su uso y requerir una citación adecuada para proteger los derechos de autor.

Si todos nosotros contribuimos al aprendizaje de las IA, ¿cuáles son las medidas adecuadas para proteger nuestra propiedad intelectual?

Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.



Fuentes:
         
https://internauta.blog/todos-contribuimos-a-la-ia-deberiamos-recibir-un-pago-por-eso/

https://www.ine.es/ss/Satellite?L=es_ES&c=INESeccion_C&cid=1259925529799&p=%5C&pagename=ProductosYServicios%2FPYSLayout&param1=PYSDetalle&param3=1259924822888

https://dependencia.info/noticia/6417/actualidad/analisis-geroasistencial:-el-brete-del-binomio-tecnologia-y-envejecimiento.html

[15004125-2-Iván-16]

Buenas tardes, Presidencia y delegados.

El informe inicial de la Comisión de Inteligencia Artificial en la era digital presenta en su introducción el siguiente tema:

"Desde un punto de vista empresarial y económico, sustituir a las personas por cierto tipo de máquinas aumentaba la productividad y, con ello, el beneficio de las empresas. Desde el punto de vista social, el despido de aquellos cuyas tareas podía hacer una máquina ocasionaba pobreza e incertidumbre laboral, traslados poblacionales, cambios en las tendencias de estudios y de profesiones más demandadas."

Me resulta muy interesante reflexionar sobre la sustitución del trabajo por tanto máquinas como Inteligencias Artificiales y los límites éticos que tiene esta acción. Más allá de la cantidad de empleos que se encuentran en peligro de sustitución, que según El Mundo son más de 300 millones, debemos analizar todos los inconvenientes que se reflejan en los consumidores.

Poniendo un ejemplo, la empresa norteamericana de salud mental llamada Koko decidió implementar un novedoso sistema donde las consultas de los consumidores fueren resueltas por un chatbot en vez de un trabajador. Una vez los usuarios se dieron cuenta de este hecho, dejaron de usarlo. Este caso me lleva inevitablemente a plantearme lo siguiente: ¿Es ético que los consumidores no reciban un trato humano? ¿Está la Inteligencia Artificial lo suficientemente preparada para hacer el trabajo de psicólogo, un oficio que destaca por habilidades más emocionales? ¿Hasta qué punto es ético maximizar los beneficios de la empresa disminuyendo, a su vez, el beneficio de los clientes?

Asimismo, considero muy provechosas todas las ventajas que la tecnología nos ha proporcionado en trabajos de alto riesgo, como la minería, pues los humanos podemos, cada vez más, dedicarnos a trabajo donde la seguridad esté asegurada, una medida que desde el punto de vista de ético es muy positiva. A la hora de legislar el papel de la Inteligencia Artificial en el mundo laboral, ¿debemos restringir el trabajo a solamente los humanos, favoreciendo más la ética y nuestra parte más humana, a solamente las máquinas, favoreciendo el beneficio, y por ello, el crecimiento económico y de países, o buscar un equilibrio entre ambos?

Con respecto a esta última opción, he encontrado un artículo muy interesante sobre el "equipo humano-robot", un novedoso sistema de trabajo que se podría implementar donde se combinan las ventajas de ambos para intentar aunar el beneficio y la emoción.

Sin embargo, ¿debemos ponerlas equilibradas en la balanza o una debe pesar más que la otra? ¿Resultaría de nuestro favor priorizar la ética o el beneficio, o a pesar de no recibir el máximo rendimiento, potenciar estas dos características por igual?

Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.

Fuentes:

https://www.elmundo.es/tecnologia/2023/03/29/64248311fdddffab0b8b45cf.html

https://www.latercera.com/opinion/noticia/columna-de-susana-sierra-urgencia-de-los-dilemas-eticos-de-la-inteligencia-artificial/MJQZQKDDINDLFJWGQKSOH2U2NY/

https://www.cryptopolitan.com/es/robot-humano-una-alternativa-etica-a-la-ia/

[MOD-Ignacio-2]

Queridos delegados,

Les animo a qué sigan proponiendo temas de debate, todavía hay muchos de ellos que no han tratado y que son realmente interesantes; para ayudarles un poco, les propongo que investiguen sobre temas como el transhumanismo y los proyectos actuales en relación a ello.


¡Ánimo, delegados!

[11005019-2-Ángel-306]

Buenas tardes , estimados presidencia y delegados.

Me gustaría proponer el tema que no solo afecta principalmente en la economía sino  también indirectamente como son las inteligencias artificiales en el sector automovilístico .

En este sector no solo ayuda a sufrir menos accidentes con sistemas como la conducción autónoma o los sistemas (adas), sino también ayuda a la reducción de consumo de combustible (carburantes o electricidad). Si así lo consideran, podemos debatir más tarde sobre este tema.

Delegado Ángel Aguilar, Colegio Liceo Sagrado Corazón.

[46034211-2-Alba-2]

Buenas tardes, Presidencia y delegados.

Creo que deberíamos debatir si hay necesidad de tener una institución que  vigilase unas buenas prácticas, tal como hace la vigilancia del Organismo Internacional de Energía Atómica. Los Deep Fakes son una de las armas que usan las granjas de trolls para inmiscuirse en otros territorios o cuestiones como:

La inteligencia artificial 'revive' a víctimas infantiles de crímenes: «Usar la cara y la boca de un niño que nos han arrebatado... no hay palabras». La tendencia viral avanza en plataformas como Tik Tok ante el asombro de la mayoría de las familias afectadas, a las que nadie les pide permiso.

https://www.abc.es/sociedad/ia-revive-victimas-infantiles-asesinatos-espana-mundo-20231001022308-nt.html#vca=modulo-rel-dos&vso=abc&vmc=noticias-rel&vli=economia

Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).

[15004125-2-Iván-16]

Buenas noches, Presidencia y delegados.

Julian Huxley es considerado el padre del transhumanismo, pues afirmó que "el desarrollo de la Inteligencia Artificial General provocará una aceleración exponencial del progreso humano en todos los niveles."

"Las tecnologías emergentes nos ofrezcan una prolongación extrema de la vida, contribuyan a acabar con la escasez de recursos y con la enfermedad e incluso mejoren nuestra vida mental, en caso de que así lo deseemos.", afirma la filósofa Shcheiner manifestando su apoyo a esta corriente científica y filosófica.

A raíz de esto, me planteó lo siguiente: ¿Hasta qué punto estamos dispuestos a renunciar de nuestras características como humanos para una vida eterna? ¿Debemos olvidarnos de las capacidades intrínsecas que poseemos y seguir avanzando sin mirar atrás?.

Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.

[11005019-2-Ángel-306]

Buenas tardes, presidencia y delegados

Quisiera proponer debatir sobre las inteligencias artificiales en la labor artística pues no solo a evolucionado de forma mecánica si no, también de forma artística una de las cualidades mas humanas siendo consideradas como tal (danza, teatro, música, pintura y escultura).

Gracias a la evolución de la tecnología pueden crear voces artificiales o replicar la de un artista o también la pintura pues existen inteligencias artificiales como (gencraft, NightCafe Creator etc) las cuales crean una imagen en cuestión de segundos con la petición del cliente.Si así lo consideran, podemos debatir sobre este tema.

Delegado Angel Aguilar , Colegio Liceo Sagrado Corazon.

[MOD-Fernando-Global]

Buenas tardes delegado Angel,
El tema propuesto, la inteligencia artificial y el arte, es muy interesante y da mucho pie a debate. Podría ampliar su propuesta de tema para enfocar el debate?
Muchas gracias, y sigan con entusiasmo!

[11005019-2-Ángel-306]

Buenas tardes, Presidencia y Delegados:

Las inteligencias artificiales están cada vez más parejas a los humanos, llegando a imitar no solo sustituirnos en ciertos trabajos, sino también a la hora de "crear arte". Estas IA están al nivel de replicar voces de cualquier persona solo con unas cuantas frases, pudiendo decir cosas que la misma persona no ha dicho. Es decir, en el momento en que tienen tu voz, pueden hacer lo que quieran, desde decir frases simples hasta hacer una canción con tu voz. Esto puede perjudicar en gran parte a cantantes, ya que pueden robar su voz para cantar canciones que nunca cantaron. También, un productor puede utilizar tu voz sin necesidad de que el artista la cante. Algunos ejemplos de IA con esa capacidad en la actualidad son Murf.ai, Speechify, Lovo.ai, entre otros.

Sin embargo, el mundo de la música no es el único en peligro, ya que también hay IA para crear imágenes. Es decir, el mundo de la pintura también está en peligro, ya que estas IA son mucho más eficientes en cuestiones de tiempo,recursos y esfuerzo. Pintar un cuadro o crear una imagen puede llevar horas, semanas, meses o incluso años, requiriendo a su vez de la idea para crearlo, dependiendo de la petición. Sin embargo, estas IA tardan segundos en crear una imagen, sin importar la petición, y si al usuario no le gusta, puede pedir que lo repita para que mejore.

¿Hasta que punto es esto ético? ¿El arte no es algo que caracteriza a los humanos?

Delegado Ángel Aguilar, Colegio Sagrado Corazón

[11005019-2-Manuel-395]

Buenos días delegados y presidencia,

Algo que bajo mi punto de vista es algo de importancia y que a día de hoy, mucha gente tiene en cuenta, es la integración de la inteligencia artificial al sector automovilístico.

El pasado día, 19/10/2023, la marca de coches DS sacó a la luz una noticia sobre un nuevo modelo de coche que integraba en su sistema la IA, en este caso ChatGPT. (https://www.dsautomobiles.es/universo-ds/descubranos/noticias-ds/ds-automobiles-chatgpt.html)

Esto me da que pensar bastante en varios aspectos. Primero, que es capaz de generar esta incorporación de la IA en este sector, y como puede llegar a afecta esto al mundo del motor, ya no solo en la manera en sí de conducir, sino que también, en la seguridad vial o la comunicación entre automóviles, por ejemplo.
Y segundo, si ya los grandes sector, como lo es el sector automovilístico, están incorporando este tipo de tecnologías a sus productos ¿Hasta donde puede llegar esto, aplicándolo a otros sectores?

Manuel Anelo Rueda, Colegio Liceo Sagrado Corazón, Cádiz

[11005019-2-Julio-396]

Buenas tardes, Presidencia y Delegados:


Se dice mucho que la máquina es imparcial y que el humano se equivoca.
Aquellas Inteligencias Artificiales que aprenden de la interacción con las personas, al nutrirse del pensamiento humano llevará subjetividad intrínseca en los conocimientos que absorba. Si una sociedad manifestase pensamientos totalitarios, por ejemplo, la IA artificial terminaría empapándose de ello y repitiendo los patrones que observe.

La propia desarrolladora, “OpenAI”, nos advierte en su página oficial de que Chat GPT tiene “una inclinación por la visión occidental del mundo”, o de que “con interacción reiterada puede reforzar las creencias o prejuicios de un usuario”. ( https://help.openai.com/en/articles/8313359-is-chatgpt- ).
Además, existen que ponen en evidencia que este sesgo que tiene Chat GPT en el campo de la política.                  ( https://www.uea.ac.uk/about/news/article/fresh-evidence-of-chatgpts-political-bias-revealed-by-comprehensive-new-study ).


No obstante, no sólo se aplica a Chat GPT y similares. Aplicaciones tan conocidas y esparcidas como las redes sociales, a saber, YouTube, TikTok e Instagram, entre otras, funcionan con unos algoritmos que eligen qué vídeos mostrarnos según la retroalimentación que les vayamos dando. De esta manera, si un usuario tiene una conducta, el algoritmo actuará como una “caja de resonancia” que la amplifique. Podríamos decir, incluso, que estamos ante una adaptación moderna de la caverna de Platón, sólo que esta nueva caverna, la personalizamos nosotros a la medida de cada uno, creándonos una burbuja de la que los algoritmos nos convencen.

Este fenómeno tiene nombre, es  el “sesgo algorítmico “ y creo que merece la pena deliberar sobre él.




Delegado Julio Montes - Liceo Sagrado Corazón, San Fernando, Cádiz.

[11005019-2-Ángel-306]

Buenos días ,Presidencia y Delegados

   Quisiera proponer el tema de las inteligencias artificiales en el mundo escolar teniendo en cuenta el avance de las Inteligencias Artificiales la cual afecta en gran medida al ámbito escolar ya que los alumnos están empezando a utilizar las inteligencias artificiales en trabajos, actividades, proyectos, entre otros usos… Esto les ayuda a familiarizarse con ellas, sin embargo, no son los únicos que las están empezando a utilizar pues hay instituciones educativas probando diademas para medir los niveles de concentración de los estudiantes este instrumento se esta probando en colegios de Estados Unidos, China, España, entre otros países, este articulo ayuda al profesor a saber si sus alumnos emplean el 100% de sus capacidades en sus clases o el mero hecho de si están atendiendo o no, esto se hace viendo el nivel de actividad cerebral de los alumnos, estas se miden empleando unos sensores electroencefalógrafos que detectan señales cerebrales y utilizan un algoritmo de Inteligencia Artificial para traducirlas en unidades de concentración a tiempo real.
(https://blogthinkbig.com/focus-edu-atencion-alumnos#:~:text=)
   Retomando el punto anteriormente mencionado el uso de esta diadema en mi opinión seria algo dañino, ya que el objetivo principal de esta es controlar la concentración con el énfasis en cambiarla ya sea que aumente o disminuya y esto mataría la imaginación de los niños ya que ya se ha demostrado que cada niño es un mundo siendo esto un hecho irrefutable y cada uno aprende a su ritmo y a su manera y al buscar esa concentración idílica de los alumnos estaríamos mermando su imaginación ya mencionada y no solo eso sino también su pensamiento crítico y personalidad, llevando a dar a la sociedad una persona funcional a la hora de resolver problemas genéricos, pero no a la hora de desenvolverse como persona.

    ¿Cuánto tardará este artilugio en implementarse en la jornada laboral para controlar a los empleados/ afiliados ? ¿Hasta qué punto es ético la implementación de esta diadema en cualquiera de estos ámbitos ?

   Delegado Ángel Aguilar, Colegio Sagrado Corazón