Foro MEP
COMISIÓN DE INTELIGENCIA ARTIFICIAL EN LA ERA DIGITAL => Zona de debate de la Comisión => Tema comenzado por: MOD-Félix-2 activado Septiembre 20, 2023, 08:08:59 pm
-
Buenas tardes delegados,
¡Comenzamos el uso del foro!
En este apartado pueden proponer ideas relacionadas con los temas a tratar en esta comisión para así generar nuevas líneas de debate más adelante. Les animo a todos a participar activamente sin miedo alguno.
¡Mucho ánimo!
Félix Baeza
-
Buenos días, Presidencia y delegados.
Los Derechos Humanos son continuamente vulnerados, por lo que propongo que deba existir un control en el mundo real y el virtual. Las leyes en los dos ámbitos deberían ser las mismas para proteger los derechos fundamentales. La libertad de expresión debe respetar el derecho al honor de cada persona.
La falta de ética en la realidad comporta que tengamos que abordar qué ocurre si alguien plantea una Inteligencia Artificial con sesgos discriminatorios. De hecho, la UE podría tener que adaptar su ley de IA para adaptarla a los casos de 'desnudos fake' como el de las chicas de Almendralejo:
https://www.20minutos.es/noticia/5174137/0/almendralejo-ley-inteligencia-artificial-ue-porno-futuro
Si herramientas como ChatGPT deben ser accesibles a todo el público, es importante enseñar desde casa y centros educativos a emplear la moral y el pensamiento crítico para citar fuentes verificadas, no sesgadas e influenciadas por fobias, falsedades o conspiranoias. Es importante que incluyamos una cláusula en la que se aborde cómo se enseña a usar la IA. Según un informe del Consejo de Juventud de España, casi el 50% consume contenido político a través de Tik Tok, por lo que muchos jóvenes se ven influenciados al no saber que lo que leen o ven es falso.
¿Debería prohibirse en colegios como se ha hecho en Estados Unidos? https://www.lavanguardia.com/vida/20230106/8669098/nueva-york-prohibe-escuelas-chatgpt-temor-mentiras.html
El plagio que provoca si no se citan viola los derechos de autor y la propiedad intelectual, así que es algo que no es ético.
Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).
-
Buenas tardes, Presidencia y delegados.
El uso de la IA depende de la moral de cada uno por lo que, estando el mundo actual con espionajes y guerras, deberíamos debatir si se debe monitorizar a ciertas empresas y países para que no la usen para espiar a otros países. Mediante una serie de productos, pueden interferir en Democracias y territorios de todo el mundo. Esto va más allá de la ética y moral, por lo que al violar derechos fundamentales es un arma contra la libertad y la democracia. Ya existen en la UE las Comisiones Especiales sobre Injerencias Extranjeras en Todos los Procesos Democráticos de la Unión Europea, en particular la Desinformación, por lo que con leyes como la de Servicios Digitales y de la IA que nombraré deberíamos tener esto muy en cuenta para la Resolución: https://www.socialistsanddemocrats.eu/es/committees/comisiones-especiales-sobre-injerencias-extranjeras-en-todos-los-procesos-democraticos
Sobre el plagio que he citado esta mañana, creo que deberían existir unas leyes de propiedad intelectual que se adaptasen a los nuevos tiempos. La legislación ha ido modificándose a medida que hemos avanzado como sociedad, por lo que ahora, debido a estos avances tecnológicos, deberíamos implantar nuevas leyes para regular esto mismo. Es importante el contenido y la forma de redactar ya que ambas se complementan: es necesario que el contenido sea verídico y la forma de redactarlo, coherente.
Aunque es verdad que es muy difícil combatir el sesgo de estas herramientas al ser ilimitadas y están a disposición de todo el mundo, es verdad que se pueden intentar regular con ciertas medidas que se implanten en las redes sociales como Tik-Tok o Instagram. La Ley de Servicios Digitales de la UE debería ser importante para la Resolución: https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_es
En mi opinión, la inteligencia artificial no debería de ser accesible para todo el mundo, ya que los niños mas pequeños no son conscientes del mundo al que se están exponiendo. Aunque a partir de una determinada edad sí que debería de ser accesible, pienso que debe de haber algún modo regulador para restringir aquel contenido dañino que se pueda encontrar. Aparte de la LSD, la UE ha impulsado la Ley de IA, primera normativa sobre inteligencia artificial en la que se señalan varios niveles de riesgo: https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial
Para eso es necesario que desde casa y centros educativos se inculque el pensamiento crítico. ¿Creando una asignatura en la que se enseñe? Eso daría para debatir, ya que hay bastante carga de clases y habría que decidir si es una optativa (no llegaría a todo el mundo) o si es evaluable.
Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).
-
Buenos días, Presidencia y delegados.
Me gustaría realizar un breve comentario acerca de la Inteligencia Artificial como fuente de información, distinguiendo dos enfoques donde la ética se encuentra en debate.
En primer lugar, a pesar de las innumerables ventajas que nos ha aportado la evolución tecnológica, la brecha digital nos está distanciando cada vez más como sociedad. ¿Es ético que ahora restrinjamos la evolución solamente a aquellos que tengan los recursos y conocimiento necesarios para avanzar?
Desde mi punto de vista, hay dos colectivos que a día de hoy se ven con dificultades para acceder a la Inteligencia Artificial como fuente de información: las personas de la tercera edad y las familias con escasos recursos económicos. Según Eurostat, la población mayor de 65 años en la Unión Europea es de un 21,1%, que representa más de una quinta parte de sus habitantes mientras que una décima parte de los hogares de la UE, según el Instituto Nacional de Estadística, no tienen acceso a Internet.
El libre acceso a la información debe ser libre e igualitario, por lo que debería existir una legislación que eduque y acerque estos recursos a los sectores más desfavorecidos, para que todos podamos avanzar por igual en esta era digital.
En segundo lugar, debemos aceptar a la Inteligencia Artificial como un recurso de ayuda y de información, como actualmente lo hacemos a los libros, manuales, enciclopedias, fuentes de Internet… Y al igual que se han realizado con estas, debe legislarse su uso y requerir una citación adecuada para proteger los derechos de autor.
Si todos nosotros contribuimos al aprendizaje de las IA, ¿cuáles son las medidas adecuadas para proteger nuestra propiedad intelectual?
Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.
Fuentes:
https://internauta.blog/todos-contribuimos-a-la-ia-deberiamos-recibir-un-pago-por-eso/
https://www.ine.es/ss/Satellite?L=es_ES&c=INESeccion_C&cid=1259925529799&p=%5C&pagename=ProductosYServicios%2FPYSLayout¶m1=PYSDetalle¶m3=1259924822888
https://dependencia.info/noticia/6417/actualidad/analisis-geroasistencial:-el-brete-del-binomio-tecnologia-y-envejecimiento.html
-
Buenas tardes, Presidencia y delegados.
El informe inicial de la Comisión de Inteligencia Artificial en la era digital presenta en su introducción el siguiente tema:
"Desde un punto de vista empresarial y económico, sustituir a las personas por cierto tipo de máquinas aumentaba la productividad y, con ello, el beneficio de las empresas. Desde el punto de vista social, el despido de aquellos cuyas tareas podía hacer una máquina ocasionaba pobreza e incertidumbre laboral, traslados poblacionales, cambios en las tendencias de estudios y de profesiones más demandadas."
Me resulta muy interesante reflexionar sobre la sustitución del trabajo por tanto máquinas como Inteligencias Artificiales y los límites éticos que tiene esta acción. Más allá de la cantidad de empleos que se encuentran en peligro de sustitución, que según El Mundo son más de 300 millones, debemos analizar todos los inconvenientes que se reflejan en los consumidores.
Poniendo un ejemplo, la empresa norteamericana de salud mental llamada Koko decidió implementar un novedoso sistema donde las consultas de los consumidores fueren resueltas por un chatbot en vez de un trabajador. Una vez los usuarios se dieron cuenta de este hecho, dejaron de usarlo. Este caso me lleva inevitablemente a plantearme lo siguiente: ¿Es ético que los consumidores no reciban un trato humano? ¿Está la Inteligencia Artificial lo suficientemente preparada para hacer el trabajo de psicólogo, un oficio que destaca por habilidades más emocionales? ¿Hasta qué punto es ético maximizar los beneficios de la empresa disminuyendo, a su vez, el beneficio de los clientes?
Asimismo, considero muy provechosas todas las ventajas que la tecnología nos ha proporcionado en trabajos de alto riesgo, como la minería, pues los humanos podemos, cada vez más, dedicarnos a trabajo donde la seguridad esté asegurada, una medida que desde el punto de vista de ético es muy positiva. A la hora de legislar el papel de la Inteligencia Artificial en el mundo laboral, ¿debemos restringir el trabajo a solamente los humanos, favoreciendo más la ética y nuestra parte más humana, a solamente las máquinas, favoreciendo el beneficio, y por ello, el crecimiento económico y de países, o buscar un equilibrio entre ambos?
Con respecto a esta última opción, he encontrado un artículo muy interesante sobre el "equipo humano-robot", un novedoso sistema de trabajo que se podría implementar donde se combinan las ventajas de ambos para intentar aunar el beneficio y la emoción.
Sin embargo, ¿debemos ponerlas equilibradas en la balanza o una debe pesar más que la otra? ¿Resultaría de nuestro favor priorizar la ética o el beneficio, o a pesar de no recibir el máximo rendimiento, potenciar estas dos características por igual?
Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.
Fuentes:
https://www.elmundo.es/tecnologia/2023/03/29/64248311fdddffab0b8b45cf.html (https://www.elmundo.es/tecnologia/2023/03/29/64248311fdddffab0b8b45cf.html)
https://www.latercera.com/opinion/noticia/columna-de-susana-sierra-urgencia-de-los-dilemas-eticos-de-la-inteligencia-artificial/MJQZQKDDINDLFJWGQKSOH2U2NY/ (https://www.latercera.com/opinion/noticia/columna-de-susana-sierra-urgencia-de-los-dilemas-eticos-de-la-inteligencia-artificial/MJQZQKDDINDLFJWGQKSOH2U2NY/)
https://www.cryptopolitan.com/es/robot-humano-una-alternativa-etica-a-la-ia/ (https://www.cryptopolitan.com/es/robot-humano-una-alternativa-etica-a-la-ia/)
-
Queridos delegados,
Les animo a qué sigan proponiendo temas de debate, todavía hay muchos de ellos que no han tratado y que son realmente interesantes; para ayudarles un poco, les propongo que investiguen sobre temas como el transhumanismo y los proyectos actuales en relación a ello.
¡Ánimo, delegados!
-
Buenas tardes , estimados presidencia y delegados.
Me gustaría proponer el tema que no solo afecta principalmente en la economía sino también indirectamente como son las inteligencias artificiales en el sector automovilístico .
En este sector no solo ayuda a sufrir menos accidentes con sistemas como la conducción autónoma o los sistemas (adas), sino también ayuda a la reducción de consumo de combustible (carburantes o electricidad). Si así lo consideran, podemos debatir más tarde sobre este tema.
Delegado Ángel Aguilar, Colegio Liceo Sagrado Corazón.
-
Buenas tardes, Presidencia y delegados.
Creo que deberíamos debatir si hay necesidad de tener una institución que vigilase unas buenas prácticas, tal como hace la vigilancia del Organismo Internacional de Energía Atómica. Los Deep Fakes son una de las armas que usan las granjas de trolls para inmiscuirse en otros territorios o cuestiones como:
La inteligencia artificial 'revive' a víctimas infantiles de crímenes: «Usar la cara y la boca de un niño que nos han arrebatado... no hay palabras». La tendencia viral avanza en plataformas como Tik Tok ante el asombro de la mayoría de las familias afectadas, a las que nadie les pide permiso.
https://www.abc.es/sociedad/ia-revive-victimas-infantiles-asesinatos-espana-mundo-20231001022308-nt.html#vca=modulo-rel-dos&vso=abc&vmc=noticias-rel&vli=economia
Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).
-
Buenas noches, Presidencia y delegados.
Julian Huxley es considerado el padre del transhumanismo, pues afirmó que "el desarrollo de la Inteligencia Artificial General provocará una aceleración exponencial del progreso humano en todos los niveles."
"Las tecnologías emergentes nos ofrezcan una prolongación extrema de la vida, contribuyan a acabar con la escasez de recursos y con la enfermedad e incluso mejoren nuestra vida mental, en caso de que así lo deseemos.", afirma la filósofa Shcheiner manifestando su apoyo a esta corriente científica y filosófica.
A raíz de esto, me planteó lo siguiente: ¿Hasta qué punto estamos dispuestos a renunciar de nuestras características como humanos para una vida eterna? ¿Debemos olvidarnos de las capacidades intrínsecas que poseemos y seguir avanzando sin mirar atrás?.
Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.
-
Buenas tardes, presidencia y delegados
Quisiera proponer debatir sobre las inteligencias artificiales en la labor artística pues no solo a evolucionado de forma mecánica si no, también de forma artística una de las cualidades mas humanas siendo consideradas como tal (danza, teatro, música, pintura y escultura).
Gracias a la evolución de la tecnología pueden crear voces artificiales o replicar la de un artista o también la pintura pues existen inteligencias artificiales como (gencraft, NightCafe Creator etc) las cuales crean una imagen en cuestión de segundos con la petición del cliente.Si así lo consideran, podemos debatir sobre este tema.
Delegado Angel Aguilar , Colegio Liceo Sagrado Corazon.
-
Buenas tardes delegado Angel,
El tema propuesto, la inteligencia artificial y el arte, es muy interesante y da mucho pie a debate. Podría ampliar su propuesta de tema para enfocar el debate?
Muchas gracias, y sigan con entusiasmo!
-
Buenas tardes, Presidencia y Delegados:
Las inteligencias artificiales están cada vez más parejas a los humanos, llegando a imitar no solo sustituirnos en ciertos trabajos, sino también a la hora de "crear arte". Estas IA están al nivel de replicar voces de cualquier persona solo con unas cuantas frases, pudiendo decir cosas que la misma persona no ha dicho. Es decir, en el momento en que tienen tu voz, pueden hacer lo que quieran, desde decir frases simples hasta hacer una canción con tu voz. Esto puede perjudicar en gran parte a cantantes, ya que pueden robar su voz para cantar canciones que nunca cantaron. También, un productor puede utilizar tu voz sin necesidad de que el artista la cante. Algunos ejemplos de IA con esa capacidad en la actualidad son Murf.ai, Speechify, Lovo.ai, entre otros.
Sin embargo, el mundo de la música no es el único en peligro, ya que también hay IA para crear imágenes. Es decir, el mundo de la pintura también está en peligro, ya que estas IA son mucho más eficientes en cuestiones de tiempo,recursos y esfuerzo. Pintar un cuadro o crear una imagen puede llevar horas, semanas, meses o incluso años, requiriendo a su vez de la idea para crearlo, dependiendo de la petición. Sin embargo, estas IA tardan segundos en crear una imagen, sin importar la petición, y si al usuario no le gusta, puede pedir que lo repita para que mejore.
¿Hasta que punto es esto ético? ¿El arte no es algo que caracteriza a los humanos?
Delegado Ángel Aguilar, Colegio Sagrado Corazón
-
Buenos días delegados y presidencia,
Algo que bajo mi punto de vista es algo de importancia y que a día de hoy, mucha gente tiene en cuenta, es la integración de la inteligencia artificial al sector automovilístico.
El pasado día, 19/10/2023, la marca de coches DS sacó a la luz una noticia sobre un nuevo modelo de coche que integraba en su sistema la IA, en este caso ChatGPT. (https://www.dsautomobiles.es/universo-ds/descubranos/noticias-ds/ds-automobiles-chatgpt.html)
Esto me da que pensar bastante en varios aspectos. Primero, que es capaz de generar esta incorporación de la IA en este sector, y como puede llegar a afecta esto al mundo del motor, ya no solo en la manera en sí de conducir, sino que también, en la seguridad vial o la comunicación entre automóviles, por ejemplo.
Y segundo, si ya los grandes sector, como lo es el sector automovilístico, están incorporando este tipo de tecnologías a sus productos ¿Hasta donde puede llegar esto, aplicándolo a otros sectores?
Manuel Anelo Rueda, Colegio Liceo Sagrado Corazón, Cádiz
-
Buenas tardes, Presidencia y Delegados:
Se dice mucho que la máquina es imparcial y que el humano se equivoca.
Aquellas Inteligencias Artificiales que aprenden de la interacción con las personas, al nutrirse del pensamiento humano llevará subjetividad intrínseca en los conocimientos que absorba. Si una sociedad manifestase pensamientos totalitarios, por ejemplo, la IA artificial terminaría empapándose de ello y repitiendo los patrones que observe.
La propia desarrolladora, “OpenAI”, nos advierte en su página oficial de que Chat GPT tiene “una inclinación por la visión occidental del mundo”, o de que “con interacción reiterada puede reforzar las creencias o prejuicios de un usuario”. ( https://help.openai.com/en/articles/8313359-is-chatgpt- ).
Además, existen que ponen en evidencia que este sesgo que tiene Chat GPT en el campo de la política. ( https://www.uea.ac.uk/about/news/article/fresh-evidence-of-chatgpts-political-bias-revealed-by-comprehensive-new-study ).
No obstante, no sólo se aplica a Chat GPT y similares. Aplicaciones tan conocidas y esparcidas como las redes sociales, a saber, YouTube, TikTok e Instagram, entre otras, funcionan con unos algoritmos que eligen qué vídeos mostrarnos según la retroalimentación que les vayamos dando. De esta manera, si un usuario tiene una conducta, el algoritmo actuará como una “caja de resonancia” que la amplifique. Podríamos decir, incluso, que estamos ante una adaptación moderna de la caverna de Platón, sólo que esta nueva caverna, la personalizamos nosotros a la medida de cada uno, creándonos una burbuja de la que los algoritmos nos convencen.
Este fenómeno tiene nombre, es el “sesgo algorítmico “ y creo que merece la pena deliberar sobre él.
Delegado Julio Montes - Liceo Sagrado Corazón, San Fernando, Cádiz.
-
Buenos días ,Presidencia y Delegados
Quisiera proponer el tema de las inteligencias artificiales en el mundo escolar teniendo en cuenta el avance de las Inteligencias Artificiales la cual afecta en gran medida al ámbito escolar ya que los alumnos están empezando a utilizar las inteligencias artificiales en trabajos, actividades, proyectos, entre otros usos… Esto les ayuda a familiarizarse con ellas, sin embargo, no son los únicos que las están empezando a utilizar pues hay instituciones educativas probando diademas para medir los niveles de concentración de los estudiantes este instrumento se esta probando en colegios de Estados Unidos, China, España, entre otros países, este articulo ayuda al profesor a saber si sus alumnos emplean el 100% de sus capacidades en sus clases o el mero hecho de si están atendiendo o no, esto se hace viendo el nivel de actividad cerebral de los alumnos, estas se miden empleando unos sensores electroencefalógrafos que detectan señales cerebrales y utilizan un algoritmo de Inteligencia Artificial para traducirlas en unidades de concentración a tiempo real.
(https://blogthinkbig.com/focus-edu-atencion-alumnos#:~:text=)
Retomando el punto anteriormente mencionado el uso de esta diadema en mi opinión seria algo dañino, ya que el objetivo principal de esta es controlar la concentración con el énfasis en cambiarla ya sea que aumente o disminuya y esto mataría la imaginación de los niños ya que ya se ha demostrado que cada niño es un mundo siendo esto un hecho irrefutable y cada uno aprende a su ritmo y a su manera y al buscar esa concentración idílica de los alumnos estaríamos mermando su imaginación ya mencionada y no solo eso sino también su pensamiento crítico y personalidad, llevando a dar a la sociedad una persona funcional a la hora de resolver problemas genéricos, pero no a la hora de desenvolverse como persona.
¿Cuánto tardará este artilugio en implementarse en la jornada laboral para controlar a los empleados/ afiliados ? ¿Hasta qué punto es ético la implementación de esta diadema en cualquiera de estos ámbitos ?
Delegado Ángel Aguilar, Colegio Sagrado Corazón
-
Buenos días, Presidencia y delegados.
Me gustaría proponer un tema relacionado con la ética que se debe aplicar a la IA, en especial cuando se encuentra en una situación que implica la toma de un decisión moral.
Un ejemplo del problema planteado es lo ocurrido en EE.UU., donde un vehículo autónomo de Uber atropelló a una transeúnte de Arizona. Esto sucedió ya que la conductora relevó la tarea de conducción y supervisión, al coche, ya que la IA está programada para facilitar y ayudar, pero no contaba con que no sería capaz de identificar que lo que tenía delante no era un objeto.
Debemos de plantearnos la siguiente pregunta, ¿ Debemos realmente dejar qué decisiones éticas sean tomadas por máquinas?
Laura Pedregal: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.
Noticia mencionada:
https://hazrevista.org/rsc/2020/10/inteligencia-artificial-primer-juicio-accidente-trafico-mortal/
-
Buenas tardes, Presidencia y delegados.
Un tema muy interesante a tratar podría ser sobre la desinformación y falsedad en las redes, que con la llegada de la Inteligencia Artificial es mucho más peligrosa que antaño. Llegando a ejercer una influencia sobre nuestra conducta racional de una manera preocupante. Por ejemplo, el uso de una IA como chatGPT que nos diga como actuar, a quién votar, o hasta ser discriminados por un ser inteligente.
Por otra parte, también están las llamadas "fake news" que son sofismas influyentes en nuestra sociedad, sobre todo si las personas no tienen un conocimiento previo de como abordar la información sugerida, y por eso mismo, siendo muy vulnerables al engaño. El problema se incrementa cuando ya no solo son textos o diálogos, sino también imágenes y sonidos con un realismo muy bien logrado.
Al estar al alcance de todo el mundo, la conducta racional del ser humano puede ser afectada a un nivel muy amplio, hasta los mas jóvenes. Recordemos el caso de los niños que utilizaron la IA para difundir fotos explícitas de sus compañeras de clase del cual ya muchos de ustedes serán conscientes.
https://www.antena3.com/programas/y-ahora-sonsoles/desnudar-menores-difundir-imagenes-ninas-tremendamente-afectadas_2023091865087dd14fd7bf0001a25722.html
Aquí, surgen cuestiones que nos hacen reflexionar sobre el rumbo de esta herramienta, ¿deberían de implementarse un mayor número de leyes que regulen este problema? ¿Podríamos utilizar la propia IA para detectar "fake news"? ¿Sería útil la implementación de campañas que ayuden a combatir esto?
Delegado Delfín Pérez Rodríguez: Comisión de Inteligencia Artificial en la Era Digital.
Colegio La Salle, Santiago de Compostela.
-
Buenos tardes Presidencia y Delegados,
Me gustaría proponer un tema de debate que a mi idea es bastante importante respecto a como deberíamos desarrollar la inteligencia artificial.
La inteligencia artificial esta aquí para quedarse. Desde mi punto de vista, lo mas importante es aprender a regularla para que no se creen desigualdades y se convierta en un arma de doble filo.
Según el Taiwanes Kai-Fu Lee, un pope de la inteligencia artificial que presidió Google China “la IA creará billonarios y reemplazará trabajos haciendo a los pobres más pobres y a los ricos más ricos". Me parece importante hablar sobre las desigualdades que la IA puede crear en nuestra sociedad. Podemos observar como algunas aplicaciones como Chat gpt ya tienen una suscripción de pago con la que puedes obtener la actualización más novedosa de esta aplicación. Con lo cual, solo aquellos con un nivel económico elevado pueden permitirse el lujo de tener información mas eficaz y lucrarse de ello.
Además, me gustaría reflexionar sobre otro tema relacionado con esto. Considero que la IA al igual que puede crear desigualdades a nivel nacional también puede crearlas internacionalmente. Aquellos países más ricos capaces de desarrollar sus propios softwares podrán controlar la información que se les hace llegar a los países mas subdesarrollados.
Desde mi punto de vista, encuentro que una buena solución para el problema internacional sería garantizar un desarrollo que se llevara acabo entre todos los países unidos. Sin la posibilidad de que aquellos países con más oportunidades puedan desarrollar la IA sin ningún tipo de ética. Respecto al tema nacional, considero que el estado debería controlar el uso de la IA. De esta manera, la regulación sería mucho más sencilla. Las IA deberían ser publicas y de un acceso libre para todo aquel que quiera utilizar una, de esta manera garantizar una igualdad social y económica.
Celia Piñero, IES Clara Campoamor, Zaragoza
-
Buenas noches, Presidencia y delegados.
Me gustaría contribuir en la discusión sobre el sesgo algorítmico que propone el delegado Julio Montes. La manera que tienen las máquinas de aprender no es objetiva sino estadística. Se basa en datos que ya existen, lo que nos puede llevar a un sesgo y a discriminaciones, ya que las máquinas no hacen otra cosa más que perpetuar la situación actual. Una gran cantidad de datos en un único sentido no implica mayor pluralidad.
De hecho, antes de la existencia del Chat GPT, existió un prototipo llamado Tay.
Tay fue un robot de conversación de IA para la plataforma de Twitter creada por Microsoft el 23 de marzo de 2016. Tay comenzó siendo amable y educado, pero en menos de un día el bot se dedicó a enviar mensajes racistas, machistas y cargados de contenido sexual en respuesta a otros usuarios de Twitter. Fue dado de baja después de 16 horas de lanzamiento. Roman Yampolskiy, investigador de AI, comentó que la conducta inapropiada de Tay era comprensible, ya imitaba el comportamiento ofensivo de otros usuarios de Twitter.
La situación puede ser incluso más complicada. Como se recoge en este artículo,
https://www.agenciasinc.es/Noticias/Los-sesgos-de-la-inteligencia-artificial-pueden-pasar-a-las-personas
Los sesgos de la inteligencia artificial pueden pasar a las personas. En este estudio, realizado por la Universidad de Deusto, se muestra que también puede producirse el efecto contrario: la gente podría heredar sesgos de IA, por lo que corremos el riesgo de entrar en un bucle peligroso.
Diego Oizan-Chapon González: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio LaSalle (Santiago de Compostela)
-
Buenos días Presidencia y Delegados,
Me gustaría compartir con vosotros la siguiente cuestión para analizar:
La inteligencia artificial evoluciona a pasos agigantados en muchos de los ámbitos de nuestro día a día; otro de los espacios en constante evolución y desarrollo es la aviación, que no se queda atrás en los rápidos avances que ha ido alcanzando. Este febrero, se llevó a cabo el primer vuelo realizado por la IA, en el que un avión realizó un vuelo de más de 17 horas sin ningún tipo de piloto a los mandos.
Conociendo esto planteo la siguiente cuestión:
¿Debería la IA entrar dentro de todos los ámbitos de la ciencia o la tecnología, como por ejemplo la aviación, un ámbito donde la vida de muchas personas está en juego, o debería quedar reducida a aquellos oficios donde no afecte a la integridad de los individuos?
https://hipertextual.com/2023/02/vista-x-62-caza-f-16-autonomo-inteligencia-artificial
Delegada Maria Lucia Noguera: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Mestral, Ibiza , España .
-
Estimados presidencia y delegados,
La inteligencia artificial está presente en muchos ámbitos cotidianos, incluso algunos que no llegamos a imaginar.
No obstante, apenas nadie conoce los problemas que esta puede presentar. Desde mi punto de vista, la IA se enfrenta a dos principales problemas: Los derechos de autor y la ética.
Gracias a las nuevas herramientas como lo son Chat GPT, podemos realizar tareas de forma más rápida. Además la IA tiene una gran variedad de beneficios, como una mejor asistencia sanitaria o una fabricación más eficiente.
Cabe destacar que obtener las cosas de forma instantánea no es bueno, debido a que dejamos de ser resolutivos. Por ejemplo, el aprendizaje conlleva tiempo para poder asimilar conceptos.
Fuente: https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial
Delegada Claudia Valdés Melguizo-Colegio Internacional de Granada
-
Buenos días, Presidencia y delegados.
Los Derechos Humanos son continuamente vulnerados, por lo que propongo que deba existir un control en el mundo real y el virtual. Las leyes en los dos ámbitos deberían ser las mismas para proteger los derechos fundamentales. La libertad de expresión debe respetar el derecho al honor de cada persona.
La falta de ética en la realidad comporta que tengamos que abordar qué ocurre si alguien plantea una Inteligencia Artificial con sesgos discriminatorios. De hecho, la UE podría tener que adaptar su ley de IA para adaptarla a los casos de 'desnudos fake' como el de las chicas de Almendralejo:
https://www.20minutos.es/noticia/5174137/0/almendralejo-ley-inteligencia-artificial-ue-porno-futuro
Si herramientas como ChatGPT deben ser accesibles a todo el público, es importante enseñar desde casa y centros educativos a emplear la moral y el pensamiento crítico para citar fuentes verificadas, no sesgadas e influenciadas por fobias, falsedades o conspiranoias. Es importante que incluyamos una cláusula en la que se aborde cómo se enseña a usar la IA. Según un informe del Consejo de Juventud de España, casi el 50% consume contenido político a través de Tik Tok, por lo que muchos jóvenes se ven influenciados al no saber que lo que leen o ven es falso.
¿Debería prohibirse en colegios como se ha hecho en Estados Unidos? https://www.lavanguardia.com/vida/20230106/8669098/nueva-york-prohibe-escuelas-chatgpt-temor-mentiras.html
El plagio que provoca si no se citan viola los derechos de autor y la propiedad intelectual, así que es algo que no es ético.
Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).
Buenas delegada Alba,
Respecto a tu comentario, estoy de acuerdo con lo de que tenemos que aprender a informarnos por los medios correctos y no por redes sociales que están llenas de "fake news".
Cuando has dicho que la inteligencia artificial realiza plagio, es algo no ético, con eso estoy de acuerdo pero estas confundiendo el fin que tiene la inteligencia artificial con su medio. Por ejemplo, cuando tu compras un martillo y en vez de utilizarlo para clavar un clavo lo usas para hacer daño a alguien, la culpa no es del martillo si no es de la persona que ha sido ella la que a querido que el martillo tenga el fin de hacer daño a alguien. Por eso hay que ver a la inteligencia artificial como una amiga, no como una enemiga. Ya que si la viéramos como enemiga no conseguiríamos avanzar nunca tecnológicamente. Paso algo parecido con la aparición de la calculadora.
Delegado Daniel- Colegio El Vedat(Valencia).
-
Buenas tardes, Presidencia y Delegados.
Quisiera proponer un tema a debatir. Anteriormente, otro delegado ha propuesto el debate en la educación, pues bien, me gustaría abrir el debate a partir de la Conferencia internacional sobre la Inteligencia Artificial en la educación celebrada en Beijing en el año 2019 https://es.unesco.org/themes/tic-educacion/conferencia-ia-educacion-2019. Allí se propusieron unos límites con relación al uso de la IA en las escuelas, si es cierto que desde entonces esta ha evolucionado mucho.
Volviendo a la propuesta me gustaría poner a debate. ¿Cómo esta afectará en un futuro a los alumnos y alumnas en su desarrollo? ¿Y en segundo lugar, como los países empezarán a poner sus límites en sus aulas?, como por ejemplo en Italia, Francia, Suecia o Finlandia, ya han prohibido su uso.
Es un problema que nos concierne a todos y creo que es importante si lo consideran debatir sobre él.
Delegada Laia Ortega, Colegio Pare Manyanet, Barcelona
-
Buenos Días Presidencia y delegados,
El auge de la Inteligencia Artificial es un hecho innegable, que ya ha hecho mella en nuestra sociedad y pasará a estar en los libros de historia. Sin embargo, un cambio tan importante como este requiere una legislación, aunque según muchos expertos, ya hayamos llegado tarde.
No son pocas las noticias que nos informan sobre los deepfakes que podrían arruinar carreras o los desnudos generados por la IA que han llevado, entre otros, a la pornografía infantil a unos límites insospechados, rompiendo todas las líneas de la ética y de la moral, además de incumplir derechos fundamentales, como el derecho a la privacidad, entre muchos otros.
Esto se destaca en una cita de Eduard Blasi, profesor colaborador de los Estudios de Derecho y Ciencia Política de la UOC, en la que afirma que "se vulnera la normativa de protección de datos porque existe una difusión de información que, aunque sea esencialmente falsa, se utilizan datos personales reales, como el rostro de una persona o a veces incluso la voz, y esto conlleva frecuentemente un tratamiento de datos personales sin consentimiento del afectado". https://www.20minutos.es/tecnologia/inteligencia-artificial/peligros-crear-deepfakes-pornograficos-5187928/ (https://www.20minutos.es/tecnologia/inteligencia-artificial/peligros-crear-deepfakes-pornograficos-5187928/)
La Unión Europea ha estado trabajando en un proceso de legislación de esto mismo, lo cual declararon un asunto prioritario. En la ley que finalmente se elaboró, los diferentes tipos de IA tienen ahora una serie de características que las encasillan en un determinado riesgo, el cual, a mayor, más restricciones tiene, siendo el máximo una serie de prohibiciones al uso de herramientas como los reconocimientos biométricos automáticos que se estan viendo en diferentes regímenes https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial (https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial)
Sin embargo, esta no ha sido la única legislación al repecto. El G7 mantuvo una reunión en la que se declaró la regulación de la IA como un asunto prioritario, y en la que se destinó a Japón al cargo del proyecto por ser el país que tiene mayor tasa de aceptación de servicios de la inteligencia artificial generativa. Los líderes acordaron que los ministros a cargo discutirán la IA generativa como el ‘proceso de IA de Hiroshima’. https://es.wired.com/articulos/g7-promete-regular-las-ia-generativas-antes-de-que-termine-el-2023 (https://es.wired.com/articulos/g7-promete-regular-las-ia-generativas-antes-de-que-termine-el-2023)
Sin embargo, creo que estas medidas son absolutamente insuficientes. Por ello tengo las siguientes preguntas:
¿Se debería alcanzar un mayor consenso internacional a la hora de regular la IA?
¿Las medidas que se quieren alcanzar son suficientes para proteger a la ciudadanía de una revolución tecnológica al alza?
Delegada Nahir Baides, Colegio Internacional Lope de Vega, Alicante
-
Buenos días, Presidencia y Delegados.
Quisiera proponer un tema a debatir que me ha parecido muy interesante. Como ya todos sabemos, la IA ha revolucionado el campo de la medicina en múltiples aspectos, ofreciendo beneficios significativos que vale la pena discutir. Gracias a la IA, que estudia grandes cantidades de datos y patrones, se han podido identificar y prevenir enfermedades mejorando notoriamente la calidad y esperanza de vida de los pacientes. Asimismo, la inteligencia artificial ayuda en el tratamiento de estas enfermedades desatacando la invención de programas informáticos inteligentes enfocados en esta detección y tratamiento de enfermedades infecciosas, renales y reumatológicas.
Sin embargo, creo que es esencial abordar la cuestión de la integridad de las personas en este ámbito. El uso de la IA pone en cuestionamiento la ética de todos nosotros como sociedad, particularmente en términos de privacidad y toma de decisiones. Más aun, si se comienza a depender de la IA en la toma de decisiones médicas podría haber un deterioro en la relación médico-paciente.
Fuente:
https://campus.sanofi.es/es/noticias/2021/inteligencia-artificial-salud
Delegada Belén Santos, Colegio Camarena Canet, Valencia
-
Buenos días Presidencia y Delegados.
Hoy en día el rápido desarrollo de la Inteligencia Artificial ha puesto de manifiesto las posibles consecuencias negativas que podría provocar no solo a nivel social sino también a nivel económico. Una de ellas es la posibilidad de creación de un monopolio/oligopolio económico en este creciente mercado. Si una única o un pequeño grupo de empresas se hace con el poder total sobre el desarrollo de estas tecnologías, conociendo bien su potencial de revolucionar nuestras vidas tal y como las conocemos, podrían crecer hasta tal punto de adquirir poder político, lo que supondría una amenaza a la democracia de nuestros gobiernos.
Por lo que propongo debatir sobre lo siguiente: ¿Cómo podemos evitar la creación de un posible monopolio tecnológico en base a estas tecnologías revolucionarias?
Delegada Viktoriia Volkova, Colegio San José Estepona.
-
Buenas días , Presidencia y Delegados.
Después de una exhaustiva investigación sobre el reglamento propuesto por la Unión Europea , que resumidamente consiste en dividir los sistemas de Inteligencia Artificial según sus riesgos para vetarlos o regularlos .Esto es muy prometedor, pero aún así he podido observar algunos temas importantes que no trata y son buenos para poderlos debatir, como por ejemplo el expuesto a continuación.
En primer lugar, como han mencionado algunos delegados el impacto de la Inteligencia Artificial en la educación es nefasto y no está claro cómo proceder. En los últimos años hemos podido observar como el IQ ha disminuido. ("por sus siglas en inglés, referido al coeficiente intelectual. Los test de IQ incluyen pruebas de aritmética , vocabulario y razonamiento visual"). https://www.bbc.com/mundo/noticias-44504603.
Expertos como Ole Rogeburg y Bernt Bratsberg, del Centro de Investigación Económica Ragnar Frisch descubrieron que el IQ de las personas noruegas era inferior respecto a las puntuaciones de sus padres cuando tenían su misma edad. Actualmente, esto ha ocurrido en la mayoría de países donde se ha realizado el IQ y se les ha atribuido el término de "nativos digitales" a estas personas.
Los expertos, afirman que hay varios factores que afectan, pero uno de ellos es "el incremento de tiempo que la gente emplea con dispositivos tecnológicos en lugar de leer libros" , esto tiene consecuencias perjudiciales en nuestro cerebro. A día de hoy, algo preocupante es el mal uso de la IA entre los jóvenes en sus trabajos educativos.
Directamente la IA no tiene la culpa , sino que es el alumnado quien lo emplea incorrectamente y va al camino fácil sin esfuerzo.
Esta pauta no está expuesta en el reglamento de la UE sobre la IA , lo que me lleva a preguntarme :
- ¿Debería la UE confiar, concienciando así a los jóvenes y enseñándoles a usar correctamente la popular IA generativa, de manera que en un futuro no les perjudique y en un presente les ayude?.
- O en otro caso ¿Debería la UE prohibir la IA generativa y que solo personas expertas puedan usarla, promoviendo así de nuevo el esfuerzo en trabajos académicos de los estudiantes?.
La verdadera cuestión importante a debatir es :¿Dónde esta el punto medio en aprender con ayuda de la IA, sin perjudicarnos y poder evolucionar? ¿Cómo podemos reparar el decrecimiento del Coeficiente Intelectual?
Delegada Carla Layunta, Centro San Valero, Zaragoza.
Fuentes:
https://www.bbc.com/mundo/noticias-54554333
https://www.elconfidencial.com/alma-corazon-vida/2018-06-14/la-gente-joven-es-mucho-mas-tonta-que-los-de-mas-edad_1578235/
https://www.bbc.com/mundo/noticias-44504603
-
Buenas tardes , estimados presidencia y delegados.
Me gustaría proponer el tema que no solo afecta principalmente en la economía sino también indirectamente como son las inteligencias artificiales en el sector automovilístico .
En este sector no solo ayuda a sufrir menos accidentes con sistemas como la conducción autónoma o los sistemas (adas), sino también ayuda a la reducción de consumo de combustible (carburantes o electricidad). Si así lo consideran, podemos debatir más tarde sobre este tema.
Delegado Ángel Aguilar, Colegio Liceo Sagrado Corazón.
Buenos días Presidencia y Delegados.
Me gustaría profundizar un poco más sobre el tema propuesto por el delegado Ángel.
Estoy de acuerdo con que la Inteligencia Artificial trae muchos beneficios para el sector automovilístico. Pero, también creo importante hablar sobre el lado negativo de la implicación de la IA en este sector.
La conducción automática genera mucho debate debido a las elecciones éticas que tienen que tomar estas tecnologías en situaciones de alto riesgo. Entonces, como estos dilemas son muy recientes, creo que es necesario explorar más las responsabilidades jurídicas con las que cargarán las empresas del desarrollo de software para estos vehículos en casos de que ocurran accidentes automovilísticos.
También creo que es importante unificar la legislación que hay actualmente sobre estos vehículos en todos los países ya que actualmente no es el caso y este sería un paso importante para poder avanzar con el desarrollo e implantación de estas tecnologías.
Delegada Viktoriia Volkova, Colegio San José Estepona.
-
Buenos días
Hoy escribo esto para centrarnos de manera general en la ética de esta tan hablada inteligencia artificial. Inicialmente la ética en la IA se fundamenta en la premisa de que las tecnologías autónomas deben ser creadas y utilizadas de manera responsable, respetando los valores y derechos fundamentales de los individuos y la sociedad en su conjunto. Los principios éticos en la IA, como la transparencia, responsabilidad y justicia, sirven como guías para asegurar que la tecnología beneficie a la humanidad de manera equitativa y segura.
En segundo lugar, la ética de la inteligencia artificial se basa en principios fundamentales que buscan garantizar un desarrollo y uso responsable de la tecnología. La transparencia, enfocada a que los sistemas de inteligencia artificial deben de ser comprensibles y explicables. Los desarrolladores deben poder explicar cómo funcionan y por qué toman ciertas decisiones. La responsabilidad, los creadores de la inteligencia artificial deben asumir la responsabilidad de sus productos y estar dispuestos a corregir errores, mitigar sesgos y abordar consecuencias no deseadas. Y por último la justicia, la IA debe de ser diseñada y utilizada de manera que promueva la justicia y la equidad en su aplicación, evitando discriminaciones y garantizando beneficios equitativos.
Esta ética y principios que se aplican en la inteligencia artificial ya lo podíamos haber intuido o incluso explorado, ya que no existe otra realidad de la que realmente hay, el acceso a herramientas de IA debería de ser amplio, pero con ciertas restricciones y controles para prevenir un uso indebido, establecer pautas y políticas de acceso, así como proporcionar educación sobre su uso ético, es esencial.
-
Los sesgos de la IA
Como ya se ha indicado la IA se basa principalmente en consumir ingentes cantidades de datos, codificados y proporcionados por los seres humanos, y es a partir de estos datos, estructurados, y en ocasiones no estructurados, y con la aplicación de las múltiples metodologías cuando la IA empieza a comportarse como tal.
La aportación de los datos no suele ser del todo objetiva, fundamentalmente porque el ser humano por naturaleza se comporta influenciado por muchos aspectos que lo rodean. Nuestra forma de pensar, nuestro entorno, nuestras creencias, nuestro género, nuestras orientaciones sexuales, nuestra religión, nuestras experiencias, etc. nos condicionan y hacen que no seamos totalmente imparciales cuando transmitimos nuestras opiniones y, por lo tanto, la IA no reciba información objetiva, ni incluso diversa, y es aquí cuando se da el sesgo algorítmico, es decir, la información con la que la IA cuenta para realizar su aprendizaje no es objetiva ni diversa, e incluso el propio desarrollo del algoritmo puede que tampoco lo sea.
Son múltiples los casos en los que una IA con información sesgada ha dado malos resultados en sus predicciones. Así pues, por ejemplo, la Universidad de California descubrió que el algoritmo del Hospital General de Massachusetts priorizaba primero a los pacientes que más dinero habían gastado en ocasiones anteriores, porque se empleaba el coste del tratamiento como indicador de las necesidades de salud; En otro caso, la científica Joy Buolamwini descubrió que un algoritmo no era capaz de identificar rostros femeninos de raza negra como lo hacía con la misma precisión que la de los hombres blancos; otro algoritmo que no era capaz de detectar melanomas en pieles negras porque había sido entrenado solo con pieles blancas. También existe otro conocido caso, fue el de Amazon cuyo algoritmo discriminaba a las mujeres a la hora de realizar la captación de personal, considerando a los hombres mejores candidatos.
Estos son solo algunos ejemplos del sesgo en los algoritmos, y que demuestra que las máquinas hacen predicciones a partir de la información con la que cuentan, y si esa información no es diversa las predicciones seguramente serán poco precisas. Los sesgos pueden ser conscientes o inconscientes. Los primeros son aquellos que intencionadamente son introducidos por quién codifica o desarrolla el algoritmo, o lo entrena; y los segundos, son aquellos que se producen sin intención.
Los múltiples casos de sesgo que se han dado a lo largo de todos estos años en los que la IA va evolucionando, hace necesario dedicar un esfuerzo a disponer de algoritmos no sesgados que cuenten con datos tampoco sesgados, y para esto hay diferentes soluciones que permitirían minorar la influencia negativa del sesgo sobre los resultados ofrecidos por la IA.
Desarrollar algoritmos respetuosos e inclusivos, contando con equipos diversos y multidisciplinares.
Monitorizar y auditar los algoritmos desarrollados para verificar su comportamiento y garantizar la mejora continua.
Contar con datos relevantes, bien estructurados y de calidad.
Formación sobre qué significa la IA para quien la usa, y para quien la va a usar.
Sensibilización como herramienta de concienciación para el desarrollo de IA.
Es tal la importancia que se le está dando a contar con una IA lo menos sesgada posible, que los grandes fabricantes como, por ejemplo, Microsoft, Google, Amazon, IBM, Toyota están creando equipos de trabajo dedicados exclusivamente a vigilar y garantizar que las herramientas que implementan se hacen bajo normas que garanticen una ausencia de sesgo en sus desarrollos, e incluso en el control de los resultados que consideran puedan tener consecuencias negativas.