Autor Topic: Tormenta de ideas  (Read 6570 times)

15004125-2-Laura-24

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 1
Re: Tormenta de ideas
« Reply #15 en: Octubre 26, 2023, 08:44:22 pm »
Buenos días, Presidencia y delegados.

Me gustaría proponer un tema relacionado con la ética que se debe aplicar a la IA, en especial cuando se encuentra en una situación que implica la toma de un decisión moral.

Un ejemplo del problema planteado es lo ocurrido en EE.UU., donde un vehículo autónomo de Uber atropelló a una transeúnte de Arizona. Esto sucedió ya que la conductora relevó la tarea de conducción y supervisión, al coche, ya que la IA está programada para facilitar y ayudar, pero no contaba con que no sería capaz de identificar que lo que tenía delante no era un objeto.

Debemos de plantearnos la siguiente pregunta, ¿ Debemos realmente dejar qué decisiones éticas sean tomadas por máquinas?

Laura Pedregal: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.


Noticia mencionada:
https://hazrevista.org/rsc/2020/10/inteligencia-artificial-primer-juicio-accidente-trafico-mortal/

15015603-2-Delfín-441

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 5
Re: Tormenta de ideas
« Reply #16 en: Noviembre 04, 2023, 07:33:44 pm »
Buenas tardes, Presidencia y delegados.

Un tema muy interesante a tratar podría ser sobre la desinformación y falsedad en las redes, que con la llegada de la Inteligencia Artificial es mucho más peligrosa que antaño. Llegando a ejercer una influencia sobre nuestra conducta racional de una manera preocupante. Por ejemplo, el uso de una IA como chatGPT que nos diga como actuar, a quién votar, o hasta ser discriminados por un ser inteligente.

Por otra parte, también están las llamadas "fake news" que son sofismas influyentes en nuestra sociedad, sobre todo si las personas no tienen un conocimiento previo de como abordar la información sugerida, y por eso mismo, siendo muy vulnerables al engaño. El problema se incrementa cuando ya no solo son textos o diálogos, sino también imágenes y sonidos con un realismo muy bien logrado.

Al estar al alcance de todo el mundo, la conducta racional del ser humano puede ser afectada a un nivel muy amplio, hasta los mas jóvenes. Recordemos el caso de los niños que utilizaron la IA para difundir fotos explícitas de sus compañeras de clase del cual ya muchos de ustedes serán conscientes.
https://www.antena3.com/programas/y-ahora-sonsoles/desnudar-menores-difundir-imagenes-ninas-tremendamente-afectadas_2023091865087dd14fd7bf0001a25722.html

Aquí, surgen cuestiones que nos hacen reflexionar sobre el rumbo de esta herramienta, ¿deberían de implementarse un mayor número de leyes que regulen este problema? ¿Podríamos utilizar la propia IA para detectar "fake news"? ¿Sería útil la implementación de campañas que ayuden a combatir esto?

Delegado Delfín Pérez Rodríguez: Comisión de Inteligencia Artificial en la Era Digital.
Colegio La Salle, Santiago de Compostela.

346442-2-Celia-339

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 1
Re: Tormenta de ideas
« Reply #17 en: Noviembre 08, 2023, 10:17:18 pm »
Buenos tardes Presidencia y Delegados,

Me gustaría proponer un tema de debate que a mi idea es bastante importante respecto a como deberíamos desarrollar la inteligencia artificial.

La inteligencia artificial esta aquí para quedarse. Desde mi punto de vista, lo mas importante es aprender a regularla para que no se creen desigualdades y se convierta en un arma de doble filo.

Según  el Taiwanes Kai-Fu Lee, un pope de la inteligencia artificial que presidió Google China “la IA creará billonarios y reemplazará trabajos haciendo a los pobres más pobres y a los ricos más ricos". Me parece importante hablar sobre las desigualdades que la IA puede crear en nuestra sociedad. Podemos observar como algunas aplicaciones como Chat gpt ya tienen una suscripción de pago con la que puedes obtener la actualización más novedosa de esta aplicación. Con lo cual, solo aquellos con un nivel económico elevado pueden permitirse el lujo de tener información mas eficaz y lucrarse de ello.

Además, me gustaría reflexionar sobre otro tema relacionado con esto. Considero que la IA al igual que puede crear desigualdades a nivel nacional también puede crearlas internacionalmente. Aquellos países más ricos capaces de desarrollar sus propios softwares podrán controlar la información que se les hace llegar a los países mas subdesarrollados. 

Desde mi punto de vista, encuentro que una buena solución para el problema internacional  sería garantizar un desarrollo que se llevara acabo entre todos los países unidos. Sin la posibilidad de que aquellos países con más oportunidades puedan desarrollar la IA sin ningún tipo de ética. Respecto al tema nacional, considero que el estado debería controlar el uso de la IA. De esta manera, la regulación sería mucho más sencilla. Las IA deberían ser publicas y de un acceso libre para todo aquel que quiera utilizar una, de esta manera garantizar una igualdad social y económica.

Celia Piñero, IES Clara Campoamor, Zaragoza

15015603-2-Diego-437

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 4
Re: Tormenta de ideas
« Reply #18 en: Noviembre 14, 2023, 04:17:32 am »
Buenas noches, Presidencia y delegados.

Me gustaría contribuir en la discusión sobre el sesgo algorítmico que propone el delegado Julio Montes. La manera que tienen las máquinas de aprender no es objetiva sino estadística. Se basa en datos que ya existen, lo que nos puede llevar a un sesgo y a discriminaciones, ya que las máquinas no hacen otra cosa más que perpetuar la situación actual. Una gran cantidad de datos en un único sentido no implica mayor pluralidad.

De hecho, antes de la existencia del Chat GPT, existió un prototipo llamado Tay.
Tay fue un robot de conversación de IA para la plataforma de Twitter creada por Microsoft el 23 de marzo de 2016. Tay comenzó siendo amable y educado, pero en menos de un día el bot se dedicó a enviar mensajes racistas, machistas y cargados de contenido sexual en respuesta a otros usuarios de Twitter. Fue dado de baja después de 16 horas de lanzamiento. Roman Yampolskiy, investigador de AI, comentó que la conducta inapropiada de Tay era comprensible, ya imitaba el comportamiento ofensivo de otros usuarios de Twitter.

La situación puede ser incluso más complicada. Como se recoge en este artículo,
https://www.agenciasinc.es/Noticias/Los-sesgos-de-la-inteligencia-artificial-pueden-pasar-a-las-personas
Los sesgos de la inteligencia artificial pueden pasar a las personas. En este estudio, realizado por la Universidad de Deusto, se muestra que también puede producirse el efecto contrario: la gente podría heredar sesgos de IA, por lo que corremos el riesgo de entrar en un bucle peligroso.

Diego Oizan-Chapon González: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio LaSalle (Santiago de Compostela)
« Last Edit: Noviembre 14, 2023, 07:34:37 pm por 15015603-2-Diego-437 »

7008776-2-María-578

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 2
Re: Tormenta de ideas
« Reply #19 en: Diciembre 04, 2023, 08:48:19 pm »
Buenos días Presidencia y Delegados,

Me gustaría compartir con vosotros la siguiente cuestión para analizar:

La inteligencia artificial evoluciona a pasos agigantados en muchos de los ámbitos de nuestro día a día; otro de los espacios en constante evolución y desarrollo es la aviación, que no se queda atrás en los rápidos avances que ha ido alcanzando. Este febrero, se llevó a cabo el primer vuelo realizado por la IA, en el que un avión realizó un vuelo de más de 17 horas sin ningún tipo de piloto a los mandos.

Conociendo esto planteo la siguiente cuestión:
¿Debería la IA entrar dentro de todos los ámbitos de la ciencia o la tecnología, como por ejemplo la aviación, un ámbito donde la vida de muchas personas está en juego, o debería quedar reducida a aquellos oficios donde no afecte a la integridad de los individuos?

https://hipertextual.com/2023/02/vista-x-62-caza-f-16-autonomo-inteligencia-artificial

Delegada Maria Lucia Noguera: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Mestral, Ibiza , España .

18013940-2-Claudia-608

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 4
Re: Tormenta de ideas
« Reply #20 en: Diciembre 11, 2023, 09:36:24 pm »
Estimados presidencia y delegados,

La inteligencia artificial está presente en muchos ámbitos cotidianos, incluso algunos que no llegamos a imaginar.

No obstante, apenas nadie conoce los problemas que esta puede presentar. Desde mi punto de vista, la IA se enfrenta a dos principales problemas: Los derechos de autor y la ética.

Gracias a las nuevas herramientas como lo son Chat GPT, podemos realizar tareas de forma más rápida. Además la IA tiene una gran variedad de beneficios, como una mejor asistencia sanitaria o una fabricación más eficiente.

Cabe destacar que obtener las cosas de forma instantánea no es bueno, debido a que dejamos de ser resolutivos. Por ejemplo, el aprendizaje conlleva tiempo para poder asimilar conceptos.

Fuente: https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial

Delegada Claudia Valdés Melguizo-Colegio Internacional de Granada

46008650-2-Daniel-430

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 1
Re: Tormenta de ideas
« Reply #21 en: Diciembre 18, 2023, 09:46:46 am »
Buenos días, Presidencia y delegados.

Los Derechos Humanos son continuamente vulnerados, por lo que propongo que deba existir un control en el mundo real y el virtual. Las leyes en los dos ámbitos deberían ser las mismas para proteger los derechos fundamentales. La libertad de expresión debe respetar el derecho al honor de cada persona.

La falta de ética en la realidad comporta que tengamos que abordar qué ocurre si alguien plantea una Inteligencia Artificial con sesgos discriminatorios. De hecho, la UE podría tener que adaptar su ley de IA para adaptarla a los casos de 'desnudos fake' como el de las chicas de Almendralejo:

https://www.20minutos.es/noticia/5174137/0/almendralejo-ley-inteligencia-artificial-ue-porno-futuro

Si herramientas como ChatGPT deben ser accesibles a todo el público, es importante enseñar desde casa y centros educativos a emplear la moral y el pensamiento crítico para citar fuentes verificadas, no sesgadas e influenciadas por fobias, falsedades o conspiranoias. Es importante que incluyamos una cláusula en la que se aborde cómo se enseña a usar la IA. Según un informe del Consejo de Juventud de España, casi el 50% consume contenido político a través de Tik Tok, por lo que muchos jóvenes se ven influenciados al no saber que lo que leen o ven es falso.

¿Debería prohibirse en colegios como se ha hecho en Estados Unidos? https://www.lavanguardia.com/vida/20230106/8669098/nueva-york-prohibe-escuelas-chatgpt-temor-mentiras.html

El plagio que provoca si no se citan viola los derechos de autor y la propiedad intelectual, así que es algo que no es ético.

Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).

Buenas delegada Alba,
Respecto a tu comentario, estoy de acuerdo con lo de que tenemos que aprender a informarnos por los medios correctos y no por redes sociales que están llenas de "fake news".
Cuando has dicho que la inteligencia artificial realiza plagio, es algo no ético, con eso estoy de acuerdo pero estas confundiendo el fin que tiene la inteligencia artificial con su medio. Por ejemplo, cuando tu compras un martillo y en vez de utilizarlo para clavar un clavo lo usas para hacer daño a alguien, la culpa no es del martillo si no es de la persona que ha sido ella la que a querido que el martillo tenga el fin de hacer daño a alguien. Por eso hay que ver a la inteligencia artificial como una amiga, no como una enemiga. Ya que si la viéramos como enemiga no conseguiríamos avanzar nunca tecnológicamente. Paso algo parecido con la aparición de la calculadora.

Delegado Daniel- Colegio El Vedat(Valencia).

8009673-2-Laia-571

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 1
Re: Tormenta de ideas
« Reply #22 en: Diciembre 28, 2023, 06:40:19 pm »
Buenas tardes, Presidencia y Delegados.

Quisiera proponer un tema a debatir. Anteriormente, otro delegado ha propuesto el debate en la educación, pues bien, me gustaría abrir el debate a partir de la Conferencia internacional sobre la Inteligencia Artificial en la educación celebrada en Beijing en el año 2019 https://es.unesco.org/themes/tic-educacion/conferencia-ia-educacion-2019. Allí se propusieron unos límites con relación al uso de la IA en las escuelas, si es cierto que desde entonces esta ha evolucionado mucho.
 
Volviendo a la propuesta me gustaría poner a debate. ¿Cómo esta afectará en un futuro a los alumnos y alumnas en su desarrollo? ¿Y en segundo lugar, como los países empezarán a poner sus límites en sus aulas?, como por ejemplo en Italia, Francia, Suecia o Finlandia, ya han prohibido su uso.

Es un problema que nos concierne a todos y creo que es importante si lo consideran debatir sobre él.

Delegada Laia Ortega, Colegio Pare Manyanet, Barcelona

3003061-2-Nahir-639

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 3
Re: Tormenta de ideas
« Reply #23 en: Enero 07, 2024, 11:36:40 am »
Buenos Días Presidencia y delegados,

El auge de la Inteligencia Artificial es un hecho innegable, que ya ha hecho mella en nuestra sociedad y pasará a estar en los libros de historia. Sin embargo, un cambio tan importante como este requiere una legislación, aunque según muchos expertos, ya hayamos llegado tarde.

No son pocas las noticias que nos informan sobre los deepfakes que podrían arruinar carreras o los desnudos generados por la IA que han llevado, entre otros, a la pornografía infantil a unos límites insospechados, rompiendo todas las líneas de la ética y de la moral, además de incumplir derechos fundamentales, como el derecho a la privacidad, entre muchos otros.

Esto se destaca en una cita de Eduard Blasi, profesor colaborador de los Estudios de Derecho y Ciencia Política de la UOC, en la que afirma que "se vulnera la normativa de protección de datos porque existe una difusión de información que, aunque sea esencialmente falsa, se utilizan datos personales reales, como el rostro de una persona o a veces incluso la voz, y esto conlleva frecuentemente un tratamiento de datos personales sin consentimiento del afectado". https://www.20minutos.es/tecnologia/inteligencia-artificial/peligros-crear-deepfakes-pornograficos-5187928/

La Unión Europea ha estado trabajando en un proceso de legislación de esto mismo, lo cual declararon un asunto prioritario. En la ley que finalmente se elaboró, los diferentes tipos de IA tienen ahora una serie de características que las encasillan en un determinado riesgo, el cual, a mayor, más restricciones tiene, siendo el máximo una serie de prohibiciones al uso de herramientas como los reconocimientos biométricos automáticos que se estan viendo en diferentes regímenes https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial

Sin embargo, esta no ha sido la única legislación al repecto. El G7 mantuvo una reunión en la que se declaró la regulación de la IA como un asunto prioritario, y  en la que se destinó a Japón al cargo del proyecto por ser el país que tiene mayor tasa de aceptación de servicios de la inteligencia artificial generativa. Los líderes acordaron que los ministros a cargo discutirán la IA generativa como el ‘proceso de IA de Hiroshima’. https://es.wired.com/articulos/g7-promete-regular-las-ia-generativas-antes-de-que-termine-el-2023

Sin embargo, creo que estas medidas son absolutamente insuficientes. Por ello tengo las siguientes preguntas:

¿Se debería alcanzar un mayor consenso internacional a la hora de regular la IA?
¿Las medidas que se quieren alcanzar son suficientes para proteger a la ciudadanía de una revolución tecnológica al alza?

Delegada Nahir Baides, Colegio Internacional Lope de Vega, Alicante
« Last Edit: Enero 07, 2024, 12:01:41 pm por 3003061-2-Nahir-639 »

46034752-2-Andrea-627

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 3
Re: Tormenta de ideas
« Reply #24 en: Enero 08, 2024, 10:44:56 pm »
Buenos días, Presidencia y Delegados.

Quisiera proponer un tema a debatir que me ha parecido muy interesante. Como ya todos sabemos, la IA ha revolucionado el campo de la medicina en múltiples aspectos, ofreciendo beneficios significativos que vale la pena discutir. Gracias a la IA, que estudia grandes cantidades de datos y patrones, se han podido identificar y prevenir enfermedades mejorando notoriamente la calidad y esperanza de vida de los pacientes. Asimismo, la inteligencia artificial ayuda en el tratamiento de estas enfermedades desatacando la invención de programas informáticos inteligentes enfocados en esta detección y tratamiento de enfermedades infecciosas, renales y reumatológicas.
Sin embargo, creo que es esencial abordar la cuestión de la integridad de las personas en este ámbito. El uso de la IA pone en cuestionamiento la ética de todos nosotros como sociedad, particularmente en términos de privacidad y toma de decisiones. Más aun, si se comienza a depender de la IA en la toma de decisiones médicas podría haber un deterioro en la relación médico-paciente.

Fuente:
https://campus.sanofi.es/es/noticias/2021/inteligencia-artificial-salud

Delegada Belén Santos, Colegio Camarena Canet, Valencia

« Last Edit: Enero 08, 2024, 10:51:11 pm por 46034752-2-Andrea-627 »

29002861-2-Viktoriia-651

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 5
Re: Tormenta de ideas
« Reply #25 en: Enero 13, 2024, 12:55:20 pm »
Buenos días Presidencia y Delegados.

Hoy en día el rápido desarrollo de la Inteligencia Artificial ha puesto de manifiesto las posibles consecuencias negativas que podría provocar no solo a nivel social sino también a nivel económico. Una de ellas es la posibilidad de creación de un monopolio/oligopolio económico en este creciente mercado. Si una única o un pequeño grupo de empresas se hace con el poder total sobre el desarrollo de estas tecnologías, conociendo bien su potencial de revolucionar nuestras vidas tal y como las conocemos, podrían crecer hasta tal punto de adquirir poder político, lo que supondría una amenaza a la democracia de nuestros gobiernos.

Por lo que propongo debatir sobre lo siguiente: ¿Cómo podemos evitar la creación de un posible monopolio tecnológico en base a estas tecnologías revolucionarias?

Delegada Viktoriia Volkova, Colegio San José Estepona.

50007716-2-Carla-628

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 3
Re: Tormenta de ideas
« Reply #26 en: Enero 14, 2024, 02:22:38 pm »
Buenas días , Presidencia y Delegados.

Después de una exhaustiva investigación sobre el reglamento propuesto por la Unión Europea  , que resumidamente consiste en dividir los sistemas de Inteligencia Artificial según sus riesgos para vetarlos o regularlos .Esto es muy prometedor, pero aún así he podido observar algunos temas importantes que no trata y son buenos para poderlos debatir, como por ejemplo el expuesto a continuación.

En primer lugar, como han mencionado algunos delegados el impacto de la Inteligencia Artificial en la educación es nefasto y no está claro cómo proceder. En los últimos años hemos podido observar como el IQ ha disminuido. ("por sus siglas en inglés, referido al coeficiente intelectual. Los test de IQ incluyen pruebas de aritmética , vocabulario y razonamiento visual"). https://www.bbc.com/mundo/noticias-44504603.

Expertos como Ole Rogeburg y Bernt Bratsberg, del Centro de Investigación Económica Ragnar Frisch descubrieron que el IQ de las personas noruegas era inferior respecto a las puntuaciones de sus padres cuando tenían su misma edad. Actualmente, esto ha ocurrido en la mayoría de países donde se ha realizado el IQ y se les ha atribuido el término de "nativos digitales" a estas personas.

Los expertos, afirman que hay varios factores que afectan, pero uno de ellos es "el incremento de tiempo que la gente emplea con dispositivos tecnológicos en lugar de leer libros" , esto tiene consecuencias perjudiciales en nuestro cerebro. A día de hoy, algo preocupante es el mal uso de la IA entre los jóvenes en sus trabajos educativos.
Directamente la IA no tiene la culpa , sino que es el alumnado quien lo emplea incorrectamente y va al camino fácil sin esfuerzo.

Esta pauta no está expuesta en el reglamento de la UE sobre la IA , lo que me lleva a preguntarme :

- ¿Debería la UE confiar, concienciando así a los jóvenes y enseñándoles a usar correctamente la popular IA generativa, de manera que en un futuro no les perjudique y en un presente les ayude?.

- O en otro caso ¿Debería la UE prohibir la IA generativa y que solo personas expertas puedan usarla, promoviendo así de nuevo el esfuerzo en trabajos académicos de los estudiantes?.

 La verdadera cuestión importante a debatir es :¿Dónde esta el punto medio en aprender con ayuda de la IA, sin perjudicarnos y poder evolucionar? ¿Cómo podemos reparar el decrecimiento del Coeficiente Intelectual?

Delegada Carla Layunta, Centro San Valero, Zaragoza.
Fuentes:
https://www.bbc.com/mundo/noticias-54554333
https://www.elconfidencial.com/alma-corazon-vida/2018-06-14/la-gente-joven-es-mucho-mas-tonta-que-los-de-mas-edad_1578235/
https://www.bbc.com/mundo/noticias-44504603

 
« Last Edit: Enero 14, 2024, 06:18:59 pm por 50007716-2-Carla-628 »

29002861-2-Viktoriia-651

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 5
Re: Tormenta de ideas
« Reply #27 en: Enero 14, 2024, 10:33:16 pm »
Buenas tardes , estimados presidencia y delegados.

Me gustaría proponer el tema que no solo afecta principalmente en la economía sino  también indirectamente como son las inteligencias artificiales en el sector automovilístico .

En este sector no solo ayuda a sufrir menos accidentes con sistemas como la conducción autónoma o los sistemas (adas), sino también ayuda a la reducción de consumo de combustible (carburantes o electricidad). Si así lo consideran, podemos debatir más tarde sobre este tema.

Delegado Ángel Aguilar, Colegio Liceo Sagrado Corazón.

Buenos días Presidencia y Delegados.

Me gustaría profundizar un poco más sobre el tema propuesto por el delegado Ángel.
Estoy de acuerdo con que la Inteligencia Artificial trae muchos beneficios para el sector automovilístico. Pero, también creo importante hablar sobre el lado negativo de la implicación de la IA en este sector.

La conducción automática genera mucho debate debido a las elecciones éticas que tienen que tomar estas tecnologías en situaciones de alto riesgo. Entonces, como estos dilemas son muy recientes, creo que es necesario explorar más las responsabilidades jurídicas con las que cargarán las empresas del desarrollo de software para estos vehículos en casos de que ocurran accidentes automovilísticos.

También creo que es importante unificar la legislación que hay actualmente sobre estos vehículos en todos los países ya que actualmente no es el caso y este sería un paso importante para poder avanzar con el desarrollo e implantación de estas tecnologías.

Delegada Viktoriia Volkova, Colegio San José Estepona.


11007341-2-Alberto-667

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 1
Re: Tormenta de ideas
« Reply #28 en: Enero 17, 2024, 11:07:01 am »
Buenos días

Hoy escribo esto para centrarnos de manera general en la ética de esta tan hablada inteligencia artificial. Inicialmente la ética en la IA se fundamenta en la premisa de que las tecnologías autónomas deben ser creadas y utilizadas de manera responsable, respetando los valores y derechos fundamentales de los individuos y la sociedad en su conjunto. Los principios éticos en la IA, como la transparencia, responsabilidad y justicia, sirven como guías para asegurar que la tecnología beneficie a la humanidad de manera equitativa y segura.

En segundo lugar, la ética de la inteligencia artificial se basa en principios fundamentales que buscan garantizar un desarrollo y uso responsable de la tecnología. La transparencia, enfocada a que los sistemas de inteligencia artificial deben de ser comprensibles y explicables. Los desarrolladores deben poder explicar cómo funcionan y por qué toman ciertas decisiones. La responsabilidad, los creadores de la inteligencia artificial deben asumir la responsabilidad de sus productos y estar dispuestos a corregir errores, mitigar sesgos y abordar consecuencias no deseadas. Y por último la justicia, la IA debe de ser diseñada y utilizada de manera que promueva la justicia y la equidad en su aplicación, evitando discriminaciones y garantizando beneficios equitativos.

Esta ética y principios que se aplican en la inteligencia artificial ya lo podíamos haber intuido o incluso explorado, ya que no existe otra realidad de la que realmente hay, el acceso a herramientas de IA debería de ser amplio, pero con ciertas restricciones y controles para prevenir un uso indebido, establecer pautas y políticas de acceso, así como proporcionar educación sobre su uso ético, es esencial.

50005549-2-Ainara-632

  • DELEGADO COMISIÓN 2
  • Newbie
  • *
  • Mensajes: 2
Re: Tormenta de ideas
« Reply #29 en: Enero 31, 2024, 07:15:25 pm »
Los sesgos de la IA

Como ya se ha indicado la IA se basa principalmente en consumir ingentes cantidades de datos, codificados y proporcionados por los seres humanos, y es a partir de estos datos, estructurados, y en ocasiones no estructurados, y con la aplicación de las múltiples metodologías cuando la IA empieza a comportarse como tal.
La aportación de los datos no suele ser del todo objetiva, fundamentalmente porque el ser humano por naturaleza se comporta influenciado por muchos aspectos que lo rodean. Nuestra forma de pensar, nuestro entorno, nuestras creencias, nuestro género, nuestras orientaciones sexuales, nuestra religión, nuestras experiencias, etc. nos condicionan y hacen que no seamos totalmente imparciales cuando transmitimos nuestras opiniones y, por lo tanto, la IA no reciba información objetiva, ni incluso diversa, y es aquí cuando se da el sesgo algorítmico, es decir, la información con la que la IA cuenta para realizar su aprendizaje no es objetiva ni diversa, e incluso el propio desarrollo del algoritmo puede que tampoco lo sea.
Son múltiples los casos en los que una IA con información sesgada ha dado malos resultados en sus predicciones. Así pues, por ejemplo, la Universidad de California descubrió que el algoritmo del Hospital General de Massachusetts priorizaba primero a los pacientes que más dinero habían gastado en ocasiones anteriores, porque se empleaba el coste del tratamiento como indicador de las necesidades de salud; En otro caso, la científica Joy Buolamwini descubrió que un algoritmo no era capaz de identificar rostros femeninos de raza negra como lo hacía con la misma precisión que la de los hombres blancos; otro algoritmo que no era capaz de detectar melanomas en pieles negras porque había sido entrenado solo con pieles blancas. También existe otro conocido caso, fue el de Amazon cuyo algoritmo discriminaba a las mujeres a la hora de realizar la captación de personal, considerando a los hombres mejores candidatos. 
Estos son solo algunos ejemplos del sesgo en los algoritmos, y que demuestra que las máquinas hacen predicciones a partir de la información con la que cuentan, y si esa información no es diversa las predicciones seguramente serán poco precisas. Los sesgos pueden ser conscientes o inconscientes. Los primeros son aquellos que intencionadamente son introducidos por quién codifica o desarrolla el algoritmo, o lo entrena; y los segundos, son aquellos que se producen sin intención.
Los múltiples casos de sesgo que se han dado a lo largo de todos estos años en los que la IA va evolucionando, hace necesario dedicar un esfuerzo a disponer de algoritmos no sesgados que cuenten con datos tampoco sesgados, y para esto hay diferentes soluciones que permitirían minorar la influencia negativa del sesgo sobre los resultados ofrecidos por la IA.

Desarrollar algoritmos respetuosos e inclusivos, contando con equipos diversos y multidisciplinares.
Monitorizar y auditar los algoritmos desarrollados para verificar su comportamiento y garantizar la mejora continua.
Contar con datos relevantes, bien estructurados y de calidad.
Formación sobre qué significa la IA para quien la usa, y para quien la va a usar.
Sensibilización como herramienta de concienciación para el desarrollo de IA.

Es tal la importancia que se le está dando a contar con una IA lo menos sesgada posible, que los grandes fabricantes como, por ejemplo, Microsoft, Google, Amazon, IBM, Toyota están creando equipos de trabajo dedicados exclusivamente a vigilar y garantizar que las herramientas que implementan se hacen bajo normas que garanticen una ausencia de sesgo en sus desarrollos, e incluso en el control de los resultados que consideran puedan tener consecuencias negativas.