Buenas noches, Presidencia y delegados.

Me gustaría contribuir en la discusión sobre el sesgo algorítmico que propone el delegado Julio Montes. La manera que tienen las máquinas de aprender no es objetiva sino estadística. Se basa en datos que ya existen, lo que nos puede llevar a un sesgo y a discriminaciones, ya que las máquinas no hacen otra cosa más que perpetuar la situación actual. Una gran cantidad de datos en un único sentido no implica mayor pluralidad.

De hecho, antes de la existencia del Chat GPT, existió un prototipo llamado Tay.
Tay fue un robot de conversación de IA para la plataforma de Twitter creada por Microsoft el 23 de marzo de 2016. Tay comenzó siendo amable y educado, pero en menos de un día el bot se dedicó a enviar mensajes racistas, machistas y cargados de contenido sexual en respuesta a otros usuarios de Twitter. Fue dado de baja después de 16 horas de lanzamiento. Roman Yampolskiy, investigador de AI, comentó que la conducta inapropiada de Tay era comprensible, ya imitaba el comportamiento ofensivo de otros usuarios de Twitter.

La situación puede ser incluso más complicada. Como se recoge en este artículo,
https://www.agenciasinc.es/Noticias/Los-sesgos-de-la-inteligencia-artificial-pueden-pasar-a-las-personas
Los sesgos de la inteligencia artificial pueden pasar a las personas. En este estudio, realizado por la Universidad de Deusto, se muestra que también puede producirse el efecto contrario: la gente podría heredar sesgos de IA, por lo que corremos el riesgo de entrar en un bucle peligroso.

Diego Oizan-Chapon González: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio LaSalle (Santiago de Compostela)

Buenas tardes, Presidencia y delegados.

El tema propuesto por Alba, delegada del Complejo Preuniversitario Mas Camarena de Valencia, me parece muy interesante. En mi opinión, sería conveniente una monitorización de las empresas que utilizan la IA. Dicha monitorización se podría implementar a través del acceso de las mismas a los datos personales. Incluso sería posible el cobro por el acceso a los datos, con lo que se conseguiría, por una parte, el seguimiento de las empresas, y por otra una fuente de financiación. Opino que esto no se contrapone con la libertad de empresa, simplemente con el acceso gratuito de las mismas a datos que son personales.

Diego Oizan-Chapon, Comisión de Inteligencia Artificial en la Era Digital
Colegio La Salle, Santiago de Compostela