Buenas tardes, Presidencia y delegados:

Quisiera ofrecer mis respuestas a las siguientes cuestiones:

- ¿Debe restringirse el trabajo a únicamente un componente humano, favoreciendo más la ética y nuestra parte más humana, o a exclusivamente las máquinas, favoreciendo el beneficio, y por ello, el crecimiento económico y de países, o buscar un equilibrio entre ambos?

Opino que lo ideal sería buscar un equilibrio entre las máquinas (en este caso, herramientas de IA) y el componente humano, de forma que se aportara lo mejor de ambos.
Hasta ahora, diversas máquinas (a pesar de en un principio plantear un debate) han sido beneficiosas en la productividad y efectividad de las distintas actividades. Algunas de ellas también pusieron en riesgo diversas profesiones, como operarios de fábrica, teleoperadores, cajeros de banca o carteros; sin embargo, nos hemos ido adaptando, aprendiendo a aprovecharlas. A su vez, han surgido nuevos oficios, como aquellos relacionados con el desarrollo, mantenimiento y uso de estas máquinas.
Si logramos aplicar la IA como una herramienta sin comprometer el componente humano ni la ética, conseguiríamos entornos de trabajo más productivos. Algunas formas de implementar la IA es en aquel trabajo rutinario que, aunque necesario, no requiere ser realizado por los humanos. Los chatbots, por ejemplo, se encargan de cribar alertas, correos electrónicos… y ayudan en la detección o predicción de errores en diversos procesos. 
Al liberarse de esa carga de trabajo adicional, puede dedicarse más tiempo a tareas que requieran razonamiento, pensamiento crítico, empatía, creatividad, conocimiento moral… en definitiva, tareas que necesitan ese “componente humano”. De hecho, desde el Observatorio de Recursos Humanos, indican que “los departamentos de RRHH han visto cómo su productividad crece de forma exponencial”

Considerando la rentabilidad, eficacia y asistencia las 24 horas, puede ser muy útil para todo tipo de empresas, tanto grandes como pequeñas, lo que permite acercar las mismas oportunidades a todo el público.

Buscar ese equilibrio no es sencillo, pero conociendo más a fondo las posibilidades y límites que plantea la IA, podremos desarrollar distintas medidas y resoluciones que complementen ambos aspectos sin afectar a la ética ni a “nuestra parte más humana”. 


- ¿Está la Inteligencia Artificial lo suficientemente preparada para hacer el trabajo de psicólogo, un oficio que destaca por habilidades más emocionales?

Definitivamente no. La IA está entrenada con un aprendizaje intuitivo (a base de prueba y error) gracias a unos datos. Cuanto más se usa la IA, más evoluciona y aprende, ajustando los parámetros y fórmulas con los que elabora sus respuestas.
Por tanto, carece de pensamiento crítico y capacidad de razonamiento, puesto que “responde” aquello más probable, con más coherencia, más común… Además, no puede evaluar las consecuencias éticas de sus decisiones y actos, por lo que no se le puede pedir responsabilidad en este tipo de situaciones.
Psicólogos, jueces, médicos… son oficios que, sin ese “componente humano” que se mencionaba en la anterior cuestión, no pueden existir. Son necesarios el razonamiento, la creatividad, la empatía, la responsabilidad y el control de los actos propios.

- ¿Hasta qué punto es ético maximizar los beneficios de la empresa disminuyendo, a su vez, el beneficio de los clientes?

En este punto no sería capaz de ofrecer una respuesta sólida, debido a la diversidad de situaciones que se pueden dar. Lo esencial es que se cumplan las regulaciones y legislación y se garanticen los derechos del usuario. Si esto se respeta, los casos de dilemas éticos que aparezcan deberían ser planteados desde distintos puntos de vista para considerar, en cada situación, cuál sería el límite que separa lo ético de lo que no lo es.
El pasado junio, fue sido adoptada una posición negociadora en la propuesta legislativa de la futura Ley IA, la cual pretende en dos años contar con “un marco jurídico integral que asegure que estos sistemas son seguros transparentes y no discriminatorios”; es decir, que estará en línea con los derechos y valores de la UE, creando así medidas que aseguren su ética.

Quisiera proponer un caso:
La IA es utilizada en algunas empresas para procesos de contratación (en España, actualmente un 16% la utiliza o tiene pensado utilizarla). “Casi el 60% de las compañías mencionan y tienen conocimiento de alguna ventaja que proporciona el uso de IA en los procesos de selección”. En este caso, su utilidad se debe al ahorro de tiempo, presupuesto y recursos. Hay quienes defienden que con la IA se reducirán la desigualdad y discriminación de género que suelen ocurrir debido a los sesgos humanos, “eliminando la subjetividad de los procesos de selección”, puesto que se enfocará más en las capacidades y aptitudes. Sin embargo, yo no lo considero así.
Como ya mencionó la delegada Alba, se trata de una herramienta que a menudo está sesgada, y tras el experimento de una IA de Amazon, quedó constatado que tenía prejuicios en cuanto a contratar a mujeres. Incluso, a pesar de no indicarse información personal, “pudo averiguar el sexo de la persona en ciertos casos”. Esto ocurrió debido a que, en los datos utilizados en su entrenamiento, que eran de años anteriores, la mayoría de los contratados fueron hombres.
En este caso, por tanto, no considero ético el uso de la IA.

Considero que es de vital importancia el conocer qué datos se han invertido en la programación de cada IA, puesto que, si estos están sesgados, pueden influir negativamente en todo tipo de colectivos y por tanto, no sería moralmente aceptable. Para ello, es necesaria una transparencia por parte de las empresas que no siempre está (como en el caso de OpenAI, la creadora de ChatGPT).

- ¿Es ético que los consumidores no reciban un trato humano?

Como comentó el delegado Iván en el caso de la empresa Koko, a los consumidores nos gusta recibir un trato humano. Saber que lo que se encuentra al otro lado es capaz de comprendernos, empatizar y razonar correctamente nos garantiza cierta confianza.
En el caso de implementar la IA en este tipo de actividades, tendría que ser obligatorio hacer activamente consciente al consumidor de cuál será el trato que reciba.
Además, considero que no debería ser un servicio único; es decir, siempre ha de existir la opción de tratar con un humano. Por lo que, aunque por productividad, rapidez o conveniencia se ofrezca la opción de la IA para la gestión de distintas situaciones, siempre estará disponible para el usuario la posibilidad de recurrir a otro humano.
Mientras se mantenga esto, sí podría ser ético el trato por IA, pues uno sería libre de aceptarlo o no. 


Delegada Ángela – IES Bernardo de Balbuena (Valdepeñas)


Fuentes de información:
https://www.observatoriorh.com/opinion/el-amor-entre-la-ia-y-los-recursos-humanos.html
https://www.lavanguardia.com/tecnologia/20191218/472247636540/inteligencia-artificial-buen-jefe-personal.html
https://nosotros.infojobs.net/prensa/notas-prensa/solo-el-16-de-las-empresas-espanolas-utilizan-herramientas-de-ia-en-sus-procesos-de-seleccion-o-tienen-previsto-usarlas-en-el-proximo-ano
https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai 
https://www.businessinsider.es/ftc-investiga-openai-falta-transparencia-1275362