COMISIÓN DE INTELIGENCIA ARTIFICIAL EN LA ERA DIGITAL > Zona de debate de la Comisión
La inteligencia artificial en el mundo laboral
MOD-Fernando-Global:
Buenos días delegados y delegadas,
El delegado Iván Gándara propone abordar el tema de la inteligencia artificial en el ámbito laboral. Para ello, propone cuestiones como:
-¿Debe restringirse el trabajo a únicamente un componente humano, favoreciendo más la ética y nuestra parte más humana, o a exclusivamente
las máquinas, favoreciendo el beneficio, y por ello, el crecimiento económico y de países, o buscar un equilibrio entre ambos?
-¿Está la Inteligencia Artificial lo suficientemente preparada para hacer el trabajo de psicólogo, un oficio que destaca por habilidades más
emocionales?
-¿Hasta qué punto es ético maximizar los beneficios de la empresa disminuyendo, a su vez, el beneficio de los clientes?
-¿Es ético que los consumidores no reciban un trato humano?
Además, se aportan dilemas como el que se encuentra a continuación.
"Desde un punto de vista empresarial y económico, sustituir a las personas por cierto tipo de máquinas aumentaba la productividad y, con ello, el beneficio de las empresas. Desde el punto de vista social, el despido de aquellos cuyas tareas podía hacer una máquina ocasionaba pobreza e incertidumbre laboral, traslados poblacionales, cambios en las tendencias de estudios y de profesiones más demandadas."
Este es un tema muy interesante, ya que actualmente nos encontramos en los inicios del reemplazamiento de humanos por IA, especialmente la generativa. Les invito a que comienzen el debate.
46034211-2-Alba-2:
Buenos días, Presidencia y delegados.
Teniendo en cuenta que el Parlamento Europeo (https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial ) señala que no puede faltar en la legislación sobre IA una cláusula que deje claro que los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para evitar resultados perjudiciales, respondo a las preguntas.
-¿Debe restringirse el trabajo a únicamente un componente humano, favoreciendo más la ética y nuestra parte más humana, o a exclusivamente las máquinas, favoreciendo el beneficio, y por ello, el crecimiento económico y de países, o buscar un equilibrio entre ambos?
Todo puede ser compatible, ya que las máquinas son reparadas por los humanos. Habría que impulsar el saber arreglar
-¿Está la Inteligencia Artificial lo suficientemente preparada para hacer el trabajo de psicólogo, un oficio que destaca por habilidades más emocionales?
El trato humano es indispensable en lo referente a psiquiatría y psicología, por lo que las máquinas no deberían estar presentes.
-¿Hasta qué punto es ético maximizar los beneficios de la empresa disminuyendo, a su vez, el beneficio de los clientes?
Las empresas van a mirar siempre por su beneficio, pero no pueden dejar de lado a sus clientes si no quieren perder ingresos si se van a la competencia.
-¿Es ético que los consumidores no reciban un trato humano?
Las empresas desde 2021 están obligadas por el Ministerio de Consumo de España a tener a personas detrás de los contestadores automáticos , por la Ley de servicios de atención al cliente del Ministerio de Consumo:
https://www.lavanguardia.com/tecnologia/20211117/7867852/aprobada-ley-servicios-atencion-cliente-pmv.amp.html
Delegada Alba - Complejo Preuniversitario Mas Camarena (Valencia).
13003324-2-Ángela-12:
Buenas tardes, Presidencia y delegados:
Quisiera ofrecer mis respuestas a las siguientes cuestiones:
- ¿Debe restringirse el trabajo a únicamente un componente humano, favoreciendo más la ética y nuestra parte más humana, o a exclusivamente las máquinas, favoreciendo el beneficio, y por ello, el crecimiento económico y de países, o buscar un equilibrio entre ambos?
Opino que lo ideal sería buscar un equilibrio entre las máquinas (en este caso, herramientas de IA) y el componente humano, de forma que se aportara lo mejor de ambos.
Hasta ahora, diversas máquinas (a pesar de en un principio plantear un debate) han sido beneficiosas en la productividad y efectividad de las distintas actividades. Algunas de ellas también pusieron en riesgo diversas profesiones, como operarios de fábrica, teleoperadores, cajeros de banca o carteros; sin embargo, nos hemos ido adaptando, aprendiendo a aprovecharlas. A su vez, han surgido nuevos oficios, como aquellos relacionados con el desarrollo, mantenimiento y uso de estas máquinas.
Si logramos aplicar la IA como una herramienta sin comprometer el componente humano ni la ética, conseguiríamos entornos de trabajo más productivos. Algunas formas de implementar la IA es en aquel trabajo rutinario que, aunque necesario, no requiere ser realizado por los humanos. Los chatbots, por ejemplo, se encargan de cribar alertas, correos electrónicos… y ayudan en la detección o predicción de errores en diversos procesos.
Al liberarse de esa carga de trabajo adicional, puede dedicarse más tiempo a tareas que requieran razonamiento, pensamiento crítico, empatía, creatividad, conocimiento moral… en definitiva, tareas que necesitan ese “componente humano”. De hecho, desde el Observatorio de Recursos Humanos, indican que “los departamentos de RRHH han visto cómo su productividad crece de forma exponencial”
Considerando la rentabilidad, eficacia y asistencia las 24 horas, puede ser muy útil para todo tipo de empresas, tanto grandes como pequeñas, lo que permite acercar las mismas oportunidades a todo el público.
Buscar ese equilibrio no es sencillo, pero conociendo más a fondo las posibilidades y límites que plantea la IA, podremos desarrollar distintas medidas y resoluciones que complementen ambos aspectos sin afectar a la ética ni a “nuestra parte más humana”.
- ¿Está la Inteligencia Artificial lo suficientemente preparada para hacer el trabajo de psicólogo, un oficio que destaca por habilidades más emocionales?
Definitivamente no. La IA está entrenada con un aprendizaje intuitivo (a base de prueba y error) gracias a unos datos. Cuanto más se usa la IA, más evoluciona y aprende, ajustando los parámetros y fórmulas con los que elabora sus respuestas.
Por tanto, carece de pensamiento crítico y capacidad de razonamiento, puesto que “responde” aquello más probable, con más coherencia, más común… Además, no puede evaluar las consecuencias éticas de sus decisiones y actos, por lo que no se le puede pedir responsabilidad en este tipo de situaciones.
Psicólogos, jueces, médicos… son oficios que, sin ese “componente humano” que se mencionaba en la anterior cuestión, no pueden existir. Son necesarios el razonamiento, la creatividad, la empatía, la responsabilidad y el control de los actos propios.
- ¿Hasta qué punto es ético maximizar los beneficios de la empresa disminuyendo, a su vez, el beneficio de los clientes?
En este punto no sería capaz de ofrecer una respuesta sólida, debido a la diversidad de situaciones que se pueden dar. Lo esencial es que se cumplan las regulaciones y legislación y se garanticen los derechos del usuario. Si esto se respeta, los casos de dilemas éticos que aparezcan deberían ser planteados desde distintos puntos de vista para considerar, en cada situación, cuál sería el límite que separa lo ético de lo que no lo es.
El pasado junio, fue sido adoptada una posición negociadora en la propuesta legislativa de la futura Ley IA, la cual pretende en dos años contar con “un marco jurídico integral que asegure que estos sistemas son seguros transparentes y no discriminatorios”; es decir, que estará en línea con los derechos y valores de la UE, creando así medidas que aseguren su ética.
Quisiera proponer un caso:
La IA es utilizada en algunas empresas para procesos de contratación (en España, actualmente un 16% la utiliza o tiene pensado utilizarla). “Casi el 60% de las compañías mencionan y tienen conocimiento de alguna ventaja que proporciona el uso de IA en los procesos de selección”. En este caso, su utilidad se debe al ahorro de tiempo, presupuesto y recursos. Hay quienes defienden que con la IA se reducirán la desigualdad y discriminación de género que suelen ocurrir debido a los sesgos humanos, “eliminando la subjetividad de los procesos de selección”, puesto que se enfocará más en las capacidades y aptitudes. Sin embargo, yo no lo considero así.
Como ya mencionó la delegada Alba, se trata de una herramienta que a menudo está sesgada, y tras el experimento de una IA de Amazon, quedó constatado que tenía prejuicios en cuanto a contratar a mujeres. Incluso, a pesar de no indicarse información personal, “pudo averiguar el sexo de la persona en ciertos casos”. Esto ocurrió debido a que, en los datos utilizados en su entrenamiento, que eran de años anteriores, la mayoría de los contratados fueron hombres.
En este caso, por tanto, no considero ético el uso de la IA.
Considero que es de vital importancia el conocer qué datos se han invertido en la programación de cada IA, puesto que, si estos están sesgados, pueden influir negativamente en todo tipo de colectivos y por tanto, no sería moralmente aceptable. Para ello, es necesaria una transparencia por parte de las empresas que no siempre está (como en el caso de OpenAI, la creadora de ChatGPT).
- ¿Es ético que los consumidores no reciban un trato humano?
Como comentó el delegado Iván en el caso de la empresa Koko, a los consumidores nos gusta recibir un trato humano. Saber que lo que se encuentra al otro lado es capaz de comprendernos, empatizar y razonar correctamente nos garantiza cierta confianza.
En el caso de implementar la IA en este tipo de actividades, tendría que ser obligatorio hacer activamente consciente al consumidor de cuál será el trato que reciba.
Además, considero que no debería ser un servicio único; es decir, siempre ha de existir la opción de tratar con un humano. Por lo que, aunque por productividad, rapidez o conveniencia se ofrezca la opción de la IA para la gestión de distintas situaciones, siempre estará disponible para el usuario la posibilidad de recurrir a otro humano.
Mientras se mantenga esto, sí podría ser ético el trato por IA, pues uno sería libre de aceptarlo o no.
Delegada Ángela – IES Bernardo de Balbuena (Valdepeñas)
Fuentes de información:
https://www.observatoriorh.com/opinion/el-amor-entre-la-ia-y-los-recursos-humanos.html
https://www.lavanguardia.com/tecnologia/20191218/472247636540/inteligencia-artificial-buen-jefe-personal.html
https://nosotros.infojobs.net/prensa/notas-prensa/solo-el-16-de-las-empresas-espanolas-utilizan-herramientas-de-ia-en-sus-procesos-de-seleccion-o-tienen-previsto-usarlas-en-el-proximo-ano
https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai
https://www.businessinsider.es/ftc-investiga-openai-falta-transparencia-1275362
15004125-2-Iván-16:
Buenos días, Presidencia y delegados.
--- Quote ---En el caso de implementar la IA en este tipo de actividades, tendría que ser obligatorio hacer activamente consciente al consumidor de cuál será el trato que reciba.
--- Fin de la cita ---
El periódico Semana explica la novedosa función que la red social TikTok ha implementado con el objetivo de que el consumidor sepa si el contenido que está viendo ha sido (o no) generado por una Inteligencia Artificial. Esto va muy de la mano con lo que sugirió la delegada Ángela del IES Bernardo de Balbuena, y creo que deberíamos tomar esta empresa como ejemplo para hacer obligatorio el hacer saber al cliente si está siendo atendido por una IA o está viendo algo generado por una IA. Esto nos permitiría seguir avanzando con la IA (pues no estaríamos renegando de ella) pero sin hacer un uso poco ético de ella.
--- Quote ---Psicólogos, jueces, médicos… son oficios que, sin ese “componente humano” que se mencionaba en la anterior cuestión, no pueden existir. Son necesarios el razonamiento, la creatividad, la empatía, la responsabilidad y el control de los actos propios.
--- Fin de la cita ---
Por ello es de gran urgencia que se ponga fin a la Inteligencia Artificial siendo partícipe en cualquier de estos trabajos. No solamente supone una sustitución del ser humano y nuestra parte ética, sino que supone un riesgo, como indica Infobae, para el consumidor en ámbitos terapéuticos.
--- Quote ---Considero que es de vital importancia el conocer qué datos se han invertido en la programación de cada IA, puesto que, si estos están sesgados, pueden influir negativamente en todo tipo de colectivos y por tanto, no sería moralmente aceptable. Para ello, es necesaria una transparencia por parte de las empresas que no siempre está (como en el caso de OpenAI, la creadora de ChatGPT).
--- Fin de la cita ---
La Inteligencia Artificial nos puede ayudar a avanzar de formas que nunca antes habíamos imaginado, pero para eso, los clientes y empresas necesitan usarla de forma ética. En esta ética, debe estar incluida la transparencia de la empresa para evitar cualquier dilema moral y porque actualmente el conocimiento de IA que tenemos es muy pequeño, y si las empresas proporcionan datos sobre su funcionamiento, podremos llegar a entenderla mejor y hacer un uso más ético de ella. Asimismo, se deben eliminar los sesgos pues como afirma "Cristina Aranda, experta en lingüística computacional y cofundadora de BigOnion y WomanTech, se producen sesgos en diferentes áreas que debemos hackear." Estos sesgos, explica, son dañinos y perjudiciales para muchos colectivos que forman parte de la sociedad actual. Si queremos avanzar de forma ética, ¿por qué seguir permitiendo estos sesgos que discriminan y dejan atrás a determinados sectores sociales?
Iván Gándara: Comisión 2 (Comisión de Inteligencia Artificial en la Era Digital).
Colegio Internacional Eirís, A Coruña, Galicia.
Fuentes:
https://www.semana.com/tecnologia/articulo/tiktok-estrena-nuevas-funciones-para-detener-a-los-que-quieren-ser-tendencia-usando-la-ia/202323/
https://www.infobae.com/salud/2023/05/02/el-chatgpt-como-psicologo-advierten-sobre-el-riesgo-de-usar-ia-en-reemplazo-de-la-terapia/
https://www.mujerhoy.com/actualidad/inteligencia-artificial-machista-racista-como-evitar-peligros-ia-20230627114339-nt.html
15015561-2-Raquel-493:
Buenas tardes delegados y presidencia,
Es evidente que el tema de la implementación de la Inteligencia Artificial en el mundo laboral es uno de los argumentos más utilizados en su contra. Se suele señalar a las IAs como un sustitutivo y un sabotaje a los oficios manuales. Sin embargo, debe mantenerse presente que, a lo largo de la Historia, las profesiones han ido fluctuando en función de las necesidades humanas. Un claro ejemplo de ello es la Revolución Industrial, momento en el que las profesiones enfocadas hacia la agricultura, la ganadería y la artesanía pasaron a un segundo plano ante el nacimiento de profesiones de la industria. Es por ello que la Unión Europea debe, no solo garantizar la formación de los trabajadores para la correcta supervisión de las máquinas, sino también educar a las futuras generaciones hacia la apertura del mundo laborar y la creación de nuevos oficios como resultado de la desaparición de otros. Por lo tanto, a nivel laboral, debe enfocarse la Inteligencia Artificial como una oportunidad de desarrollo y avance antes que un impedimento.
Raquel Amarelo, Colexio Manuel Peleteiro, A Coruña.
Navegacin
[#] Pgina Siguiente
Ir a la versin completa