Los sesgos de la IA
Como ya se ha indicado la IA se basa principalmente en consumir ingentes cantidades de datos, codificados y proporcionados por los seres humanos, y es a partir de estos datos, estructurados, y en ocasiones no estructurados, y con la aplicación de las múltiples metodologías cuando la IA empieza a comportarse como tal.
La aportación de los datos no suele ser del todo objetiva, fundamentalmente porque el ser humano por naturaleza se comporta influenciado por muchos aspectos que lo rodean. Nuestra forma de pensar, nuestro entorno, nuestras creencias, nuestro género, nuestras orientaciones sexuales, nuestra religión, nuestras experiencias, etc. nos condicionan y hacen que no seamos totalmente imparciales cuando transmitimos nuestras opiniones y, por lo tanto, la IA no reciba información objetiva, ni incluso diversa, y es aquí cuando se da el sesgo algorítmico, es decir, la información con la que la IA cuenta para realizar su aprendizaje no es objetiva ni diversa, e incluso el propio desarrollo del algoritmo puede que tampoco lo sea.
Son múltiples los casos en los que una IA con información sesgada ha dado malos resultados en sus predicciones. Así pues, por ejemplo, la Universidad de California descubrió que el algoritmo del Hospital General de Massachusetts priorizaba primero a los pacientes que más dinero habían gastado en ocasiones anteriores, porque se empleaba el coste del tratamiento como indicador de las necesidades de salud; En otro caso, la científica Joy Buolamwini descubrió que un algoritmo no era capaz de identificar rostros femeninos de raza negra como lo hacía con la misma precisión que la de los hombres blancos; otro algoritmo que no era capaz de detectar melanomas en pieles negras porque había sido entrenado solo con pieles blancas. También existe otro conocido caso, fue el de Amazon cuyo algoritmo discriminaba a las mujeres a la hora de realizar la captación de personal, considerando a los hombres mejores candidatos.
Estos son solo algunos ejemplos del sesgo en los algoritmos, y que demuestra que las máquinas hacen predicciones a partir de la información con la que cuentan, y si esa información no es diversa las predicciones seguramente serán poco precisas. Los sesgos pueden ser conscientes o inconscientes. Los primeros son aquellos que intencionadamente son introducidos por quién codifica o desarrolla el algoritmo, o lo entrena; y los segundos, son aquellos que se producen sin intención.
Los múltiples casos de sesgo que se han dado a lo largo de todos estos años en los que la IA va evolucionando, hace necesario dedicar un esfuerzo a disponer de algoritmos no sesgados que cuenten con datos tampoco sesgados, y para esto hay diferentes soluciones que permitirían minorar la influencia negativa del sesgo sobre los resultados ofrecidos por la IA.
Desarrollar algoritmos respetuosos e inclusivos, contando con equipos diversos y multidisciplinares.
Monitorizar y auditar los algoritmos desarrollados para verificar su comportamiento y garantizar la mejora continua.
Contar con datos relevantes, bien estructurados y de calidad.
Formación sobre qué significa la IA para quien la usa, y para quien la va a usar.
Sensibilización como herramienta de concienciación para el desarrollo de IA.
Es tal la importancia que se le está dando a contar con una IA lo menos sesgada posible, que los grandes fabricantes como, por ejemplo, Microsoft, Google, Amazon, IBM, Toyota están creando equipos de trabajo dedicados exclusivamente a vigilar y garantizar que las herramientas que implementan se hacen bajo normas que garanticen una ausencia de sesgo en sus desarrollos, e incluso en el control de los resultados que consideran puedan tener consecuencias negativas.
