Las máquinas pueden ser sexistas y racistas por culpa de los humanos

Domhnall Gleeson , actor y Alicia Vikander, actriz; en el póster de Ex Machina
Domhnall Gleeson, actor y Alicia Vikander, actriz; en el póster de Ex Machina. / Universal.

Un nuevo estudio demuestra que la inteligencia artificial (AI) reproduce los rasgos que aprenden de la humanidad.

Las máquinas pueden ser sexistas y racistas por culpa de los humanos

Una investigación publicada en la revista especializada Science, revela que las máquinas aprenden sobre el racismo y el sexismo gracias a lo que observan de los seres humanos. Los sistemas lingüísticos de la inteligencia artificial (IA), como el reconocimiento de voz para los mensajes o los servicios de traducción en línea, utilizan el aprendizaje automático para educarse mucho más de lo que deberían y reproducen lo peor de la humanidad.

El machine learning o aprendizaje automático, permite que las máquinas aprendan a base de todo los datos preexistentes que existen en la red. A partir de allí, copian todo de la base de datos, sin saber distinguir entre lo bueno y lo malo; así lo establece la investigación realizada por Aylin Caliskan y sus colegas, pertenecientes al Centro de Políticas sobre Tecnología de la Información de la Universidad de Princeton, ubicada en New Jersey.

Los estigmas culturales se están expandiendo como polvo por todos los sistemas de IA. El estudio pone en manifiesto que el sesgo que los humanos muestran, como el sexismo o el racismo, empieza a formar parte de los sistemas que lo interpretan como algo normal y pueden usarlo sin que sus creadores se enteren. Aunque, un punto positivo a reseñar, es que el método empleado por los científicos, puede ayudar a detectar las fallas y corregirlas.

Para lograr su hazaña, el equipo de Princeton realizó un test de asociación implícita para máquinas, que se encargó de buscar los sesgos inconscientes que tenían. Midieron el grado de asociación que tenía la máquina con dos palabras por medio de una técnica estadística basada en la concurrencia que tenía en un texto. Con el test psicológico para máquinas, los científicos determinaron que las máquinas copiaban todos los sesgos que tenían los humanos sin importar su verdadero significado.

“Si construimos un sistema inteligente que aprende lo bastante sobre las propiedades del lenguaje como para ser capaz de entenderlo y reproducirlo, en el proceso la máquina adquirirá también asociaciones culturales históricas, y algunas de ellas pueden ser inaceptables”, resumen en su investigación el equipo. Pero hará falta algún tiempo para poder desarrollar sistemas avanzados que logren discernir entre lo que pueden o no decir.

Las máquinas pueden ser sexistas y racistas por culpa de los humanos
Comentarios