IA que aprende a ser racista y sexista

AndreaCCM - 14 de abril de 2017 - 20:38

IA que aprende a ser racista y sexista

Un estudio ha mostrado cómo la Inteligencia Artificial adquiere sesgos del lenguaje humano.

(CCM) — Una investigación publicada en la revista Science (en inglés) ha desvelado que la Inteligencia Artificial (IA) puede incorporar los sesgos de discriminación presentes en el lenguaje, y volverse racista o sexista al igual que lo son la sociedad y el idioma.



El equipo autor del estudio desarrolló un programa de IA que empleó más de dos millones de palabras durante su aprendizaje. Según la principal responsable, la investigadora de la Universidad de Princeton Aylin Caliska, al aprender automáticamente a partir de textos presentes en la web, el programa acaba reproduciendo las asociaciones frecuentes que se hacen en ellos. Por ejemplo, la máquina vinculaba con mayor facilidad nombres femeninos y términos relacionados con tareas domésticas o asuntos familiares, mientras que unía los masculinos a temas profesionales. Asimismo, relacionaba los apellidos anglosajones de origen europeo a palabras positivas con mayor frecuencia que los nombres comunes en personas afroamericanas.

La investigación muestra la importancia de tener en cuenta estos resultados a la hora de desarrollar software de aprendizaje automático, ya que estos programas pueden llevar a perpetuar estereotipos discriminatorios. La Inteligencia Artificial avanza a pasos agigantados, y estudios como este evidencian que quienes desarrollan programas de este tipo, deberán poner especial atención para no transmitir a las máquinas los prejuicios humanos.

Foto: © Tatiana Shepeleva - Shutterstock.com
Deja tu comentario

Comentarios

Tu opinión