Tu opinión

Google 'arregla' su algoritmo racista

AndreaCCM - 18 de enero de 2018 - 09:31
Google 'arregla' su algoritmo racista
Google ha optado por eliminar términos como 'gorila' u 'hombre negro' de las búsquedas.

(CCM) — Tres años después de la polémica desatada al saberse que el algoritmo de Google identificaba fotos de personas negras con gorilas, la compañía de Mountain View no parece haber encontrado la forma de solucionar este grave fallo de sus sistemas de inteligencia artificial, por lo que ha decidido cortar por lo sano y eliminar directamente de su sistema de detección de fotografías, Google Photos, los términos que pudieran confundir a su software.


En junio de 2015, un usuario, Jacky Alciné, denunció en Twitter que Google Fotos identificaba a unos amigos con gorilas por ser negros. Según el portal Wired (en inglés), en este tiempo Google no ha sabido o querido arreglar este grave fallo: ahora, simplemente, el sistema de identificación que detecta el contenido presente en una fotografía o en un vídeo no reconoce la palabra 'gorila', pero tampoco 'hombre negro' o 'mujer negra'.

La compañía se excusa explicando que la tecnología de etiquetado de imágenes es muy reciente y aún necesita ser perfeccionada, pero es paradójico que la misma empresa a la vanguardia en sofisticados programas de reconocimiento facial o de reconocimiento de obstáculos para sus vehículos autónomos no sea capaz de solventar este fallo en apariencia mucho más sencillo. Más allá de las dificultades técnicas, diversos estudios han demostrado que la inteligencia artificial incorpora los sesgos de discriminación presentes en el lenguaje, volviéndose racista o sexista, a semejanza de la sociedad, el idioma o los expertos que la desarrollan.

Foto: © Pixabay.
Deja tu comentario

Comentarios

Comenta la respuesta de usuario anónimo