Tu opinión

IBM identifica sesgos en IA

Andrea Olea - 20 de septiembre de 2018 - 09:31
IBM identifica sesgos en IA
La empresa ha lanzado un 'software' que detecta cualquier defectos en Inteligencia Artificial.

(CCM) — IBM ha creado una herramienta (en inglés) con la que monitorizar el sistema de toma de decisiones de los programas de Inteligencia Artificial, para identificar posibles sesgos y errores, y mejorar su funcionamiento.

El servicio, disponible en la nube de IBM, ha sido desarrollado a partir de marcos de trabajo de machine learning como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Con él, las compañías pueden ver en tiempo real cómo sus programas de IA toman decisiones y entender en qué factores se han basado para ello. Se trata de "capturar resultados potencialmente injustos a medida que se producen", explica IBM.

Los errores pueden ir de malas decisiones basadas en el discernimiento de la persona que ha entrenado al programa a sesgos discriminatorios de tipo sexista o racista por la propia información disponible en la red. El objetivo es facilitar a las empresas el uso de logaritmos de Inteligencia Artificial, comprendiendo el proceso de toma de decisiones, mejorando la transparencia y el funcionamiento de estos programas a largo plazo.

Foto: © Jakub Jirsak - 123RF.com
Deja tu comentario

Comentarios

Comenta la respuesta de usuario anónimo