Desconectar la IA en caso de emergencia

AndreaCCM - 26 de diciembre de 2016 - 17:43

Desconectar la IA en caso de emergencia

Deep Mind de Google ha creado un mecanismo para detener de golpe la inteligencia artificial de su sistema.

(CCM) — Ante la posibilidad de que las máquinas superen en inteligencia a los seres humanos y se rebelen contra ellos, Deep Mind, una start-up de Google, ha diseñado un mecanismo para apagar todos los sistemas de IA en caso de necesidad.



En un trabajo conjunto con el Instituto para el Futuro de la Humanidad de la Universidad de Oxford, Gran Bretaña, han creado una especie de "botón rojo" de emergencia que permite al operador humano detener el funcionamiento inteligente de las máquinas y "guiarlas" de nuevo hasta un punto en el que no puedan dañar a las personas, a su entorno o a sí mismas. Y para no dejar ningún cabo suelto, los diseñadores se han asegurado de que los software de inteligencia artificial no sean capaces de aprender a detener estos mecanismos de interrupción.

Retomar el control de un robot que esté actuando incorrectamente, de forma involuntaria (en la inmensa mayoría de los casos) pero también, eventualmente, de forma voluntaria, es básico para seguir desarrollando una IA segura, si bien los creadores de este mecanismo de detención admiten que "no está claro" que todos los algoritmos puedan ser interrumpidos sin más. El director del Instituto para el Futuro de la Humanidad, Nick Bostrom, asegura en un libro sobre inteligencia artificial en el que cita a distintos expertos que hay un 90 % de posibilidades de que entre 2075 y 2090 existan máquinas tan inteligentes como los seres humanos.

Foto: © Sergey Nivens - Shutterstock.com
Deja tu comentario

Comentarios

Tu opinión