Google prepara un protocolo de emergencia contra su IA Deep Mind

Ampliar

Las inteligencias artificiales podrían rebelarse contra la humanidad en un futuro; así lo creen muchos científicos que avisan de los posibles acontecimientos tras la gran evolución de las IA en los próximos años. Y es que lejos de parecer un guión post-apocalíptico de Hollywood −a todos nos viene a la cabeza Terminator o Yo, Robot, entre muchas otras películas−, en Google ya preparan un protocolo de emergencia contra un supuesto alzamiento de las máquinas.

Y es que Deep Mind, la inteligencia artificial más avanzada de Google, está experimentando una evolución asombrosa, logrando hitos impensables pocos años atrás. Así, Deep Mind es capaz de aprender de experiencias anteriores para corregir sus errores y seguir avanzando hacia su objetivo. A corto plazo podría provocar un error en una línea de montaje, ocasionando así pérdidas millonarias; pero lo peor vendría con posibles escenarios que escaparían al control del ser humano.

Por ello, investigadores de Deep Mind y científicos del Instituto para el Futuro de la Humanidad de la Universidad de Oxford han creado un ensayo bajo el nombre de Safely Interruptible Agents, un protocolo que permitiría interrumpir el funcionamiento de Deep Mind y “tomar el control de un sistema cuyo comportamiento inadecuado podría provocar consecuencias irreversibles”. En definitiva, un botón rojo que en teoría anularía cualquier motivación de una IA potencialmente peligrosa.