Google DeepMind quiere crear un «botón de apagado» para la IA
Los investigadores de Google DeepMind, compañía de inteligencia artificial inglesa, han propuesto la idea de crear un “interruptor o botón de apagado” para la IA con el fin de evitar que las máquinas puedan resultar más inteligentes que las personas y tomen el control. Básicamente esta propuesta se basa en la idea de crear un algoritmo, una forma de “interrupción reiterada de seguridad”, de acuerdo con un nuevo documento creado en asociación con la Universidad de Oxford.
La finalidad de esta “interrupción reiterada de seguridad” es que las personas tengan siempre un medio con el que controlar a una máquina que pueda estar actuando de una forma no esperada y con posibles consecuencias irreversibles, sacarla de una situación delicada o conseguir que ésta realice una tarea que no sabe hacer.
El documento mencionado ha sido realizado de forma conjunta por Laurent Orseu de DeepMind y Stuart Armstrong del Future of Humanity Institute, y en él se explica que esta “política de interrupción” servirá como una medida de seguridad para desactivar una máquina con IA compleja de su tarea. Además se menciona que el interruptor será imprescindible y muy útil para los operarios humanos que deban trabajar con máquinas con IA, puesto que debido a la variedad de situaciones y sus posibles soluciones que se pueden llegar a afrontar, las máquinas con IA no siempre funcionarían y actuarían adecuadamente según un criterio humano.
