Google ha escrito una «Constitución Robótica» para asegurar que los robots con IA no nos maten

Con los avances en inteligencia artificial que hemos experimentado últimamente, la visión de un futuro con androides que tengan IA no parece tan alejada. De hecho, se han creado ya robots que funcionan por IA y son capaces de realizar tareas y contestar a nuestras preguntas. No es que sean tan sofisticados e inteligentes como los que hemos visto en películas, pero el ser humano ya ha dado los primeros pasos. Ante un temor de que el futuro de la humanidad esté en peligro, Google ha preferido prevenir y ha escrito una constitución robótica que se encargará de evitar que los robots nos maten.

La IA acaba de empezar a ser una revolución en nuestra sociedad, pues hace poco más de un año que tenemos ChatGPT y todo lo que ha llegado después de eso. Antes de ello, la inteligencia artificial se empleaba principalmente para enseñar algunas tareas a máquinas o hacer que los chatbots se comportasen más como humanos. Los intentos pasados no fueron suficientes para poder destacar, hasta que como decimos, ChatGPT empezó a cambiar las cosas. El hecho de que tuviésemos un chatbot capaz de responder nuestras preguntas y hacer tareas de todo tipo mientras se involucrase el texto, ya era algo que antes no existía, al menos hasta ese nivel de complejidad.

Google redacta una "Constitución" para evitar que los robots hagan daño a humanos o animales

 0

Mencionamos a OpenAI y su chatbot, ya que precisamente son la base para que muchos proyectos cobren vida. Y es que, empleando GPT-4 es posible dotar de capacidades de escucha y habla a dispositivos de todo tipo y sí, también incluimos robots. Usando la IA es posible crear robots humanoides más inteligentes, capaces de hacer caso a nuestras órdenes, pero siguiendo una serie de restricciones impuestas. Por el momento no ha ocurrido nada, pero desde hace tiempo se teme que la IA mala sea un peligro para la humanidad.

Antes de que se desarrollen robots con IA avanzada, el equipo de Google DeepMind ha desarrollado una constitución que permitirá a los robots seguir la normativa sin matar a ningún ser humano. La denominada "Constitución robótica", se encargará de entrenar a las IA para obedecer las normas y no cometer accidentes contra el ser humano.

La constitución está inspirada en las tres leyes de la robótica de Isaac Asimov

Google trabajadores despidos IA

Esta constitución está inspirada en las Tres Leyes de la Robótica de Isaac Asimov. La primera de estas es que un robot nunca hará daño a un ser humano. La segunda implica tener que cumplir las órdenes impuestas, con la excepción que sea hacer daño a los humanos. La tercera es que el robot debe protegerse a sí mismo sin incumplir las otras dos leyes. Con esto como inspiración, esta constitución robótica de Google tiene como objetivo hacer que los LLM evite hacer tareas que impliquen dañar a humanos y animales.

El sistema de recopilación de datos de Google, llamado AutoRT, fue empleado para entrenar a los robots mediante VLM y LLM. Durante siete meses, un total de 53 robots AutoRT hicieron más de 77.000 pruebas. Algunos de estos robots fueron operados por humanos, mientras que otros funcionaban de forma autónoma con el modelo RT-2 de Google. Por el momento no se ha reportado ningún comportamiento extraño, pero hará falta un entrenamiento intensivo para que se pueda decir que han asimilado las normas de la constitución robótica al completo.