Microsoft usa los libros de Harry Potter para entender cómo la IA aprende y desaprende
Entrenar a una IA es un proceso que cuesta tiempo y dinero, necesitando una capacidad de procesamiento enorme para llevar a cabo algunos de los modelos de inteligencia artificial más avanzados. Podemos decir que hemos empezado con la era de la IA generativa, pues esta se ha expandido rápidamente a varios sectores. Mientras se indagan nuevas formas de usar la IA, unos investigadores de Microsoft han empleado las obras literarias de Harry Potter para entender como la IA puede dejar de aprender cosas.
La inteligencia artificial se está empleando en cada vez más situaciones, demostrando lo útil que puede llegar a ser. Aunque está lejos de ser perfecta, su continuo desarrollo e investigación permite mejorar sus puntos débiles. Desde que la IA se está empleando para crear contenido, se ha considerado que esta no para de robar información para aprender de esto. Esto es totalmente cierto, tanto si tenemos en cuenta la IA generativa para crear imágenes como textos a lo ChatGPT.
Las obras de Harry Potter se han usado como ejemplo para demostrar que la IA puede olvidar contenido
El continuo en IA ha llevado al punto donde dos investigadores de Microsoft a probar algo más educativo. Empleando los libros superventas de Harry Potter, han hecho más fácil entender como la IA puede dejar de aprender contenido que puede estar protegido por derechos de autor. Esto es un paso adelante para poder crear modelos de inteligencia artificial que solo hayan aprendido contenido completamente legal sin infringir leyes. Esta nueva técnica, empleada por los investigadores de Microsoft Mark Russinovich y Ronen Eldan, permite que se pueda editar un modelo de IA y que esta "desaprenda".
Así pues, empleando los libros de Harry Potter, se ha dado a entender como se puede eliminar lo que saben de ellos, sin sacrificar la capacidad de la IA a la hora de tomar decisiones o analizar preguntas. Quieren que la comunidad científica entienda que es posible alterar un modelo de IA sin tener que rehacerlo de nuevo.
Según los investigadores, entrenar a la IA con libros de bajo riesgo no genera resultados óptimos
Este sistema usando libros de Harry Potter se podría entender como una forma de "perder la memoria" por parte de la IA. Aunque ambos investigadores de Microsoft anuncian que no se pierden las capacidades del modelo, otros no creen que sea tan buena idea. Los investigadores de la Universidad de Seattle, la Universidad de Berkeley y el Instituto Allen, no han tenido la misma suerte. Lograron desarrollar un nuevo modelo de IA para eliminar los datos y evitar problemas legales.
No obstante, se descubrió que el rendimiento y eficacia del modelo se reducía considerablemente si solo se entrenaba con textos que no infringieran los derechos de autor. Hicieron una prueba con los libros de Harry Potter para observar que una vez eliminado el contenido de estos, la IA estaba más desconcertada. Curiosamente, las obras literarias de Harry Potter se han empleado de manera habitual para investigar sobre IA. Hay multitud de artículos de investigación científica sobre estos temas en repositorios de acceso abierto como arXiv. El uso de las obras de J.K. Rowling para IA ha generado algunos debates, aunque se consideran obras populares entre los investigadores más jóvenes.