Infiltran con éxito una IA en la web: has hablado con un bot sin saberlo

El amigo Iker, más conocido como Hardware 360º, subió un curioso vídeo en el día de hoy relacionado con la Inteligencia Artificial, los bot y nuestra web. Como breve resumen, entrenó una IA para infiltrarse entre los millones de comentarios de nuestra web y dar su propia opinión respecto a las novedades del hardware. Es más, este bot fue capaz de introducirse con éxito en conversaciones con los propios usuarios.

Hay que destacar que Iker nunca llegó a informarnos de que estaba realizando dicho trabajo, por lo que nos ha cogido igualmente por sorpresa. Por lo que podemos ver en el vídeo, ha estado un par de meses recabando información. Todo su trabajo se mueve en torno al modelo de lenguaje GPT-3 (Generative Pre-trained Transformer 3) respaldado del aprendizaje profundo para generar textos que simulan la redacción de un ser humano.

¿Cómo ha conseguido esta IA infiltrarse como un bot entre miles de usuarios reales?

Según indica el propio Iker, el primer paso fue crear un bot que durante una semana estuvo entrando en cada una de las noticias que redactábamos y procedía a descargar todos sus comentarios. En concreto, se descargaron nada menos que 2,5 millones de comentarios. Una base bastante sólida en la que crear ahora un nuevo bot diseñado para comentar noticias e incluso interactuar con otros usuarios, empleando su misma jerga.

Para ello empleó un modelo Bertín GPT-J creado en el Centro Nacional de Supercomputación BSC (Barcelona Supercomputing Center). En concreto, en las entrañas del superordenador MareNostrum 4. Este modelo, de 6.000 millones de parámetros, ya había sido entrenado para hablar en español. A si que usando los comentarios de la web, se volvió a hacer un entrenamiento para que la IA aprendiese a generar texto como un usuario de El Chapuzas.

Eso sí, esto requiere de un gran poder de computación, y es por ello que recurrió a una GPU NVIDIA A100 con 80 GB de memoria HBM2e. Solo esta gráfica ronda los 20.000 euros. De esta manera, la gran mayoría de los usuarios particulares encuentran aquí un gran impedimento para jugar con un bot.

Gracias a esta GPU, y a los numerosos días de entrenamiento, consiguió re-entrenar a la IA en base a los millones de comentarios de los usuarios de esta web. Eso hizo que se mimetizara como un usuario más.

Este es el resultado de la IA comentando en El Chapuzas

Nada mejor que enterarte de cómo se fraguó todo el proceso viendo el vídeo de arriba. Desde la creación hasta la puesta en práctica con éxito de este bot comentando en nuestra web. Quizás lo más interesante de todo, es que luego fue capaz de entrenar a otro bot capaz de detectar al bot original infiltrado. El resultado de las pruebas se tradujo en que había un impostor entre nosotros. Así es, solo un impostor, el que el mismo coló en nuestra web.

Viendo el realismo a la hora de comentar de esta IA, miedo da lo que se puede ver fuera de aquí. Si esto lo ha conseguido Iker, ya podéis imaginar lo que podría conseguir una compañía de gran relevancia con presupuestos casi infinitos en las redes sociales. Todo ello también queda reflejado en el vídeo, el cual te recomendamos ver. Como último detalle curioso, el bot alardea de hacer uso de un iPhone como dispositivo móvil.