Crean imágenes porno con IA de Taylor Swift y EE.UU. explota; «Tomaremos medidas para combatirlas»

Por Borja Colomer
29/01/2024
Inteligencia Artificial

Con herramientas como Midjourney, es posible hacer imágenes y arte de todo tipo usando la IA generativa. Si bien en su primera versión los resultados dejaban mucho que desear, Midjourney ha ido avanzando en gran medida y lo mismo podemos decir de Stable Diffusion o incluso DALL-E. La IA ha llegado hasta un punto donde es capaz de hacer imágenes que se asemejan a la realidad. Por esto mismo se viralizaron fotos de Taylor Swift desnuda que realmente eran falsas, pues fueron creadas por una IA y ante este escándalo mediático, Estados Unidos ha dicho que reforzará sus leyes contra los deepfakes.

La inteligencia artificial puede ser empleada para realizar todo tipo de tareas, reduciendo en gran medida el tiempo empleado y automatizando el proceso. Gracias a la IA generativa podemos crear texto (ChatGPT) o imágenes (Midjourney) a partir de prompts de texto y órdenes que escribamos. La inteligencia artificial se encargará de acatar estas órdenes e intentar crear lo que le hemos pedido. Gracias a esto, es posible crear imágenes de forma casi instantánea, de la misma forma que podemos generar código o casi cualquier otra que se nos ocurra.

Las fotos falsas de Taylor Swift por IA captan la atención de EE.UU.: impondrán normas más estrictas

Con el auge de la IA, algunas tecnologías como los deepfakes por vídeo han dado un gran salto de calidad. Hace años, los deepfakes eran poco realistas y podíamos ver claramente que se trataban de vídeos falsos. Fallaban las expresiones, veíamos artifacts y cosas extrañas en el vídeo y en general, se sentía poco natural y todo creado por ordenador. A día de hoy, todo ha cambiado y con la IA es posible hacer deepfakes logrando un nivel de realismo que antes no era posible. Muchas de estas imágenes o vídeos han llegado a viralizarse tras engañar a la gente, pensando que eran reales.

Así ha ocurrido con las imágenes de Taylor Swift desnuda que se hicieron usando una IA y tras conseguir millones de visitas en Internet, EE.UU. ha decidido acabar con esta situación. Según la portavoz de la Casa Blanca Karine Jean-Pierre, las redes sociales deben tener que lidiar con estas situaciones. En este caso, una de las imágenes de Taylor Swift logró 45 millones de visitas y 24.000 reposts antes de retirarse de la plataforma después de 17 horas. Considera que la situación es alarmante y visto que las redes sociales no tienen suficientes restricciones, se considera que hay que imponer leyes más estrictas.

Inicialmente se publicaron en Telegram y 4chan, pero luego acabaron en X

Taylor Swift imagenes X

Tal y como dice la portavoz de loa Casa Blanca, este tipo de imágenes son preocupantes, sobre todo cuando afectan a mujeres y niñas. Quieren reducir la existencia de estas imágenes falsas a partir de nuevas normativas y se toman en serio cualquier impacto que pueda producir en las personas víctimas de la IA. También ha admitido que el Departamento de Justicia lanzó la primera línea 24/7 de ayuda para "supervivientes de abuso sexual por imágenes IA".

Por otro lado, 404Media empezó a analizar el origen de estas imágenes de Taylor Swift desnuda, para ver de donde provenían los deepfakes. Estos aparecieron por 4chan y Telegram por primera vez y a partir de ahí acabaron siendo publicados en X. Según se indica, fueron creados totalmente con IA generativa, por lo que no hubo Photoshop ni edición.