Dos fotos nopor de famosos creadas con IA se publican en Instagram y Facebook, ¿la respuesta de Meta? Terminar con todos estos desnudos en sus redes sociales
Desde que la inteligencia artificial generativa llegó a nuestras vidas, hemos visto cambios notorios en Internet, programas y hasta formas de hacer las cosas. Con la capacidad de crear contenido de todo tipo, se ha usado la IA hasta el punto donde mucho del contenido que hay en Internet en la actualidad no existe, pues ha sido creado por esta. Así es como ha ocurrido con noticias que parecían verdaderas o incluso fotos de desnudos que han causado muchas disputas. En Estados Unidos ya avisaron que se enfrentarían a estos casos y ahora Meta ha convocado a la Junta de Supervisión para encargarse de gestionar dos imágenes de famosas desnudas generadas por IA que aparecieron en Facebook e Instagram.
Hace varios años, la IA no era ni remotamente tan popular como lo es ahora. Oíamos hablar de ella cuando se trataba de crear herramientas o funciones donde se empleaba inteligencia artificial para ordenar o hacer búsquedas mejoradas. También veíamos algunas menciones a la IA cuando se trataba de procesar imágenes como las que hacíamos usando las cámaras del móvil. Más allá de eso y del hecho de que si se habían entrenado modelos de inteligencia artificial para superar a jugadores y demostrar una mayor eficiencia en ciertos ámbitos, no había mucho que destacar.
Meta detecta imágenes de desnudos creadas por IA y procede a investigarlas para acabar con estas prácticas
Cuando Midjourney apareció fue toda una sorpresa, ya que aquí si teníamos una IA generativa capaz de crear imágenes en cuestión de segundos. Al principio los resultados no eran muy satisfactorios, pues la inteligencia artificial cometía bastantes errores y si hablamos de generar vídeos, aquí era casi todo memes. Pero con el paso del tiempo, Midjourney, Stable Diffusion y muchas otras han mejorado en gran medida y a día de hoy es posible engañar a muchas personas haciéndolas creer que la imagen generada ha sido creada por una inteligencia artificial.
Así ha ocurrido que han aparecido fotos de famosas desnudas como Taylor Swift en redes sociales, engañando a personas que pensaban que esto era real. Estas tuvieron 45 millones de visitas en tan solo 17 horas antes de que fueron eliminadas y hasta llamaron la atención de la Casa Blanca. Al igual que Estados Unidos se puso en marcha para parar este tipo de contenido, Meta está haciendo algo similar a su manera. La Junta de Supervisión de Meta Platforms, está haciendo una revisión de dos fotos de desnudos que estuvieron pululando en redes sociales, incluidas las de su posesión como son Facebook e Instagram. A diferencia del caso de Taylor Swift, Meta ha preferido no dar nombres sobre las mujeres famosas para evitar más daños.
Meta evaluará la eficacia de sus políticas y métodos para lidiar con imágenes por IA inapropiadas
Lo único que ha revelado Meta tras revisar estos casos es que la primera es una imagen generada por IA de una mujer desnuda similar a un personaje público de la India, publicada por una cuenta que solo sube contenido de ese tipo. La otra imagen es de un grupo de Facebook que comparte creaciones hechas con inteligencia artificial y se parecía a una mujer estadounidense con un hombre manoseándole el pecho. Estas dos imágenes de famosas desnudas serán usadas por Meta para evaluar la eficacia de sus métodos. Aquí se analizará si las políticas actuales y las herramientas son suficientes para poder hacer frente a este tipo de imágenes falsas.
El problema es que se trata de una lucha a contrarreloj, si tenemos en cuenta que la IA avanza a pasos agigantados y cada vez sus creaciones son más realistas. Llegará un punto donde la mayoría de personas podrían no ser capaces de detectar imágenes y vídeos creados por IA, confundiéndolos por reales. Mientras ese momento llega, es posible hacer frente al contenido generado por inteligencia artificial que sea indebido. Por ejemplo, cuando ocurrió lo de Taylor, se eliminaron no solo las fotos en X, sino que se llegó a bloquear la búsqueda de imágenes de la famosa cantante temporalmente.