OpenAI ha desarrollado un detector de ChatGPT para descubrir el contenido que ha sido creado con esta IA

El auge de la inteligencia artificial empezó hace un par de años cuando empezábamos a ver como la IA generativa era algo nuevo que nos permitía crear imágenes y otro tipo de contenido en cuestión de segundos. Estas tareas que a un ser humano le costarían horas o días se podían realizar casi al instante y todo fue gracias al entrenamiento con grandes cantidades de datos. OpenAI fue una de las empresas más importantes en 2022 gracias a ChatGPT y ahora sabemos que ha creado una herramienta a modo de detector de ChatGPT que permitirá descubrir el contenido creado por la IA, algo que parecía imposible antes.

Cuando la IA apareció en nuestras vidas generó una serie de disputas y controversia al respecto, pues por una parte es positiva y por otra es negativa. Aquellos que están en contra de la inteligencia artificial son los que no están de acuerdo de que esta haya sido entrenada utilizando contenido creado por humanos sin que estos hayan recibido ningún tipo de compensación o siquiera un aviso. Muchos consideran que este tipo de uso de los datos ha sido una infracción a la privacidad.

OpenAI crea un detector de ChatGPT que funciona añadiendo una marca de agua a la respuesta de la IA

Aquellos que están a favor de la inteligencia artificial aceptan que esta es una herramienta muy útil a la hora de crear contenido o realizar tareas de forma mucho más veloz. Se ha empleado también la IA en investigación, algo que resulta bastante más útil que simplemente crear imágenes. Si hablamos de la inteligencia artificial más conocida a nivel mundial esta sería ChatGPT, que como ya sabemos la emplean millones de personas. Esto ha provocado que mucha información que vemos en Internet haya sido creada por una IA, tanto imágenes como textos.

Saber si algo ha sido escrito por una inteligencia artificial era considerado algo casi imposible, tras ver los esfuerzos sin resultado por parte de OpenAI. No obstante, ahora nos encontramos con una situación distinta y es que resulta que OpenAI ha conseguido crear por fin una herramienta que funciona como detector de ChatGPT. Esta funciona añadiendo un patrón/marca de agua a la forma en la que el modelo LLM escribe la respuesta.

Este tiene un 99% de éxito, pero aún no se ha planteado un lanzamiento público

Este patrón es imperceptible para el ser humano, por lo que el resultado de la IA no va a variar. En cambio, lo que tendremos es la posibilidad de detectar si el texto proviene de ChatGPT con un 99% de éxito. Como podrás imaginar, este detector de ChatGPT cambiará totalmente como funciona todo y podríamos usarlo perfectamente para ver si el contenido escrito fue real o es obra de una inteligencia artificial. OpenAI no tiene pensado lanzarlo debido a varias preocupaciones.

Una de estas es que es muy fácil de saltarse el detector, pues solo funciona con el contenido sacado de ChatGPT directamente. Si utilizamos una respuesta de Google Gemini o de Llama 3 no servirá y de la misma forma que si pasamos lo que ha generado ChatGPT por un traductor también cambiará se saltará el detector. Por otro lado, también es posible que eluda la detección si le pedimos que inserte emotes o alguna simplificación de palabras. Sea como sea, habrá que esperar hasta que OpenAI decida sacar esta herramienta de forma pública.