La IA Gemini ha sido pillada analizando los archivos de Google Drive sin permiso
Desde que ChatGPT llegó a nuestras vidas, hemos empezado a cambiar en como hacemos las cosas. En lugar de hacer búsquedas por Google, le pedimos a la inteligencia artificial que nos dé la respuesta directamente y lo mismo si tenemos alguna duda o incluso si deseamos saber el código para crear un programa. Las IA se han convertido en una herramienta muy útil y hemos visto muchas alternativas a ChatGPT que buscan superarla. La IA Gemini de Google es una de ellas y aunque no dudamos de sus capacidades, ahora un usuario ha descubierto que analiza sin permiso los archivos de Drive y no hay forma de desactivarlo.
La inteligencia artificial generativa es la que nos permite crear contenido y para lograrlo, debe haberse entrenado previamente. Si queremos una inteligencia artificial generativa de imágenes, el entrenamiento previo debe ser con millones de fotos e imágenes de todo tipo. Lo mismo con textos o con vídeos, al final la inteligencia artificial debe aprender como funciona todo para replicarlo.
Un usuario anuncia que la IA Gemini está analizando sus archivos y documentos privados en Google Drive sin su permiso
Just pulled up my tax return in @Google Docs--and unbidden, Gemini summarized it. So...Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.
— Kevin Bankston (@KevinBankston) July 10, 2024
A día de hoy tenemos varios modelos de IA generativa que han aparecido posteriormente a GPT 3.5/4 en el que se basa ChatGPT. Claude de Anthropic o Gemini de Google son solo algunos de estos ejemplos de IA que buscan competir y superar a la de OpenAI. Hoy toca hablar de la IA de Google, Gemini, pues Kevin Bankston ha advertido en X de que esta se ha quedado analizando y usando la información de los documentos privados que guardó en Drive y abrió con Google Docs.
Teniendo en cuenta que Drive y Gemini son propiedad de Google, podemos ver como la empresa se aprovecha de esto y así puede entrenar la IA con nuevos datos, aunque no sabemos hasta qué punto es útil entrenar con documentos personales. En el caso de Kevin, la IA se encargó de resumir los documentos que necesitaba para poder hacer la declaración de impuestos.
Si permitimos que Gemini interactúe con un determinado formato de archivo, va a usarse esta configuración con los próximos que subamos a Drive
Kevin continuó el hilo dando respuestas en base a teorías que tenía en mente, pues consideraba que la IA estaba "alucinando" (mintiendo) cuando le decía de desactivar esta opción en privacidad y él no la encontraba. Si seguimos bajando el hilo de respuestas, por fin encontramos la supuesta solución y era buscando en las extensiones por "Google Workspace", que si la desactivamos impedimos que la IA haga resúmenes de los documentos.
Lo curioso de todo esto, es que Kevin ya la tenía desactivada previamente, por lo que esta no era la solución. Al final todo ha acabado siendo un problema de Google Drive, donde se encuentra la opción de activar Gemini para un tipo de documento (en este caso fue un PDF), lo que provoca que todos los próximos archivos de ese formato reciban el mismo trato de la IA. Además, cree que la activación de Google Workspace Labs en 2023 podría estar creando conflicto con la IA Gemini.