Slack ha estado escaneando todos mensajes de los usuarios para entrenar modelos de IA

Son cada vez más las redes sociales o aplicaciones de mensajería instantánea, como Slack, que aprovechan los comentarios de sus usuarios para entrenar modelos de IA sin su consentimiento. Slack es una aplicación de mensajería instantánea enfocada al uso profesional. Básicamente, se emplea para comunicaciones de índole profesional y organizaciones. Es competencia de otras aplicaciones más conocidas como Skype, Microsoft Teams o Flock.

Ahora se ha descubierto que Slack está entrenando modelos de aprendizaje automático con todos los mensajes de sus usuarios sin permiso explícito. Es más, también se entrena con todos los archivos que se pasan por medio de la aplicación y cualquier otro tipo de contenido. Para más inri, el escaneo de toda la información de los usuarios es forzosa.

Si quieres evitar la monitorización de todos los comentarios, Slack exige el envío de un email

Lo más curioso de todo, es que Slack tiene de serie el escaneo de toda la información de su aplicación para el entrenamiento de la IA. Siendo lo peor de todo que, para quitarlo, los usuarios tienen que pedirle al administrador de Slack de su organización que envíe un correo electrónico a la empresa para pedirle que detenga este escaneo. Los usuarios no pueden enviar ningún tipo de email para detener el escaneo, solo los administradores, como pueda ser alguien de recursos humandos o TI en una compañía.

Fue Corey Quinn , ejecutivo de DuckBill Group, el que descubrió que Slack usaba toda la información de sus usuarios para entrenar una IA. Esto fue gracias a leer la política de los Principios de privacidad de Slack.

"Para desarrollar modelos de IA/ML, nuestros sistemas analizan los Datos del cliente (por ejemplo, mensajes, contenido y archivos) enviados a Slack, así como Otra información (incluida la información de uso), tal y como se define en nuestra Política de privacidad y en su contrato de cliente."

La compañía se defiende: Slack no accede al contenido de los mensajes privados, canales privados o canales públicos para su uso en IA

Debido a la viralidad de la noticia, fue este fin de semana cuando Slack publicó una entrada en su blog. En ella intentó aclarar cómo se utilizan los datos de sus clientes. Según la empresa, los datos de los clientes no se utilizan para entrenar ninguno de los productos de IA generativa de Slack. La compañía indica que para ello depende de modelos de lenguaje de terceros. La información recopilada sirve para únicamente entrenar sus modelos de aprendizaje automático para productos "como las recomendaciones de canales y emojis y los resultados de búsqueda".

Para esas aplicaciones, Slack se defiende indicando que "los modelos ML tradicionales de Slack utilizan datos agregados desidentificados y no acceden al contenido de los mensajes en DMs, canales privados o canales públicos".

Un portavoz de Salesforce (dueña de Slack Technologies), reiteró esto en una declaración a Engadget. También dijo que "no construimos ni entrenamos estos modelos de tal manera que puedan aprender, memorizar o ser capaces de reproducir datos de clientes". Ahora bien, han ocultado toda esta información, y no permiten al usuario escoger si quieren ser o no monitorizados. Por no hablar de ser necesario el envío de un email para evitar que se recopile toda la información de los usuarios.

“Para aclararlo, Slack tiene modelos de aprendizaje automático a nivel de plataforma para cosas como recomendaciones de canales y emojis y resultados de búsqueda. Y sí, los clientes pueden excluir sus datos para ayudar a entrenar esos modelos de aprendizaje automático (no generativos).