Software

Slack ha estado escaneando todos mensajes de los usuarios para entrenar modelos de IA

Compartir

Son cada vez más las redes sociales o aplicaciones de mensajería instantánea, como Slack, que aprovechan los comentarios de sus usuarios para entrenar modelos de IA sin su consentimiento. Slack es una aplicación de mensajería instantánea enfocada al uso profesional. Básicamente, se emplea para comunicaciones de índole profesional y organizaciones. Es competencia de otras aplicaciones más conocidas como Skype, Microsoft Teams o Flock.

Ahora se ha descubierto que Slack está entrenando modelos de aprendizaje automático con todos los mensajes de sus usuarios sin permiso explícito. Es más, también se entrena con todos los archivos que se pasan por medio de la aplicación y cualquier otro tipo de contenido. Para más inri, el escaneo de toda la información de los usuarios es forzosa.

Si quieres evitar la monitorización de todos los comentarios, Slack exige el envío de un email

Lo más curioso de todo, es que Slack tiene de serie el escaneo de toda la información de su aplicación para el entrenamiento de la IA. Siendo lo peor de todo que, para quitarlo, los usuarios tienen que pedirle al administrador de Slack de su organización que envíe un correo electrónico a la empresa para pedirle que detenga este escaneo. Los usuarios no pueden enviar ningún tipo de email para detener el escaneo, solo los administradores, como pueda ser alguien de recursos humandos o TI en una compañía.

Fue Corey Quinn , ejecutivo de DuckBill Group, el que descubrió que Slack usaba toda la información de sus usuarios para entrenar una IA. Esto fue gracias a leer la política de los Principios de privacidad de Slack.

"Para desarrollar modelos de IA/ML, nuestros sistemas analizan los Datos del cliente (por ejemplo, mensajes, contenido y archivos) enviados a Slack, así como Otra información (incluida la información de uso), tal y como se define en nuestra Política de privacidad y en su contrato de cliente."

La compañía se defiende: Slack no accede al contenido de los mensajes privados, canales privados o canales públicos para su uso en IA

Debido a la viralidad de la noticia, fue este fin de semana cuando Slack publicó una entrada en su blog. En ella intentó aclarar cómo se utilizan los datos de sus clientes. Según la empresa, los datos de los clientes no se utilizan para entrenar ninguno de los productos de IA generativa de Slack. La compañía indica que para ello depende de modelos de lenguaje de terceros. La información recopilada sirve para únicamente entrenar sus modelos de aprendizaje automático para productos "como las recomendaciones de canales y emojis y los resultados de búsqueda".

Para esas aplicaciones, Slack se defiende indicando que "los modelos ML tradicionales de Slack utilizan datos agregados desidentificados y no acceden al contenido de los mensajes en DMs, canales privados o canales públicos".

Un portavoz de Salesforce (dueña de Slack Technologies), reiteró esto en una declaración a Engadget. También dijo que "no construimos ni entrenamos estos modelos de tal manera que puedan aprender, memorizar o ser capaces de reproducir datos de clientes". Ahora bien, han ocultado toda esta información, y no permiten al usuario escoger si quieren ser o no monitorizados. Por no hablar de ser necesario el envío de un email para evitar que se recopile toda la información de los usuarios.

“Para aclararlo, Slack tiene modelos de aprendizaje automático a nivel de plataforma para cosas como recomendaciones de canales y emojis y resultados de búsqueda. Y sí, los clientes pueden excluir sus datos para ayudar a entrenar esos modelos de aprendizaje automático (no generativos).

Borja Rodríguez

Los comentarios de Disqus están cargando....
Publicado por
Borja Rodríguez

Entradas recientes

Una demanda colectiva cae sobre Intel por engañar con los ingresos de Intel Foundry Services

Compañías como TSMC son totalmente necesarias en la industria de los semiconductores, pues como líder… Leer más

10 horas hace

Estos son los precios filtrados de los AMD Ryzen 9000 y su disponibilidad en tiendas

Si estás esperando como agua de mayor las nuevas CPU de AMD hoy te pondrás… Leer más

11 horas hace

Zephyr lanza la primera GeForce RTX 4070 en formato Mini-ITX (172 mm de longitud)

La primera GPU GeForce RTX 4070 en formato Mini-ITX ha sido lanzada al mercado, y… Leer más

12 horas hace

Huawei tiene un smartphone tan avanzado y rompedor que está enfrentando problemas de software y temperatura

Huawei fue conocida en el pasado como una de las compañías más populares de smartphones… Leer más

13 horas hace

Cualquier versión de Windows y Office (o packs descuentos) desde GoDeal24

Gracias a nuestra colaboración con GoDeal24 volvemos con unas cuantas ofertas que te van a… Leer más

13 horas hace

EVGA X670E Classified: la placa base que se fabricó y no se lanzó aparece a un precio desorbitado en subasta

A la hora de comprarnos los componentes para un PC, muchas veces vamos a hacer… Leer más

14 horas hace