¿Tienes una Roomba? Pues te está haciendo fotos y pueden acabar en Internet

Los robots aspiradores son una de esas pequeñas revoluciones que, una vez los pruebas, ya no quieres vivir sin ellos por la comodidad y limpieza que aportan. Pero en el caso que se ha descubierto ahora quizás esa necesidad te la replantees, puesto que tu Roomba está haciendo fotos todo el tiempo y estas fotos podrían terminar en Internet como les ha pasado a una cantidad ingente de personas.

Por si no lo sabías, cualquier robot medianamente avanzado es capaz de tomar imágenes de su entorno para que a través de la IA pueda hacer su trabajo de forma más efectiva. No son todos los modelos en el mercado obviamente, pero sí que cada vez son más. Estas fotos son enviadas para un tratamiento de imágenes de manera que se pueda mejorar con sus algoritmos, pero...

El robot toma las imágenes, las envía a empresas y el humano hace el resto

Roomba i7+ (1)

El procedimiento de actuación es simple: tu robot toma imágenes todos los días conforme va limpiando por tu casa, esas imágenes no están filtradas, es decir, pueden ver tu cara y la de los tuyos, tus mascotas, tus muebles, todo en general. Pues bien, una vez tomadas las fotos esas imágenes se envían a empresas de tratamiento de datos, las cuales los evalúan para ofrecer metadatos de manera que los algoritmos en los que trabajan las empresas que diseñan los robots puedan entrenar con IA el software.

¿Dónde está la trampa? Pues que en las empresas de tratamiento de datos algunos trabajadores tienen que evaluar las imágenes y muchos las han compartido mediante redes sociales, además de manera pública, lo que implica que todo el mundo las puede ver.

El caso en concreto que nos sirve para documentar todo lo dicho nos lleva a MIT Technology Review, los cuales han estado investigando todo lo relacionado con las fotografías tomadas por su aspirador Roomba, fabricado por iRobot. El seguimiento llegó a las redes sociales y de ahí se comenzó a tirar del hilo, y no gustó nada lo que encontraron.

Scale AI filtró las fotos de las Roomba por culpa de varios empleados

Roomba imágenes internet 2

Al hacer públicas las fotos de varios robots Roomba y tras denunciarlo MIT Technology Review, un usuario anónimo se puso en contacto con ellos, argumentando que era un probador oficial de iRobot y su Roomba. Tras conversar y lanzar otra investigación paralela descubrieron que las imágenes llegaban a los servidores de Scale AI, una empresa que subcontrata a otras empresas para que les ayuden a evaluar los datos a modo de imágenes, los cuales llegan sin censura como hemos explicado más arriba.

Fueron los trabajadores de Scale AI conversando en redes sociales entre ellos los que compartieron fotos privadas de algunos de usuarios sabiendo que estaban de forma pública colgadas en sus redes sociales.

Se han contabilizado hasta 15 imágenes por ahora, lo cual alarmó en EE.UU. a la gente tras saberse el caso, algo que llegó a oídos de iRobot y de momento terminaron la relación laboral con Scale AI.

El problema es que el CEO de iRobot quiso poner calma respondiendo a las acusaciones de MIT Technology Review, y el efecto fue el contrario, puesto que comentó que no había ningún problema o peligro en exponer imágenes privadas en casas de todo el mundo en manos de trabajadores que en su mayoría, además, eran temporales.

robot-imágenes-internet-6

Esto ha levantado un debate sobre la privacidad y cómo deber ser tratada por los robots. ¿Dónde está el límite? ¿Es mejor optar por un robot de gama media o baja, sin cámara ni IA, para guardar nuestra privacidad? ¿Qué más datos son capaces de recopilar? Un buen debate a tratar sin duda.


Declaración oficial de iRobot, la compañía detrás de las Roomba

Actualizamos el artículo con las declaraciones oficiales que hemos recibido por parte de la compañía.

  • Las imágenes destacadas en ambos artículos no son de robots finales para comercialización en los hogares de los consumidores. Cualquier caracterización de que lo son sería falsa y engañosa.
  • Las imágenes proceden de robots en desarrollo utilizados por recopiladores de datos que han sido empleados y remunerados en 2020. Los recopiladores de datos son informados y reconocen cómo se recopilarán los datos. En algunos casos, los robots en desarrollo se modifican con software y hardware expresamente para la recogida de datos con el fin de apoyar los esfuerzos de aprendizaje automático. Las modificaciones no están presentes en los robots finales para comercialización que compran los consumidores. Los robots en desarrollo utilizados para estos fines también llevan una pegatina verde neón claramente visible que dice "grabación de vídeo en curso"
  • En la actualidad, todos los datos que se utilizan de forma activa para entrenar algoritmos de aprendizaje automático proceden de robots en desarrollo utilizados por recopiladores de datos pagados, de la recopilación de datos de empleados internos y de datos procedentes de los laboratorios internos, ninguno de ellos procede de clientes.
  • Los clientes de la serie Roomba j7 han podido optar por elegir y enviar imágenes para fines de aprendizaje automático desde el lanzamiento del modelo j7+ en septiembre de 2021. Aunque esas imágenes han comenzado a ser anotadas y se utilizarán para entrenar algoritmos de aprendizaje automático en el futuro, todavía no están siendo utilizadas para ello.
  • iRobot ha implementado una variedad de programas de pruebas a lo largo de los años, cada uno de los cuales puede incluir diferentes acuerdos, dependiendo de la naturaleza del trabajo. No todos los programas de pruebas incluyen robots con cámaras para fines de aprendizaje automático.
  • Para las pruebas en las que se capturan imágenes con fines de aprendizaje automático y anotación de imágenes, existen términos específicos que se describen en el acuerdo correspondiente a dicha prueba.
  • Cuando iRobot se enteró de la filtración original en diciembre, la empresa tomó medidas inmediatas para alertar a las personas que aparecían en las imágenes filtradas, detuvo inmediatamente todo trabajo con Scale AI y ha notificado su cese a Scale AI.
  • iRobot se toma muy en serio la privacidad y la seguridad de los datos, no solo con sus clientes, sino en todos los aspectos de su negocio, incluida la investigación y el desarrollo. La empresa cuenta con medidas estrictas que rigen la forma en que gestiona los datos recopilados de los robots en desarrollo y en investigación y toma precauciones para garantizar que los datos personales se procesan de forma segura y de conformidad con la legislación aplicable.
  • iRobot valora los comentarios de la comunidad de pruebas y se toma en serio los comentarios realizados en el artículo. La empresa está revisando sus procesos de prueba para determinar si es necesario realizar cambios en el futuro.

Por otro lado:

Colin nunca dijo que este tema no fuera motivo de preocupación, y esto fue corregido por el MIT Review. El artículo dice ahora, textualmente. “Sin embargo, en un post de LinkedIn en respuesta a nuestra historia, el CEO de iRobot, Colin Angle, no reconoció que el mero hecho de que estas imágenes, y los rostros de los usuarios de prueba, fueran visibles para los trabajadores humanos fuera motivo de preocupación”.