Microsoft se negó a venderle su tecnología de reconocimiento facial a la Policía de California

Hoy es cuando conocemos que Microsoft rechazó un contrato en el que la compañía habría instalado su tecnología de reconocimiento facial en los vehículos y cámaras de los policías de California.

Según los informes de Reuters, a la compañía le preocupaba que la agencia legal de California, que no tenía nombre, la usara de una manera que violara los derechos humanos, y si has jugado a Watch Dogs, ya podrías imaginarte todo lo que esto implica.

A diferencia de otras compañías en la industria tecnológica, a Microsoft le preocupaba que su tecnología de vigilancia llevara a las mujeres y las minorías a ser interrogadas de manera desproporcionada, por la sencilla razón de que la base de datos de la policía en la que se entrenaría a la IA de reconocimiento facial contenía principalmente rostros de hombres blancos. En general, cuantos más datos se utilicen para entrenar sistemas de aprendizaje automático, más preciso será el sistema. Pero incluso entonces no se garantiza el 100% de precisión. Se vuelve mucho más imprecisa cuando también le faltan datos suficientes para entrenar los modelos de AI con alta precisión para el objetivo previsto.

reconocimiento facial

El Presidente de Microsoft, Brad Smith, quien ha estado liderando a la compañía en una dirección más pro derechos humanos en los últimos años, dijo que la policía de California quería hacer un examen facial a todas las personas que habían sido detenidas. La compañía rechazó el contrato y dijo a los representantes de la policía que esta tecnología no es la respuesta.

Smith también indicó que rechazaron otra oferta para instalar sus sistemas de reconocimiento facial en una ciudad capital de un país sin nombre, pues la tecnología habría suprimido la libertad de reunión.

Smith también dijo en la conferencia que las compañías necesitan un compromiso con los derechos humanos, lo que él considera cada vez más crítico, ya que los rápidos avances tecnológicos permiten a los gobiernos realizar una vigilancia general, desplegar robots asesinos autónomos y tomar otras medidas que pueden ser difíciles, si no imposibles, para marcha atrás.

vía: TomsHardware

Artículos relacionados