Amazon ‘despide’ por machista a su Inteligencia Artificial de reclutamiento laboral

Desde que se han comenzado a crear Inteligencias Artificiales que interactúan con humanos, no han sido precisamente pocos los ejemplos de cómo puede salir mal. Aunque, de cara a una gran compañía, una IA puede ahorrar mucha carga de trabajo en un proceso que sea más o menos sistemático, hay ocasiones en las que no sale finalmente como se esperaba, y eso es justamente lo que acaba de experimentar Amazon con su IA de contrataciones.

Y es que un equipo especialista en sistemas de aprendizaje automático dentro de Amazon creó durante los últimos años una Inteligencia Artificial para revisar los currículums de los solicitantes de empleo. Con el paso del tiempo, sus creadores se dieron cuenta de un grave fallo del sistema: su forma de reclutar nuevos empleados era totalmente machista. No le gustaban las mujeres.

La idea inicial era que esta IA fuese capaz de inspeccionar cientos de currículums de muchos solicitantes de empleo, para así analizarlos y proporcionar a Amazon cinco nombres, cinco personas concretas que fueran seleccionadas por sus méritos, de forma neutral. Obviamente, la cosa no terminó siendo así, y es por ello que Amazon tuvo que ‘despedir’ a su Inteligencia Artificial.

El problema de esta IA, como decimos, es que tenía un comportamiento sexista. Básicamente, al seleccionar a candidatos, el sistema no juzgaba de forma neutral en lo que se refiere al sexo de la persona, ya que tenía un sesgo en favor de los hombres. La causa de este fallo es que la red neuronal fue alimentada con datos de contrataciones de los últimos años de Amazon. Estos datos mostraban una clara predilección por parte de la empresa estadounidense de contratar a hombres antes que a mujeres para puestos técnicos, lo que dio a entender a la IA que, simplemente, las mujeres no son válidas para esos puestos.

vía: Fudzilla

Artículos relacionados