Compartir
Tweet

‘Por sexista’, despide Amazon a su sistema de reclutamiento

20 agosto, 2019.

El sistema basado en Inteligencia Artificial “se enseñó a sí mismo” que eran preferibles los candidatos de género masculino y penalizaba todos aquellos currículums que incluían referencias femeninas; además, rebajó la calificación que otorgaba a las candidatas que incluían estudios en centros educativos para mujeres.

Staff Digital Bricks (*)

Para agilizar la búsqueda de talento, los especialistas en aprendizaje automático de Amazon comenzaron –desde el 2014- a desarrollar una herramienta basada en inteligencia artificial capaz de procesar un alto número de currículums de solicitantes de empleo y que, tras examinarlos, arrojase cinco candidatos perfectos listos para contratar.

La herramienta pasó del modo experimental y empezó a utilizarse formalmente, pero después de varios casos prácticos los creadores descubrieron que este motor de reclutamiento no juzgaba de manera neutral en cuanto al género, o al menos tenía un sesgo en favor de los hombres a la hora de examinar candidatos para puestos de desarrollador de software y otras ocupaciones de carácter técnico.

La agencia de noticias Routers recabó en 2015 los testimonios de cinco personas familiarizadas con el asunto y, según su informe, los propios expertos de Amazon descubrieron que a su sistema de reclutamiento no le gustaban las mujeres, pero no porque fuera sexista sino por un problema detectado en la base de datos. A saber, había patrones que podían observarse en los currículos presentados a la empresa durante una década, y la mayoría de ellos pertenecían a hombres.

Con este fondo, el sistema “se enseñó a sí mismo” que eran preferibles los candidatos de género masculino y penalizaba todos aquellos currículums que incluían referencias femeninas; además, rebajó la calificación que otorgaba a las candidatas que incluían estudios en centros educativos para mujeres.

Los profesionales de la compañía modificaron los programas de reclutamiento laboral para hacerlos neutros a estos términos particulares, pero –según las fuentes de Reuters- eso no aseguraba la ausencia de sesgos ni garantizaba que el sistema no idease otras formas de discriminación.

La alimentación en forma de datos de la inteligencia artificial (su sustento para funcionar) debe estar correctamente procesada, y en ese procesamiento entran en juego correcciones hipotéticas que pudiera necesitar conocer el sistema para actuar con buen juicio y equidad; por ejemplo, en este caso donde se desarrolló medio millar de modelos informáticos basados en una década de contrataciones, la inteligencia artificial debió haber sabido que una de las intenciones era ofrecer igualdad de oportunidades independientemente del sexo, algo que finalmente no es sencillo.

En su momento, Amazon se negó a comentar acerca del asunto, pero se sabe que a principios del año pasado decidió disolver el equipo creador de esta inteligencia artificial de reclutamiento. Las altas esferas de la empresa perdieron la esperanza en el proyecto y su verdadera utilidad, así que se dejó de usar, aunque algunos datos sí habrían sido empleados por reclutadores humanos.

Este caso curioso y llamativo, sumado a otros de similares tintes, pone de manifiesto las limitaciones del aprendizaje automático y el amplio trabajo que queda por delante. No resulta sencillo ejercitar un sistema de inteligencia artificial ni obtener los resultados esperados sin errores, por grandes o pequeños que estos sean.

Un ambiente laboral “sin alma”

Los recursos humanos de la más poderosa compañía de comercio online del mundo es un tema que siempre ha estado en el ojo del huracán, tal vez por ello su fundador y presidente, Jeff Bezos, decidió invertir en un sistema de inteligencia artificial de reclutamiento como el mencionado párrafos más arriba. Pero vale la pena recordar que durante el Tercer Congreso de la Confederación Internacional de Sindicatos, realizado en la ciudad de Berlín en 2014, el CEO de Amazon fue catalogado como “el peor jefe del mundo”. Sharan Burrow, secretaria del organismo, indicó que “Jeff representa la inhumanidad de los patronos, la que está siendo promocionada por el modelo empresarial estadounidense”.

También, a mediados de agosto del 2015, The New York Times hizo una fuerte crítica sobre las“asombrosamente crueles prácticas de gestión” con los empleados de Amazon, a quienes se les trató sin empatía mientras hacían frente a tragedias familiares y serios problemas de salud.

Bezos reaccionó ante el penoso retrato de su empresa (dibujado como “un ambiente laboral sin alma, en el que uno no puede divertirse y nadie se ríe”), y aseguró que él no tolera acciones descritas en el artículo publicado por dicho diario, el cual contenía los testimonios de empleados que sufrieron evaluaciones laborales injustas o a los que se les arrinconó sin darles tiempo para recuperarse de un cáncer, abortos involuntarios u otras crisis personales.

Bo Olson, quien fuera despedido poco antes de cumplir dos años en su puesto de mercadotecnia, declaró en su momento que la imagen que le había quedado en la mente era la de gente llorando en la oficina, algo que también describieron otros empleados.

En el mismo artículo se habla igualmente de una compañía que anima a los empleados a “destrozar” las ideas de sus compañeros en las reuniones de trabajo; se asegura además que los empleados recibían correos pasada la medianoche, seguidos de mensajes de texto preguntándoles por qué no los contestaban, y ni qué decir del directorio telefónico interno de Amazon, el cual proveía instrucciones acerca de cómo enviar comentarios privados a los jefes sobre otros compañeros, incluso si estos no trabajaban en el mismo departamento.

(*) Con información de TyN Magazine.



Etiquetas: , , , ,

Comentarios

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *