A la Une

Biais contre les femmes: Amazon élimine un outil de recrutement secret d’IA

Dans cette photo du 27 juillet 2018, le logo d’Amazon est affiché sur un écran du Nasdaq MarketSite. (RICHARD DREW / AP)

Les spécialistes de l’apprentissage automatique de SAN FRANCISCO – Amazon.com Inc. ont découvert un gros problème: leur nouveau moteur de recrutement n’aimait pas les femmes.

L’équipe avait mis au point des programmes informatiques depuis 2014 pour passer en revue les curriculum vitae des candidats à un poste dans le but de faciliter la recherche des meilleurs talents, ont déclaré à Reuters cinq personnes familiarisées avec cet effort.

L’automatisation a été la clé de la domination du commerce électronique d’Amazon, que ce soit dans les entrepôts ou dans la prise des décisions en matière de tarification. L’outil d’embauche expérimental de la société a utilisé l’intelligence artificielle pour donner aux candidats des notes allant de 1 à 5 étoiles – un peu comme les clients évaluent les produits sur Amazon, selon certaines personnes.

« Tout le monde voulait ce Saint Graal », a déclaré l’une des personnes.

« Ils voulaient littéralement que ce soit un moteur dans lequel je vais vous donner 100 CV, il va cracher le top cinq, et nous allons les engager. »

LIRE PLUS: Amazon ajoute des appareils Echo pour la maison et la voiture

Mais en 2015, la société a réalisé que son nouveau système ne notait pas les candidats aux postes de développeur de logiciel ni aux autres postes techniques de manière non sexiste.

Cela s’explique par le fait que les modèles informatiques d’Amazon ont été formés pour examiner les candidats en observant les modèles de curriculum vitae soumis à l’entreprise sur une période de 10 ans. La plupart venaient d’hommes, ce qui reflétait la domination des hommes dans l’industrie des technologies.

En réalité, le système d’Amazon a appris par lui-même que les candidats masculins étaient préférables. Il a pénalisé les curriculum vitae qui incluaient le mot « femmes », comme dans « capitaine de club d’échecs féminin ». Et il a déclassé les diplômés de deux collèges entièrement féminins, selon des personnes familières avec le sujet. Ils n’ont pas précisé les noms des écoles.

Amazon a modifié les programmes pour les rendre neutres par rapport à ces termes particuliers. Mais cela ne garantissait pas que les machines ne trouveraient pas d’autres moyens de trier les candidats susceptibles de se révéler discriminatoires, ont déclaré les personnes.

La société de Seattle a finalement dissout l’équipe au début de l’année dernière parce que les dirigeants avaient perdu tout espoir quant au projet, d’après les personnes qui parlaient sous le couvert de l’anonymat.

Les recruteurs d’Amazon ont examiné les recommandations générées par l’outil lors de la recherche de nouveaux employés, mais ils ne se sont jamais appuyés uniquement sur ces classements, ont-ils déclaré.

A LIRE AUSSI: Amazon et Flipkart séduisent les acheteurs indiens avec de nouvelles fonctionnalités

Amazon a refusé de commenter le moteur de recrutement ou ses défis, mais la société s’est engagée à promouvoir la diversité et l’égalité des lieux de travail.

L’expérience de la société, que Reuters est le premier à signaler, offre une étude de cas sur les limites de l’apprentissage automatique. Elle sert également de leçon à la liste croissante de grandes entreprises, notamment Hilton Worldwide Holdings Inc et Goldman Sachs Group Inc, qui cherchent à automatiser des parties du processus de recrutement.

Selon un sondage réalisé en 2017 par la société de développement de logiciels CareerBuilder, environ 55% des responsables des Etats-Unis d’Amérique des ressources humaines ont déclaré que l’intelligence artificielle, ou IA, ferait partie de leur travail habituel.

Les employeurs rêvent depuis longtemps de tirer parti de la technologie pour élargir le réseau d’embauche et réduire le recours aux opinions subjectives des recruteurs. Mais des informaticiens tels que Nihar Shah, qui enseigne l’apprentissage automatique à la Carnegie Mellon University, affirment qu’il reste encore beaucoup à faire.

« Comment s’assurer que l’algorithme est juste, comment s’assurer que l’algorithme est vraiment interprétable et explicable – c’est encore assez loin », a-t-il déclaré.

LANGAGE MASCULIN

L’expérience d’Amazon a commencé à un moment charnière pour le plus grand détaillant en ligne du monde. L’apprentissage automatique gagnait en popularité dans le monde de la technologie, grâce à la montée en puissance de la puissance de calcul à faible coût. Et le département des ressources humaines d’Amazon était sur le point de se lancer dans une aventure de recrutement: depuis juin 2015, l’effectif global de la société a plus que triplé pour atteindre 575 700 travailleurs, selon les rapports réglementaires.

Elle a donc mis en place une équipe dans le centre d’ingénierie d’Amazon à Edimbourg, qui compte désormais une douzaine de personnes. Leur objectif était de développer une intelligence artificielle capable d’explorer rapidement le Web et de repérer les candidats intéressants à recruter, ont déclaré les personnes familiarisées avec le sujet.

Le groupe a créé 500 modèles informatiques axés sur des fonctions et des emplacements spécifiques. Ils ont appris à chacun à reconnaître quelque 50 000 termes figurant sur les curriculum vitae des candidats précédents. Les algorithmes ont appris à attribuer peu d’importance aux compétences communes à tous les candidats informatiques, telles que la capacité à écrire divers codes informatiques, ont indiqué les participants.

Au lieu de cela, la technologie a favorisé les candidats qui se sont décrits en utilisant des verbes plus communs sur les curriculum vitae d’ingénieurs masculins, tels que « exécuté » et « capturé », a déclaré une personne.

Le sexisme n’était pas le seul problème. Les problèmes avec les données qui étayaient les jugements des modèles signifiaient que des candidats non qualifiés étaient souvent recommandés pour toutes sortes d’emplois, a déclaré la population. La technologie donnant des résultats presque au hasard, Amazon a mis fin au projet, ont-ils déclaré.

LE PROBLÈME OU LA CURE?

D’autres entreprises vont de l’avant, soulignant le désir des employeurs de faire appel à l’IA pour le recrutement.

Kevin Parker, directeur général de HireVue, une startup basée à Salt Lake City, a déclaré que l’automatisation aidait les entreprises à regarder au-delà des réseaux de recrutement sur lesquels elles s’appuyaient depuis longtemps. Son entreprise analyse les discours et les expressions faciales des candidats lors d’entretiens vidéo afin de réduire le recours aux CV.

« Vous ne reveniez pas dans les mêmes endroits, vous ne reveniez pas uniquement dans les écoles de l’Ivy League », a déclaré Parker. Les clients de son entreprise sont notamment Unilever PLC et Hilton.

Goldman Sachs a créé son propre outil d’analyse de curriculum vitae qui essaie de faire correspondre les candidats à la division où ils seraient « les mieux adaptés », a déclaré la société.

Microsoft Corp’s LinkedIn, le plus grand réseau professionnel au monde, est allé plus loin. Il propose aux employeurs un classement algorithmique des candidats en fonction de leur aptitude à être affiché sur son site.

Néanmoins, John Jersin, vice-président de LinkedIn Talent Solutions, a déclaré que ce service ne saurait remplacer les recruteurs traditionnels.

« Je ne ferais certainement pas confiance à aucun système d’IA aujourd’hui pour prendre une décision d’embauche tout seul », a-t-il déclaré. « La technologie n’est pas encore prête. »

Certains militants se disent préoccupés par la transparence de l’IA. L’American Civil Liberties Union s’oppose actuellement à une loi autorisant des poursuites pénales à l’encontre des chercheurs et des journalistes qui testent la discrimination des algorithmes de sites Web d’embauche.

Traduction : MIRASTNEWS

Source : CHINA DAILY

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

%d blogueurs aiment cette page :