L'intelligence artificielle d'Amazon, conçue pour trier les CV des demandeurs d'emploi, a classé les hommes plus haut que les femmes. En particulier, il a rejeté les CV contenant le mot «féminin» et a proposé d'embaucher des candidats qui utilisaient des verbes masculins typiques dans leur discours, même si ces personnes n'avaient pas les compétences nécessaires. En conséquence, l'entreprise a dû fermer le projet.
Intelligence artificielle RH
Les experts en apprentissage automatique d'Amazon ont constaté que l'intelligence artificielle qui traite le CV des candidats à des postes dans l'entreprise discrimine les femmes à la recherche d'un emploi, a rapporté Reuters. Cette fonctionnalité n'a pas été intentionnellement intégrée au système - c'était le résultat de l'apprentissage automatique.
Un moteur de tri de CV basé sur l'intelligence artificielle est en cours de développement chez Amazon depuis 2014 par une équipe de 12 personnes à Édimbourg. Déjà en 2015, l'entreprise avait remarqué que le nouveau système n'adhérait pas au principe de neutralité de genre lors de l'évaluation des candidats à des postes de développement logiciel et à d'autres postes vacants techniques.
Bientôt, ils ont compris la raison: le fait est que le système a été formé sur les CV saisis par l'entreprise au cours des 10 dernières années. La plupart de ces CV étaient détenus par des hommes, ce qui reflète globalement l'état des choses dans l'industrie informatique. En conséquence, l'intelligence artificielle d'Amazon a appris que les hommes à la recherche d'un emploi sont préférés aux femmes.
Rejet linguistique
Vidéo promotionelle:
En conséquence, l'intelligence artificielle a commencé à se débarrasser des CV contenant le mot «femme» dans des expressions telles que «capitaine du club d'échecs féminin». Le mécanisme a également abaissé les notes des diplômées de deux collèges pour femmes, mais les sources de Reuters n'ont pas précisé leurs noms. Lors de l'évaluation des CV, l'intelligence artificielle leur a attribué entre une et cinq étoiles, ce qui est très similaire à la façon dont les acheteurs évaluent les produits sur Amazon.
Le système a également prêté attention à d'autres mots. Les développeurs ont créé 500 modèles informatiques pour différentes responsabilités professionnelles et emplacements géographiques. Chaque modèle a été formé pour reconnaître environ 50 000 mots indicateurs qui étaient présents dans le curriculum vitae du candidat.
Il est à noter que le mécanisme ignorait les mots dénotant des compétences qui sont souvent énoncées dans les CV des professionnels de l'informatique, telles que la capacité à écrire divers codes, etc. (exécutés) ou "capturés", comme on les voyait régulièrement dans les anciens CV dont la machine apprenait. Avec cette approche, la discrimination fondée sur le sexe n'était pas le seul problème - le mécanisme recommandait souvent des personnes qui n'avaient pas les compétences nécessaires pour le poste.
L'avenir du projet
Amazon a ajusté le système pour qu'il ne réponde plus aux mots indicateurs. Cependant, cela ne garantissait pas que le mécanisme ne trouverait pas un autre moyen d’identifier les CV appartenant à des femmes. Début 2017, l'entreprise a perdu ses illusions sur le projet et a dissous l'équipe. Des sources de Reuters affirment que les spécialistes des ressources humaines ont pris en compte les recommandations du système, mais ne se sont jamais fondés uniquement sur elles.
Une des sources dit que le projet est clos. Un autre fait valoir qu'une nouvelle équipe a été formée à Édimbourg pour continuer à développer le mécanisme, mais cette fois avec un accent sur l'équité et l'inclusion. Une autre source rapporte qu'une version fortement modifiée du moteur est maintenant utilisée pour effectuer des tâches de routine, telles que la suppression des curriculum vitae en double de la base de données.