Quand l'IA d'Amazon discriminait les femmes

christian-wiediger-626856-unsplash.jpg

Error 404 !

Allison @TeamBossie | 3 minutes

C’est le buzz du moment : L’intelligence artificielle d’Amazon qui devait analyser les candidatures des futurs collaborateurs de la firme fait du sexisme à l’embauche !

C’est en 2014 qu’Amazon commence à concevoir des programmes informatiques dédiés au recrutement. Les CV reçus sont alors analysés à coup d’algorithmes avant d’être évalués à l’aide d’un système de points. Jusque-là rien de très discriminant… Mais alors comment l’IA a-t-elle pu virer sexiste ?

L’erreur n’était pas bien loin ! C’est tout simplement la programmation de l’IA qui est à l’origine de ces discriminations. Programmée sur les CV des personnes recrutées ces dix dernières par Amazon, l’IA n’a fait que valoriser les profils les plus similaires.

Dans un secteur des nouvelles technologies majoritairement occupé par les hommes, les candidatures de femmes étaient sont automatiquement dévaluées. Deux candidates issues de facultés réservées aux filles ont même été déclassées, le mot clé ‘femme’ étant trop répété sur leur CV…

Un accident de trop et de trop grande importance pour Amazon, qui avait perçu d’autres dysfonctionnements dans le programme de recrutement. La firme a donc décidé d’y mettre fin.

Toutefois si l’histoire nous apprend que les IA doivent encore être améliorées pour aider efficacement le secteur des Ressources Humaines, elle dévoile une autre réalité bien vraie : c’est à force de sous-représentations de ‘minorités’, qu’on en vient a davantage encore les effacer…