The Conversation propose des articles sur la question du genre en IA. Voici un résumé.
L’informatique compte de nombreuses pionnières, mais les femmes en sont peu à peu évincées à mesure que le domaine gagne en reconnaissance et en prestige. A partir des années 80, les modalités de recrutement, l’augmentation des salaires ainsi que l’utilisation du qualificatif d’ingénieur sont autant d’éléments qui contribuent à faire disparaître les femmes du domaine de l’informatique. Aujourd’hui encore, bien qu’elles soient plus nombreuses que les hommes dans l’enseignement supérieur, elles investissent moins les filières régies par les mathématiques, à l’instar de l’informatique et de l’intelligence artificielle. Elles représentent moins de 20% des spécialistes mondiaux.ales et cette relative absence des femmes, et de diversité de manière générale dans le domaine de l’IA, constitue un réel problème éthique, tant au niveau de la conception qu’au niveau du fonctionnement.
Malgré une mise en avant d’une neutralité de la technologie, la conception des programmes reposent sur les représentations et la vision du monde de la personne qui les crée. L’IA tend à reproduire des stéréotypes de genre mais également raciaux, qui se traduisent par des assistants personnels majoritairement féminins (Siri, Alexa, Cortana), des robots industriels et militaires exclusivement masculins (Syrano, Barakuda), une moindre reconnaissance des voix féminines ou des visages à la peau noire. De plus, l’IA repose sur un système d’apprentissage de la machine à partir de données préalablement récoltées par l’humain et si l’algorithme peut être neutre, les données elles, sont biaisées. Ainsi, en recréant une réalité sociale emprunte de sexisme et de racisme, l’IA reproduit des discriminations, que ce soit par le traitement automatique de CV favorisant les hommes (Amazon), ou encore par le calcul de la solvabilité pénalisant les femmes (Apple Card). La question des biais est prégnante dans le domaine de l’IA, et si leur absence est utopique, une plus grande transparence des données et des algorithmes ainsi qu’une meilleure diversité au sein des équipes sont des facteurs qui permettraient, à terme, d’assurer des bases d’apprentissage plus représentatives de la société et de proposer une IA plus inclusive.
Article rédigé par Lorenn Continni
Pour aller plus loin :
« Pourquoi les filles ont délaissé l’informatique » Chantal Morley https://cutt.ly/ovJCOET
« Pourquoi l’égalité entre les sexes n’efface-t-elle pas les ségrégations dans les filières scientifiques ? » Elyès Jouini, Clotilde Napp, Georgia Thebault, Thomas Breda https://cutt.ly/PvJVomV
« Un $ % de programme sexiste » : comment détecter et corriger les biais des IA » Christophe Pérignon https://cutt.ly/CvJVbA3
« Pourquoi est-il important d’avoir une égalité femmes-hommes dans le monde de l’IA ? » Agnès Helme-Guizon, Céline Ternon, Florence Sèdes https://cutt.ly/1vJVHn5
« Emploi, sécurité, justice : d’où viennent les « biais » des IA et peut-on les éviter ? » Thierry Poibeau https://cutt.ly/evJVBqJ