L'IA : une réflexion sur les inégalités de genre et d'éthique
L’IA : reflet de notre société
Aude Bernheim et Flora Vincent, toutes deux docteures en sciences et co-fondatrices de l’association féministe WAX Science, dénoncent les dangers de la quasi-absence des femmes dans l’IA au niveau de la recherche mais aussi dans les entreprises.
Il en découle des situations sexistes. Par exemple, Google Traduction (logiciel de traduction mis en place par Google) attribue les mots “scientifique” et “ingénieur” à un homme et les mots “infirmer” et “nounou” à une femme. Il existe plusieurs problèmes comme celui-ci où l’intelligence artificielle pensée par des hommes, adopte un comportement que l’on peut qualifier de sexiste. Autre exemple avec Google encore, les offres d’emplois poussées par la plateforme sont rémunérées différemment à poste égale en fonction du sexe de l’internaute. On constate donc bien une différence de traitement entre l’homme et la femme, comme il existe malheureusement dans la vie de tous les jours.
Joy buolamwini, une chercheuse afro-américaine, quant à elle met en lumière un autre aspect peu éthique de l’IA. Elle remarque en 2018 que la reconnaissance faciale de son téléphone peine à identifier son visage et ce parce que... c’est une femme noire. En enquêtant, elle apprend que les algorithmes se sont principalement entraînés sur des hommes blancs âgés de 35 à 50 ans. Il y a donc une différence d'efficacité en fonction du genre et de la couleur de peau liés à une forme de négligence des développeurs.
Vers une technologie plus éthique ?
L’alerte est passée, est espérons que le progrès soit en marche. Il faut féminiser les métiers du numérique, former et sensibiliser les développeurs à l’importance de la mixité. De plus, il faut impérativement changer les données sur lesquelles les différentes IA s'entraînent, afin de régler le problème au plus vite.
Une implication des institutions comme les gouvernements serait également nécessaire, les entreprises seules ne peuvent gérer cette tâche complexe. Instaurer des normes de contrôle et de transparence permettrait une évolution continue et globale, le but étant de créer une IA “digne de confiance”.
