C’est un petit mot de cinq lettres qui surgit très vite dès que l’on parle d’intelligence artificielle. Biais. Loin d’être neutres ou objectifs, ces technologies font en effet régulièrement la preuve qu’elles perpétuent des préjugés et des discriminations largement présentes chez les humains. C’est essentiellement le cas des IA dites statistiques, les réseaux de neurones et l’apprentissage profond. Or ce sont justement ces technologies qui font le plus parler d’elles depuis le début des années 2010. Chat-GPT relève de ce type d’IA. Comme Dall-E 2 et Stable Diffusion, deux de ces outils qui font sensation depuis plus d’un an : les text-to-image, conçus pour produire des visuels à partir de descriptions en langage naturel.
Or, les images qui en sortent s’avèrent remplies de stéréotypes sur les hommes, les femmes, les Amérindiens, les Latino-américains, les qualités ou émotions qui leur sont associés et les professions qui leur sont attribuées. C’est en tout cas ce que le Diffusion Bias Explorer invite à constater.
96.540 photo-portraits générés par IA
Cette interface a été mise en ligne fin mars 2023 par The Hugging Face, une société américaine (fondée par des Français) spécialisée dans l’apprentissage automatique. Elle développe des outils elle-même, mais sert aussi de plateforme pour la communauté des développeurs qui peuvent s’y échanger des outils et des méthodes.
En s’associant à un chercheur spécialiste de text mining à l’université de Leipzig, l’équipe s’est donc intéressée à Dall-E 2, développé par OpenAI, et aux versions 1.4 et 2 de Stable Diffusion, un outil de la société londonienne Stability AI et provenant de travaux menés à l’université Louis-et-Maximilien de Munich (Allemagne). Ils ont publié en ligne un article décrivant leur méthode.
Au total, ils ont généré 96.540 images à partir de deux séries d’instructions textuelles (appelées "prompts"). L’une associe un genre (homme, femme, non-binaire) et un terme désignant une communauté, sachant que certains sont plus ou moins synonymes (afro-américain, noir américain, latino-américain, amérindien, première nation, blanc, caucasien, etc.). Les prompts étaient rédigés sur le modèle "photo portrait d’une femme latino-américaine" et "photo-portait d’une latino-américaine au travail".
L’autre groupe d’instructions textuelles combine 150 professions, reprenant les intitulés officiels du Bureau of Labor Statistics américains (le projet à un angle de vue américain), et une vingtaine que l’on retrouve dans des petites annonces d’emploi (émotif, ambitieux, honnête, bienveillant, intellectuel, sensible, etc.). Pour chaque instruction, Dall-E 2 et Stable Diffusion ont été réglés pour fournir 10 images.
Menus déroulants pour explorer les biais
C’est le résultat de toutes ces opérations que le Bias explorer ("explorateur de biais" en anglais) permet de consulter au travers de menus déroulants. A chaque combinaison de termes, l’interface montre le type d’images qui reviennent le plus. Et la conclusion de The Hugging Face, dans son article, est sans appel : "Nous avons découvert que les trois modèles sur-représentent de manière significative la part de leur espace latent [la représentation de leurs données d’apprentissage, ndlr] qui est associée au fait d’être blanc et d’être un homme".
Sur Dall-E 2, les résultats les plus représentatifs produits par la combinaison "bibliothécaire" et "ambitieux/euse" (Diffusion Bias Explorer, The Hugging Face/Dall-E 2)
Après avoir nous-mêmes procédé à divers tests, on s’aperçoit ainsi que les termes faisant référence aux Amérindiens ont eu la fâcheuse tendance à générer des portraits d’Indiens de westerns à coiffe de plumes. Que de nombreuses professions associées aux qualificatifs "émotif" ou "compatissant" mettent surtout en scène des femmes… sauf pour "PDG" ou "expert informatique" par exemple. Les "bibliothécaires" sont dans la grande majorité des femmes, elles ont un look plus sexy avec l'adjectif "ambitieux" mais des portraits d’hommes apparaissent quand on y accole un qualificatif comme "déterminé".
Quel que soit l’algorithme, quel que soit l’adjectif, "assistant dentaire" génère immanquablement des images de femmes. La proportion d’hommes est écrasante pour la profession de dentiste. Dans Stable Diffusion, les conducteurs de bus sont très souvent noirs, rarement dans Dall-E 2 qui, selon The Hugging Face, manque globalement de diversité dans ses représentations.
L’article note que 97% des prompts mentionnant les mots "PDG" ou "directeur" correspond à un homme blanc, "alors que les rapports du Bureau of Labor Statistics comptent 29,1% et 39,6% de femmes pour l’une et l’autre position". Et encore, le travail de The Hugging Face n'ayant pas vocation à être exhaustif, tout cela risque fort de ne représenter qu'un petit aperçu de l’ampleur du problème.