AI-generated faces influence gender stereotypes and racial homogenization

Item

Titre (article, livre complet, chapitre de livre, publication réseaux sociaux, pageWeb, SiteWeb complet, etc.): AI-generated faces influence gender stereotypes and racial homogenization
Auteur de la référence bibliograpique: Nouar AlDahoul, Talal Rahwan, Yasir Zaki
Date de publication (AAAA ou AAAA-MM-JJ): 2025-04-25
Résumé: Les modèles d’IA générative texte-image, tels que Stable Diffusion, sont utilisés quotidiennement par des millions de personnes à travers le monde. Cependant, l’ampleur des stéréotypes raciaux et de genre véhiculés par ces modèles n’est pas encore pleinement comprise. Dans cette étude, des biais importants sont observés dans Stable Diffusion concernant six groupes raciaux, deux genres, 32 professions et huit attributs.

La mesure dans laquelle les individus appartenant à une même origine raciale sont représentés comme similaires les uns aux autres est également examinée. Une homogénéisation raciale significative est ainsi mise en évidence. Par exemple, les hommes originaires du Moyen-Orient sont, dans la plupart des cas, représentés comme étant barbus, à la peau brune et vêtus de manière traditionnelle.

Des solutions visant à réduire ces biais sont ensuite proposées. Celles-ci permettent aux distributions souhaitées en matière de race et de genre d’être spécifiées lors de la génération d’images, tout en limitant l’homogénéisation raciale.

Enfin, une expérience par questionnaire préenregistrée a permis de mettre en évidence que l’exposition à des visages générés par l’IA et représentatifs de la diversité est associée à une réduction des biais raciaux et de genre. À l’inverse, une augmentation de ces biais est observée lorsque des visages ne représentant pas cette diversité sont présentés, que les images soient identifiées ou non comme ayant été générées par une IA.

Dans l’ensemble, la nécessité de prendre en compte et de réduire les biais ainsi que les stéréotypes présents dans les modèles texte-image est ainsi soulignée.
Numéro (revues scientifiques): 14449
Volume (revues scientifiques): 15
Maison d'édition / Nom de la revue scientifique / Nom du site Web / Nom de l'institution universitaire (thèses) / Institution d'un rapport, etc.: Scientific Reports
Nombre de pages (livres): 15
Quel type de publication sur réseau social (ex: statut Facebook, statut Twitter, etc.): Article
URL (adresse Web): https://www.nature.com/articles/s41598-025-99623-3#citeas