Easily accessible text-to-image generation amplifies demographic stereotypes at large scale
Item
- Titre (article, livre complet, chapitre de livre, publication réseaux sociaux, pageWeb, SiteWeb complet, etc.)
- Easily accessible text-to-image generation amplifies demographic stereotypes at large scale
- Auteur de la référence bibliograpique
- Federico Bianchi, Pratyusha Kalluri, Esin Durmus, Faisal Ladhak, Myra Cheng, Debora Nozza, Tatsunori Hashimoto, Dan Jurafsky, James Zou, Aylin Caliskan
- Date de publication (AAAA ou AAAA-MM-JJ)
- 2023-06-12
- Résumé
-
Les modèles d’apprentissage automatique qui transforment des descriptions textuelles rédigées par les utilisateurs en images sont désormais largement accessibles en ligne et sont utilisés par des millions de personnes pour générer des millions d’images chaque jour. Le potentiel de ces modèles à amplifier des stéréotypes complexes et potentiellement dangereux est ici étudié.
Il est constaté qu’un large éventail de requêtes ordinaires produit des stéréotypes, y compris lorsque les requêtes mentionnent simplement des traits, des descripteurs, des professions ou des objets. Par exemple, lorsque des traits élémentaires ou des rôles sociaux sont demandés, des images renforçant la blancheur comme idéal sont générées. De même, lorsque des professions sont demandées, une amplification des disparités raciales et de genre est observée. Lorsque des objets sont demandés, certaines normes culturelles américaines sont réifiées et renforcées.
La présence de stéréotypes est observée que les requêtes mentionnent explicitement ou non des informations relatives à l’identité et aux caractéristiques démographiques. De plus, ces stéréotypes persistent malgré la mise en place de stratégies visant à les atténuer. Ni les tentatives des utilisateurs visant à contrecarrer les stéréotypes en demandant des images représentant des contre-stéréotypes, ni les mesures institutionnelles visant à ajouter des « garde-fous » aux systèmes ne permettent d’empêcher leur perpétuation.
Ces résultats permettent de justifier les préoccupations concernant les effets des modèles actuels, tout en mettant en évidence des exemples particulièrement frappants et en établissant des liens avec des analyses approfondies des préjudices issues des sciences sociales et des disciplines humanistes. Ce travail contribue ainsi à la mise en lumière des biais particulièrement complexes présents dans les modèles associant langage et vision. Il est également démontré que le déploiement massif des modèles de génération d’images à partir de texte entraîne une diffusion massive des stéréotypes et des préjudices qui en résultent. - Maison d'édition / Nom de la revue scientifique / Nom du site Web / Nom de l'institution universitaire (thèses) / Institution d'un rapport, etc.
- Association for Computing Machinery
- Nom de l'événement (colloque, journée d'études, etc.)
- FAccT '23
- Intervalles des pages (articles)
- 1493 - 1504
- Nombre de pages (livres)
- 12
- Quel type de publication sur réseau social (ex: statut Facebook, statut Twitter, etc.)
- Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency
- a comme concept
- 9798400701924
- URL (adresse Web)
- https://dl.acm.org/doi/10.1145/3593013.3594095
Linked resources
| Title | Class |
|---|---|
 Bringing Italo Calvino’s Invisible Cities to life with AI |
Annotations
There are no annotations for this resource.