Biais et représentations dans l'IA
Item
- Titre de la relation / annotation
- Biais et représentations dans l'IA
- Argument de l'annotation
- Les auteurs du projet reconnaissent eux-mêmes, en citant leur propre tribune de 2023 dans Dezeen, que les IA génératives «prédisent» sur la base de motifs de stigmatisation sociale associés à certaines populations urbaines, et qu'elles risquent de produire des villes «homogénéisées ou culturellement insensibles» (Jang & Duarte, 2025). Cette auto-critique est cohérente avec un corpus scientifique désormais étoffé : Bianchi et al. (2023) démontrent qu'un large éventail de prompts ordinaires suffit à amplifier des stéréotypes démographiques dans les modèles texte-image, tandis que Buolamwini et Gebru (2018) ont établi, dans un travail fondateur, l'existence de disparités de performance selon l'intersection de la race et du genre dans des systèmes de classification commerciaux, ouvrant la voie à l'examen systématique des biais dans les systèmes visuels. Plus récemment, AlDahoul et al. (2025) documentent une homogénéisation raciale marquée dans les visages générés par des modèles de diffusion. Appliqué au projet Calvino, ce cadre invite à s'interroger empiriquement (ce que le billet ne fait pas) sur la mesure dans laquelle les 55 rendus reproduisent un vocabulaire visuel dominé par des références architecturales occidentales ou orientalisantes (la description de Diomira comme alliage de «grandeur byzantine» et d'«élégance futuriste», par exemple) plutôt que par la diversité culturelle que le texte de Calvino, lui-même écrit à partir d'un regard occidental sur l'Orient via le personnage de Marco Polo, appelle déjà à interroger. Le projet ne procède à aucune analyse systématique de ses propres productions au prisme de ces biais, alors même que ses auteurs en formulent le risque théorique.
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
Bringing Italo Calvino’s Invisible Cities to life with AI
- E-mail de la personne ayant créé cette relation / annotation
-
Anjara Mamisoa Rafidison
Linked resources
| Title | Class |
|---|---|
| Bringing Italo Calvino’s Invisible Cities to life with AI |
Annotations
There are no annotations for this resource.