Participation Is not a Design Fix for Machine Learning
Item
- Titre (article, livre complet, chapitre de livre, publication réseaux sociaux, pageWeb, SiteWeb complet, etc.)
- Participation Is not a Design Fix for Machine Learning
- Auteur de la référence bibliograpique
- Mona Sloane, Emanuel Moss, Olaitan Awomolo, Laura Forlano
- Date de publication (AAAA ou AAAA-MM-JJ)
- 2022-10-17
- Résumé
-
Cette communication critique les modes de participation en usage dans la pratique du design et dans l'apprentissage machine. Les auteur·rices mettent en garde contre ce qu'ils nomment le blanchiment participatif, une impulsion déjà observée dans d'autres secteurs : le développement international, où la participation des communautés visées repose sur un consentement fabriqué et sur des structures de pouvoir postcoloniales ; le secteur privé, où les personnes usagères sont conviées à des séances de cocréation destinées à produire des idées de produits ; le secteur philanthropique ; et l'urbanisme, où les protocoles de consultation légitiment souvent les injustices de l'aménagement.
Le texte retrace d'abord l'histoire des méthodes participatives, nées dans les années 1970 du travail collaboratif d'ouvrier·ères scandinaves concevant les technologies qu'ils allaient utiliser. Il note que ces méthodes ont souvent servi à surmonter les difficultés supposées des personnes usagères devant des technologies jugées complexes, en particulier en santé, et qu'elles ont été employées là où les concepteur·rices anticipaient une résistance ou un scepticisme du public. Cet usage prolonge celui du développement international, où la participation était vue comme un moyen de vaincre la résistance locale aux projets.
Les auteur·rices distinguent ensuite trois formes de participation. La première, la participation comme travail, désigne la contribution non reconnue des personnes qui produisent les données d'entraînement, des travailleur·euses de plateformes de microtâches aux internautes dont l'activité alimente les modèles, en passant par celles et ceux qui absorbent les défaillances des systèmes. Ce travail s'effectue généralement sans consentement, sans reconnaissance et sans rémunération. La deuxième, la participation comme consultation, renvoie à des projets épisodiques et de courte durée où diverses parties prenantes sont consultées à certaines étapes. Les auteur·rices notent que les ateliers participatifs peuvent devenir performatifs lorsque les expert·es ne tiennent pas compte des besoins ou des recommandations exprimés. La troisième, la participation comme justice, suppose des partenariats de longue durée fondés sur la réciprocité et le partage du pouvoir, et regroupe la recherche-action participative, l'infrastructuration, le design justice, la technoscience crip, le féminisme des données et diverses formes de militantisme technologique.
La section critique lie le mode d'extraction dominant au paradigme capitaliste de l'échelle. Les jeux de données sont profondément liés à leur contexte, contexte perdu lorsque les applications se diffusent vers de nouveaux marchés. L'utilité initiale des formes représentatives et consultatives de participation se dilue à mesure que le produit dépasse le contexte où elle avait contribué à sa conception. Les auteur·rices soulignent aussi un déséquilibre entre l'adéquation au marché et l'adéquation aux communautés.
Trois recommandations terminent le texte : reconnaître la participation comme un travail, assortie de consentement, d'options de retrait et de rémunération ; concevoir la participation comme consultation en fonction de contextes spécifiques plutôt que selon une formule unique ; et faire de la participation comme justice un engagement authentique et durable, en évitant que le vocabulaire du design justice ne serve d'écran. Les auteur·rices proposent enfin de constituer une base de données intersectorielle des échecs de la participation en design, croisée avec les dimensions sociostructurelles. - Maison d'édition / Nom de la revue scientifique / Nom du site Web / Nom de l'institution universitaire (thèses) / Institution d'un rapport, etc.
- Association for Computing Machinery
- Nom de l'événement (colloque, journée d'études, etc.)
- EAAMO '22, Arlington, Virginie, 6 au 9 octobre 2022
- Titre du livre (pour chapitre de livre)
- EAAMO '22: Proceedings of the 2nd ACM Conference on Equity and Access in Algorithms, Mechanisms, and Optimization
- Intervalles des pages (articles)
- Article 1, 1-6
- Nombre de pages (livres)
- 6
- Format, type de document (ex: image, publication textuelle, vidéo, etc.)
- Article en ligne, PDF
- Quel type de publication sur réseau social (ex: statut Facebook, statut Twitter, etc.)
- Communication de colloque
- a comme concept
- 978-1-4503-9477-2
- URL (adresse Web)
- https://doi.org/10.1145/3551624.3555285
- Media
sloane participation.png
Linked resources
| Title | Class |
|---|---|
 RAISE Health Symposium 2025 |
Annotations
There are no annotations for this resource.