La promesse de la transparence comme stratégie d’adhésion publique
Item
- Titre de la relation / annotation
- La promesse de la transparence comme stratégie d’adhésion publique
- Argument de l'annotation
-
Le discours de la Coalition for Health AI repose sur la promesse de transparence : garantir la traçabilité, la lisibilité et la vérifiabilité des systèmes d'IA en santé. Cette mise en récit construit un imaginaire de la machine honnête, alignée sur les valeurs de la science ouverte et de la démocratie technologique — un imaginaire porté par des dispositifs concrets et nommés : le registre public de « model cards » lancé en février 2025, censé documenter l'usage prévu et les risques possibles de chaque outil d'IA en santé, et le concept de réseau de « laboratoires d'assurance » (assurance labs), proposé par CHAI dès la fin 2023 comme mécanisme de validation locale indépendante.
Pourtant, cette transparence est performative dès qu'on examine son mécanisme réel plutôt que sa promesse énoncée. Le registre de model cards fonctionne sur une base déclarative : ce sont les entreprises elles-mêmes qui rédigent et soumettent la documentation de leurs outils, sans mécanisme de vérification indépendante intégré au dispositif — la transparence y est une auto-déclaration, non un audit tiers. De même, les laboratoires d'assurance restent, à ce stade, un réseau d'adhésion volontaire plutôt qu'une infrastructure de contrôle dotée d'un pouvoir de sanction. La traçabilité promise agit donc moins comme un mécanisme de vérification effective que comme une métaphore de contrôle qui renforce la légitimité institutionnelle des acteurs impliqués — la coalition, mais aussi les entreprises fondatrices qui y participent. Le récit évacue ainsi la question des asymétries de pouvoir dans la production des données et la conception des modèles algorithmiques, en recentrant le débat sur la bonne gouvernance procédurale plutôt que sur la redistribution du pouvoir technologique entre ceux qui conçoivent ces systèmes et ceux qui les subissent. - Ressource(s) associée(s) (ressource physique, actant, conceptuelle)
-
Responsible AI in Health Coalition (coalition)
Annotations
There are no annotations for this resource.