Entre remède institutionnel et méfiance envers l'institution
Item
- Titre de la relation / annotation
- Entre remède institutionnel et méfiance envers l'institution
- Argument de l'annotation
-
Collective AI Rights For Patients (v2.0, juin 2024) est une déclaration de droits sur l'intelligence artificielle en santé, rédigée par un collectif de patient·es-expert·es, de clinicien·nes et de spécialistes en données de santé, réuni par The Light Collective, une organisation américaine à but non lucratif de défense des droits numériques des patient·es. Le document énonce sept droits destinés à encadrer l'intégration de l'IA dans les systèmes de santé, dans une posture globalement proactive : il reconnaît d'emblée le potentiel transformateur de cette technologie et cherche à orienter les conditions de son déploiement plutôt qu'à s'y opposer.
D'un côté, le texte réclame une intégration formelle et pérenne des patient·es à l'intérieur même des structures de gouvernance existantes. Le premier droit énoncé (« Patient-Led Governance & Representation ») exige que les patient·es deviennent « active voting members of AI governance bodies », c'est-à-dire des membres votants à part entière des instances qui définissent les politiques et les standards de l'IA en santé, et non de simples consultant·es symboliques. Cette revendication suppose une confiance minimale dans la réformabilité des institutions : on ne demande pas leur abolition, mais leur ouverture structurelle à une nouvelle catégorie d'actant·es. Le vocabulaire employé (codes de conduite, comités, sièges, structures d'audit indépendantes) est un vocabulaire institutionnel, cohérent avec les références citées par le document lui-même (le Blueprint for Trustworthy AI de la Coalition for Health AI, le cadre en développement de la National Academy of Medicine), qui sont elles-mêmes des initiatives d'autorégulation industrielle ou académique.
De l'autre côté, plusieurs droits et plusieurs vignettes du document supposent une méfiance beaucoup plus profonde envers ces mêmes institutions. Le droit 2, intitulé « Independent Duty to Patients », part du constat que les entreprises technologiques n'ont, contrairement aux médecins liés par un code déontologique et par le serment hippocratique, aucune obligation légale équivalente envers les patient·es. Par le fait même, le document implique que leur objectif premier demeure la maximisation de la valeur actionnariale, potentiellement en tension directe avec le bien-être des patient·es. Le droit 6, « Right of Action », réclame la possibilité de créer un recours légal en cas de préjudice, ainsi que l'interdiction des clauses d'arbitrage forcé et des renonciations de droits imposées au moment des soins. Cette demande présuppose que les institutions, livrées à elles-mêmes, ne protégeront pas spontanément les patient·es.
Les vignettes de cas, en fin de document, renforcent cette méfiance par l'exemple : celle des « refus automatisés » met en scène une compagnie d'assurance qui s'appuie exclusivement sur l'IA pour refuser à répétition la couverture d'un traitement contre le cancer, jusqu'à ce qu'un juge humain doive trancher . Il s'agit d'un récit qui positionne l'institution non comme partenaire réformable, mais comme acteur structurellement disposé à causer un préjudice tant qu'aucun contre-pouvoir externe ne l'en empêche.
Le texte ne résout jamais explicitement cette tension entre réforme de l'intérieur (intégrer les instances existantes) et protection contre l'intérieur (se prémunir juridiquement contre elles) : il la porte plutôt comme une condition structurante de sa propre existence, puisque c'est cette ambivalence même qui justifie la nécessité d'une déclaration de droits distincte, plutôt qu'un simple appel à la bonne volonté des acteurs en place. Sur le plan du cadrage idéologique, cette ambivalence situe le document du côté d'un réformisme progressiste plutôt que d'une rupture radicale de type décroissance numérique ou rejet technologique : le texte ne remet jamais en cause la légitimité de l'IA en santé comme projet, seulement les rapports de pouvoir actuels qui président à son déploiement. - Mot clé(s) associé(s)
- Consentement
- Gouvernementalité algorithmique
- IA médicale
- Santé
- Santé numérique
- Technosoin
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
Collective AI Rights For Patients
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| Collective AI Rights For Patients |
Annotations
There are no annotations for this resource.