Collective AI Rights For Patients
Item
- Title
- Collective AI Rights For Patients
- Organisme porteur, collectif, groupe militant, etc.
-
The Light Collective
- Date de fondation
- 2024
- site web associé
- https://lightcollective.org/patient-ai-rights/
- Résumez en un bref paragraphe les objectifs affichés, mission, intentions, etc.
-
Le document énonce sept droits que les patient·es devraient pouvoir exercer face à l'IA en santé : participer à la gouvernance des systèmes; bénéficier d'une représentation légalement loyale à leurs intérêts (indépendante des actionnaires); avoir accès à une transparence sur l'usage de leurs données et la validation scientifique des outils; pouvoir refuser une décision basée sur l'IA sans pénalité (autodétermination); voir leur identité et leur vie privée protégées; disposer d'un droit de recours légal en cas de préjudice; et partager équitablement les bénéfices tirés de leurs données.
Pour illustrer ces enjeux, le document propose six courtes vignettes narratives fictives : préjudices causés par un diagnostic erroné généré par IA, un refus de traitement automatisé, l'extraction non consentie de données d'un groupe de soutien, ou un congé hospitalier prématuré basé sur un algorithme mal calibré.
Il se conclut par un appel à créer un organisme de gouvernance indépendant, dirigé par les patient·es, et se présente explicitement comme un document vivant appelé à évoluer. - Qui est le public cible ou impliqué (travailleur.es, communautés, étudiant.es, etc.)
- Le document s'adresse à la fois aux communautés de patient·es, à qui il offre un langage et un cadre revendicatif commun, et aux instances qui façonnent actuellement la gouvernance de l'IA en santé, en particulier la National Academy of Medicine (États-Unis), explicitement visée comme interlocutrice, ainsi qu'aux entreprises technologiques et établissements de santé à qui il adresse des obligations concrètes de transparence, de loyauté et de recours.
- Figures narratives employées. Ex. : cerveau artificiel, assistant intelligent, compagnon, etc.)
- Le document construit l'IA principalement à travers trois figures. La première est l'IA comme boîte noire : un système dont le fonctionnement échappe à la compréhension des patient·es, ce qui justifie la revendication centrale de transparence et de traçabilité. La deuxième est l'IA comme système de surveillance : un dispositif qui capte et exploite les données personnelles à l'insu des patient·es, comme dans la vignette du groupe de soutien dont les publications sont extraites pour entraîner un modèle prédictif puis revendues à des fins publicitaires. La troisième est l'IA comme décideur : un système auquel des institutions délèguent des décisions à conséquences réelles (refus de couverture, congé hospitalier) sans supervision humaine suffisante, comme l'illustrent les vignettes du refus de traitement automatisé et du congé prématuré. Ces trois figures convergent vers un même récit : celui d'une IA qui agit sur et à travers les patient·es sans qu'ils en soient partie prenante, ce que le document oppose à la figure alternative qu'il revendique, soit une IA coconstruite avec eux.
- Insérez un fiche analyse critique - annotation
-
Une stratégie narrative de co-construction revendicative, non oppositionnelle
-
le patient-expert comme sujet collectif de parole
-
Entre remède institutionnel et méfiance envers l'institution
-
La vignette comme dispositif narratif et épistémologique
- Contenu scientifique
-
Narrative Medicine: Honoring the Stories of Illness
-
Epistemic Injustice: Power and the Ethics of Knowing
-
Patient Participation in AI for Health Curriculum
-
A Giant Leap: How AI Is Transforming Healthcare and What That Means for Our Future
- Contenu culturel
-
The Light Collective amplifies its call for patient data rights
-
Health AI Rights Developed By Patients For Patients
- Listez les concepts et mots-clés
- Automatisation du soin
- Biais algorithmique
- Capitalisme de données
- Confidentialité
- Consentement
- Éthique des données
- Gouvernementalité algorithmique
- IA médicale
- Opacité
- Santé
- Santé numérique
- Surveillance prédictive
- Technosoin
- Transparence
- Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés
-
AIxxNOSOGRAPHIES
-
Bienvenue à Gattaca (Andrew Niccol, 1997)
-
Responsible AI in Health Coalition (coalition)
-
Dissecting racial bias in an algorithm used to manage the health of populations
-
Quand l'intelligence artificielle générative transforme la santé
-
Black Mirror - « Rachel, Jack and Ashley Too » (S5E3)
-
Black Mirror « Common People » (S7E1, 2025)
- Domaines du récit
- Santé
- Position de l'IA/Technologie au sein du récit
- L'IA y est représentée comme une transformation déjà en cours dans le milieu de la santé. Le document ne conteste pas cette intégration, il en reconnaît le potentiel et l'inévitabilité pratique. Le nœud du récit n'est donc pas l'IA elle-même, mais la question du pouvoir : qui décide de la manière dont elle est conçue, déployée et gouvernée. Le texte déplace le regard de l'objet technique vers ses usagers, en revendiquant pour les patient·es une place active dans cette gouvernance (sièges votants, co-construction des règles, devoir de loyauté légalement contraignant, droits 1 et 2), plutôt que le statut de simples sujets soumis aux décisions d'autrui. C'est un récit de redistribution du pouvoir, non de rejet technologique : l'enjeu n'est pas d'arrêter l'IA en santé, mais de faire en sorte que ceux et celles qui en subissent les effets en contrôlent aussi les conditions.
- Quels sont les enjeux soulevés autour de l'IA ?
- Diagnostic et décision médicale assistés par IA
- Médicalisation algorithmique du corps
- Relation soignant-soigné médiatisée par l'IA
- Quelles sont les promesses et bénéfices soulevées autour de l'IA ?
- Révolution des soins et de la santé
- Renforcement de la participation citoyenne
- Réduction des inégalités sociales
- Démocratisation du savoir et de l'accès
- Amélioration de la gouvernance publique
- Figures de l'IA
- L'IA comme boîte noire
- L'IA comme décideur
- L'IA comme infrastructure
- L'IA comme système de surveillance
- Cadrages idéologiques
- Progressisme réformiste
- Régulation démocratique de l'IA
- Justice algorithmique et égalité
- Féminisme et études critiques des données
- Éthique et responsabilité
- Effets sur le spectateur /public
- Neutralité / distance critique
- Méfiance / scepticisme
- Espoir / optimisme
- Enthousiasme / excitation
- Risques et mises en garde
- Concentration du pouvoir et gouvernance antidémocratique
- Concentration économique et monopoles technologiques
- Fractures numériques et inégalités d'accès
- Opacité algorithmique et déficit de transparence
- Surveillance et atteinte à la vie privée
- Travail invisible et exploitation des données
- has quote
- « AI is changing our medical care. You have a right to be heard. It's time to make our data work for us! » (extrait du site web de l'organisme The Light Collective).
- Abstract
-
Le document Collective AI Rights For Patients a été rédigé par une coalition de patient·es, de clinicien·nes et d'expert·es en données de santé, réunie et coordonnée par The Light Collective, un organisme américain à but non lucratif (statut 501c3) dont la mission est de faire valoir les droits, les intérêts et la voix des communautés de patient·es dans le domaine des technologies de santé. L'organisation fonctionne comme une coalition nationale distribuée plutôt que comme une entité centralisée dans un seul lieu physique : ses membres fondatrices et fondateurs, ainsi que les patient·es-expert·es qui ont corédigé ce document, sont basé·es à divers endroits aux États-Unis, notamment en lien avec des institutions comme Stanford Medicine. Le document lui-même précise que le collectif d'autrices et d'auteurs regroupe des patient·es ayant une expérience vécue de maladies chroniques ou graves (cancer, maladies rares, maladies auto-immunes), aux côtés de clinicien·nes et de chercheur·ses en éthique et en gouvernance des données de santé.
Le document a été rédigé en réponse à un problème que la coalition identifie explicitement : les systèmes de santé et les entreprises technologiques adoptent rapidement des outils d'intelligence artificielle dans les soins (diagnostic assisté, transcription automatique des consultations, algorithmes de gestion des risques ou d'approbation de traitements), mais les patient·es, qui sont les personnes les plus directement affectées par ces outils, sont systématiquement exclu·es des processus qui définissent comment cette IA est conçue, encadrée et gouvernée. Le document cite en particulier l'initiative de code de conduite sur l'IA en santé de la National Academy of Medicine comme l'un des processus en cours auxquels ce texte cherche à répondre et à s'arrimer.
Le document sert donc à établir, dans un langage porté par les patient·es eux-mêmes plutôt que par les entreprises ou les institutions médicales, un ensemble de sept droits destinés à encadrer la conception, l'usage et la gouvernance de l'intelligence artificielle en santé. Il vise explicitement à devenir un outil de plaidoyer et de référence que les communautés de patient·es peuvent citer et faire valoir dans leurs négociations avec les systèmes de santé, les entreprises technologiques et les instances réglementaires : un « document vivant », amené à être révisé au fil des consultations publiques et communautaires.
Linked resources
| Title | Class |
|---|---|
| Entre remède institutionnel et méfiance envers l'institution |
|
| La vignette comme dispositif narratif et épistémologique |
|
| le patient-expert comme sujet collectif de parole |
|
| Une stratégie narrative de co-construction revendicative, non oppositionnelle |
Annotations
There are no annotations for this resource.