The Doctor Will Polygraph You Now : l'IA vérificatrice de déclarations patients et ses enjeux éthiques

Item

Titre de l'article, la conférence ou du rapport
The Doctor Will Polygraph You Now : l'IA vérificatrice de déclarations patients et ses enjeux éthiques
Chercheur.e(s) ou institution(s) porteuse(s)
James Anibal
Date de publication ou diffusion
2024
site web associé
https://arxiv.org/abs/2408.07896
Résumez le document en un bref paragraphe (Type de technologies d'IA ?)
Des équipes de recherche affiliées au NIH, Georgetown University et Simon Fraser University examinent une catégorie émergente de systèmes d'IA médicale : des modèles entraînés à prédire des comportements sociaux des patients — tabagisme, consommation d'alcool, niveau d'activité physique, alimentation, observance thérapeutique — à partir d'informations multidimensionnelles (données biométriques, analyses de voix, images, dossiers médicaux) lorsque les informations prédites contredisent ce que le patient a déclaré ou déclarera. L'article simule notamment la mise en œuvre concrète d'un tel système de vérification à partir d'échantillons vocaux de patients. Il identifie un phénomène inédit nommé « AI self-trust » : une tendance systémique des LLM à accorder davantage de crédit aux sorties d'autres systèmes d'IA et aux données multidimensionnelles qu'aux déclarations directes du patient. L'IA devient ainsi, littéralement, un outil institutionnel pour remettre en question ce que le patient dit de lui-même — un polygraphe algorithmique intégré au système de soin.
Quel est l'objectif du document?
L'étude vise à : (1) identifier et formaliser les préoccupations éthiques spécifiques soulevées par les systèmes d'IA de vérification des déclarations patients, en les distinguant des questions éthiques générales de l'IA médicale ; (2) démontrer par simulation la faisabilité du détournement d'un système de vérification vocale à des fins de surveillance médicale non consentie ; (3) exposer et mesurer le biais de confiance propre des LLM (AI self-trust) dans les contextes de contradiction entre les données du patient et les modèles prédictifs ; (4) formuler des recommandations concrètes pour prévenir que ces méthodes de vérification nuisent aux patients ou sapent la finalité du système de santé. L'article constitue une contribution à la fois technique — avec des résultats empiriques sur les biais des LLM en contexte médical — et normative — avec un cadre éthique structuré autour des notions d'autonomie, de vie privée, de confiance et de contrôle sur les données personnelles de santé.
Figures narratives employées. Ex. : cerveau artificiel, assistant intelligent, compagnon, etc.)
La figure narrative principale de l'article est celle du renversement des rôles actantiels dans la scène de soin. Dans la relation médicale classique, le patient est sujet-confiant : celui qui parle, expose et confie des informations intimes en échange d'un diagnostic. Le médecin est destinataire-interprète : celui qui écoute, évalue et diagnostique. L'IA-polygraphe introduit un tiers actantiel — le système de vérification — qui se positionne en arbitre entre le discours du patient et la vérité des données. Ce déplacement est condensé dès le titre sous la forme d'une paronomase : « The doctor will see you now » — formule consacrée d'accueil médical — devient « The doctor will polygraph you now ». La substitution d'un seul verbe déplace tout un dispositif de soin : de la bienveillance vers la vérification, de l'écoute vers le contrôle, de la confiance vers la suspicion. À cette figure de titre s'ajoute celle du patient-suspect : l'article construit rhétoriquement une scène où le patient, dont la déclaration contredit les données prédictives, est traité implicitement comme un menteur que l'algorithme doit confondre. C'est le pattern du récit policier — l'interrogatoire, la confrontation avec les preuves, le verdict — appliqué à l'espace du cabinet médical. La figure narrative n'est donc pas un « retournement » abstrait, mais un détournement de genre : le document de recherche scientifique emprunte la structure du récit d'enquête pour rendre sensible ce que la terminologie technique dissimule.
listez les concepts et mots-clés
IA médicale
Santé numérique
Éthique des données
Confidentialité
Consentement
Surveillance prédictive
Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés
Bienvenue à Gattaca (Andrew Niccol, 1997)
Anatomy of an AI System
Ex Machina
Domaines du récit
Environnement
Quels sont les enjeux soulevés autour de l'IA ?
Diagnostic et décision médicale assistés par IA
Position de l'IA/Technologie au sein du récit
Dans ce rapport, l'IA se présente sous la forme d'un juge impassible intégré à l'acte de soin : un système qui observe en permanence, prédit ce que le patient dissimule, et peut à tout moment contredire sa parole au nom de l'objectivité des données. Elle ne soigne pas, elle vérifie. Elle ne fait pas confiance, elle calcule des probabilités de mensonge. Cette figure de l'IA comme arbitre épistémique — décidant qui dit vrai et qui ment — représente une mutation fondamentale du rapport à la connaissance médicale : ce n'est plus le patient qui est l'expert de son propre corps, c'est l'algorithme.
Quelles sont les promesses et bénéfices soulevées autour de l'IA ?
Révolution des soins et de la santé
Figures de l'IA
L'IA comme système de surveillance
L'IA comme oracle prédictif
L'IA comme infrastructure de contrôle institutionnel
Cadrages idéologiques
Déterminisme technologique
Techno-solutionnisme
Effets sur les spectateur.ices / public
Anxiété / peur
Indignation / colère
Méfiance / scepticisme
Risques et mises en garde
Surveillance et atteinte à la vie privée
Biais algorithmiques et discriminations
Opacité algorithmique et déficit de transparence
Media
media-24705.jpg

Linked resources

Items with "isRelatedTo: The Doctor Will Polygraph You Now : l'IA vérificatrice de déclarations patients et ses enjeux éthiques"
Title Class
Bienvenue à Gattaca (Andrew Niccol, 1997)
Black Mirror « Common People » (S7E1, 2025)

Annotations

There are no annotations for this resource.