Le permis d'exercice en gage : responsabilité sans pouvoir dans la campagne de la National Nurses United
Item
- Titre de la relation / annotation
- Le permis d'exercice en gage : responsabilité sans pouvoir dans la campagne de la National Nurses United
- Argument de l'annotation
-
La troisième raison invoquée par la page pour justifier la résistance syndicale n'est pas formulée en termes d'erreur technique. Elle est formulée en termes d'exploitation et de bouc émissaire. Ce déplacement lexical commande toute la stratégie narrative du passage. Le litige ne porte pas sur la fiabilité des modèles mais sur la répartition de ce qu'il en coûte quand ils se trompent.
Le motif central est la licence professionnelle. La page affirme que les licences des infirmier·ères peuvent être engagées pour des décisions erronées produites par les modèles, alors que la direction hospitalière et les entreprises de logiciels pourraient refuser d'en assumer la responsabilité. La licence est ici le seul élément du dispositif qui soit personnel, individuel et révocable. Tout le reste est corporatif, distribué et protégé. Le récit oppose donc une vulnérabilité nominative à une puissance anonyme.
Ce raisonnement rejoint terme à terme le concept de zone de déformation morale proposé par Elish (2019). La responsabilité d'une action peut être attribuée à tort à une personne qui n'avait qu'un contrôle limité sur le comportement d'un système automatisé, et la zone de déformation morale protège l'intégrité du système technique aux dépens de la personne qui se trouve le plus près de lui. Une différence mérite d'être relevée. Chez Elish (2019), la mauvaise attribution est en partie accidentelle et produite par la couverture médiatique. Chez National Nurses United (NNU), elle est présentée comme un effet recherché du modèle d'affaires. Le syndicat convertit un mécanisme en intention.
Cette conversion n'est pas une simple radicalisation rhétorique. La déclaration de Castillo (2023) au forum sénatorial de novembre 2023 énonce le mécanisme sous une forme quasi analytique : les entreprises d'IA en santé et les employeurs invoquent régulièrement le droit des clinicien·nes de passer outre aux recommandations logicielles afin de leur imputer tout préjudice, tout en limitant leur capacité de comprendre et de déterminer comment ces outils sont utilisés. Autrement dit, la faculté théorique de refuser la recommandation sert de fondement à l'employeur pour rendre la personne soignante responsable du résultat.
Les commentaires de NNU à l'Office of Science and Technology Policy (OSTP) fournissent la mesure de cet écart. Sur 795 infirmier·ères ayant répondu aux questions pertinentes en 2021, 21,6 pour cent déclarent ne pas avoir le droit d'écarter une recommandation, 25,2 pour cent ne le peuvent qu'avec l'accord d'un·e médecin ou d'un·e supérieur·e, 25,7 pour cent ignorent si ce droit existe et 14,7 pour cent peuvent l'exercer selon leur propre jugement. La catégorie la plus révélatrice est celle de l'ignorance. L'incertitude sur l'existence du droit produit un effet disciplinaire sans qu'aucune règle n'ait besoin d'être appliquée.
Le même document rapporte un cas d'arbitrage qui donne à la figure sa forme achevée. Une infirmière conseil d'un centre d'appels californien ne pouvait recommander une consultation, faute d'option prévue par l'interface de l'algorithme. La personne appelante est morte. L'arbitre a jugé que l'infirmière avait subi la pression de cette politique et l'avait perçue comme une directive, a condamné le système de santé à trois millions de dollars, et l'infirmière a néanmoins été tenue responsable. Le système est sanctionné et la procédure demeure intacte, tandis que le·la soignant·e au chevet du malade absorbe le choc moral.
L'article de Perrone (2025) confirme que le blocage est social avant d'être technique. Adam Hart, au Dignity Health de Henderson, conteste une alerte de septicémie chez une personne dialysée et s'entend répondre de suivre le protocole. Seule l'intervention d'un médecin modifie le cours des choses. Le droit de passer outre existe en théorie sur le papier, mais il demande l'aval de sa hiérarchie.
Deux tensions internes méritent d'être nommées. La première : le récit dénonce une responsabilité imposée tout en revendiquant l'autorité du jugement professionnel, donc la responsabilité. Le droit 5 de la déclaration de droits demande l'exercice du jugement et la faculté d'écarter une décision sans menace de sanction. NNU réclame simultanément le pouvoir et la protection, ce qui est cohérent mais rarement explicité comme tel.
La seconde tension apparaît au contact de la littérature. Pepito et coll. (2025) constatent la même indétermination juridique et proposent comme remède les modèles maintenant l'humain dans la boucle, avec vérification infirmière obligatoire des alertes. Or le récit de NNU montre que la vérification sans pouvoir de décision est le mécanisme même qui produit la zone de déformation. La validation humaine peut être une garantie de reddition de comptes ou un alibi, selon qu'elle s'accompagne ou non d'une autorité effective.
Un dernier trait mérite attention. Le passage ne pratique aucune anthropomorphisation. L'IA n'y est jamais un agent moral, jamais un sujet trompeur. L'agentivité est attribuée à l'industrie hospitalière, en coopération avec la Silicon Valley et Wall Street. Ce refus est nécessaire à l'argument : il n'y a pas de bouc émissaire sans quelqu'un pour désigner la victime. - Mot clé(s) associé(s)
- Autorité
- Gouvernementalité
- Jugement
- Opacité
- Prédiction
- Risques
- Santé
- Transparence
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
A.I.’s impact on nursing and health care
- E-mail de la personne ayant créé cette relation / annotation
-
Dominique Michaud
- Media
0524_AI_Image2_0.jpg
Linked resources
| Title | Class |
|---|---|
| A.I.’s impact on nursing and health care |
Annotations
There are no annotations for this resource.