Une autorité algorithmique fabriquée par l’organisation
Item
- Titre de la relation / annotation
- Une autorité algorithmique fabriquée par l’organisation
- Argument de l'annotation
-
La série montre que nH Predict n’acquiert pas son pouvoir décisionnel par lui-même. Ce pouvoir lui est conféré par l’organisation qui encadre son usage. UnitedHealth présente publiquement l’algorithme comme un simple guide destiné à anticiper les besoins de réadaptation, mais Ross et Herman soulignent l’écart entre ce discours et les pratiques internes : « UnitedHealth Group has repeatedly said its algorithm, which predicts how long patients will need to stay in rehab, is merely a guidepost for their recoveries. But inside the company, managers delivered a much different message: that the algorithm was to be followed precisely so payment could be cut off by the date it predicted ».
Le troisième volet révèle ainsi une organisation du travail beaucoup plus contraignante. Des documents internes montrent qu’en 2023 NaviHealth avait fixé comme objectif de maintenir les séjours des patient·es Medicare Advantage à moins de 1 % d’écart par rapport aux durées projetées par l’algorithme. Cette cible figurait parmi les objectifs de performance des gestionnaires de dossier et faisait l’objet d’un suivi détaillé. D’ancien·nes employé·es affirment que s’en éloigner pouvait les exposer à des sanctions professionnelles, jusqu’à un possible licenciement, même lorsque des jours supplémentaires leur semblaient justifiés par les règles de Medicare : « Former employees said missing the target for patients under their watch meant exposing themselves to discipline, including possible termination, regardless of whether the additional days were justified under Medicare coverage rules ».
Cette pression réduit directement la marge de manœuvre clinique. Les ancien·nes gestionnaires de dossier interrogé·es par STAT, qui étaient des thérapeutes agréé·es possédant une expérience de la réadaptation, expliquent que leur capacité à défendre les besoins des patient·es et à exercer leur jugement s’est amoindrie après le rachat de NaviHealth par Optum. L’une d’elles résume ce déplacement ainsi : « Instead of the [algorithm] being a tool that was used to anticipate a length of stay, it became a tool that you’d better make it happen or there’s consequences ».
La question de la responsabilité devient alors plus complexe que ne le laisse entendre la simple présence d’un humain dans la boucle. Formellement, la décision finale de prolonger les soins ou d’interrompre le paiement revient à un médecin réviseur. Les gestionnaires de dossier doivent toutefois réunir les informations médicales, exécuter l’algorithme et décider s’ils recommandent une prolongation ou un refus de couverture. Sous la pression de la cible de 1 %, les journalistes écrivent que cette décision pouvait revenir à « choosing between their job performance and their conscience ».
L’enquête montre ainsi que la possibilité formelle de contredire l’algorithme ne garantit pas une véritable autonomie du jugement. Le pouvoir de nH Predict ne tient pas seulement à la confiance accordée à ses calculs. Il repose aussi sur des objectifs de gestion, des rapports hiérarchiques et des mécanismes d’évaluation qui rendent la conformité à ses projections professionnellement avantageuse et la dissidence plus coûteuse.
Le témoignage d’Amber Lynch, ancienne gestionnaire de dossier chez NaviHealth, rend particulièrement visible cette tension. Elle explique avoir été congédiée après avoir échoué à atteindre certains objectifs de performance, dont celui relatif à la durée des séjours. Elle décrit ainsi le déplacement de sa propre fonction : « By the end of my time at NaviHealth I realized I’m not an advocate, I’m just a moneymaker for this company ». Cette logique gestionnaire finit, selon elle, par transformer la manière même dont le patient est appréhendé : « It takes the person out. It’s all about money and data points. It takes the dignity out of the patient, and I hated that ».
Denied by AI déplace ainsi la question classique de l’automatisation de la décision. Il ne suffit pas de demander si un humain demeure officiellement responsable ou s’il peut techniquement passer outre une recommandation algorithmique. Il faut aussi examiner les conditions organisationnelles dans lesquelles cette possibilité peut réellement être exercée. Dans le cas de NaviHealth, l’autorité de nH Predict apparaît moins comme une propriété intrinsèque de l’algorithme que comme le produit d’un dispositif où calcul, objectifs de performance et discipline professionnelle se renforcent mutuellement. - Mot clé(s) associé(s)
- Algorithmes
- Autorité
- Gouvernementalité algorithmique
- Jugement
- Relation humain-machine
- Santé
- Santé numérique
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
Denied by AI
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| Denied by AI |
Annotations
There are no annotations for this resource.