La gouvernance comme théâtre : un témoin sans juridiction
Item
- Titre de la relation / annotation
- La gouvernance comme théâtre : un témoin sans juridiction
- Argument de l'annotation
-
Le récit de Streams accorde à la surveillance une place que peu de discours promotionnels lui réservent : elle y devient un argument de vente. La page du produit énumère neuf examinateurs indépendants, des vérifications techniques commandées par eux, une auto-évaluation au niveau le plus élevé de l'outil de gouvernance de l'information du service de santé et une infrastructure de traçage qualifiée de sans précédent. Deux membres de la direction portent la transparence dans la définition même de leur poste. La garantie ne vient pas encadrer la promesse, elle est la promesse.
La figure centrale est celle du témoin, et il faut d'abord reconnaître ce qui la rend crédible. Le comité, annoncé en février 2016 en même temps que DeepMind Health, réunit des personnalités dont l'autorité provient d'ailleurs : le rédacteur en chef d'une grande revue médicale, un ancien député, un professeur de médecine rénale. Ses membres ne signent aucune entente de confidentialité, fixent leur ordre du jour, s'adressent à la presse quand ils le jugent bon, disposent d'un budget annuel de cinquante mille livres dont ils gardent la maîtrise complète et commandent leurs propres expertises. Ils dépassent ce budget la première année et l'entreprise l'augmente. Rien de tout cela n'est un décor.
La limite du dispositif ne se trouve pas dans son fonctionnement, mais dans son mandat. Le cadre de référence énonce que les établissements partenaires relèvent de leurs propres régimes de reddition de comptes et qu'il n'appartient pas aux examinateurs de les évaluer. Le comité le confirme dans son premier rapport : il n'a aucun rôle dans l'examen des actions de l'établissement hospitalier et n'a discuté d'aucune de ces questions avec lui. Or c'est cet établissement qui est le responsable du traitement, donc la partie que le régulateur déclarera en défaut. L'opinion juridique commandée par le comité conclut d'ailleurs que l'entreprise a agi comme simple sous-traitant et que toute obligation en matière de protection des données incombe à l'établissement, sur lequel le comité ne se prononcera pas. La responsabilité quitte ainsi le champ de l'examen. Le témoin regarde avec attention, mais la scène s'arrête où s'arrête son mandat.
Le régime d'énonciation brouille davantage les positions. Le rapport de 2017 comporte un texte signé du cofondateur de l'entreprise, qui y explique pourquoi il a créé le comité et raconte comment il a lui-même choisi ses membres, dont il n'en connaissait aucun. Le rapport de 2018 reproduit l'auto-évaluation de l'entreprise devant chacun des douze principes que le comité venait d'énoncer. L'approbation d'une nouvelle nomination revient au responsable de l'intelligence artificielle appliquée. L'entreprise demande enfin un préavis de cinq jours ouvrables avant toute publication. Le surveillé écrit dans le rapport de son surveillant, se note lui-même devant les critères qu'on lui applique et approuve qui le regardera.
Le second rapport, en juin 2018, énonce pourtant l'avertissement le plus juste du dossier. Il demande dans quelle mesure DeepMind Health peut se prémunir contre une instruction future d'Alphabet lui enjoignant, par exemple, de lier les données de patients à des comptes ou à des services Google, ce qu'elle s'engageait alors à ne jamais faire. Il se demande si un changement de direction pourrait défaire les engagements pris et recommande de chercher des moyens de rendre fiables des promesses dépourvues de force juridique. Le comité rappelle avoir soutenu depuis le début que « suffisamment bon » ne l'est pas pour une entreprise aussi liée à Google. Cinq mois plus tard, le 13 novembre 2018, le transfert vers Google est annoncé et la disparition du comité avec lui.
La sociologie des organisations éclaire ce parcours. DiMaggio et Powell ont montré que les organisations d'un même champ adoptent des formes semblables moins par efficacité que par recherche de légitimité : on se dote des structures que le champ reconnaît comme gages de sérieux. Un comité d'examen indépendant est une de ces structures. Sa création signale la conformité aux attentes; rien n'oblige la structure à s'accompagner d'un pouvoir. Le cas offre la démonstration de cette dissociation : la forme est créée avec le produit, exhibée dans sa promotion, puis supprimée par la restructuration, alors que son mandat excluait dès l'origine la partie juridiquement responsable.
Une nuance ferme l'analyse. Le comité a produit une critique réelle, il a commandé des expertises qui ont trouvé des vulnérabilités et il a nommé les tensions que la suite a confirmées. Le théâtre n'empêche pas que quelque chose se joue. Il détermine ce que le public est en mesure de voir, et qui reste hors de la scène. - Le contenu à relier (ressource physique, actant, conceptuelle)
-
DeepMind Health — Streams
- E-mail de la personne ayant créé cette relation / annotation
-
Dominique Michaud
- Media
streams.png
Linked resources
| Title | Class |
|---|---|
| DeepMind Health — Streams |
Annotations
There are no annotations for this resource.