L'incident DeepMind et la nécessité de repenser la régulation de l'IA en santé
Item
- Titre de la relation / annotation
- L'incident DeepMind et la nécessité de repenser la régulation de l'IA en santé
- Argument de l'annotation
-
Le déploiement de l'IA dans les environnements médicaux précède systématiquement son encadrement réglementaire. C'est ce décalage structurel, documenté par de nombreux travaux en bioéthique et en STS, que l'œuvre prend pour point de départ. Les algorithmes de gestion des soins, les outils de diagnostic assisté et les robots chirurgicaux sont déjà dans les hôpitaux, souvent sans validation clinique suffisante, sans mécanismes de responsabilité clairs et sans dispositifs permettant aux patients et aux soignants de contester leurs décisions. La question n'est donc pas de savoir si l'IA médicale doit être régulée, mais de comprendre pourquoi les cadres réglementaires existants, conçus pour des dispositifs médicaux statiques, peinent à saisir la nature évolutive, opaque et systémique de ces technologies.
C'est dans ce contexte que le « removal of ribs incident » attribué à DeepMind au début des années 2020 prend son sens narratif. Cet incident est une invention fictive de Petrič : aucun tel événement ne s'est produit dans la réalité. Mais il est traité dans l'œuvre comme une évidence partagée, un événement que tout le monde dans le monde fictionnel connaît et dont on n'a plus besoin de préciser les détails. Ce traitement elliptique est caractéristique de la fiction spéculative proche : en inventant un incident plausible, ancré dans une entreprise réelle et dans un domaine réellement problématique, Petrič produit un effet de réel que ni le documentaire ni la dystopie franche ne pourraient générer. Le spectateur ne peut pas rejeter le récit comme pure fiction parce que le monde représenté est trop proche du sien, et ne peut pas le valider comme document parce qu'il sait, ou finit par soupçonner, que cet incident n'a pas eu lieu.
Cette ambiguïté n'est pas un défaut du dispositif : c'est son outil critique central. En maintenant le doute sur ce qui est réel et ce qui est inventé, l'œuvre reproduit formellement l'opacité des systèmes algorithmiques dont elle analyse les effets. Et en faisant d'un incident fictif le déclencheur d'un cadre réglementaire fictif, elle pose la question qui structure l'ensemble de l'œuvre : qu'attendons-nous pour réguler sérieusement l'IA médicale, et quelle forme cette régulation devrait-elle prendre pour être à la hauteur de la complexité des corps et des relations qu'elle engage ? - Mot clé(s) associé(s)
- Brouillage des frontières du réel/fiction
- Uchronie
- Éthique du numérique
- Santé numérique
- IA médicale
- Gouvernementalité algorithmique
- Santé
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
AIxxNOSOGRAPHIES
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| AIxxNOSOGRAPHIES |
Annotations
There are no annotations for this resource.