-
Title
-
DOES AI CARE?
-
Date de création
-
2023
-
Synopsis du récit artistique
-
Does AI Care? est une installation textile et sonore créée par l'artiste Sofie Layton, en collaboration avec huit jeunes adultes ayant une expérience vécue du cancer et trois chercheur·es en imagerie médicale, radiothérapie et science des données chirurgicales (King's College London). Le public entre dans une salle d'attente d'hôpital reconstituée et écoute une pièce sonore qui fait alterner les réflexions des jeunes adultes et de la médecin/chercheur·es sur le cancer, le soin et l'IA, avec les réponses générées par un agent conversationnel testé par le groupe durant les ateliers de création. L'installation textile qui accompagne la pièce intègre des images médicales personnelles des participant·es (reproduites sous forme de cyanotypes) et des textes produits collectivement et certains générés par IA.
-
Crédits complets
-
Artiste principale
Sofie Layton — artiste, conception et réalisation du projet
Co-créateur·ices (jeunes adultes ayant une expérience du cancer)
Charlie Aldred
Samuel Benson
Sam Brewis
Emma Lovatt Smith
Kate Mason
Holly Masters
Bethany Moorhouse
Heather Smith
Chercheur·es (Wellcome/EPSRC Centre for Medical Engineering, King's College London — School of Biomedical and Imaging Sciences)
Virginia Fernandez — doctorante, recherche sur les jeux de données cérébrales synthétiques pour entraîner des algorithmes
Dr Alejandro Granados — Lecturer in Surgical Data Science, exploration du potentiel de l'IA pour la planification et l'exécution chirurgicales
Dr Teresa Guerrero Urbano — oncologue clinicienne consultante, exploration du potentiel de l'IA pour la planification de la radiothérapie
Production / soutien
Commissionné par : Science Gallery London
Soutenu par : Wellcome/EPSRC Centre for Medical Engineering, King's College London
Coordination : Alice Taylor-Gee, Bella Spencer (Wellcome/EPSRC Centre for Medical Engineering, King's College London)
Composition (musique) : Jules Maxwell
Soutien à la conception numérique : Tom Layton
Soutien au bien-être : Young Lives vs Cancer
Photos (documentation du projet/lancement) : George Torode & Jack Latimer
-
Intégrer un template Outils
-
ChatGPT
-
Question centrale mis en jeu par l'oeuvre
-
Qu'est-ce qui se passe quand on fait coexister les voix de personnes qui vivent la maladie et celles de praticiens qui développent les outils technologiques qui pourraient (ou non) les soigner?
-
Position de l'IA/Technologie au sein de l'oeuvre
-
Dans Does AI Care?, l'IA occupe une position centrale et double. Elle est à la fois un sujet d'interrogation explicite (le titre de l'œuvre porte directement sur sa capacité à prendre soin) et un acteur de l'œuvre elle-même, puisque ses réponses générées sont intégrées telles quelles à la trame sonore, au même titre que les voix humaines. Cette présence reste cependant marquée par une limite assumée : à plusieurs reprises, l'IA reconnaît elle-même, dans le contenu de ses réponses, ne pas pouvoir se substituer à l'empathie humaine, une position que les participant·es de l'œuvre rejoignent également.
-
Réception critique
-
L'œuvre est mentionnée dans la critique de l'exposition « AI: Who's Looking After Me? » parue dans Studio International (Rigamonti di Cutò, 26 juillet 2023), qui la situe comme une installation portant sur le rôle des technologies machiniques dans l'expérience de jeunes patient·es atteints de cancer, dans un contexte plus large où l'IA en santé est présentée avec un fort potentiel diagnostique tout en posant la question du facteur humain. Du côté des collaborateur·ices eux-mêmes, deux témoignages publiés par Science Gallery London (blog, 14 juillet 2023) et par King's College London (« Behind the Exhibit », 1er août 2023) rapportent une expérience positive du processus de création, marquée par un sentiment de reprise de contrôle (Emma Lovatt Smith) et par une appréciation de la clarté avec laquelle l'IA y a été présentée comme un outil au service du soin humain plutôt qu'un substitut à celui-ci (Samuel Brewis).
-
Quels sont les enjeux soulevés autour de l'IA ?
-
Relation soignant-soigné médiatisée par l'IA
-
Diagnostic et décision médicale assistés par IA
-
Médicalisation algorithmique du corps
-
Quelles sont les promesses et bénéfices soulevées autour de l'IA ?
-
Collaboration humain-machine
-
Révolution des soins et de la santé
-
Figures de l'IA
-
L'IA comme boîte noire
-
L'IA comme double / substitut de l'humain
-
L'IA comme expert
-
Cadrages idéologiques
-
Éthique et responsabilité
-
Techno-solutionnisme
-
Utopisme numérique
-
Effets sur le spectateur /public
-
Ambivalence
-
Espoir / optimisme
-
Méfiance / scepticisme
-
Risques et mises en garde
-
Opacité algorithmique et déficit de transparence
-
Substitution affective
-
Remise en cause de l'expertise humaine
Sofie Layton
Does AI Care?
Does AI Care?
L'empathie simulée et ses garde-fous : une tension non résolue
Le sens polysémique de « care » : ressentir, montrer, maintenir, soigner
La vulnérabilité dans la relation de soin, "fonds commun d'humanité"
Éthique du care : un changement de regard sur la vulnérabilité
AI: Who’s Looking After Me?
Behind the Exhibit: Does AI care? (blog)
OpenAI Restricts Use of ChatGPT for Medical Advice
AI companies have stopped warning you that their chatbots aren't doctors
Behind the Exhibit: Does AI care? (KCL)
L'empathie simulée et ses garde-fous : une tension non résolue
Guanyin (Confessions of a Former Carebot)