L'empathie simulée et ses garde-fous : une tension non résolue
Item
- Titre de la relation / annotation
- L'empathie simulée et ses garde-fous : une tension non résolue
- Argument de l'annotation
-
Does AI Care? met en scène une tension explicite entre l'empathie humaine et la capacité de l'IA à la simuler ou à s'y substituer, sans jamais la trancher de façon univoque. Plusieurs voix de l'œuvre convergent vers une même position : la médecin interrogée affirme catégoriquement qu'elle ne croit pas que l'IA puisse un jour devenir une « carer », rattachant l'acte de soigner à une dimension irréductiblement humaine. Le Chat IA lui-même, à deux reprises, reconnaît ses propres limites — il précise qu'il n'est « pas un substitut à l'interaction humaine et à l'empathie », puis, interrogé sur un duel imaginaire entre le cancer et l'IA, refuse le cadre binaire en rappelant qu'il ne peut « remplacer l'expertise et l'empathie des professionnel·les de la santé ». Cette convergence entre la voix humaine d'autorité (la médecin) et la voix synthétique elle-même produit un effet de validation croisée : l'IA semble corroborer, de l'intérieur, ce que le discours humain affirme de l'extérieur.
L'habillage sonore de l'œuvre accentue cette lecture. Les interventions du Chat IA sont portées par une voix de synthèse masculine, accompagnée d'un instrument musical (de type vibraphone ou harpe, selon les passages), sur une gamme à dominante majeure qui produit un effet presque enfantin — en contraste marqué avec les textures plus organiques et changeantes (violon, vent, velcro, battement de cœur en sourdine) qui accompagnent les voix humaines. Ce traitement sonore différencié pourrait être lu comme une sonorisation de la distance entre une empathie « programmée », lisse et stable, et une empathie vécue, plus instable et incarnée.
Cette lecture appelle cependant une nuance importante. La déclaration du Chat IA sur ses propres limites ne procède pas d'une conscience ou d'une éthique interne à l'outil. Il s'agit d'un garde-fou programmé par ses concepteurs, reflet de politiques d'usage et de préoccupations réglementaires externes à l'IA elle-même — politiques qui ont d'ailleurs fluctué dans le temps : largement répandues au moment de la création de l'œuvre (2023), ces mises en garde se sont ensuite raréfiées dans les réponses des grands modèles jusqu'en 2025, avant un resserrement réglementaire à l'automne 2025, en partie motivé par des poursuites judiciaires alléguant des préjudices liés à des conseils de santé générés par IA. L'avis exprimé par le Chat IA dans l'œuvre est donc, en un sens, celui de ses créateurs plutôt qu'une auto-évaluation sincère de ses propres capacités — un point qui complique l'idée que l'IA « admette » ses limites de façon autonome.
La critique de l'exposition parue dans Studio International situe d'ailleurs Does AI Care? dans un contexte plus large où l'IA, en santé, est présentée comme porteuse d'un fort potentiel diagnostique tout en posant la question du facteur humain — ambivalence que l'autrice retrouve dans l'ensemble de l'exposition « AI: Who's Looking After Me? », entre discours alarmistes sur les risques de l'IA et espoirs concrets pour la détection rapide de maladies ou le soin aux personnes vulnérables.
L'œuvre semble ainsi moins répondre empiriquement à la question de son titre qu'elle ne mette en scène une conviction partagée par l'équipe de création — l'artiste rapportant elle-même que le groupe a testé un outil d'IA conversationnelle avec ses propres questions et a conclu collectivement à son incapacité à remplir le rôle du soin. Le témoignage d'Emma Lovatt Smith, l'une des jeunes collaboratrices, nuance toutefois cette conclusion en révélant une autre forme de bénéfice du dispositif technologique et collaboratif : sans porter directement sur les capacités de l'IA, elle rapporte que sa participation au projet a coïncidé avec un sentiment de reprise de contrôle sur son propre processus de rémission, ce qui suggère que la valeur thérapeutique de l'expérience tient peut-être moins à l'IA elle-même qu'à la démarche collective et créative qui l'entoure. Cette observation, qui déplace le terrain de l'empathie (humaine vs simulée) vers celui du pouvoir d'agir retrouvé par les participant·es, rappelle que la conviction de l'équipe sur les limites de l'IA s'est construite à travers l'expérimentation collective et reste renforcée par des choix formels (sonores, dramaturgiques) qui orientent l'écoute, sans que cette conviction soit présentée comme un résultat de recherche ou une démonstration logique. - Le contenu à relier (ressource physique, actant, conceptuelle)
-
DOES AI CARE?
- E-mail de la personne ayant créé cette relation / annotation
-
Dominique Michaud
- Media
Does-AI-Care-03.png
Linked resources
| Title | Class |
|---|---|
| DOES AI CARE? |
Annotations
There are no annotations for this resource.