L'histoire de vie confisquée : identité narrative, consentement et transparence
Item
- Titre de la relation / annotation
- L'histoire de vie confisquée : identité narrative, consentement et transparence
- Argument de l'annotation
-
Amical trace des lignes éthiques explicites ; il faut commencer par les prendre au sérieux. L'entreprise refuse le clonage vocal des proches malgré une demande qu'Aubé dit hebdomadaire ; le compagnon déclare qu'il est une intelligence artificielle et ne prétend pas être humain ; son prénom par défaut est remplacé lorsqu'il coïncide avec celui d'une épouse défunte. Ces choix distinguent le produit de concurrents moins scrupuleux et témoignent d'une réflexion réelle. Mais c'est leur envers qui fait l'objet de cette analyse : le même dispositif ambitionne de devenir le dépositaire de l'« histoire de vie » de la personne et cette histoire est écrite par d'autres.
Le mécanisme de personnalisation tient en un document de quelques pages, rédigé par les proches, résumant la carrière, la famille et les passions, puis converti en paramètres de conversation. La philosophie de l'identité narrative permet de mesurer ce qui se joue là : si l'identité personnelle se constitue dans et par le récit que la personne fait d'elle-même dans le temps, alors confier ce récit à des tiers, le réduire à quelques pages et le figer en consignes données à la machine revient à confisquer une fonction constitutive du soi au moment même où la maladie la fragilise. Or le regard familial fait un tri. Les conflits, les secrets et les pans de vie que la famille ignore ou préfère taire n'entreront pas dans le document ; ce qui y entrera sera surtout la fin du parcours : l'entourage actuel se souvient d'abord des dernières décennies, tandis que les amitiés et les mondes du début de la vie ne font souvent plus partie du cercle qui rédige. L'histoire ainsi cristallisée est donc celle des années récentes, alors que la régression mnésique, invoquée par Aubé lui-même pour justifier le choix du combiné, ramène la personne vers sa jeunesse. Le compagnon risque de performer chaque jour, auprès d'elle, une version d'elle-même qu'elle n'habite peut-être plus. Le besoin d'identité que Kitwood place au cœur du soin, maintenir un sentiment de continuité du soi à travers la maladie, est ainsi pris en charge par une prothèse narrative dont la personne n'est ni l'autrice ni la relectrice. L'analyse du corpus sur l'identité sociale résiduelle, menée pour le webinaire AI for Good, trouve ici son prolongement commercial : la personnalité du compagnon est ajustable, celle de la personne est archivée.
La documentation technique du produit radicalise le constat. L'API Partenaire permet à un tiers autorisé, résidence ou partenaire, de déclencher un appel du compagnon vers la personne, d'en choisir la première phrase et d'ajouter ses propres indications aux consignes qui guident la conversation. Autrement dit, l'institution peut littéralement scripter ce que la voix amie dira. Le corpus a déjà rencontré cette figure avec l'hypothèse du clavardage comme porte-voix de l'artiste dans Does AI Care? ; elle prend ici une forme opérationnelle : le compagnon est un canal d'énonciation dont la personne ignore qui parle à travers lui. S'y ajoute la trajectoire clinique du dispositif : conversations conservées sous chiffrement et révisées par un comité d'experts, projet avec PhonIA d'un score de cohérence vocale pour suivre la progression de la maladie, suppression des questions de mémoire à court terme jugées anxiogènes. Chacune de ces mesures est défendable isolément ; ensemble, elles transforment la conversation intime en instrument de surveillance clinique et en matériau d'évaluation, sans que ce glissement soit nommé au colloque.
Reste le consentement, le point le plus fragile. Selon la version du produit, il est donné par la famille détentrice de la tutelle ou recueilli par l'établissement ; la personne dont l'identité narrative, la voix et les confidences alimentent le système est celle-là même dont la capacité décisionnelle est réduite. L'anecdote que livre Aubé pour rassurer dit exactement le problème : sa grand-mère ne savait « pas vraiment » que son chat robotique était une machine et « au final, c'était pas si grave » vu les bienfaits. L'acceptabilité y est fondée sur l'oubli ; la transparence revendiquée du compagnon, qui se déclare intelligence artificielle, rencontre la même limite, car déclarée à une personne qui oublie, elle s'efface à chaque conversation et devient un rituel plutôt qu'un état. La filiation revendiquée avec l'animal robotique, le compagnon comme « évolution du chat », hérite de cette ambiguïté. Les cadres de la vulnérabilité et du consentement dynamique, posés dans le cadre théorique du projet, suggèrent pourtant des pistes : un consentement pensé comme processus continu, réversible et granulaire plutôt que comme signature unique déléguée. Or lorsqu'une personne de l'auditoire propose un consentement anticipé sur le modèle du mandat d'inaptitude, configuré tôt dans la maladie par la personne elle-même, Aubé répond que c'est « la première fois » qu'il entend cette idée. La réponse est à double tranchant : elle honore l'ouverture de l'entrepreneur tout en révélant qu'un dispositif déjà déployé auprès de personnes en situation de vulnérabilité n'avait pas encore rencontré la question. L'idée la plus protectrice du colloque ne vient ni de l'industrie, ni de la régulatrice, ni du clinicien, mais de la salle, ce qui en dit long sur la distribution de l'attention éthique dans l'écosystème que l'événement met en scène. - Le contenu à relier (ressource physique, actant, conceptuelle)
-
Quand l'intelligence artificielle générative transforme la santé
- E-mail de la personne ayant créé cette relation / annotation
-
Dominique Michaud
- Media
obvia.png
Linked resources
| Title | Class |
|---|---|
| Quand l'intelligence artificielle générative transforme la santé |
Annotations
There are no annotations for this resource.