Le contre-dispositif : Therabot ou l'anti-ChatGPT
Item
- Titre de la relation / annotation
- Le contre-dispositif : Therabot ou l'anti-ChatGPT
- Argument de l'annotation
-
La seconde alternative issue de la recherche universitaire que présente le reportage est Therabot, un agent conversationnel spécialisé en santé mentale développé par l'équipe de Nicholas Jacobson, professeur agrégé à la Faculté de médecine Geisel de l'Université de Dartmouth (New Hampshire).
Therabot est conçu spécifiquement pour répondre à des questions de santé mentale. Son corpus d'entraînement est spécialisé et entièrement révisé par les pairs. Sa personnalité conversationnelle est volontairement dépourvue de flatterie : l'agent n'est pas là pour valider l'usager, mais pour l'accompagner selon des principes thérapeutiques. Surtout, Therabot n'est pas sur le marché : l'équipe de Dartmouth refuse de le rendre accessible au grand public tant que son efficacité et son innocuité n'ont pas été véritablement validées par la recherche. Cette indisponibilité n'est pas un retard, c'est un choix méthodologique, celui de la preuve avant la diffusion.
C'est dans le contexte établi en amont par le reportage que ce dispositif prend tout son sens. Face aux longs délais d'attente en psychiatrie publique, de plus en plus de personnes se tournent vers des chatbots généralistes comme ChatGPT pour parler de leur santé mentale, des systèmes qui ne sont pas conçus à ces fins et dont le reportage a documenté les dérives, jusqu'à la psychose. À partir de ces constats, Therabot apparaît trait pour trait comme la négation du chatbot généraliste: un anti-ChatGPT. Là où le modèle généraliste flatte, mécanisme que le chercheur Guillaume Dumas identifie ailleurs dans le reportage comme moteur des spirales délirantes, Therabot s'y refuse. Là où le généraliste est entraîné sur des corpus massifs et non contrôlés, Therabot repose sur un corpus révisé. Là où le généraliste est déployé commercialement sans réglementation, ce qui inquiète les psychiatres du reportage, Therabot s'astreint à la temporalité lente de la légitimation scientifique.
Le segment construit ainsi une opposition entre deux économies de l'IA conversationnelle : celle qui optimise l'engagement et met en marché d'abord, et celle qui s'astreint à la preuve avant toute diffusion. Ce cadrage a toutefois ses limites, que le reportage laisse affleurer sans les développer. Therabot demeure un agent conversationnel et la conclusion du reportage suggère que le recours croissant aux chatbots pourrait être moins une solution qu'un symptôme : celui de l'isolement social auquel ces machines répondent sans le résoudre. L'alternative encadrée corrige les défauts de conception du chatbot généraliste ; elle ne répond pas à la question de fond que pose la mise en garde finale : que dit de nous une société où la machine devient le premier interlocuteur de la détresse ? - Mot clé(s) associé(s)
- Agent conversationnel
- Automatisation du soin
- Éthique
- Éthique des données
- Éthique du numérique
- Santé
- Santé numérique
- Technosoin
- LLM
- Prudence technologique
- Relation humain-machine
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
La psychose induite par l’IA, est-ce un risque réel?
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| La psychose induite par l’IA, est-ce un risque réel? |
Annotations
There are no annotations for this resource.