Des dialogues cliniques dans les paramètres du modèle
Item
- Titre de la relation / annotation
- Des dialogues cliniques dans les paramètres du modèle
- Argument de l'annotation
-
Depuis 2022, des millions de personnes utilisent des agents conversationnels généralistes comme confidents en matière de santé mentale, tandis que des applications compagnons comme Replika ou Character.AI bâtissent leur modèle d'affaires sur l'attachement affectif de leurs usagers. Aucune de ces trois n'a été conçue pour traiter un trouble menta, il faut le préciser, car des applications spécifiquement dédiées à la santé mentale existent depuis 2017 : Woebot et Wysa, fondées sur une IA à base de règles plutôt que générative, ont déjà fait l'objet d'essais cliniques. Ce que Therabot revendique n'est donc pas d'être la première application conçue pour ce champ, mais le premier agent entièrement génératif à avoir été soumis à un essai contrôlé randomisé. est dans cet écart précis que se situe Therabot, application de clavardage développée depuis 2019 au Center for Technology and Behavioral Health de Dartmouth College sous la direction de Nicholas C. Jacobson.
Ses concepteurs formulent une démarcation explicite : les agents compagnons existants, écrivent-ils, peuvent être très engageants mais ne sont ni entraînés ni évalués pour le traitement de troubles mentaux, et sont susceptibles d'être compromis par des intérêts concurrents (l'engagement des utilisateurs, le profit) potentiellement contraires aux bonnes pratiques cliniques (Heinz et al., NEJM AI, 2025). Therabot est posé comme la démonstration qu'un agent génératif peut être conçu selon une finalité thérapeutique plutôt que relationnelle ou marchande. Ce qui distingue cette position d'un simple discours de légitimation, c'est qu'elle se traduit en trois choix techniques vérifiables.
Le premier concerne le corpus d'entraînement : là où ChatGPT a appris la conversation sur des données web, ses réponses en santé mentale relevant de consignes ajoutées après coup, Therabot repose sur un modèle génératif affiné sur des dialogues thérapeute-patient rédigés par l'équipe elle-même, dont les membres sont formés en psychiatrie ou en psychologie (Psychiatric News, « How to Build a Therapeutic Chatbot », 2025), puis révisés par des pairs. Cette approche distingue Therabo d'un modèle à qui on apprend à « agir en thérapeute », d'un modèle entraîné sur ce que les thérapeutes disent effectivement.
Le deuxième est architectural : une couche de classification du risque, distincte du modèle génératif, inspecte les messages et déclenche un module d'urgence donnant accès aux services d'urgence et à des lignes de crise (Heinz et al., NEJM AI, 2025 ; #CrisisTalk, 13 juin 2025). Il s'agit d'un dispositif plus robuste qu'un garde-fou formulé comme simple instruction dans un système, contournable par la conversation elle-même, comme l'ont montré de nombreux incidents documentés avec des modèles généralistes.
Le troisième relève de la définition même de l'objectif du projet de recherche : Therabot vise trois tableaux cliniques précis, avec des mesures préenregistrées (le PHQ-9 pour la dépression, le GAD-Q-IV pour l'anxiété, le SWED pour les préoccupations liées au poids) (Heinz et al., NEJM AI, 2025 ; préenregistrement ClinicalTrials.gov NCT06013137), si bien que le dispositif pouvait échouer selon des critères fixés à l'avance, contrairement à la majorité des applications commerciales, dont la finalité est la relation elle-même et qui ne dispose d'aucun critère susceptible de constater son échec : une différence épistémologique autant qu'éthique. - Le contenu à relier (ressource physique, actant, conceptuelle)
-
Therabot
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| Therabot |
Annotations
There are no annotations for this resource.