Scriptabilité, preuve clinique et validation
Item
- Titre de la relation / annotation
- Scriptabilité, preuve clinique et validation
- Argument de l'annotation
-
Comprendre le discours de Woebot Health suppose d'abord de considérer l'architecture technique du produit, puisqu'elle conditionne largement sa stratégie de légitimation. Lancé en 2017 sur Facebook Messenger avant de migrer vers sa propre application, Woebot n'était pas un agent conversationnel génératif, mais un système fondé sur des règles. Il délivrait des interventions inspirées de la thérapie cognitivo-comportementale à travers des dialogues textuels scriptés dont les réponses avaient été rédigées à l'avance avec des clinicien·nes. L'utilisateur·ice circulait ainsi dans un espace conversationnel largement prédéfini. Cette scriptabilité constitue une tension centrale du dispositif : elle rend son fonctionnement stable, reproductible et donc susceptible d'être évalué cliniquement, tout en limitant sa capacité à évoluer vers les formes conversationnelles génératives qui se généralisent à partir de 2022.
La stratégie narrative qui en découle est moins téléologique que démonstrative. Là où une partie du discours industriel sur l'IA fonde sa légitimité sur l'annonce d'une rupture à venir, Woebot cherche à établir son autorité à partir d'un régime de véridiction déjà institué, celui de l'essai clinique. La stabilité du dispositif en fait un objet particulièrement compatible avec l'expérimentation contrôlée, ce dont témoigne l'étude publiée par Fitzpatrick, Darcy et Vierhile dans JMIR Mental Health en 2017, puis l'accumulation d'essais et de publications évaluées par les pairs. Cette trajectoire de légitimation se prolonge en 2021 avec la désignation de WB001 comme Breakthrough Device par la Food and Drug Administration, pour une thérapeutique numérique destinée à la dépression post partum combinant notamment thérapie cognitivo comportementale et psychothérapie interpersonnelle.
La figure de l'IA qui se dégage de cet appareil est celle d'un expert autorisé par la preuve. Sa légitimité ne tient pas principalement à ce que la machine saurait, mais au fait que ses effets peuvent être mesurés. Le régime d'énonciation emprunte ainsi ses codes à la publication scientifique, à travers les échelles standardisées, les groupes de comparaison, les mesures d'efficacité et les publications évaluées par les pairs, tout en les réinscrivant dans un discours promotionnel. Cette hybridation permet à Woebot de déplacer la valeur du produit de la seule performance conversationnelle vers sa validation clinique. Le procédé rhétorique est relativement sobre : il ne s'agit pas tant de spectaculariser les capacités de l'IA que d'en attester les effets.
Cette stratégie contient toutefois une tension structurelle. Woebot Health souhaitait intégrer les grands modèles de langage afin de rendre son agent plus flexible, mais cette évolution remettait en question les conditions mêmes de sa validation. Alison Darcy attribue ainsi en partie la fermeture du produit aux coûts et aux difficultés associés aux exigences réglementaires de la Food and Drug Administration, dans un contexte où l'arrivée des modèles génératifs compliquait encore davantage leur intégration à des dispositifs de santé. Un système scripté et relativement stable peut faire l'objet d'évaluations reproductibles selon les procédures existantes. Un système génératif, dont les réponses varient et ne sont pas entièrement déterminées à l'avance, fragilise cette stabilité et soulève de nouveaux problèmes d'évaluation et de régulation. Ce qui constituait l'un des principaux avantages distinctifs de Woebot, sa capacité à revendiquer une efficacité cliniquement établie, devenait ainsi une contrainte au moment où le marché valorisait davantage la souplesse conversationnelle des modèles génératifs.
La scientificité n'est donc pas seulement mobilisée comme argument de légitimation. Elle constitue également une infrastructure contraignante qui détermine ce que le produit peut devenir. Le cas Woebot révèle ainsi une asymétrie importante entre les agents explicitement constitués comme dispositifs de santé, soumis à des exigences de preuve et de régulation, et les agents conversationnels généralistes utilisés de fait pour du soutien psychologique sans relever du même régime. Sur le plan des filiations discursives, le récit de Woebot emprunte largement au régime probatoire de la médecine fondée sur les données probantes. Il suppose ainsi que certaines dimensions de l'interaction thérapeutique puissent être isolées, mesurées et comparées selon des protocoles expérimentaux, puis mobilisées comme preuve de la valeur d'un dispositif computationnel. - Mot clé(s) associé(s)
- Agent conversationnel
- Automatisation du soin
- Confiance
- IA générative
- Intelligence artificielle
- LLM
- Santé
- Santé numérique
- Technosoin
- Transparence
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
Woebot Health
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| Woebot Health |
Annotations
There are no annotations for this resource.