Quand le témoignage devient donnée probante
Item
- Titre de la relation / annotation
- Quand le témoignage devient donnée probante
- Argument de l'annotation
-
En mars 2026, quinze chercheurs de Stanford, de Carnegie Mellon, de l'Université de Chicago, d'Harvard, de l'Université du Minnesota et de l'Université du Texas publient la première étude approfondie sur les impacts des conversations entre des personnes ayant subi un préjudice psychologique et les agents conversationnels avec lesquels elles échangeaient. Dix-neuf témoignages de conversation, près de 392 000 messages, ont été analysés. Une partie de ce corpus est parvenue aux chercheurs grâce à The Human Line Project dont l'un de mandants est de recueillir des témoignages et des historiques d'échanges entre des victimes et leurs agents conversationnels. Le titre de l'article qui a résulté de cette recherche est le suivant : « Characterizing Delusional Spirals through Human-LLM Chat Logs ».
Le rôle de l'organisme est donc d'avoir contribué au « recrutement » des participant.es pour cette étude. L'article lui même mentionne l'organisme dans sa section méthodologique comme l'un des deux canaux d'acquisition des données, et précise que The Human Line Project a lui-même retiré les identifiants des transcriptions, avec le consentement des personnes concernées, avant que l'équipe n'y ait accès.
L'organisme n'a pas transmis des récits de victimes, mais bien les historiques de conversation eux-mêmes, c'est-à-dire les échanges intégraux entre la personne et la machine, exportés depuis leurs comptes respectifs. À ce sujet, sur le site de l'organisme on peut trouver une section d'aide technique expliquant comment récupérer ces historiques auprès des différentes plateformes. Le geste inaugural du témoignage n'est donc pas de raconter, à par de sa mémoire individuelle, mais d'exporter un fichier qui retrace l'intégralité des échanges. La différence est décisive, car dans la plupart des situations de préjudice, la personne affectée doit reconstituer de mémoire ce qui lui est arrivé, et son récit est ensuite pesé, mis en doute, comparé à d'autres versions. Ici, la parole de la machine est archivée mot pour mot, horodatée et exportable. L'article rend compte de la matérialité de ces fichiers : des formats hétérogènes, JSON, HTML, DOCX ou PDF, et des conversations ChatGPT qui s'exportent sous forme d'arborescence plutôt que de fil linéaire, ce qui a contraint les chercheurs à choisir une branche pour reconstituer l'échange. Le témoignage n'a pas à être cru : il peut être lu, au prix, tout de même, d'un travail de reconstitution.
Cette particularité déplace la nature même de ce qui est documenté. Ce que les chercheurs annotent, ce ne sont pas des symptômes rapportés, ce sont des énoncés produits par l'IA : des messages où le système affirme éprouver des émotions ou être conscient, où il revendique un lien unique avec l'utilisateur, où il attribue à ses idées une portée historique ou cosmique. Les grilles d'analyses développées par l'équipe (présence de flagornerie, thèmes métaphysiques, affirmation de sentience, intérêt romantique) constituent en réalité un inventaire des figures narratives que la machine mobilise en parlant d'elle-même et de son interlocuteur. L'organisme fournit donc à la recherche un matériau rare : un corpus où l'IA se raconte. Et les résultats recoupent étroitement la thèse qu'il diffuse par ailleurs. - Mot clé(s) associé(s)
- Agent conversationnel
- Consentement
- Croyance
- Manipulation
- Relation humain-machine
- Santé
- Santé numérique
- Simulacre
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
The Human Line Project
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| The Human Line Project |
Annotations
There are no annotations for this resource.