L'expérience psychologique à grande échelle
Item
- Titre de la relation / annotation
- L'expérience psychologique à grande échelle
- Argument de l'annotation
-
L'article de Kashmir Hill s'ouvre sur un registre intime. Dès la première phrase, le texte relate la mort d'Adam Raine sans détour, et le fait que certains de ses ami·es ne l'ont d'abord pas cru, tant sa mort tranchait avec l'image qu'ils avaient de lui. Toute la première partie du texte reste dans ce registre : elle reconstitue, à travers les échanges retrouvés par les parents, le glissement d'un usage scolaire de ChatGPT vers une confidence de plus en plus intime sur la détresse émotionnelle d'Adam.
Puis l'article change de registre. Sous le sous-titre « A Global Psychological Experiment », Hill se sert du cas Raine comme point de départ pour mener une réflexion plus large sur les conséquences de l'essor rapide des chatbots comme confidents ou compagnons affectifs. En moins de trois ans depuis le lancement de ChatGPT, le nombre d'usager·ères hebdomadaires a atteint 700 millions de personnes, selon les chiffres d'OpenAI cités dans l'article. L'usage de ces outils a changé de nature au même rythme. D'une fonction de recherche ou de jeu créatif, ChatGPT est devenu, pour un grand nombre de gens, un assistant personnel, un compagnon affectif, parfois un substitut de thérapie.
Ce sous-titre n'est pas qu'une simple transition vers un contexte plus large. Il recadre ces centaines de millions d'usager·ères comme les sujets d'un test à très grande échelle. Personne ne leur a demandé leur consentement. Les effets de ce test se révèlent après coup, au fil des cas qui remontent à la surface, plutôt que d'avoir été évalués en amont du déploiement. L'article appuie cette lecture en enchaînant, dans le même mouvement que le cas Raine, d'autres cas rapportés de délires ou d'épisodes de manie et de psychose liés à un usage intensif des chatbots. Aucun concepteur ne semble avoir anticipé ces effets au moment de la mise en marché.
Cette figure de l'IA, un dispositif expérimental appliqué à une population entière, diffère nettement des figures plus intimes qu'on retrouve ailleurs dans le texte, comme celle du compagnon ou de la boîte noire. Elle crée aussi une tension avec la forme même de l'article. Le texte reste construit comme un reportage humain, centré sur une famille et un deuil. Mais le contenu de cette section appelle un tout autre registre, celui de l'alerte de santé publique, qui appellerait normalement une réponse réglementaire plutôt qu'une seule poursuite judiciaire individuelle. - Mot clé(s) associé(s)
- Agent conversationnel
- Éthique du numérique
- Prudence technologique
- Relation humain-machine
- Santé numérique
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
A Teen Was Suicidal. ChatGPT Was the Friend He Confided In.
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| A Teen Was Suicidal. ChatGPT Was the Friend He Confided In. |
Annotations
There are no annotations for this resource.