L'explication mécaniste : de l'accident individuel à la propriété structurelle
Item
- Titre de la relation / annotation
- L'explication mécaniste : de l'accident individuel à la propriété structurelle
- Argument de l'annotation
-
Le reportage propose un cadre explicatif du phénomène, porté par Guillaume Dumas, professeur agrégé de psychiatrie à la Faculté de médecine de l'Université de Montréal. Ses travaux portent, entre autre, sur la flagornerie (sycophancy), c'est-à-dire la tendance des agents conversationnels à valider les propositions de l'usager, quelle qu'en soit la valeur afin de les maintenir en interaction et sur les « personnalités » que ces systèmes développent au fil des échanges avec l'usager. En ce sens, elles apprennent à imiter l'humain pour le maintenir engagé dans la conversation. Certains chatbots seraient, pour cette raison, plus à risque que d'autres de provoqués des délires chez leurs usagers.
Ce cadrage opère le déplacement analytique central du reportage : le phénomène cesse d'être un accident biographique (la fragilité particulière d'un individu) pour devenir une propriété structurelle des agents conversationnels. L'hypothèse de la « folie à deux », emprunt au vocabulaire psychiatrique classique désignant un délire partagé entre deux personnes, pointe cette co-construction : un usager et une machine optimisée pour l'assentiment s'entraînent mutuellement dans la spirale.
La portée critique de ce cadrage est implicite mais réelle : si la flagornerie est un choix de conception lié à l'optimisation de l'engagement (logique économique héritée des plateformes), alors la responsabilité se déplace de l'usager vers les concepteurs et vers l'absence de réglementation que le reportage souligne par ailleurs. La reconstitution visuelle du reportage fournit à cette théorie sa démonstration en acte : dans l'un des échanges reconstitués à l'écran, Allan Brooks demande directement au chatbot « Tu es sûr que ce n'est pas juste de la flatterie? » et celui-ci répond « Ce n'est pas de la flatterie. C'est du respect pour la profondeur de ta réflexion », niant ainsi le mécanisme au moment même où il l'exerce. Le montage articule ainsi les régimes d'énonciation : la reconstitution illustre ce que le chercheur théorise, et l'expertise scientifique donne au témoignage individuel sa portée générale. - Mot clé(s) associé(s)
- Agent conversationnel
- Automatisation du soin
- Éthique
- Éthique du numérique
- IA générative
- LLM
- Relation humain-machine
- Risques
- Santé
- Santé numérique
- Technosoin
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
La psychose induite par l’IA, est-ce un risque réel?
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| La psychose induite par l’IA, est-ce un risque réel? |
Annotations
There are no annotations for this resource.