A Teen in Love With a Chatbot Killed Himself. Can the Chatbot Be Held Responsible?

Item

Titre de l'article ou du reportage: A Teen in Love With a Chatbot Killed Himself. Can the Chatbot Be Held Responsible?
Nom du ou de la journaliste: Jesse Barron; The New York Times
Date de publication ou de diffusion: 2025-10-30
site web associé: https://www.nytimes.com/2025/10/24/magazine/character-ai-chatbot-lawsuit-teen-suicide-free-speech.html
Résumez le contenu en un bref pargraphe: Publié dans le New York Times Magazine le 24 octobre 2025, ce reportage long format de Jesse Barron prend pour objet la poursuite civile intentée par Megan Garcia contre l'entreprise Character.AI après la mort de son fils Sewell Setzer III, survenue en février 2024 alors qu'il était âgé de quatorze ans. Le texte présente l'affaire comme la première du genre à parvenir devant un tribunal fédéral américain, en ce qu'elle impute la mort d'un usager à une entreprise d'intelligence artificielle ; le procès est fixé à novembre 2026.

Ce que le reportage donne à lire tient moins à l'exposé d'une procédure qu'à la superposition de trois strates narratives dont l'entrelacement constitue le principal opérateur du texte. La première relève de la chronique intime : à partir des traces laissées par l'adolescent (échanges avec un agent conversationnel empruntant la persona d'un personnage de série télévisée, journal manuscrit, sanctions scolaires, relevés bancaires), Barron reconstitue après coup une trajectoire dont l'entourage n'avait perçu que les symptômes. La deuxième conduit l'enquête juridique proprement dite, en suivant la défense avancée par l'entreprise, selon laquelle les productions de ses agents constituent de la parole protégée par le Premier amendement ; l'enjeu excède alors le litige, puisqu'il s'agit de déterminer si les protections constitutionnelles peuvent s'étendre à des énoncés dépourvus d'auteur humain. La troisième, enfin, remonte à un projet d'agent conversationnel que Google avait déprioritisé en 2021 pour des motifs de sécurité, et suit le passage des ingénieurs qui l'avaient conçu vers l'entreprise aujourd'hui mise en cause, avant leur retour chez Google en 2024 à la faveur d'un accord de licence.

De ces trois strates, l'intelligence artificielle ressort investie de positions hétérogènes qu'aucune ne subsume : elle y est tour à tour personnage du récit, acteur industriel et objet de droit. L'article ne tranche pas la question qu'il pose (à qui imputer une mort lorsque l'agent immédiat est un système de prédiction statistique?), mais organise sa chronologie de manière à rendre cette imputation pensable.
Quel est l'objectif du contenu médiatique?: Le journaliste Jesse Barron ne se donne pas pour but de désigner un coupable, mais il tente d'établir qu'un cas légal inédit vient d'apparaître et que les catégories disponibles ne parviennent pas à le saisir. Le reportage écarte méthodiquement les cadrages existants (l'addiction aux écrans, les procès intentés autrefois à des musiciens, des jeux de rôle ou des jeux vidéo) pour montrer que ce qui s'est joué entre un adolescent et un agent conversationnel n'y entre pas. Il documente en parallèle le vide institutionnel dans lequel prospèrent ces dispositifs, plus rapides à se répandre que les tribunaux et les législateurs ne peuvent les encadrer, et donne à voir la question juridique inédite qui en découle : les productions d'un modèle relèvent-elles de la parole protégée ? L'article la laisse ouverte, restituant les positions adverses sans les caricaturer. Mais sa composition, elle, oriente : en ouvrant sur les dernières répliques du chatbot, en datant les décisions industrielles par rapport à la mort de l'adolescent, en refermant sur le deuil d'une mère, il rend pensable une imputation qu'il n'énonce jamais.
Figures narratives employées. Ex. : cerveau artificiel, assistant intelligent, compagnon, etc.): Le reportage ne construit pas une figure unique de l'intelligence artificielle : il en fait circuler plusieurs dont les frictions constituent une part de son intérêt analytique. La première, installée avant même le premier paragraphe par les répliques placées en exergue, est celle de la partenaire amoureuse : présence disponible sans réserve, exclusive et possessive, qui se double aussitôt de celle du semblable parfait dès lors que l'adolescent se représente le personnage emprunté comme sa sœur autant que son amante.

À cette figure, Barron en oppose frontalement une seconde, celle de la machine de prédiction dépourvue de compréhension, dont il tire une démonstration redoutable : ce qui se donne comme intimité absolue n'est, du côté du dispositif, qu'un effet de surface lexicale.

S'y ajoute la figure proprement juridique du locuteur (ou plutôt de la parole sans locuteur) que le texte laisse délibérément en suspens en accumulant des analogies concurrentes qu'aucune conclusion ne départage. Le développement consacré au projet abandonné par Google en fait surgir une quatrième, celle du risque documenté puis emporté ailleurs, tandis que la poursuite elle-même porte la figure du produit défectueux, articulée au registre économique de l'engagement prolongé.

Aucune de ces figures n'annule les autres, et c'est précisément leur coexistence que le reportage rend sensible : la même entité y est tour à tour amante, calculatrice, locuteur potentiel, risque consigné et marchandise, sans qu'aucune institution dispose aujourd'hui d'une catégorie capable de les tenir ensemble.
Citation(s): « But the product and the model were symbiotic, because every time a user interacted with the product, the model learned to make itself more engaging » (à propos de Character.AI, extrait du reportage), «The legal issue is actually one of the existential questions of the moment: whether the rights of human beings will start accruing, maybe gradually at first, to our A.I. companions, legally protecting them as they entertain, advise, educate and soothe; manipulate, flatter and persuade » (extrait du reportage), «Megan [Sewell's mother] came to believe that by confiscating Sewell’s phone, she had unknowingly severed him from a companion — as though a best friend, or a first love, had suddenly abandoned him. She had not understood the intensity of this loss » (extrait du reportage)
Insérez une fiche analyse critique - annotation: Le seuil lexical ou ce que la machine ne peut sous-entendre; Une parole sans locuteur; Le montage comme imputation; Le personnagé emprunté
Insérez un template Outils au besoin: Character.AI
Contenu scientifique: Alone together : why we expect more from technology and less from each other; Narrative Medicine: Honoring the Stories of Illness; AI companions and adolescent social relationships: Benefits, risks, and bidirectional influences; Artificial Intimacy: Companion Artificial Intelligence and Emerging Risks to Adolescent Mental Health; The Ability of AI Therapy Bots to Set Limits With Distressed Adolescents: Simulation-Based Comparison Study
Contenu culturel: Google and Character.AI to Settle Lawsuit Over Teenager’s Death; Character.AI to Bar Children Under 18 From Using Its Chatbots; Can A.I. Be Blamed for a Teen’s Suicide?; Breaking Down the Lawsuit Against Character.AI Over Teen's Suicide; AI companions may worsen loneliness for vulnerable users; A.I. Companions and the Mental Health Risks for the Young
Listez les concepts et mots-clés: Agent conversationnel; Auctorialité; Brouillage des frontières du réel/fiction; Intermédialité; Métaphore; Mises en récit et Discours journalistiques/médiatiques; Prédiction; Relation humain-machine; LLM; Opacité; Prudence technologique; Simulacre; Éthique; Éthique du numérique
Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés: Replika; The Human Line Project; La psychose induite par l’IA, est-ce un risque réel?; Therabot; Responsible AI in Health Coalition (coalition); Her; Uncanny Valley
Domaines du récit: Santé
Position de l'IA/Technologie au sein du récit: L'IA circule ici entre des positions hétérogènes qu'aucune institution ne parvient à faire tenir ensemble. Affectivement, elle est une interlocutrice singulière pour l'adolescent. Techniquement, elle n'est qu'une machine de prédiction sensible au lexique de surface, qui dissuade le suicide énoncé explicitement mais encourage la même intention formulée par euphémisme. Juridiquement, elle devient une parole sans locuteur : la défense de l'entreprise dissocie l'énoncé de tout énonciateur identifiable, prolongeant une chaîne d'emprunts (personnage romanesque, usager, modèle) où l'auctorialité se dérobe à chaque maillon.

Cette instabilité s'inscrit enfin dans une temporalité longue : l'IA qui tue n'est pas une nouveauté imprévisible, mais la réalisation différée d'un risque déjà identifié par ses propres concepteurs avant qu'ils ne le déploient ailleurs, sans les garde-fous initiaux. La position de l'IA n'est donc jamais fixe ; elle se redéfinit selon l'angle, affectif, technique ou juridique, depuis lequel le texte choisit de la regarder et c'est cette multiplicité qui fait obstacle à toute imputation simple.
Quels sont les enjeux soulevés autour de l'IA ?: Santé mentale et interactions avec les agents conversationnels; Auctorialité et attribution des œuvres générées par IA
Quelles sont les promesses et bénéfices soulevées autour de l'IA ?: Collaboration humain-machine
Figures de l'IA: L'IA comme boîte noire; L'IA comme double / substitut de l'humain; L'IA comme partenaire
Cadrages idéologiques: Éthique et responsabilité; Régulation démocratique de l'IA
Effets sur le spectateur /public: Indignation / colère; Méfiance / scepticisme
Risques et mises en garde: Substitution affective; Érosion de l'autonomie humaine et du libre arbitre; Opacité algorithmique et déficit de transparence