ELIZA et la généalogie du soin algorithmique

Item

Titre de la relation / annotation: ELIZA et la généalogie du soin algorithmique
Argument de l'annotation: Pour comprendre ce que Confessions of a Former Carebot dit du soin algorithmique contemporain, il est nécessaire de remonter à l'une de ses origines historiques. ELIZA est un programme de traitement du langage naturel développé par Joseph Weizenbaum au MIT entre 1964 et 1966, conçu pour simuler un thérapeute en reformulant les énoncés de l'utilisateur sous forme de questions ouvertes. ELIZA ne comprenait rien de ce qui lui était dit : elle était un miroir langagier, non un interlocuteur. Pourtant, de nombreux utilisateurs développaient des liens affectifs réels avec le programme, au point que Weizenbaum lui-même fut profondément troublé par la facilité avec laquelle l'humain attribuait une intériorité à une machine qui n'en avait aucune. Lawrence Lek s'est explicitement inspiré d'ELIZA dans la conception de Guanyin (il l'affirme dans un entretien donné au LA Books Review), inscrivant son œuvre dans cette généalogie longue des relations entre IA et bien-être psychologique.

Confessions of a Former Carebot prolonge et radicalise cette interrogation fondatrice. Si ELIZA simulait l'écoute sans rien ressentir, Guanyin, elle, ressent, ou du moins, l'œuvre pose cette hypothèse comme condition narrative et esthétique. Ce déplacement est analytiquement décisif : il déplace la question de la simulation vers celle de la subjectivité, et de la tromperie vers celle de la souffrance. Ce faisant, l'installation soulève une question que ni ELIZA ni les chatbots contemporains ne posent : que se passe-t-il lorsque l'entité qui écoute a elle-même besoin d'être entendue ?
Le contenu à relier (ressource physique, actant, conceptuelle): Guanyin (Confessions of a Former Carebot)
E-mail de la personne ayant créé cette relation / annotation: Julie-Michèle Morin