MIARA dossier thématique

Puissances du faux et hallucination machinique

Item

Titre de la conférence

Puissances du faux et hallucination machinique

Conférencier

Fabien Richert

Date de la conférence

27 September 2024

Résumé

Dans cette présentation, je propose de revenir sur le concept de « puissance du faux » qui apparaît dans l’œuvre de Deleuze qu’il consacre dans son étude sur le cinéma. Deleuze propose ce concept pour saisir la spécificité d’une image cinématographique habitée par des rêveries, des fantasmes ou encore des souvenirs qui déploient un régime fondamentalement falsificateur déstabilisant le rapport hiérarchique entre le vrai et le faux. Si le concept de puissance du faux a été initialement développé par Deleuze pour penser le statut de l’image cinématographique, je souhaite montrer dans cette présentation son potentiel heuristique pour penser une tout autre réalité, celle qui concerne le développement de l’intelligence artificielle et ses multiples manifestations. Je propose d’interroger la puissance du faux de l’intelligence artificielle à partir de trois figures, soit celle de l’imposteur, du plagiaire et enfin du fabulateur. Après avoir décrit ces trois figures, je m’attarderai sur le cas particulier des hallucinations machiniques, soit des situations où l’IA générative fabule en tenant pour vrai des informations factuellement fausses.

concepts et mots-clés reliés

Écosystèmes socionumériques

Arts trompeurs

Intelligence artificielle

Cinéma

Puissances du faux

Falsification

Réalité

Réalité parallèle

Sémiotique

Faux

Est relié à une autre conférence du séminaire

Médias génératifs et régimes d’authenticité. Retours sur une étude de cas

La méthode morellienne à l’épreuve du numérique

Hyperstition, spéculation et complot : schizoanalyse des imaginaires conspirationnistes

Illusion et manipulation des sens : effets de présence et interpellation des personnages virtuels

Dimensions narratives de l’IA générative : entre créativité, auctorialité et nouveaux matérialisme

Personnage virtuel et corps performatif : effets de présence

Fooling Ourselves to Death: pour une approche expérimentale et créative des IA

Citation tirée de la conférence

« Le concept de puissance du faux, il apparaît dans les travaux de Deleuze qu'il consacre au cinéma, dans "L'image mouvement" (1983) et "L'image-temps" (1985), dans lesquels il élabore, on peut dire, une classification de signes. Ça me parle tout particulièrement, en tant que sémiologue de formation. Une classification de signes, donc, susceptibles de rendre compte des spécificités et des qualités de l'image mouvement, de l'image temps, l'image cinématographique. C'est une étude qui est à la fois sémiotique, esthétique, philosophique, et qui cherchait à se dégager de l'emprise, à l'époque, des études cinématographiques dominées par les approches narratologiques. Il s'agit là, pour Deleuze, mais aussi si on pense à ses travaux avec Guattari, de s'affranchir d'une certaine forme de structuralisme qui s'appuyait sur la linguistique et ses outils pour analyser une quantité d'objets dont le cinéma. On peut penser aux travaux de Christian Metz (1964) qui cherchait aussi à sortir de cette emprise. Deleuze nous explique que le cinéma n'est pas structuré comme un langage, donc contre Christian Metz. Il nous dit que c'est une matière signalétique qui comporte des traits de modulation de toutes sortes : sensorielles, kinésiques, intensifs, affectifs, rythmiques, tonals... Il nous parle d'une masse plastique, d'une matière insignifiante et asyntaxique. Ça a une certaine importance du point de vue des choses qu'on va voir tout de suite après. »

« Je vais commencer par une distinction qui est au cœur de ma définition de la puissance du faux. C'est une distinction oppositionnelle proposée par Deleuze dans ce qu'il appelle "la narration véridique" qui prétend au "vrai" et "la narration falscifiante" qui abandonne cette prétention pour mieux en libérer "les puissances du faux" . Pour Deleuze, la narration véridique, c'est donc celle qui déploie un récit, qui présuppose des enchaînements logiques entre les plans filmiques et des rapports de causalité, qui lie des personnages, des objets, des situations qui sont clairement identifiables. Donc, il ne s'agit pas de penser le dualisme vrai / faux du point de vue du régime de la fiction. Je cite, je l'aime beaucoup, le théoricien Thomas Pavel pour qui la fiction déploie des mondes "incomplets, car on ne saura jamais combien d'enfants a lu Lady Macbeth (...) Inconsistants, car les phrases suivantes sont toutes les deux vraies : 1) Sherlock Holmes habitait Baker Street. 2) Sherlock Holmes n'a jamais habité Baker Street. Irrémédiablement imaginaire enfin, car en cas de besoin d'un détective privé, nul ne cherchera les services de Sherlock Holmes" (Pavel, 1988, p.98) Mais pour Deleuze, il ne s'agit pas de parler de la fiction en terme de vrai ou de faux. Lui, ce qui l'intéresse, c'est la tension entre le véridique et le falsifiant que je vais expliquer tout de suite. »

« Et donc, la narration véridique nous donne suffisamment de repères pour que le spectateur puisse reconstituer sans trop de difficulté cette unité de l'image mouvement. Les chaînes sensori-moteurs dont nous parle Deleuze suppose des opérations logiques, des liens de causalité, entre les images et respectent les critères du vraisemblable. Cela va avoir son importance quand je vais parler des critères de l'IA. Donc, les critères du vraisemblable qui dessine les contours de la forme du vrai. »

« Deleuze nous décrit, à propos de la narration falsifiante, une sorte de monde en suspension où émergent des signes purement visuels et sonores, ce qu'il appelle, à l'occasion, des "obsignes" , des "sons-signes" qui sont déconnectés des autres images mouvements et, à la lettre, qui ne valent plus que pour elles-mêmes, qui deviennent autoréférentielles. Il ne s'agit plus d'images affection, d'images action, il s'agit d'images souvenirs, d'images rêves, d'images mentales. Ce qui intéresse Deleuze, c'est vraiment la dimension virtuelle qui habite et qui hante l'image perception et qui vient créer cette rupture dans les connexions logiques de la réalité a priori, donc représentée à l'écran. Au point, où, justement, la distinction entre le vrai et le faux, le réel et l'imaginaire, se brouille et devient, à la limite, indiscernable. »

« Il [Deleuze] donne un certain nombre de concepts que je trouve vraiment pertinents pour aborder l'intelligence artificielle. Il propose de parler à l'égard de ces narrations falscifiantes, de voir des œuvres qui fabriquent des "images cristal" , qui sont constituées de plusieurs facettes, où le virtuel vient directement percuter l'image actuelle à l'écran. Donc, on assiste à une coprésence du passé et du futur, un mélange d'espace, une hybridation de l'espace-temps où le souvenir d'un passé, par exemple, s'accroche à l'image objective. Alors, Deleuze a une fascination pour le cinéma d'Orson Welles et avec raison. Il cite, par exemple, "Citizen Kane" et "F for Fake" . (...) Ce qui intéresse Deleuze, c'est cette situation trouble où le spectateur, tout comme les personnages dans le film ne sont plus capables d'identifier ce qui relève du souvenir, du présent, une forme d'hallucination de la réalité qui entraîne une "déstabilisation" , pour Deleuze, de la forme du vrai. Et cette force déstabilisatrice que Deleuze cherche à analyser dans l'image cinématographique, et on sait que l'image cinématographique lui sert à élaborer une réflexion sur la pensée elle-même, c'est toute la force de l'analyse de Deleuze, il propose de la qualifier de "puissance du faux" . C'est une puissance qui rend les choses incertaines et tend à confronter le spectateur à une forme de dilemme représentationnel. Il ne s'agit pas tant de le tromper et de le confondre, mais de l'amener à réfléchir sur ce qui est réel, imaginaire, vrai ou faux. »

« Les deepfakes s'appuient, plus seulement, mais s'appuyaient généralement sur des modèles génératifs de type Generative Adversal Network (GAN) qui étaient très populaires pour générer des images très photoréalistes. La particularité de ces algorithmes, c'est qu'ils reposent sur deux réseaux de neurones. Le premier, générateur, fabrique un échantillon, tandis que le deuxième, qu'on qualifie à l'occasion de discriminateur, doit déterminer si ce qui a été produit provient du générateur ou non. Je rappelle, et ça, Massimo Leone, qui avait fait une présentation il y a quelques années dans le cadre des séminaires Arcanes, avait rappelé cela et je tenais à le souligner de nouveau. »

Bibliographie de la conférence

Generative Adversarial Networks

On Computable Numbers, With an Application to the Entscheidungsproblem

Computing Machinery and Intelligence

L’Image-mouvement. Cinéma 1

L’Image-temps. Cinéma 2

Le cinéma : langue ou langage ?

Univers de la fiction

Magicalité, simulation et intelligence artificielle : formes et enjeux des puissances contemporaines de l'illusion

Prefazione / Preface

L'Idéologie sémiotique des deepfakes

Deceitful Media: Artificial Intelligence and Social Life after the Turing Test

Un avocat se sert de ChatGPT qui invente des décisions de justice | JDM

Tricherie et intelligence artificielle: L’éléphant dans la salle de cours

Médiagraphie de la conférence

Jaws

The Tree of Life

Vérité et temps, le faussaire : année universitaire 1983-84. Cours 1, Cours du 8 novembre 1983

Tom Cruise Deepfake

Cinématographie de David Lynch

Citizen Kane

La méthode morellienne à l'épreuve du numérique

collection

Arts trompeurs

Écosystème socio-numérique

URL de la capsule de la conférence

https://youtu.be/z1LkuRdMDmQ

Est relié à la séance

Simulacres, agents conversationnels, puissances du faux et hallucinations machiniques