Médias génératifs et régimes d’authenticité. Retours sur une étude de cas
Item
-
Titre de la conférence
-
Médias génératifs et régimes d’authenticité. Retours sur une étude de cas
-
Date de la conférence
-
27 September 2024
-
Résumé
-
Dans cette présentation, Gaëtan Robillard explore comment les algorithmes d'IA, en particulier dans des contextes visuels et sonores, remettent en cause les conceptions traditionnelles de l'authenticité et de la vérité, notamment via la manipulation de données et la reproductibilité technique. La conférence fait l’objet d’une réflexion sur l'apprentissage automatique, la désinformation et l'authenticité algorithmique, pour comprendre comment la véracité des données est validée dans un cadre numérique. En lien avec son projet « Critical Climate Machine », récompensé par le prix BCS Futures Award du Limen Prize en 2023 et du prix SIGGRAPH du « Meilleur article en arts » en 2024, Gaëtan Robillard critique l'adéquation des méthodes traditionnelles de vérification des faits avec les nouveaux types de médias génératifs. L’intervention est l’occasion d’approfondir les analyses des œuvres et des médias qui utilisent des algorithmes génératifs, tout en examinant les biais algorithmiques. Cette présentation met en lumière l'infrastructure des images, les données de formation, et la computation comme éléments cruciaux dans la production et l'interprétation des images produites. À travers des thèmes comme la description, la computation et la critique journalistique, il est recherché à mieux comprendre les nouveaux médias produits par les agents génératifs.
-
Citation tirée de la conférence
-
« Le retour sur ce travail, c'est déjà une tentative de mieux définir le terme d'authenticité qui est chargé de sens, bien sûr. Il peut être compris à la lumière des écrits de Walter Benjamin, évidemment, mais il faut rappeler d'abord qu'il comprend deux significations bien distinctes. C'est-à-dire, d'une part la question de l'origine ou de la paternité : d'où vient l'œuvre, d'où vient le document. Puis, d'autre part, ce qui fait autorité. Donc, il y a l'originel, l'origine, originalité qu'on pourrait presque dire, et autorité dans le sens, là, de la conformité, de ce qui se conforme à l'original. Ici, je reprends une définition conventionnelle, commune, du terme. Pour revenir sur le sens donné à Benjamin, j'ai compris que c'était un sens un petit peu complexe. Le sens donné par Benjamin à ce terme fluctue et renvoie davantage à la reproductibilité technique, comme on le sait, et à une philosophie de l'aura de l'art. Cette aura ou ce terme d'authenticité chez Benjamin est controversé. Notamment, il y a un article de Bruno Latour sur le sujet qui revient sur des erreurs de logique quant à la façon dont Benjamin explicite le terme. Ce qu'on peut dire aussi, c'est que dans une ère marquée par l'hypermédiatisation, la reproductibilité technique des images semble finalement participer d'une diversité de processus de création originaux. Donc, je pense, par exemple, au "sampling" dans la création sonore, mais on peut penser aussi à un artiste ou à une œuvre comme celle de Nam June Paik qui, agissant sur les tubes cathodiques, opérant directement sur l'appareil technique, modifie le flux des images et donc, produit une œuvre originale qui se dégage, d'ailleurs, du contexte des médias de masse duquel il fait œuvre. Donc, le concept de Benjamin est un peu compliqué à appliqué pour parler des productions de l'IA générative. »
-
« Dans un article d'Ignas Kalpokas qui s'appelle "Work of Art in the Age of its IA Reproduction" (2023), il défend que l'image artificielle rend visible ce qui est sous-jacent dans la société contemporaine. C'est-à-dire, les interrelations récursives entre les données issues des multiples téléchargements d'Internet et des interactions que nous effectuons nous-mêmes en ligne. Ce qu'il défend, c'est que ces artefacts numériques révèlent notre vie contemporaine de façon singulière ou authentique. »
-
« Comme le suggère Sabine Süsstrunk, qui est directrice de recherche en informatique des images dans un institut en Suisse, j'ai relevé, dans un récent interview qu'elle produit avec une historienne de la photographie qui s'appelle Estelle Blaschke et un artiste Armin Linke, qu'elle propose, elle formule un doute sur la véracité des images et qui peut servir de constat de départ pour examiner, justement, la photographie contemporaine. Je lis en quelques lignes son propos : "Mais c'est ça le truc, vous savez ce que c'est un "deepfake" ou est-ce que ce n'est pas un "deepfake" ? Ce sont des questions que nous devons nous poser. Un portrait artificiellement généré est en tout cas un "deepfake" , mais une photo de moi avec un nouveau rouge à lèvres ou de nouvelles lunettes est-ce un "deepfake" ? D'un côté, mais oui ! Ce ne sont pas mes lunettes et je ne porte jamais de rouge à lèvres. Cela devient donc problématique. Je pense que la société a appris que les "fakes" existent, mais nous ne savons pas encore ce que nous faisons de cette connaissance." Donc, pour Süsstrunk, plutôt que d'établir des distinctions formelles entre le vrai et le faux, il serait nécessaire, en réalité, de comprendre les rapports entre documents photographiques et trucages, du point de vue d'un examen des modalités de production de l'image. C'est-à-dire, depuis l'infrastructure de l'image. Or, les médias génératifs sont aussi des médias computationnels, c'est-à-dire qu'ils sont les produits de calculs. Comment alors penser l'authenticité de ces images ? »
-
« Pour parler du problème de description, je suis allé chercher dans la philosophie analytique de Nelson Goodman, une discussion sur l'authentique et le fallacieux. Dans "Ways of Worldmaking" (1978), il s'appuie sur le constat que plusieurs versions du monde peuvent coexister. Il propose une large réflexion sur les cadres de référence à travers lesquels une vérité peut être énoncée. L'enjeu pour Goodman ne résiderait pas tant dans le fait de décrire le monde d'une façon vraie et unique, mais dans le fait de comparer différentes façons dont nous décrivons ce monde. Les implications sont vastes, mais ce que je voulais souligner, c'est la façon dont, selon Goodman, une vérité se produit systématiquement à partir d'un test. Dans notre étude des médias génératifs, cette proposition prend tout son sens : comment, en effet, attester du régime d'authenticité d'un média ou d'une œuvre reposant sur un modèle génératif ? Dans l'étude, on retrouve trois cas qui prennent le test comme point de départ pour examiner les modèles et leurs productions médiatiques. Il y a un atelier qui s'appelle "Machine Unlearning" auquel, d'ailleurs Renée Bourassa a participé, c'était en 2023 au Fresnoy, où il s'agissait de tester un modèle en tentant de le tromper. Le test permet une certaine interaction avec le modèle et une sorte d'évaluation de sa production. Ça c'est un point important. Puis, il y a une autre œuvre en ligne qui s'appelle "Abstraction and Reasoning Corpus" que je vous invite à aller consulter et qui est référencée dans le rapport en ligne, sur le site d'Arcanes. Bref, ces travaux mettent en avant le raisonnement et la programmation informatique comme une approche conceptuelle de la donnée, faisant directement écho à la proposition de Goodman. »
Annotations
There are no annotations for this resource.
Gaëtan Robillard
Work of art in the Age of Its AI Reproduction
Physics and Metaphysics of Post-Truth (Or, Do Realia Deliver us from Artefacts of False Witness?)
Algorithmic Authenticity: An Overview
Ways of Worldmaking
Calculer les images. Photographie et intelligence artificielle
Modèles d'intelligence artificielle et régimes d'authenticité (MIARA) : dossier thématique. Œuvre média génératif - "Abstraction and Reasoning Corpus" AA Cavia
Critical Climate Machine : A Visual and Musical Exploration of CLimate Misinformation through Machine Learning
tromper. Numéro 42, automne 2023 – Intermédialités / Intermediality
ChatGPT, test de Turing et Chambre chinoise de Searle | Philosophie, médias et société
Chambre chinoise. Esprits, cerveaux et programmes
Critical Climate Machine
Critical Climate Machine : une exposition de Gaëtan Robillard pour lutter contre la désinformation climatique grâce à l'intelligence artificielle
Critical Climate Machine
Abstraction and Reasoning Corpus