Écosystèmes socionumériques

Item

Title
Écosystèmes socionumériques
Item sets
Collections Arcanes
IA générative, puissances du faux et régimes d'authenticité

Linked resources

Items with "has top concept: Écosystèmes socionumériques"
Title Class
« Alors, qu'est-ce que le problème de tout ça? Parce que je vous ai dit c'est une autorité gentille, en effet, tant qu'on ne nous oblige pas – moi ce qui m'obsède c'est quand on nous oblige à utiliser, parce que là du coup ce n'est plus une autorité, on passe à un pouvoir violent, si on me dit que si je n'utiliser pas Apple je n'ai pas le droit de voyager, là ce n'est pas de l'autorité, là c'est un argument de force, de violence, donc on n'est plus dans l'autorité, on passe à un régime plus totalitaire que d'autorité. Mais si on ne nous oblige pas, on est très content, Google, Apple, Facebook nous rendent des services si on veut – si on ne veut pas ils ne nous les rendent pas –, si on y croit et on leur donne notre confiance, on est content, sinon ce n'est pas grave, il n'y a pas d'obligation, il n'y a pas de coercition, donc il n'y a pas de violence, le capitalisme jouit et ce n'est pas nécessaire que ce soit un mal. Où est le problème à mon avis? Le problème à mon avis ici c'est qu'on perd, dans ces formes d'autorité-là, complètement, la dimension collective et communautaire. C'est-à-dire que le problème n'est pas qu'il y ait des autorités fortes qui sont des entreprises privées, et qui sont d'ailleurs en relation avec des États. Le problème c'est où passe l'autorité qui est un produit d'un collectif, et donc de dynamiques collectives et de dynamiques communautaires. C'est ça, à mon avis, le vrai problème et la vraie question. » author self citation
« Aujourd'hui, dans l'espace numérique, à mon avis, nous avons un très haut niveau d'autorité – c'est exactement l'inverse que dans un régime totalitaire –, en fait nous avons un très haut niveau de confiance avec très très peu de rationalité. La compréhension que nous – et quand je dis "nous" c'est un nous collectif d'utilisatrices et utilisateurs des environnements numériques – la compréhension que nous avons de ce qui se passe est pratiquement zéro. Personne ne nous oblige, il n'y a aucune coercition, au moins pour le moment. » author self citation
« Autre distinction avant de passer aux exemples et de les étudier ensemble, celle de Pascal Mougin dans son article de l'année dernière (2023). Il nous dit finalement, avec une IA, est-ce qu'il s'agit de faire autrement ? Produire un texte, un récit en l'occurrence, plus rapidement à moindre coût, censé d'être écrit par un humain, parfois pour donner le change ? Ou bien de faire autre chose ? Produire un récit qu'un humain seul n'aurait pas pu produire. C'est-à-dire co-construire un récit avec une IA. » author self citation
« Bien entendu, il ne s'agit pas de dire que tout est fiction – quoique l'on pourrait avoir des doutes. Il ne s'agit pas de dire que tout est fiction, mais plutôt que la fiction s'inscrit, en culture de l'écran, au coeur de notre rapport au monde, et elle apparaît comme un soupçon, le soupçon d'une vérité toujours apprêtée, toujours déjà médiatisée. La fiction n'y est plus un jeu de langage, mais une hypothèse, voire une règle d'interprétation déterminant une mise en relation et, ultimement, une vision du monde. » author self citation
« Bien sûr, comme les arts trompeurs, les puissances du fake jouent sur les ressorts de l’illusion pour séduire les foules et leur faire vivre des émotions fortes fondées sur un vaste éventail de ressentis, de l’émerveillement à la colère. Mais alors que les arts trompeurs aujourd’hui affichent, dans la vaste majorité des cas, leur recours à l’illusion, les puissance(s) du fake semblent l’occulter. La situation actuelle révèle en effet une rupture majeure entre ces deux sphères illusionnistes. Le système qui fournit des repères partageables, tout en assurant l’évolution de ce qu’on peut considérer vrai, n’est plus uniformément opérant. Comme si la littératie acquise par le public dans le champ des arts trompeurs restait embryonnaire dans celui de l’informationnel. Les arts trompeurs, qui ne trompent plus grand monde, dans la plupart des cas, révèlent en creux la nécessité d’accélérer cette littératie terriblement lacunaire dans le monde socionumérique actuel. » author self citation
« C'est un exemple assez emblématique qui a été créé au début des années 1990's, qui nous remet un peu en question d'ailleurs sur le caractère que nous avons un peu souvent l'impression que l'intelligence artificielle est arrivée avant hier. Mais en 1992, Nicolas Baginski, qui s'intéresse à la musique, un luthier et roboticien amateur - donc un peu self thought, autodidacte - , va réaliser, il s'intéresse aux systèmes appelés à l'époque le connexionnisme, les réseaux de neurones qui n'étaient pas des réseaux profonds, mais qui étaient tout de même des réseaux de neurones artificiels et capables d'apprendre jusqu'à un certain point. À la fin des années 1980's, il y a des publications qui émergent dans le domaine de l'informatique qui montrent qu'on peut entraîner des réseaux de neurones sur les partitions de musique. Ensuite, on peut les utiliser pour générer de nouvelles partitions. Donc, c'est déjà une forme qui vient du domaine de l'ingénierie, de créativité - pourrait-on dire- computationnelle. Puis, il y a une étude assez importante qui sort en 1989, je pense, qui porte sur la génération, à partir de musique blues. On entraîne une base de données de table de notations de composition de blues et on entraîne un réseau de neurones et ça génère... Et Baginski regarde cela et se dit que cela, ce n'est pas vraiment de l'art, ce n'est pas vraiment de la musique, ce n'est pas vraiment intéressant. Parce que la seule chose que cela peut faire, c'est créer encore plus de ce qui existe déjà. Donc, créer plus de blues qui va ressembler à d'autres formes déjà existantes. Il se dit que ce qui l'intéresse, c'est qu'il veut apprendre quelque chose sur la musique. Il veut dépasser la musique. Il y a peut-être aussi un sentiment ici, d'une certaine manière, de transhumaniste. Il va confier cette création de musique à des machines. Il créera Aglaopheme qui est le robot que vous voyez à l'écran. Son premier instrument dont il se garde de dire que c'est un robot qui joue de la guitare, c'est vraiment un robot-guitare. Parce qu'il n'a pas besoin d'un androïde qui viendrait jouer de la guitare. L'instrument lui-même est l'agent. » author self citation
« Ce n'est pas une appropriation, parce que je ne lui enlève rien. La connaissance, ce n'est pas une appropriation. Parce que, si je m'approprie un livre, l'autre n'a pas son livre. Il faut faire attention aux mots. » author self citation
« Ce que j'ai trouvé très spécial, c'est que depuis un an ou deux, justement avec ChatGPT qui devient plus connu du public, c'est que même du côté de ces grands défenseurs d'exception au nom de la liberté d'expression, de l'accès à la culture et tout cela, on commence à dire " il faut quand même qu'il y ait une rémunération " . Je ne peux pas dire que c'est une conversion entière, mais il y a plusieurs personnes qui semblent trouver, malgré tout, qu'il y a du bon dans le droit d'auteur. » author self citation
« Ce qui apparaît à l'écran n'est pas vrai du fait d'apparaître à l'écran, raisonnement tautologique par excellence, mais bien parce que des sources viennent authen tifier ce qui est dit, une intertextualité et une interdiscursivité viennent valider ce qui a été avancé. Or, bien souvent, comme nous le dit Anna Caterina Dalmasso, l'écran de l'ordinateur est une « fenêtre qui fait écran ». Une fenêtre qui montre autant qu'elle ne cache. » author self citation
« Ce qui est encore plus intéressant, c'est que les deepfakes, alors qu'ils nécessitaient à leurs débuts une quantité assez importante d'images pour être fabriqués, maintenant nécessitent uniquement une image. Donc on a des algorithmes qui fabriquent des deepfakes avec une image seulement. » author self citation
« Ce qui est intéressant avec cette vidéo-là, c'est que quand on la regarde dans cette qualité-là, elle est vraiment impressionnante. Alors parfois, on se dit : "ouais moi je m'aperçois que c'est un deep fake, je le vois bien quand même." Quand on est prévenu, effectivement il y a certaines personnes, surtout les graphistes en fait, qui peuvent se dire : "ouais, moi je vois quelque chose", mais quand on est pas prévenu, on se fait avoir. Et alors, il faut bien voir aussi que cette vidéo-là, si on la met sur les réseaux sociaux, elle va perdre en qualité et alors là par contre on ne pourra plus voir les petits détails qui font qu'on détecterait peut-être un deep fake visuellement. » author self citation
« Ce sont des avenirs humains qui sont en jeu, et donc ce qui serait en danger ce serait carrément le libre arbitre philosophique : si mes actions futures ne sont plus déterminées par moi-même, si je ne suis plus le décideur autonome de mes propres actions, c'est carrément le libre arbitre philosophique qui serait en danger. Ce que Zuboff nous dit dans son ouvrage, c'est que c'est l'engourdissement des populations qui serait en cause : avec toutes ces plateformes gratuites qui nous offrent des interfaces dépourvues de frictions, qui sont faciles à utiliser, qui sont intuitives, qui nous empêchent de réfléchir, comme nous l'a présenté Marcello la semaine dernière, donc c'est l'anéantissement de cette volonté de vouloir nous-même prendre en charge nos actions, c'est le "will to will", la volonté, la volition de notre volonté qui serait mise en cause par ces médiums qui finalement annihilent toute friction dans les environnements numériques. » author self citation
« Cette grande diversité de collections et de données pose un certain nombre de problématiques qui sont donc liées précisément à cette diversité des formats de description et donc on a trois formats principaux pour les données de la BnF : le format Intermarc, qui est celui du catalogue général, le format EAD, qui est un format de description des archives, archivistique, qui n'est pas sur les mêmes modalités, et puis on a le Dublin Core, qui est le format simplifié, qui est un langage du web sémantique, utilisé par Gallica, qui permet justement d'articuler les deux autres formats, mais qui du coup est un format qui est, on va dire, simplifié, appauvri. Dans l'Intermarc, on a à peu près une centaine de champs différents pour décrire les collections, alors que dans le Dublin Core on a que quinze champs, et donc vous voyez l'appauvrissement des données, et ça pose des difficultés pour la constitution de corpus puisqu'on ne va pas pouvoir aller aussi finement dans Gallica, pouvoir constituer des ensembles. Et pour les chercheurs, ça pose des problématiques donc d'appropriation de ces formats, qui sont des formats professionnels, des bibliothèques et des archives, et puis des problématiques de conversion de ces formats. » author self citation
« Cette mise en relation du discret et du continu incarnerait cette invention de l'architectonique qui tente, comme l'architecture fait, de joindre, de mettre en relation des choses qui sont autrement incommensurables, et faire en sorte qu'une chose puisse parler d'autre chose. Donc d'aller dans un domaine accessible, le bâton dans le sable, vers un inaccessible, donc la hauteur d'une pyramide. L'intelligence artificielle, en mon sens, ressemble à cette forme de construction de nos mondes. On externalise ce point de vue dans un instrument qui rend la haute « dimensionné» d'un phénomène. Si vous voulez, haute dimensionné, vous pouvez penser à des jeux de données massives, donc de Big data. et avec l'hypothèse que ce qui git dans cette haute dimensionnalité là, dans le grand nombre de choses hétérogènes, parce que c'est l'hétérogénéité qui est aussi très intéressante, sinon les données massives produiraient une forme de redondance, on trouve dans une dimensionnalité plus faible des stabilités. C'est avec ces stabilités qu'on est capable de commencer à travailler et avec lesquelles on peut commencer à articuler. Donc, l'architecte va utiliser des instruments pour produire ou générer quelque chose, mais le travail de l'architecte risque la manière de joindre ces choses là. author self citation
« Comme l'a affirmé Louise Merzeau, le régime de l'information relève aussi de mécanismes de croyance, et aucune preuve journalistique ou scientifique n'a jamais suffi à invalider une croyance. Acceptée socialement, la situation ainsi instaurée diminue la facilité de l'exercice critique pour la légitimation des contenus. Les individus sont aujourd'hui plus motivés par le partage instantané des clashs que par la construction collective des connaissances communes et malgré une contribution à Wikipédia, par exemple. » author self citation
« Comme le suggère Sabine Süsstrunk, qui est directrice de recherche en informatique des images dans un institut en Suisse, j'ai relevé, dans un récent interview qu'elle produit avec une historienne de la photographie qui s'appelle Estelle Blaschke et un artiste Armin Linke, qu'elle propose, elle formule un doute sur la véracité des images et qui peut servir de constat de départ pour examiner, justement, la photographie contemporaine. Je lis en quelques lignes son propos : "Mais c'est ça le truc, vous savez ce que c'est un "deepfake" ou est-ce que ce n'est pas un "deepfake" ? Ce sont des questions que nous devons nous poser. Un portrait artificiellement généré est en tout cas un "deepfake" , mais une photo de moi avec un nouveau rouge à lèvres ou de nouvelles lunettes est-ce un "deepfake" ? D'un côté, mais oui ! Ce ne sont pas mes lunettes et je ne porte jamais de rouge à lèvres. Cela devient donc problématique. Je pense que la société a appris que les "fakes" existent, mais nous ne savons pas encore ce que nous faisons de cette connaissance." Donc, pour Süsstrunk, plutôt que d'établir des distinctions formelles entre le vrai et le faux, il serait nécessaire, en réalité, de comprendre les rapports entre documents photographiques et trucages, du point de vue d'un examen des modalités de production de l'image. C'est-à-dire, depuis l'infrastructure de l'image. Or, les médias génératifs sont aussi des médias computationnels, c'est-à-dire qu'ils sont les produits de calculs. Comment alors penser l'authenticité de ces images ? » author self citation
« Comment est-ce que le docu-drama fonctionne ? Il repose sur une présentation des risques, comme si ces risques ne pouvaient être dénoncés que sous la forme d'une révélation de secrets cachés. Pour une part, c'est vrai, que le problème majeur d'un point de vue citoyen que nous avons à l'égard de ces entreprises, c'est bien qu'elles sont secrètes, opaques, qu'elles diffusent du secret. Mais, il n'empêche que la manière dont cela va être fait dans le documentaire peut poser problème. Ne serait que par le ton qui va être donné. C'est-à-dire le ton de la dénonciation. Alors, moi, je me suis plutôt appuyer sur la topique de la dénonciation chez Boltanski, qui suppose à la fois des émotions notamment de colère, et en même temps, la désignation d'un coupable. Pour faire simple, le coupable, il va y en avoir qu'un, et je ne dis pas qu'il n'a pas des raisons d'être mis en cause, mais est-ce qu'il doit être à ce point-là unique ? C'est quand même une question. Et puis, ensuite, le ton. Le ton, qui sera donné : « Jamais dans l'histoire cinquante personnes n'avaient eu autant d'impact sur la vie de deux milliards d'humains... » (The social Dilemma) » author self citation
« Comment on en arrive à ce que cette idéologie du transhumanisme soit occultée : par le pouvoir de la rhétorique. Pour bien comprendre ce pouvoir là, je propose de parler, d'abord, de la personnification parce que c'est probablement la figure de rhétorique la plus forte chez l'humain. C'est-à-dire que le visage humain est la figure visuelle qu'on voit le plus depuis les débuts de l'humanité, depuis que le bébé naît. On a même une zone du cerveau qui est dédié à la reconnaissance des visages. Donc, le visage humain est extrêmement important pour faire sens du monde qui nous entoure. La personnification a un pouvoir rhétorique très fort. Pierre Fontanier (Les figures du discours, 2009) nous dit que la personnification rend une pensée plus sensible, plus riante. Cela rend une espèce d'être réel et physique, douée de sentiment et de vie. Enfin, ce qu'on appelle une personne. » author self citation
« D'un autre côté, l'effet pervers que tout ça va avoir c'est que si on commence à douter le la véracité de chaque vidéo qui nous est présenté, ce que ça crée c'est une certaine apathie de la réalité où finalement on doute absolument de tout et il n'y a plus rien pour nous qui est vrai ». author self citation
« Dans l’expectative de logique pragmatiste de la communication transactionnelle, donc ce n'est pas l'objet de l'évoquer, mais qui est la mienne et qui justifie l'approche de la communication de crise épistémique, l'émergence d'une crise doit s'accompagner du renforcement du rôle des publics et impliquer plus de démocratie pour plus d'efficacité collective et pas de moins de démocratie. Nous, au début de la crise, on avait des gars qui venaient nous expliquer que c'était un défaut, une faiblesse des sociétés occidentales, la démocratie, par rapport à la Chine. Parce que quand il y a une épidémie, c'est beaucoup mieux un régime totalitaire. » author self citation
« Dans les faits, il y a un déséquilibre total entre le perfectionnement des sytèmes pour créer les deepfakes versus ceux pour les détecter. [...] Sur certains panels où j'étais avec des experts techniques en recherche universitaire sur les algorithmes, on nous disait : même nous, qui sommes des experts du domaine, chacun d'entre nous on pourrait être trompé n'importe quand par un vidéo en pensant que c'est un original alors que c'est une contrefaçon. Donc même les experts peuvent se faire berner facilement. » author self citation
« Dans un article d'Ignas Kalpokas qui s'appelle "Work of Art in the Age of its IA Reproduction" (2023), il défend que l'image artificielle rend visible ce qui est sous-jacent dans la société contemporaine. C'est-à-dire, les interrelations récursives entre les données issues des multiples téléchargements d'Internet et des interactions que nous effectuons nous-mêmes en ligne. Ce qu'il défend, c'est que ces artefacts numériques révèlent notre vie contemporaine de façon singulière ou authentique. » author self citation
« Depuis cette année nous avons une exception dans le droit français qui permet de faire de la fouille de données, l'exception TDM, et donc qui permet aux chercheurs de constituer des corpus sous droit et de faire de la fouille du données sur ces corpus sous droit sans demander l'autorisation aux ayants droits et sans que les ayants droits puissent les opposer. Et donc ça ouvre évidemment pour le Data Lab et pour les études de recherche beaucoup de perspectives. La loi permet aussi la conservation des corpus acquis, ce qui permet donc de pouvoir rejouer les corpus, ce qui répond à la nécessité de pouvoir vérifier et éventuellement falsifier les résultats de recherche. » author self citation
« Depuis février 2020, il y a certaines compétitions qui ont été mises en place à l'internationale [...] pour que les programmeurs et les meilleurs développeurs à travers le monde développent des solutions de détection des deepfakes parce que justement c'est tellement un problème en ce moment les détecter. [...] Ils sont partis dans le cadre de ces concours-là de données publiques, [...] donc qui étaient déjà accessibles publiquement, qui avaient certains autres éléments de validation tiers pour aller valider qu'il s'agissait de l'original. Ils ont réussi à avoir des taux de détection qui étaient un petit peu supérieur à 80%, donc quand même près de 20% du contenu qui est passé complètement sous le radar des meilleurs joueurs sur la planète. Dans le cas où on a pris des données privées, c'est-à-dire : « voici un jeu de données que vous n'avez peut-être jamais vu avant, donc difficile à valider avec des sources tierces, allez-y avec vos outils pour essayer d'avoir la meilleure détection possible », on est à peine au-dessus de 60% de détection. [...] Presque 40% du contenu contrefait, totalement, faux, est impossible à détecter par les meilleurs joueurs de la planète. » author self citation
« Donc, ce qui m'intéresse dans l'étude de ces approches computationnelles qui sortent aujourd'hui et qui sont très à la mode, ce n'est pas du tout de les utiliser. Je trouve que d'un point de vue heuristique, ils ne sont pas très intéressants ou ils n'apportent pas grand chose, du moins pour le moment, à mon raisonnement scientifique. Pour le dire très vite, je ne parle, en particulier, pas de toutes les approches algorithmiques, car il y en a plein qui m'intéressent. Il y a des approches algorithmiques pour calculer les prochaines éclipses du soleil. Ça c'est très intéressant et ça existe depuis très longtemps. Mais en 2017, on a inventé les transformeurs, avec l'article "Attention is all you need". Ces trucs là, pour moi, actuellement, ils ne servent absolument à rien d'un point de vue scientifique, mais ils sont très intéressants, si on les étudie, pour mieux comprendre nos modèles de comportements intelligents. C'est-à-dire qu'on peut les étudier pour "qu'est-ce que ça nous dit cet algorithme-là." Par contre, il faut aller, un peu, dans les détails. On ne peut pas juste utiliser ChatGPT et puis dire ce qu'il me dit par rapport au comportement intelligent, non. » author self citation

Annotations

There are no annotations for this resource.