Écosystèmes socionumériques

Item

Title
Écosystèmes socionumériques
Item sets
Collections Arcanes
IA générative, puissances du faux et régimes d'authenticité

Linked resources

Items with "has top concept: Écosystèmes socionumériques"
Title Class
« Là où le bas blesse, ce sera le cœur de ma présentation, c'est qu'aux sources de la tromperie du transhumanisme, selon moi, c'est de nous faire croire que l'intelligence artificielle n'est que scientifique, qu'il n'y a pas de contexte idéologique, que le transhumanisme est apolitique. Et, donc, au final, c'est une idée qu'on entend encore souvent, que la technologie est neutre et que, en fait, ça dépend de ce qu'on en fait, qu'il faut qu'on les mette entre les mains des bonnes personnes, mais évidemment, tout est dans le définition de ce qu'est une bonne personne. »  author self citation
« La vérité n'est pas différente de la fiction. Elle est en fait un nouveau nom de la fiction. » author self citation
« Le deuxième constat, aussi important dans la formation au doctorat, on part de l'idée qu'on forme forme les jeunes doctorants ou les futurs doctorants, peu importe l'âge, parce que quelqu'un qui fait un doctorat, c'est quelqu'un qui veut faire une carrière académique et de chercheur, on adopte aussi quelqu'un qui a une relation professionnelle à la connaissance. Parce que lui, c'est un professionnel de la connaissance qui va travailler. Donc, l'IA aussi, entre parenthèses, nous pique une partie de cette professionnalisation de la connaissance. Parce que la connaissance, elle va de plus en plus vers l'IA. » author self citation
« Le doctorant travaille sur une masse de connaissances qui est énorme. Énorme. Donc, dans l'écriture post-numérique, ce que je vais proposer à mes collègues et qui sera notre rôle, qui sera le rôle de formation doctorale et de l'écriture. Alors, même, j'ai été très loin, j'ai beaucoup discuté avec ChatGPT autour de ces questions. Je voulais savoir comment il voyait les choses, lui aussi. Où il va ? Et je voulais vivre l'expérience. J'aimerais bien vous entendre là-dessus. J'ai peu de choses à vous dire, mais sans doute avez-vous plein de choses à me raconter. Il se trouve que dans la formation doctorale, si je considère que l'IA génératif (on n'utilise pas forcément ChatGPT, on utilise un truc un peu plus simple, mais l'IA est un peu plus objective et un peu moins commerciale), nous avons cette question : qu'attendons-nous de la thèse si on utilise l'intelligence artificielle générative ? Inconsciemment, là, j'ai fait une semaine intensive sur le métaverse dans la ville. Et il n'y a pas un jour qui ait passé sans parler de l'éthique. Donc, il y a une éthique. La question d'éthique, d'usage d'information, de la qualité de l'information, la référenciation... Donc dans la thèse, on va faire un effort pour voir les dimensions "éthicales" chez le doctorant. On va évaluer son sens de l'analyse critique. Parce que l'IA va lui donner beaucoup. Est-il en mesure de consommer cette information ? Est-il capable de se mettre en position de pensée critique et aller un peu plus loin ? On ne va pas juger le doctorant, dans l'avenir proche, sur sa contribution à la connaissance brutale parce que l'IA génératif peut faire des analyses de connaissance générée, mais on va trouver qu'on va rentrer au niveau de ce qu'on appelle la méta-intelligence. » author self citation
« Le morcellement et la division étant bien entendu la meilleure façon de gouverner. Dans la culture de l'écran, où dominent les flux, la vérité n'est rien d'autre qu'un label, fait d'abord et avant tout pour attirer l'attention et faire écran. La vérité ne se rapporte plus à une adéquation entre une assertion et un fait ou un état du monde, mais un système de renvoi entre des assertions, dénuées bien souvent de tout fondement. La vérité, c'est ce qu'on tente d'imposer aux autres. C'est une arme, dont on a l'usage exclusif, et dont on abuse pour ses intérêts personnels. La vérité n'est pas différente de la fiction, elle est en fait un nouveau nom de la fiction, c'est une fiction qui ne dit pas son nom. » author self citation
« Le non réel : pourquoi aujourd'hui, nous sommes vraiment dans une ère où il faut peut-être repenser ce qu'on implique comme étant une représentation du réel. » author self citation
« Le retour sur ce travail, c'est déjà une tentative de mieux définir le terme d'authenticité qui est chargé de sens, bien sûr. Il peut être compris à la lumière des écrits de Walter Benjamin, évidemment, mais il faut rappeler d'abord qu'il comprend deux significations bien distinctes. C'est-à-dire, d'une part la question de l'origine ou de la paternité : d'où vient l'œuvre, d'où vient le document. Puis, d'autre part, ce qui fait autorité. Donc, il y a l'originel, l'origine, originalité qu'on pourrait presque dire, et autorité dans le sens, là, de la conformité, de ce qui se conforme à l'original. Ici, je reprends une définition conventionnelle, commune, du terme. Pour revenir sur le sens donné à Benjamin, j'ai compris que c'était un sens un petit peu complexe. Le sens donné par Benjamin à ce terme fluctue et renvoie davantage à la reproductibilité technique, comme on le sait, et à une philosophie de l'aura de l'art. Cette aura ou ce terme d'authenticité chez Benjamin est controversé. Notamment, il y a un article de Bruno Latour sur le sujet qui revient sur des erreurs de logique quant à la façon dont Benjamin explicite le terme. Ce qu'on peut dire aussi, c'est que dans une ère marquée par l'hypermédiatisation, la reproductibilité technique des images semble finalement participer d'une diversité de processus de création originaux. Donc, je pense, par exemple, au "sampling" dans la création sonore, mais on peut penser aussi à un artiste ou à une œuvre comme celle de Nam June Paik qui, agissant sur les tubes cathodiques, opérant directement sur l'appareil technique, modifie le flux des images et donc, produit une œuvre originale qui se dégage, d'ailleurs, du contexte des médias de masse duquel il fait œuvre. Donc, le concept de Benjamin est un peu compliqué à appliqué pour parler des productions de l'IA générative.  » author self citation
« Les amateurs découvrent des comètes, pourquoi ? Parce que les astrophysiciens s'en moquent des comètes, ils ont des appareils pour voir des trous noirs. Donc les comètes les intéressent très peu. Ils laissent cela aux jeunes. [...] Mais, celui qui trouve des comètes, ce n'est pas avec le télescope que j'ai et qui grossit trente fois, que j'ai depuis quarante ans. C'est avec les télescopes assez chers. La notion de preuve, voyez-vous, effectivement, évolue dans le temps. Mais pourquoi l'accepte-t-on ? Il y a un rapport de force économique. La femme en Inde ne peut pas faire la science qui est celle de Harvard. Ce n'est pas parce qu'elle n'est pas intelligente, c'est parce que ça coûte un milliard. Dans son université, ils ont cent million. La discussion est close, elle n'aura pas le Nobel. [...] Oui, l'évolution de la notion de preuve qu'on observe et la division du travail, c'est de la sociologie classique. » author self citation
« Les deep fakes sont des contenus audio ou vidéo de synthèse qui vont avoir été modifiés en utilisant différentes techniques d'apprentissage profond, le fameux deeplearning en terme d'intelligence artificielle, pour créer des vidéos qui ont l'apparence d'être véridiques ou qui souvent auront été créés dans l'intention de tromper le public. » author self citation
« Les deep fakes sont devenus des appâts par le nombre de vues et de clics qu'ils suscitent, et si on les replace dans cette histoire longue de l'image d'actualité, sachant que l'information est devenue un spectacle et qu'elle influence en tant que tel le débat public, la vidéo de Nancy Pelosi qu'on a évoquée tout à l'heure se laisse regarder dans ce contexte de personnalisation de la vie politique. L'image-spectacle devient image-événement, et donc ce deep fake est devenu un deep fake-événement en quelque sorte, et au fond ce deep fake se comprend comme produit de cette évolution. D'ailleurs, ce qui est assez troublant c'est que l'image d'actualité que représentent certains deep fakes, pas tous mais un certain nombre en tout cas, s'inscrivent dans un élan scientiste et positiviste qui vise à fournir au public la représentation la plus exacte de la réalité, afin de la capturer grâce à la performance croissante des technologies utilisées [...]. Or, ces mêmes progrès techniques qui permettent de capturer la réalité sont aussi ceux qui vont permettre de trafiquer ces représentations de la réalité, comme dans les deep fakes. » author self citation
« Les données disponibles pour faire de la recherche, pour construire un discours scientifique sont de plus en plus nombreuses. Il y a une matière énorme de disponible, sans parler de la matière que chaque chercheur produit au cours de sa carrière et qui a tendance à être de plus en plus importante, ne serait-ce que pour répondre aux impératifs d'évaluation ou de classement des scientifiques. Donc on est vraiment dans une prolifération de l'information, des données, des datas, et il me semble qu'on est peut-être à un tournant aujourd'hui, qui s'amorce déjà depuis quand même un petit peu de temps, sur de nouveaux modes d'écriture, de nouveaux modes de constitution du discours scientifique. » author self citation
« Les jeunes et les enfants qui s'ouvrent actuellement aux réseaux sociaux, etc., il faudrait imaginer de leur demander de gérer leur identité numériques dès qu'ils sont petits. Gérer sa réputation dès l'enfance, c'est assez ambitieux, d'une part, et peut-être un peu utopique de demander à des enfants ou à des adolescents d'avoir conscience que, potentiellement, le Web n'oublie rien. D'avoir conscience de ce que c'est qu'une donnée personnelle et comment comment les données sont gérées ou pas par le RGPD. Comment sont-elles protégées par des lois comme le RGPD. Mais aussi, leur donner des compétences pour gérer des relations amicales en ligne et, aussi, avec des inconnus. Nous avons un écosystème complexe avec des publics qui ont encore de nombreuses expériences à faire afin d'avoir le recul nécessaire pour gérer leur identité numérique. Nous sommes dans des tensions qui sont là et qui sont importantes. » author self citation
« Les phénomènes de désinformation sont directement liés à une certaine déprise de notre écosystème numérique, c'est-à-dire l'écosystème de production et de circulation des connaissances et de l'information. Par déprise, j'entends une perte de maîtrise, et cette déprise est effectivement le résultat d'un manque de littératie. » author self citation
« Les puissances du faux interviennent dans la sphère informationnelle. Elles prennent racine autour des techniques de persuasion, allant de la publicité à la propagande qui vise depuis ses origines en Chine chez les Sophistes à convaincre, à séduire ou à exercer une influence, une domination. La mise en cause de la dynamique entre autorité et vérité caractérise l'écologie médiatique de notre époque à travers un remodelage de ces régimes d'authenticité. Elle engendre des phénomènes croissants de désinformation et de manipulation qui multiplient leurs incidences sur nos façons de construire l'information alors que les croyances prennent parfois la place du jugement rationnel dans l'évaluation informationnelle. Il est de plus en plus difficile de constituer un fondement commun propre à établir la pensée critique dans l'écosystème socionumérique tout en préservant la variété de ces expressions. » author self citation
« Les rubriques de fact checking d'aujourd'hui reprennent exactement les mêmes pratiques qu'en 1942, et évidemment, si ce sont les mêmes pratiques, ce sont les mêmes problèmes, d'une part parce que les moyens d'investigation de ces rubriques sont la plupart du temps extrêmement limités, il y a quelques journalistes derrière mais il n'y a pas une équipe, ils n'ont pas le temps et ils ont très peu de budget, donc finalement c'est un peu un info contre info, ils vont téléphoner et ils vont éventuellement recueillir une info ou une autre, mais ensuite il n'y a pas une véritable enquête qui est faite. » author self citation
« Mais avec le canon, avec les exemples qui méritent d'être imités, l'hypothèse qu'il y a quelque chose d'invariant qui est transmis par les objets du monde et qui méritent d'être imités, cela va nous aider à développer des jugements. Un jugement de comment sélectionner, de comment faire des choix à des moments-clés dans un projet, en regardant les choix qui ont été faits par le passé. Et ça pose un petit peu problème, peut-être, ça dépend de comment on le voit, que toute source n'est, bien sûre, pas égale. La valeur d'une œuvre n'est pas donnée, mais doit être démontrée. Pas nécessairement expliquée, non plus, parce que ça nécessiterait l'analyse de choses qui parfois résistent aux mots. Ça, c'est peut-être une dimension de quelque chose de transcendantal ou presque même religieux qui peut nous mettre un peu mal à l'aise, de mythique dans la force iconique de certains exemples. La question de la sélection du canon, je la travaille pas mal avec la pensée de Michel Serres dans mon travail. » author self citation
« Mais cette idée de la confiance (apportée par Mark Hunyadi dans son ouvrage "Au début de la confiance" [2020]) est intéressante. Il s'inspire bien sûr de ce qu'a proposé Citton au tour de cette question de l'économie de la connaissance. Sauf que Citton va plus mettre l'accent un peu moins sur la confiance que plutôt sur l'interprétation. C'est plutôt sur le processus de construction de cette confiance. Et ce qui est intéressant chez Citton, c'est qu'il va mettre en avant, finalement, - et ça, au niveau des fake news, ça peut être important de le prendre en compte - bien plus cette question de ce qu'on appelle les cadrages des pratiques. Qu'est-ce qui conditionne finalement l'utilisation d'une information plutôt que sa vérité ? Ce qu'il va mettre en avant, c'est moins de questionner "est-ce que c'est vrai ou est-ce que c'est faux ?", la question des fake news. Mais bien plus, "qu'est-ce qui est important dans cette information ?" Et la question de ce qui est important, selon lui, c'est la question politique par excellence, c'est-à-dire qu'il va falloir se positionner. Il va falloir interpéter, d'où la nécessité (...) d'arriver à avoir la description d'un contexte, la modélisation d'un contexte et comment est-ce qu'on va, soi-même, se placer dans ce contexte-là. Comment va se définir les différents points de vue à l'intérieur de ce contexte ? Ce qu'appelle Citton le "cadrage des pratiques". » author self citation
« Même chose avec l'intelligence artificielle ; Est-ce que l'intelligence artificielle est un reflet de nous-même ou elle n'est que le reflet de ce qu'on affiche en ligne. Et donc, encore une fois, qu'est-ce qui est vrai, qu'est-ce qui est faux ? » author self citation
« Ne vous inquiétez pas, on ne va pas transférer nos esprits dans le cloud. Google ne va pas posséder un droit de copyright sur nos esprits demain matin. Par contre, il y a des problèmes, évidemment, très contemporains par rapport à l'intelligence artificielle. Et, évidemment, comme Maude (Bonenfant) le soulève, il s'agit tout de même d'un mouvement qui vient soutenir un ensemble de croyance dans la communauté qui prend diverses formes. Dans le monde de l'intelligence artificielle, il y a tout de même une forme, ça prend en ce moment, il y a un certain nombre de personnes du domaine qui croit que le deep learning (apprentissage profond) - donc la technologie qui a été développée qui explique le breakthrough (les progrès, les percées) du début des années 2000's et l'industrialisation rapide de l'intelligence artificielle à partir de 2010 - serait déjà, on aurait solutionné, soit-disant découvert, pas mal tous les éléments concernant qu'est-ce que c'est que l'intelligence humaine et que tout ce qui resterait à cette étape-ci, c'est d'avoir juste plus de données, une plus grosse capacité de calcul. C'est une pensée qui est assez répandue. » author self citation
« Non, il n'y a pas une crise de l'autorité, mais il y a un déplacement, dans une certaine mesure, il y a une reconfiguration des dynamiques d'autorité, et non pas une disparition. Le web n'est pas un espace sans autorité. » author self citation
« Nous vivons entourés de fictions et d'écrans. De fictions diffusées par des écrans. Ce sont des fictions en ce sens que les valeurs de vérité de ces images, récits et textes qui nous entourent et que nous consommons ne peuvent être établis de façon assurée. » author self citation
« Nouvelles de la colonie est une fiction qui se moule à son média, qui fait corps avec lui et en épouse des formes et qui se donne à lire et à expérimenter de la même façon que nous inspectons les murs [Facebook] de nos amis et de nos connaissances, oscillant dans notre posture entre discrétion et voyeurisme. Mais c'est le même suspens de l'engagement qui a cours : des êtres donnent à lire leurs pensées et leurs intentions, mais leur identité n'est que de passage, c'est une identité-flux, une identité-écran, nécessairement transitoire. Et ce qu'ils disent est nécessairement impossible à vérifier. D'emblée, les rapports de vérité ne s'appliquent plus de façon stable ni prévisible : le texte qui se déroule sous la forme d'un mur qui monte peu à peu jusqu'au sommet de la tour compose un récit dissimulé derrière un écran que les entrées des hétéronymes rendent partiellement apparent. » author self citation
« On arrive à nos récits génératifs. Là, je vais notamment m'appuyer sur Jean-Pierre Balpe qui est vraiment notre écrivain-auteur emblématique dans le monde francophone. Il fait des récits génératifs depuis la fin des années 1970. Ces récits, ils vont fonctionner à la manière d'un écrivain automatique. Les textes ne sont pas préécrits, mais les mots sont combinés en temps réel, à partir d'un logiciel d'écriture automatique capable d'engendrer les pages d'un roman sans fin. Avec le texte généré, je vais recharger la page et c'est un autre texte qui apparaît. Là, on voit bien que la notion de texte change, puisqu'il s'agit d'un texte sans origine, ni fin. Même la première version du texte émise par ordinateur n'est pas la première version. La dernière n'est jamais la dernière, que pour un lecteur en particulier. Le processus prend le pas sur le résultat. » author self citation
« On essaie de créer un parallèle historique pour regarder aujourd'hui comment les nouvelle technologies, comment ces écosystèmes de l'information de plus en plus prégnants dans la vie de chaque jour, entraînent des effets de détournement ou d'imposture qui nous amènent à nous intéresser à redéfinir ce que pourrait être le concept de vérité, ce qui amène notamment de nombreux chercheurs à parler de post-vérité, comme il y a quelques années on s'est mis à réfléchir à la question de la post-modernité, sur une nouvelle façon de concevoir l'évolution historique, non plus en terme de progrès mais en terme de relativité des agencements dans le temps et plus dans une vision linéaire du monde. De même pour la vérité : aujourd'hui, on le voit bien, à travers les réseaux sociaux, à travers les événements notamment politique, où les faits n'ont pour certains plus aucune importance et ce qui va primer c'est le fait d'exprimer une opinion et parce qu'on exprime une opinion, cela fait acte de vérité. Les réseaux sociaux accentuent encore le phénomène en créant des bulles informationnelles dans lesquelles on s'auto-légitime parce qu'on va défendre les mêmes idées. » (Samuel Szoniecky) author self citation
« On peut parler franchement, la façon avec laquelle on gère et on évalue les thèses doit être changée. On ne peut pas rester comme ça. On est en mutation. L'IA générative aujourd'hui, c'est un outil hyper puissant. Sans doute, elle est beaucoup plus puissante que moi en lisant quinze livres. Je suis beaucoup plus subjectif qu'elle. La subjectivité n'est pas toujours mauvaise. Par contre, évidemment, l'IA générative va améliorer notre productivité en terme d'analyse des données et de synthèse des données. Même, dans la qualité d'écriture, elle va nous aider à faire de belles communications claires. Elle écrit mieux que nous, mieux que moi au moins. J'en suis certain. Quand il écrit, c'est impressionnant. Il y a de la clarté dans l'écriture, mais il y a beaucoup de répétition et il y en a beaucoup trop, mais pas de faux. Il y a juste un manque de clarté. Donc, on peut évaluer, discuter avec l'IA des démonstrations, de la pensée critique. On peut partager des choses et elle peut pousser aussi vers de nouvelles idées. C'est vrai, cela pousse des pistes pour les étudiants. » author self citation

Annotations

There are no annotations for this resource.