Sens critique

Item

Title
Sens critique
Item sets
Concepts et mots-clés
IA générative, puissances du faux et régimes d'authenticité

Linked resources

Items with "keywords: Sens critique"
Title Class
Accès, exploitation et réutilisation des données patrimoniales de la BNF Conference
Carnet de controverses en temps de Covid : pour une autre communication de crise en santé Conference
L’étude des controverses : littéracie des fake news et formation à l’esprit critique Conference
Items with "has top concept: Sens critique"
Title Class
« Alors, moi, j'ai travaillé beaucoup sur la charte IA de la commission européenne pour l'efficacité de la justice du Conseil de l'Europe pour son opérationnalisation. Pour vous donner quelques éléments : elle a été conçue en 2018 à partir de travaux qui datent de 2016 - 2017, avec cinq grand principes - sur des droits fondamentaux, non discrimination, qualité et sécurité, transparence, impartialité et équité, et contrôle par l'utilisateur. » author self citation
« Cela m'intéressait d'interroger des artistes qui étaient des pionniers, à l'époque, de l'inphographie ( "computer graphics" ) qui ont prédit, pour quelques uns, comment l'IA allait se positionner quelques années plus tard. Donc, je voulais leur demander comment ils voient, d'ici cinquante ans, le futur et comment ils voient ce qu'il va se passer après. C'est très spéculatif, mais ça m'intéressait, parce que l'idée n'est pas forcément de, si je demande la même chose à un futurologue ou à quelqu'un qui passe dans la rue comme ça, non, la différence avec SIGGRAPH, pour moi, était que comme Ken Perlin, que j'ai cité dans cette intervention, ce sont des personnes qui pensent vraiment comment cela peut être fait. C'est un chemin : il y a un algorithme, il y a un modèle, il y a une méthode, c'est-à-dire qu'il y a une manière de faire cela, plus ou moins. » author self citation
« Comme le suggère Sabine Süsstrunk, qui est directrice de recherche en informatique des images dans un institut en Suisse, j'ai relevé, dans un récent interview qu'elle produit avec une historienne de la photographie qui s'appelle Estelle Blaschke et un artiste Armin Linke, qu'elle propose, elle formule un doute sur la véracité des images et qui peut servir de constat de départ pour examiner, justement, la photographie contemporaine. Je lis en quelques lignes son propos : "Mais c'est ça le truc, vous savez ce que c'est un "deepfake" ou est-ce que ce n'est pas un "deepfake" ? Ce sont des questions que nous devons nous poser. Un portrait artificiellement généré est en tout cas un "deepfake" , mais une photo de moi avec un nouveau rouge à lèvres ou de nouvelles lunettes est-ce un "deepfake" ? D'un côté, mais oui ! Ce ne sont pas mes lunettes et je ne porte jamais de rouge à lèvres. Cela devient donc problématique. Je pense que la société a appris que les "fakes" existent, mais nous ne savons pas encore ce que nous faisons de cette connaissance." Donc, pour Süsstrunk, plutôt que d'établir des distinctions formelles entre le vrai et le faux, il serait nécessaire, en réalité, de comprendre les rapports entre documents photographiques et trucages, du point de vue d'un examen des modalités de production de l'image. C'est-à-dire, depuis l'infrastructure de l'image. Or, les médias génératifs sont aussi des médias computationnels, c'est-à-dire qu'ils sont les produits de calculs. Comment alors penser l'authenticité de ces images ? » author self citation
« Donc, ce qui m'intéresse dans l'étude de ces approches computationnelles qui sortent aujourd'hui et qui sont très à la mode, ce n'est pas du tout de les utiliser. Je trouve que d'un point de vue heuristique, ils ne sont pas très intéressants ou ils n'apportent pas grand chose, du moins pour le moment, à mon raisonnement scientifique. Pour le dire très vite, je ne parle, en particulier, pas de toutes les approches algorithmiques, car il y en a plein qui m'intéressent. Il y a des approches algorithmiques pour calculer les prochaines éclipses du soleil. Ça c'est très intéressant et ça existe depuis très longtemps. Mais en 2017, on a inventé les transformeurs, avec l'article "Attention is all you need". Ces trucs là, pour moi, actuellement, ils ne servent absolument à rien d'un point de vue scientifique, mais ils sont très intéressants, si on les étudie, pour mieux comprendre nos modèles de comportements intelligents. C'est-à-dire qu'on peut les étudier pour "qu'est-ce que ça nous dit cet algorithme-là." Par contre, il faut aller, un peu, dans les détails. On ne peut pas juste utiliser ChatGPT et puis dire ce qu'il me dit par rapport au comportement intelligent, non. » author self citation
« Donc, en disant que l'objectivité c'est un mythe, puis en affirmant par le même texte que, par contre, on a démontré scientifiquement qu'il y a de l'inégalité homme-femme, voyez-vous, c'est un tissus de contradiction. La question qui se pose pour le sociologue des sciences que je suis c'est comment expliquer que des gens s'auto-contredisent sur des niveaux aussi élémentaires et que ce sont des professeurs d'universités. Ça, ça fait partie de mes objets de recherche de dire que la rationalité élémentaire, qui vont contre leurs propres intérêts [...] et ce qu'ils écrivent sont complètement une contradiction dans les termes. » author self citation
« Donc, je vous laisse avec cette petite citation d'une artiste qui dit : " I want AI to do my laundry and dishes so that I can do art and writing, not for AI to do my art and writing, so that I can do my laundry and dishes. " (Joanna Maciejewska). [...] C'est quand même une question de savoir finalement ce qu'on attend de cette IA. Est-ce qu'on attend d'elle qu'elle soit créative et qu'elle se substitue à nous en tant qu'auteur ou est-ce qu'on attend des IA qu'elles soient vraiment des éléments fonctionnels qui nous libère du temps pour la créativité et pour des activités qui pour nous ont du sens et de la valeur. » author self citation
« Il parlait d' "uncanny valley" comme d'un élément narratif. Nous avons tous déjà expérimenté cette sensation de voir un robot qui nous parle, mais en même temps, on voit que le robot est un peu étrange. On essaie de le comprendre, de sympathiser, enfin de se projeter. Mais en même temps que cette empathie, nous avons une répulsion. L' "uncanny valley" , ça définit cela. Finalement, on constate que ce n'est pas réaliste vraiment, que c'est plutôt du côté étrange. C'est quelque chose qui a commencé en 1970 déjà, par un auteur au Japon, Masahiro Mori, dans l'univers des robots et de la cybernétique. Le film que je vous ai montré (Stina and the Wolf), la notion d' "uncanny valley" servait aux personnages, un peu comme un peu David Lynch le fait dans ses films, pour représenter une émotion. Dans le fait que le héros, le personnage principal, est en train de le sentir, il se confronte contre lui-même. Puis, le drame se reçoit à la fin. » author self citation
« Il y a des formes variées de déformation de l'information qui prennent effet dans les fake news, dont certaines vont emprunter des codes à l'information médiatique et, d'autres, vont emprunter des codes à la fiction. Et tout cela correspond à des zones grises de l'information et à une forme d'information qui est hybridée. J'ai réfléchi à cela récemment, c'est encore en processus, mais c'est proche de ce qu'on apepelait (ou qu'on appelle encore) des docu-fictions ou des documenteurs avec, par exemple, ce documenteur intitulé Opération Lune de William Karel (2002) et passé sur Arte. Cela raconte que peut-être les Américains ne sont peut-être pas allés sur la Lune. » author self citation
« L'approche de l'esprit critique que je propose consiste à non seulement viser des compétences formelles de raisonnement, mais au-delà de cela, elle implique de considérer d'autres dimensions de l'esprit critique, comme la qualité de questionnements et l'élaboration d'hypothèses. Le fait d'être capable de problématiser. Cela nécessite aussi de prendre connaissance des cadres de référence de construction des connaissances, de l'épistémologie, et des informations mobilisées, c'est-à-dire de prendre connaissance de l'environnement numérique. Et puis, moi, je défends une approche qui implique et qui embarque des capacités interprétatives que je développe comme compétences créatives dont l'imagination, l'intuitivité et la réflexivité, dans la lignée des travaux de Walters (1990). » author self citation
« L'IA génératif suscite des rhétoriques, des imaginaires sociaux dans la sphère médiatique et dans l'espace social. Elle s'inscrit donc dans un contexte d'hypermnésie ayant institué, on le sait, une crise de la vérité où les valeurs d'authenticité, de légitimité et d'autorité sont mises à mal. Les "deepfakes" sont utilisés à des fins de tromperie et de manipulation pour générer des fausses nouvelles, des canulars, en faisant émerger de nouvelles formes d'exploitation qui mettent en jeu plusieurs aspects de la vie sociale. Ces falsifications algorithmiques deviennent problématiques lorsqu'elles circulent dans un écosystème socionumérique déjà fragile où il est de plus en plus difficile de distinguer le vrai et le faux. » author self citation
« Le deuxième constat, aussi important dans la formation au doctorat, on part de l'idée qu'on forme forme les jeunes doctorants ou les futurs doctorants, peu importe l'âge, parce que quelqu'un qui fait un doctorat, c'est quelqu'un qui veut faire une carrière académique et de chercheur, on adopte aussi quelqu'un qui a une relation professionnelle à la connaissance. Parce que lui, c'est un professionnel de la connaissance qui va travailler. Donc, l'IA aussi, entre parenthèses, nous pique une partie de cette professionnalisation de la connaissance. Parce que la connaissance, elle va de plus en plus vers l'IA. » author self citation
« Le doctorant travaille sur une masse de connaissances qui est énorme. Énorme. Donc, dans l'écriture post-numérique, ce que je vais proposer à mes collègues et qui sera notre rôle, qui sera le rôle de formation doctorale et de l'écriture. Alors, même, j'ai été très loin, j'ai beaucoup discuté avec ChatGPT autour de ces questions. Je voulais savoir comment il voyait les choses, lui aussi. Où il va ? Et je voulais vivre l'expérience. J'aimerais bien vous entendre là-dessus. J'ai peu de choses à vous dire, mais sans doute avez-vous plein de choses à me raconter. Il se trouve que dans la formation doctorale, si je considère que l'IA génératif (on n'utilise pas forcément ChatGPT, on utilise un truc un peu plus simple, mais l'IA est un peu plus objective et un peu moins commerciale), nous avons cette question : qu'attendons-nous de la thèse si on utilise l'intelligence artificielle générative ? Inconsciemment, là, j'ai fait une semaine intensive sur le métaverse dans la ville. Et il n'y a pas un jour qui ait passé sans parler de l'éthique. Donc, il y a une éthique. La question d'éthique, d'usage d'information, de la qualité de l'information, la référenciation... Donc dans la thèse, on va faire un effort pour voir les dimensions "éthicales" chez le doctorant. On va évaluer son sens de l'analyse critique. Parce que l'IA va lui donner beaucoup. Est-il en mesure de consommer cette information ? Est-il capable de se mettre en position de pensée critique et aller un peu plus loin ? On ne va pas juger le doctorant, dans l'avenir proche, sur sa contribution à la connaissance brutale parce que l'IA génératif peut faire des analyses de connaissance générée, mais on va trouver qu'on va rentrer au niveau de ce qu'on appelle la méta-intelligence. » author self citation
« Les amateurs découvrent des comètes, pourquoi ? Parce que les astrophysiciens s'en moquent des comètes, ils ont des appareils pour voir des trous noirs. Donc les comètes les intéressent très peu. Ils laissent cela aux jeunes. [...] Mais, celui qui trouve des comètes, ce n'est pas avec le télescope que j'ai et qui grossit trente fois, que j'ai depuis quarante ans. C'est avec les télescopes assez chers. La notion de preuve, voyez-vous, effectivement, évolue dans le temps. Mais pourquoi l'accepte-t-on ? Il y a un rapport de force économique. La femme en Inde ne peut pas faire la science qui est celle de Harvard. Ce n'est pas parce qu'elle n'est pas intelligente, c'est parce que ça coûte un milliard. Dans son université, ils ont cent million. La discussion est close, elle n'aura pas le Nobel. [...] Oui, l'évolution de la notion de preuve qu'on observe et la division du travail, c'est de la sociologie classique. » author self citation
« Les jeunes et les enfants qui s'ouvrent actuellement aux réseaux sociaux, etc., il faudrait imaginer de leur demander de gérer leur identité numériques dès qu'ils sont petits. Gérer sa réputation dès l'enfance, c'est assez ambitieux, d'une part, et peut-être un peu utopique de demander à des enfants ou à des adolescents d'avoir conscience que, potentiellement, le Web n'oublie rien. D'avoir conscience de ce que c'est qu'une donnée personnelle et comment comment les données sont gérées ou pas par le RGPD. Comment sont-elles protégées par des lois comme le RGPD. Mais aussi, leur donner des compétences pour gérer des relations amicales en ligne et, aussi, avec des inconnus. Nous avons un écosystème complexe avec des publics qui ont encore de nombreuses expériences à faire afin d'avoir le recul nécessaire pour gérer leur identité numérique. Nous sommes dans des tensions qui sont là et qui sont importantes. » author self citation
« Les méthodologies créatives qui en découlent mettent en cause la relation entre imitation, innovation et cette notion d'originalité. Si certains prétendent que la machine est incapable, par elle-même, d'un acte créateur authentique, car dépourvue d'intentionnalité et de jugement esthétique, rappelons que les procédés humains de création ne se font pas ex nihilo, mais qu'ils procèdent souvent d'un long apprentissage imitatif, et que certaines pratiques esthétiques récentes valorisent le "remixage", soit le recyclage des créations artistiques antérieures. » author self citation
« Les phénomènes de désinformation sont directement liés à une certaine déprise de notre écosystème numérique, c'est-à-dire l'écosystème de production et de circulation des connaissances et de l'information. Par déprise, j'entends une perte de maîtrise, et cette déprise est effectivement le résultat d'un manque de littératie. » author self citation
« Mais avec le canon, avec les exemples qui méritent d'être imités, l'hypothèse qu'il y a quelque chose d'invariant qui est transmis par les objets du monde et qui méritent d'être imités, cela va nous aider à développer des jugements. Un jugement de comment sélectionner, de comment faire des choix à des moments-clés dans un projet, en regardant les choix qui ont été faits par le passé. Et ça pose un petit peu problème, peut-être, ça dépend de comment on le voit, que toute source n'est, bien sûre, pas égale. La valeur d'une œuvre n'est pas donnée, mais doit être démontrée. Pas nécessairement expliquée, non plus, parce que ça nécessiterait l'analyse de choses qui parfois résistent aux mots. Ça, c'est peut-être une dimension de quelque chose de transcendantal ou presque même religieux qui peut nous mettre un peu mal à l'aise, de mythique dans la force iconique de certains exemples. La question de la sélection du canon, je la travaille pas mal avec la pensée de Michel Serres dans mon travail. » author self citation
« Mais cette idée de la confiance (apportée par Mark Hunyadi dans son ouvrage "Au début de la confiance" [2020]) est intéressante. Il s'inspire bien sûr de ce qu'a proposé Citton au tour de cette question de l'économie de la connaissance. Sauf que Citton va plus mettre l'accent un peu moins sur la confiance que plutôt sur l'interprétation. C'est plutôt sur le processus de construction de cette confiance. Et ce qui est intéressant chez Citton, c'est qu'il va mettre en avant, finalement, - et ça, au niveau des fake news, ça peut être important de le prendre en compte - bien plus cette question de ce qu'on appelle les cadrages des pratiques. Qu'est-ce qui conditionne finalement l'utilisation d'une information plutôt que sa vérité ? Ce qu'il va mettre en avant, c'est moins de questionner "est-ce que c'est vrai ou est-ce que c'est faux ?", la question des fake news. Mais bien plus, "qu'est-ce qui est important dans cette information ?" Et la question de ce qui est important, selon lui, c'est la question politique par excellence, c'est-à-dire qu'il va falloir se positionner. Il va falloir interpéter, d'où la nécessité (...) d'arriver à avoir la description d'un contexte, la modélisation d'un contexte et comment est-ce qu'on va, soi-même, se placer dans ce contexte-là. Comment va se définir les différents points de vue à l'intérieur de ce contexte ? Ce qu'appelle Citton le "cadrage des pratiques". » author self citation
« On peut parler franchement, la façon avec laquelle on gère et on évalue les thèses doit être changée. On ne peut pas rester comme ça. On est en mutation. L'IA générative aujourd'hui, c'est un outil hyper puissant. Sans doute, elle est beaucoup plus puissante que moi en lisant quinze livres. Je suis beaucoup plus subjectif qu'elle. La subjectivité n'est pas toujours mauvaise. Par contre, évidemment, l'IA générative va améliorer notre productivité en terme d'analyse des données et de synthèse des données. Même, dans la qualité d'écriture, elle va nous aider à faire de belles communications claires. Elle écrit mieux que nous, mieux que moi au moins. J'en suis certain. Quand il écrit, c'est impressionnant. Il y a de la clarté dans l'écriture, mais il y a beaucoup de répétition et il y en a beaucoup trop, mais pas de faux. Il y a juste un manque de clarté. Donc, on peut évaluer, discuter avec l'IA des démonstrations, de la pensée critique. On peut partager des choses et elle peut pousser aussi vers de nouvelles idées. C'est vrai, cela pousse des pistes pour les étudiants. » author self citation
« On vient de voir avec Orélie (Desfriches-Doria) que les émotions sont une part importante des problématiques qu'on peut se poser. Dans le cadre de ma présentation, je voulais mettre l'accent sur une émotion particulière qui est la confiance, en essayant de faire une part entre ce que j'ai appelé une confiance intime, une confiance peut-être humaine, en rapport avec une confiance numérique, et comment l'un et l'autre permettent de manipuler des informations. » author self citation
« Polémika est la deuxième expérimentation autour de ces travaux sur l'esprit critique. (...) Plus récemment sur un générateur automatique de texte développé par Jean-Pierre Balpe. On bénéficie d'une infrastructure existante pour la génération automatique de structures textuelles. Le contexte et les objectifs : C'est le constat de cette généralisation du phénomène des fake news, des effets des bulles, des filtres et des algorithmes. Et puis, Polémika visa à emtraîner les gens à générer des contre arguments, de l'absurde, des caricatures, des exagérations, voire des news pour entraîner les compétences d'esprit critique par la pratique en essayant de proposer une dimension ludique et interactive. » author self citation
« Qu'est-ce que c'est être un auteur en droit d'auteur ? C'est être la personne qui fait l'expression de l'idée. Donc, l'auteur est celui ou celle qui va mettre en forme une idée qu'il a dans sa tête. J'anticipe un peu, mais ce que l'intelligence artificielle nous fait réaliser beaucoup plus que, je dirais, il y a dix ans où on se posait certaines questions, mais pas avec l'acuité d'aujourd'hui, c'est qu'on a toujours pris pour acquis que cette expression d'originalité était celle d'une personne humaine. » author self citation

Annotations

There are no annotations for this resource.