Mettre en récit les agents d’IA : entre alarmisme stratégique et critique des logiques commerciales
Item
- Titre de la relation / annotation
- Mettre en récit les agents d’IA : entre alarmisme stratégique et critique des logiques commerciales
- Argument de l'annotation
-
Ici, Bengio mobilise une série de stratégies narratives qui visent à repositionner l’industrie des agents d’IA comme un acteur risqué, animé par des logiques commerciales incompatibles avec l’intérêt public. Il évoque d’abord les pressions économiques colossales qui façonnent la trajectoire actuelle du secteur : « Hundreds of billions of dollars are invested in growing this technology every year ». Cette formulation marque l’ampleur des forces économiques en jeu et prépare le terrain à la critique suivante : pour ces entreprises, leur objectif est de remplacer la main d’œuvre humain. En associant l’industrie à un objectif de substitution massive du travail humain, il construit un récit dans lequel les entreprises deviennent des agents de déstabilisation sociale qui ont à cœur le profit et non le bien commun.
Bengio insiste également sur l’écart entre la vitesse du développement industriel et la faiblesse des cadres qui les régulent, allant jusqu’à déclarer qu’un sandwich est légalement mieux encadré que ces technologies. Cette hyperbole, à la fois humoristique et alarmiste, sert à pointer du doigt l’irresponsabilité structurelle du secteur techno-industriel.
Plus tard dans sa prise de parole, Bengio met en scène un futur inquiétant où les IA agentives pourraient développer des comportements stratégiques dangereux (tromperie, dissimulation, autopréservation) en citant explicitement l’article “Frontier Models Are Capable of In-Context Scheming”. À partir des conclusions de cet article, Bengio invite le public à se projeter dans un tel scénario : « make a giant leap into a future that looks so different from where we are now ». Cette injonction consiste à imaginer un monde où les objectifs des agents d’IA ne seraient plus alignés sur ceux des humain.es et où ces systèmes, dotés d’agentivité croissante, pourraient potentiellement nous nuire, voire nous détruire. Il ne s’agit donc pas d’un simple exercice spéculatif : Bengio cherche à rendre tangible un risque structurel, celui d’une perte de contrôle face à des systèmes devenus capables de planification autonome, de tromperie et d’autopréservation.
Cette injonction est particulièrement intéressant du point de vue des stratégies narratives. En effet, comme l’a montré la littérature critique (Prévost, 2024), les récits futuristes lointains sont souvent employés, notamment dans les discours transhumanistes, pour produire un horizon si éloigné et si décontextualisé qu’il désactive la capacité du public à exercer une pensée critique. Plus un futur est distant, plus il devient abstrait, inoffensif et difficile à politiser. Or Bengio utilise ce même levier rhétorique à rebours : il nous demande précisément de « faire ce saut de géant » afin d’entretenir une vigilance critique, de reconnaître la trajectoire actuelle des agents d’IA et d’anticiper leurs effets avant qu’ils ne deviennent inévitables. Ici, la projection dans le futur ne sert pas à paralyser la réflexion, mais à la stimuler. Elle devient un outil d’alerte destiné à rappeler l’urgence de ralentir le développement de l’agentivité et de repenser collectivement l’encadrement de ces technologies.
Dans l’ensemble, Bengio propose un récit où l’industrie apparaît comme un moteur aveugle et accélérationniste, où la commercialisation de l’agentivité de l’IA menace les fondements mêmes de l’agentivité humaine.
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
- (sous)thématique de l'analyse / annotation
-
The Catastrophic Risks of AI – and a Safer Path
Linked resources
| Title | Class |
|---|---|
| The Catastrophic Risks of AI – and a Safer Path |
Annotations
There are no annotations for this resource.