The Catastrophic Risks of AI – and a Safer Path · MIARA dossier thématique

The Catastrophic Risks of AI – and a Safer Path

Item

Titre de l'article, la conférence ou du rapport: The Catastrophic Risks of AI – and a Safer Path
Chercheur.e(s) ou institution(s) porteuse(s): Yoshua Bengio
Date de publication ou diffusion: 21 mai 2025
site web associé: https://www.youtube.com/watch?v=qe9QSCF-d88
médias associés au besoin: The Catastrophic Risks of AI – and a Safer Path (conférence)
Résumez le document en un bref paragraphe (Type de technologies d'IA ?): Dans ce TED Talk, Yoshua Bengio alerte le public sur le développement rapide des IA agentives (AI agents), soit des systèmes capables de planification élaborée et, potentiellement, de poursuivre leurs propres objectifs. Pour lui, les véritables risques associés au développement des intelligences artificielles ne viennent pas d’une hypothétique Intelligence Artificielle Générale (AGI), mais bien de ces agents d’IA déjà en émergence et fortement poussés par la pression commerciale visant à remplacer la main-d’œuvre humaine.

Bengio rappelle avoir signé l’appel à une pause dans le développement de ce type d’IA (Pause Giant AI Experiments: An Open Letter) et souligne que des études récentes, dont l’article “Frontier Models Are Capable of In-Context Scheming” d’Alexander Meinke et al., montrent chez certains modèles des comportements préoccupants : tromperie, stratégies de dissimulation, tendances à la préservation de soi. Selon Bengio, nous disposons encore d’un peu de temps et d’agentivité collective pour réorienter le développement de l’IA.

Le chercheur affirme qu’il faut ralentir l’attribution d’agentivité aux systèmes d’IA et investir massivement dans la recherche scientifique afin de comprendre comment rendre ces technologies sûres, fiables et alignées sur les objectifs humains. Plutôt que de céder à la peur, Bengio invite à agir.
Quel est l'objectif du document?: L’objectif du TED Talk de Bengio consiste à appeler à un ralentissement du développement de l’agentivité des systèmes d’IA et à promouvoir un investissement massif dans la recherche fondamentale afin de comprendre comment orienter ces technologies vers des comportements sûrs et véritablement alignés sur les intérêts humains.
Insérez une fiche analyse critique - annotation: Mettre en récit les agents d’IA : entre alarmisme stratégique et critique des logiques commerciales; Le positionnement pro-science et la figure de l’IA scientifique (scientific AI); La dramatisation comportementale des agents d’IA
Figures narratives employées. Ex. : cerveau artificiel, assistant intelligent, compagnon, etc.): Dans sa prise de parole, Yoshua Bengio mobilise plusieurs métaphores pour articuler différents imaginaires de l’intelligence artificielle et orienter l’interprétation du public. Il ouvre sa conférence par une anecdote intime : son fils qui apprend à parler. Cette scène sert à ancrer le discours sur l’IA dans une perspective intergénérationnelle et affective, rappelant que les choix technologiques d’aujourd’hui auront des conséquences directes sur la joie et l’agentivité des générations futures. Le récit parental lui permet également de légitimer son inquiétude en la replaçant dans une responsabilité morale plus large.

Ce registre familial réapparaît à la fin de l’intervention lorsqu’il affirme « Most of the discussions you hear about AI risks are focused on fear. Today, with you, I am betting on love », substituant à une rhétorique de la peur une figure narrative fondée sur l’amour, la protection des enfants et le souci du futur. Ce glissement permet de reformuler les risques liés aux agents d'intelligences artificielles en un appel éthique qui se souhaite universel : agir non par panique, mais par solidarité.
contenu scientifique: Alexander Meinke : Frontier Models are Capable of In-context Scheming (conférence); Frontier Models are Capable of In-context Scheming
listez les concepts et mots-clés: Récits scientifiques; Intelligence artificielle; AI Agent; Risques; Enjeux; Prudence technologique; Crainte
Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés: Une vie intelligente; Réflexions sur le parcours et l’avenir de l’IA
Fait partie de quel dossier?: Dossier - Pratiques narratives de l'IA
Fait partie de quelle collection ?: Récits scientifiques

Media: The Catastrophic Risks of AI – and a Safer Path

Linked resources

Filter by resource type and property:

Items with "(sous)thématique de l'analyse / annotation: The Catastrophic Risks of AI – and a Safer Path"
Title	Class
La dramatisation comportementale des agents d’IA	Annotation
Le positionnement pro-science et la figure de l’IA scientifique (scientific AI)	Annotation
Mettre en récit les agents d’IA : entre alarmisme stratégique et critique des logiques commerciales	Annotation

Items with "Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés : The Catastrophic Risks of AI – and a Safer Path"
Title	Class
AI expert: ‘We’ll be toast’ without changes in AI technology (Entrevue entre Anderson Cooper et Geoffrey Hinton)

Items with "Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés: The Catastrophic Risks of AI – and a Safer Path"
Title	Class
Réflexions sur le parcours et l’avenir de l’IA

Annotations

There are no annotations for this resource.