MIARA dossier thématique

AI expert: ‘We’ll be toast’ without changes in AI technology (Entrevue entre Anderson Cooper et Geoffrey Hinton)

Item

Titre de l'article

AI expert: ‘We’ll be toast’ without changes in AI technology (Entrevue entre Anderson Cooper et Geoffrey Hinton)

Nom de l'auteur.ice

Geoffrey Hinton

Anderson Cooper

Date de publication

13 août 2025

site web associé

https://www.youtube.com/watch?v=IidpM2DsrBE

Résumez le contenu en un bref pargraphe

Geoffrey Hinton (professeur émérite de l’Université de Toronto et lauréat du prix Nobel), présenté comme le « godfather of AI », affirme dans une entrevue à CNN qu’il existe 10 à 20 % de chances que l’IA puisse mener à l’extinction humaine. Selon lui, la solution ne réside pas dans l’idée de garder l’IA sous contrôle humain, un modèle voué à l’échec une fois qu’elle sera plus intelligente que nous. Il propose plutôt de développer chez les IA un « instinct maternel », inspiré de la manière dont un être plus intelligent (la mère) est motivé à protéger et à se laisser influencer par un être moins intelligent (le bébé). À ses yeux, inculquer un tel attachement affectif aux IA serait essentiel pour assurer la survie humaine. Malgré les enjeux géopolitiques évoqués par Anderson Cooper, Hinton insiste que la menace est globale et nécessite une coopération internationale et une vigilance accrue face au discours des « tech bros » anti-régulation.

associatedMedia

‘We’ll be toast’ without changes in AI technology (Entrevue CNN)

Usages déclarés : éducation, sécurité, service client, médecine, etc.

L’objectif de l’entrevue est de permettre à Geoffrey Hinton d’expliquer publiquement ce qu’il entendait lorsqu’il a déclaré, à la conférence AI4 de Las Vegas en 2025, qu’il faudrait implanter un « instinct maternel » aux IA superintelligentes. Hinton y clarifie que cette idée vise à créer des remparts lorsque que les IA seront plus intelligentes et puissantes que les humains. Pour réduire le risque existentiel, il suggère qu'il est inutile de vouloir les dominer, mais qu'il faut s'assurer qu'elles « souhaiteront » profondément protéger les humains. L’entretien sert donc à contextualiser cette proposition, en montrer la logique, et en discuter les implications éthiques et géopolitiques.

Figures narratives employées. Ex. : cerveau artificiel, assistant intelligent, compagnon, etc.)

Hinton mobilise une métaphore biologique centrale pour justifier l’idée d’implanter un instinct maternel aux IA superintelligentes. Cette analogie lui permet d’affirmer qu’il existe très peu de scénarios dans lesquels une entité plus intelligente accepte l’influence d’une entité moins intelligente — sauf lorsque la biologie encode une pulsion de soin, comme dans le lien mère-bébé. L’instinct maternel devient alors, dans son récit, une solution technique et morale destinée à orienter des IA plus puissantes vers la protection des humains.

Citation(s)

« We have very few examples of smarter things being controlled by less smart things. Pretty much the only example we know is a mother being controlled by her baby. To make that happen, evolution built maternal instinct into the mother. And if we don’t do something like that with these alien beings we have created, we will be history » (Hinton)

Insérez une fiche analyse critique - annotation

La gouvernance technologique

Naturalisation biologique et enjeux géopolitiques

listez les concepts et mots-clés

Récits médiatiques

Intelligence artificielle

Risques

AI Agent

Prudence technologique

Éthique du numérique

Autres fiches liées à celle ci qui vont apparaître dans le bas de la fiche sur edisem comme contenus recommandés

Réflexions sur le parcours et l’avenir de l’IA

The Catastrophic Risks of AI – and a Safer Path

Fait partie de quel dossier ?

Dossier - Pratiques narratives de l'IA

Fait partie de quelle collection?

Récits médiatiques

Media

cnn_interview_Hinton