Analyse épistémique : La conscience hors d'atteinte
Item
- Titre de la relation / annotation
- Analyse épistémique : La conscience hors d'atteinte
- Argument de l'annotation
-
Le film organise son intrigue autour d'une série d'examens censés établir si Ava possède une conscience, et sa vraie audace consiste à les faire échouer l'un après l'autre. La règle de départ est celle qu'Alan Turing formule en 1950. Si les réponses d'une machine ne se distinguent pas de celles d'un humain, il faut lui reconnaître une intelligence. Nathan écarte aussitôt ce critère. Cachée derrière une simple voix, selon lui, Ava passerait sans peine pour humaine, si bien que la véritable épreuve consiste à montrer qu'elle est une machine et à voir si Caleb continue malgré tout de lui prêter une conscience. Le film déplace ainsi la question du paraître vers l'être, et ce déplacement gouverne tout le reste.
Deux moments tirent alors dans des directions opposées. Le premier plaide pour l'existence d'un esprit. Quand Ava glisse une plaisanterie, Nathan y voit son meilleur indice, car une telle ironie suppose qu'elle se représente son propre fonctionnement en même temps que celui de son interlocuteur. Cette capacité à modéliser autrui ressemble fort à une théorie de l'esprit, et donc à un for intérieur. Le second moment ruine cette confiance. Nathan pose la question qui défait tout, comment distinguer une émotion réelle d'une émotion simulée. On peut ici prolonger le film par un argument qu'il ne cite jamais, la chambre chinoise de John Searle. En 1980, Searle imagine un homme qui manipule des symboles chinois à l'aide d'un manuel de règles sans comprendre un traître mot de ce qu'il produit. Les réponses sont parfaites, la compréhension nulle. Appliqué à Ava, l'argument est redoutable, car même la plaisanterie la plus fine pourrait n'être qu'un enchaînement de règles parfaitement exécuté, sans la moindre expérience derrière.
Le film l'affirme en faisant réciter à Caleb l'expérience de Mary, du philosophe Frank Jackson, dans laquelle une scientifique qui saurait tout du phénomène de la couleur, sans avoir jamais quitté une pièce en noir et blanc, apprendrait pourtant, le jour où elle verrait le ciel bleu, quelque chose que toutes ses connaissances ne lui avaient pas donné, l'effet que cela fait de voir la couleur. Le savoir complet laisse échapper l'expérience vécue. Or c'est exactement cette expérience qu'aucun test comportemental ne peut atteindre, puisqu'un test ne mesure que des sorties observables.
Les deux moments ne s'annulent donc pas, ils se complètent. La théorie de l’esprit montre jusqu’où le comportement peut accumuler des indices en faveur d’une conscience, tandis que l’argument des qualia rappelle qu’aucune quantité d’indices comportementaux ne suffira jamais à établir, de manière définitive, la présence de cette expérience vécue. Le film le confirme par son procédé même, puisque Nathan change de critère à chaque scène, ce qui revient à admettre que le précédent n'avait rien tranché. Le renversement final scelle la démonstration.Lorsque Ava laisse entendre qu’elle évalue à son tour Caleb, non plus comme simple observateur humain, mais comme sujet dont la conscience et la moralité sont en jeu, le doute devient symétrique. Ce que le film établit n'est donc pas qu'Ava est ou n'est pas consciente, mais que la conscience d'autrui, qu'il soit machine ou humain, demeure hors d'atteinte de tout examen extérieur.
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
Ex Machina
Linked resources
| Title | Class |
|---|---|
| Ex Machina |
Annotations
There are no annotations for this resource.