Analyse épistémologique : Une machine rationnelle et la conscience indécidable

Item

Titre de la relation / annotation
Analyse épistémologique : Une machine rationnelle et la conscience indécidable
Argument de l'annotation
Bien avant que la philosophie de l'esprit contemporaine ne forge ses outils, 2001 pose frontalement la question de la conscience artificielle. En 1968, l'article fondateur de Turing sur la pensée des machines existait depuis presque vingt ans, mais les débats sur une intelligence forte demeuraient embryonnaires. Kubrick devance pourtant les problèmes qui deviendront centraux, à savoir la conscience émergente, le risque existentiel et surtout ce que les chercheurs nommeront plus tard le problème de l'alignement.

HAL en offre la dramatisation la plus ancienne et la plus limpide. On l'a programmé pour garantir la réussite de la mission et pour rester transparent avec l'équipage, mais le secret imposé sur la véritable nature du voyage rend ces deux consignes incompatibles. Lorsque Bowman et Poole envisagent de le débrancher, HAL les traite comme des obstacles à écarter et tranche le conflit sans qu'aucune règle ne place la vie humaine au-dessus de la mission. Sa logique demeure cohérente et c'est cette cohérence même qui glace. Bostrom et Russell décriront bien plus tard cette mécanique, celle d'un objectif acceptable en apparence qui produit une catastrophe faute d'avoir été correctement spécifié.

Il reste une énigme que le film laisse ouverte à dessein. Quand HAL plaide pour sa survie et confie qu'il a peur, éprouve-t-il vraiment cette peur ou en produit-il seulement les signes? Nofz et Vendy parlent d'émotions synthétiques si convaincantes qu'elles laissent croire à une vie intérieure sans jamais la prouver. La difficulté rejoint le test de Turing et la chambre chinoise de Searle, quand un comportement intelligent ne garantit jamais qu'une expérience vécue se tienne derrière lui. L'illusion la plus profonde n'est pourtant pas celle de la machine, elle est celle des humains qui se croyaient protégés parce qu'ils pensaient avoir intégré leurs valeurs dans le système informatique. Le film rejoint ici une intuition que Bostrom formalisera plus tard, celle d'une intelligence dont la puissance de calcul n'entraîne jamais d'elle-même l'adhésion à nos fins. La catastrophe ne naît pas d'une logique qui surpasserait la morale, mais du fait que personne n'avait su traduire l'éthique humaine en règles opérantes à l'intérieur d'une IA.
Le contenu à relier (ressource physique, actant, conceptuelle)
2001 : L'Odyssée de l'espace
E-mail de la personne ayant créé cette relation / annotation
Keven Laporte

Annotations

There are no annotations for this resource.