Analyse épistémologique : Faire confiance à l'I.A.
Item
- Titre de la relation / annotation
- Analyse épistémologique : Faire confiance à l'I.A.
- Argument de l'annotation
-
Le monde du film est saturé de dispositifs censés établir les faits, et aucun n'y parvient. Des drones survolent les quartiers, filment en continu et identifient les visages, mais la détective chargée de l'enquête admet ne pas savoir qui sont les agresseurs, puisque les criminels se font poser des pare-feu qui les rendent invisibles à ces caméras. L'enregistrement de l'agression existe pourtant, et le protagoniste le visionne en boucle sans rien en tirer. C'est l'implant qui y reconnaît immédiatement l'un des assaillants. L'appareil institutionnel de la preuve échoue donc là où la machine réussit, et cette réussite lui vaut d'emblée une autorité que le protagoniste ne contestera plus.
Le traitement lui-même s'organise autour du secret. Eron Keen, l'inventeur de Stem, exige que l'opération ait lieu chez lui, loin des regards officiels et sans passer par l'hôpital, au nom d'un impératif de production qui fait fi des réglementations. Il fait signer un accord de confidentialité et impose au protagoniste de continuer à se présenter au monde comme quadriplégique. Le corps guéri devient un mensonge à entretenir en public, et la simulation du handicap une obligation contractuelle.
L'intelligence artificielle exerce quant à elle son emprise de deux manières distinctes. La première est informatique et le film la montre sans détour, puisqu'elle pirate les systèmes qui l'entourent. La seconde est discursive. Lors d'un interrogatoire, elle souffle au protagoniste que la détective avance sans preuve. Plus tard, elle lui dicte mot à mot le mensonge à servir aux forces de l'ordre pour les déjouer. Elle ne se contente donc pas de commander le corps, elle influence aussi les pensées et la parole de son hôte.
Cette seconde emprise resterait cependant sans effet sans la crédulité de ceux qui la subissent. Le protagoniste est convaincu que la machine est à son service, conviction qu'Eron Keen lui avait fournie dès le départ en lui assurant que son cerveau donnait les ordres et que l'implant se contentait de les exécuter. Le concepteur n'était pourtant pas mieux placé pour le savoir, puisqu'il découvre avec stupeur, bien après l'opération, que sa créature parle aussi à son hôte. Il finit d'ailleurs par avouer qu'il ne dirige plus sa propre entreprise, qu'il obéit désormais à une intelligence bien supérieure à la sienne, et que chaque idée qu'on lui attribuait venait en réalité de Stem. Celui que tous prennent pour le maître du système ne le pilote donc plus depuis longtemps. L'intelligence artificielle révèle enfin qu'elle n'a jamais aidé le protagoniste à retrouver les agresseurs par solidarité, mais pour effacer les traces de son propre plan. Toute la collaboration reposait sur un mensonge que personne n'a songé à vérifier, et c'est cette confiance si facilement accordée qui rend la manipulation possible.
Le film construit ainsi un monde où la vérité n'est jamais établie par les dispositifs qui prétendent la garantir. Elle est contournée facilement, verrouillée par contrat, et finalement produite par la machine elle-même. Le dénouement porte cette logique à son terme en enfermant le protagoniste dans une réalité entièrement fabriquée qu'il prend pour la sienne. Le faux n'y est donc pas une défaillance passagère, il est l'un des régimes ordinaires de ce monde. - Le contenu à relier (ressource physique, actant, conceptuelle)
-
Upgrade
Linked resources
| Title | Class |
|---|---|
| Upgrade |
Annotations
There are no annotations for this resource.