Gattaca et la prédiction algorithmique - du scoring génétique au scoring social
Item
- Titre de la relation / annotation
- Gattaca et la prédiction algorithmique - du scoring génétique au scoring social
- Argument de l'annotation
- L'argument le plus puissant de Gattaca dans le contexte de l'IA contemporaine est sa démonstration que la discrimination par les données n'exige pas de malveillance intentionnelle. Elle n'exige que la confiance dans les statistiques. Le médecin qui annonce à la naissance de Vincent son espérance de vie de 30,2 ans et sa probabilité de trouble cardiaque de 99 % ne hait pas Vincent : il lui communique des probabilités calculées sur des centaines de milliers de cas similaires. Mais ce geste, parfaitement rationnel, techniquement irréprochable, a pour effet de fermer définitivement à Vincent les portes du monde. Ce mécanisme est exactement celui des systèmes de scoring algorithmique qui prolifèrent aujourd'hui : scoring de crédit, évaluation des candidatures à l'emploi par IA, prédiction de récidive criminelle (comme l'algorithme COMPAS aux États-Unis, démontré discriminatoire envers les personnes noires par ProPublica en 2016), algorithmes d'accès au logement social. Ces systèmes ne discriminent pas « intentionnellement », ils appliquent des corrélations statistiques sur des données historiques. Mais le résultat est structurellement identique au monde de Gattaca : des personnes se voient fermer des portes en raison de groupes d'appartenance (racial, socio-économique, géographique) sur lesquels elles n'ont aucun contrôle, avec la légitimité supplémentaire de l'objectivité algorithmique. Gattaca est le film de la discrimination en mode majeur : organisée, institutionnalisée, consensuelle, fondée sur des données vraies, et politiquement insaisissable précisément parce qu'elle ne ressemble pas à de la haine.
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
Bienvenue à Gattaca (Andrew Niccol, 1997)
Linked resources
| Title | Class |
|---|---|
| Bienvenue à Gattaca (Andrew Niccol, 1997) |
Annotations
There are no annotations for this resource.