Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction
Item
- Titre (article, livre complet, chapitre de livre, publication réseaux sociaux, pageWeb, SiteWeb complet, etc.)
- Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction
- Auteur de la référence bibliograpique
- Madeleine Clare Elish
- Date de publication (AAAA ou AAAA-MM-JJ)
- 2019
- Résumé
-
À mesure que s'intensifient les débats sur les implications politiques et éthiques des systèmes d'IA, il deviendra de plus en plus important de situer avec justesse qui porte la responsabilité lorsque l'agentivité est distribuée dans un système et que le contrôle d'une action est médiatisé dans le temps et dans l'espace.
À partir de l'analyse de plusieurs accidents très médiatisés impliquant des systèmes sociotechniques complexes et automatisés, ainsi que de leur couverture médiatique, l'autrice introduit la notion de zone de déformation morale pour décrire comment la responsabilité d'une action peut être attribuée à tort à une personne qui n'avait qu'un contrôle limité sur le comportement d'un système automatisé ou autonome.
Tout comme la zone de déformation d'une automobile est conçue pour absorber la force d'un impact, la personne intégrée à un système hautement complexe et automatisé peut devenir un simple composant, accidentellement ou intentionnellement, qui encaisse les responsabilités morales et juridiques lorsque l'ensemble du système fait défaut. Alors que la zone de déformation d'une voiture protège la personne au volant, la zone de déformation morale protège l'intégrité du système technique aux dépens de la personne qui se trouve le plus près de lui.
La notion constitue à la fois un défi et une possibilité pour la conception et la réglementation des systèmes humain-robot. Ce qui est en jeu n'est pas seulement la mauvaise attribution de la responsabilité, mais aussi les formes nouvelles de préjudice pour les personnes consommatrices et pour les travailleur·euses que peuvent engendrer ces technologies complexes, automatisées ou présentées comme autonomes. - Volume (revues scientifiques)
- 5
- Maison d'édition / Nom de la revue scientifique / Nom du site Web / Nom de l'institution universitaire (thèses) / Institution d'un rapport, etc.
- Engaging Science, Technology, and Society
- Intervalles des pages (articles)
- 40-60
- Nombre de pages (livres)
- 21
- Format, type de document (ex: image, publication textuelle, vidéo, etc.)
- Article en ligne; PDF
- Quel type de publication sur réseau social (ex: statut Facebook, statut Twitter, etc.)
- Article scientifique
- URL (adresse Web)
- https://estsjournal.org/index.php/ests/article/view/260
- Media
elish moral.png
Linked resources
| Title | Class |
|---|---|
 A.I.’s impact on nursing and health care |
Annotations
There are no annotations for this resource.