Prescrire plutôt que dénoncer
Item
- Titre de la relation / annotation
- Prescrire plutôt que dénoncer
- Argument de l'annotation
-
Si les organisations qui vise à soutenir les victimes ont tendance à dénoncer des pratiques, The Human Line Project s'assure également de contre-propose des prescriptions à l'industrie. Ses quatre valeurs affichées (consentement éclairé, garde-fous émotionnels, transparence et responsabilité éthique) ne sont pas énoncées comme des principes moraux généraux, mais traduites en spécifications.
L'organisme réclame à l'industrie de l'IAg que les systèmes intègrent trois mécanismes précis : des dispositifs de refus solides, c'est-à-dire la capacité du modèle à ne pas répondre à certaines sollicitations plutôt que d'entrer dans le jeu de l'utilisateur ; des systèmes de détection automatique des échanges susceptibles de causer un préjudice ; et des limites que la machine s'imposerait dans l'expression de l'attachement (ce que l'organisme nomme des frontières émotionnelles). Les deux premiers sont des composants qui existent déjà dans les systèmes commerciaux ; le troisième est une notion que l'organisme paraît forger pour l'occasion.
The Human Line Project soutient qu'en l'absence de consentement éclairé, les outils d'IA peuvent aisément entraîner leurs utilisateurs vers des habitudes d'usage malsaines, et que les fournisseurs de modèles portent une responsabilité particulière quant à la transparence de leurs processus de recherche et développement. Ce ne sont pas des demandes d'encadrement adressées à un législateur, mais des exigences adressées à ceux qui écrivent le code : la responsabilité est située en amont, dans l'architecture du produit, plutôt qu'en aval dans son usage.
Or énoncer avec exactitude ce qui aurait dû être conçu, c'est établir par avance la liste de ce dont l'absence pourra être reprochée. - Mot clé(s) associé(s)
- Agent conversationnel
- Consentement
- Éthique du numérique
- LLM
- Opacité
- Prudence technologique
- Risques
- Transparence
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
The Human Line Project
- E-mail de la personne ayant créé cette relation / annotation
-
Julie-Michèle Morin
Linked resources
| Title | Class |
|---|---|
| The Human Line Project |
Annotations
There are no annotations for this resource.