La critique inscrite au programme : énoncer la contradiction sans avoir à la résoudre
Item
- Titre de la relation / annotation
- La critique inscrite au programme : énoncer la contradiction sans avoir à la résoudre
- Argument de l'annotation
-
Le symposium contient sa propre critique, et elle est vive. Dans la session de bilan, Sanmi Koyejo, professeur d'informatique à Stanford, établit que les changements algorithmiques ne suffisent pas à réduire les inégalités, tandis que Natalie Pageler, directrice de l'informatique de la santé à Stanford Medicine Children's Health, rappelle que les effets des scribes à écoute ambiante sur la pensée du médecin n'ont pas été étudiés. Ailleurs dans la matinée, Andrea Downing, cofondatrice de The Light Collective, dénonce le caractère performatif de l'implication des patient·es dans la conception des outils, et Hejie Cui, chercheuse postdoctorale à Stanford, décrit la difficulté d'évaluer les modèles avant leur déploiement clinique. Les trois présentations financées par les subventions de démarrage de l'initiative portent d'ailleurs toutes sur les limites de l'intelligence artificielle. L'institution finance donc la critique d'elle-même et lui donne sa scène. La question n'est pas de savoir si elle accueille la contradiction, mais ce qui arrive à celle-ci une fois accueillie.
Une première réponse tient au format. La session de bilan porte le titre What We've Learned in a Year, qui présuppose l'avancée, et trois personnes s'y partagent une vingtaine de minutes. Pageler énonce son chiffre sur la validation pédiatrique sans en développer les conséquences, et Koyejo annonce qu'il termine avant d'avoir déplié son dernier point. Les constats les moins flatteurs passent ainsi à la vitesse d'un point d'étape, et le cadre les range parmi les apprentissages de l'année plutôt que de les traiter comme des objections appelant une réponse.
Le cas le plus net se présente plus tard la même matinée, dans le panel consacré à la main-d'œuvre biomédicale. Jonathan Chen, professeur adjoint de médecine et de science des données biomédicales à Stanford, y déclare que la formule selon laquelle l'humain plus l'intelligence artificielle vaut mieux que l'un ou l'autre seul n'est qu'un dicton, qu'il la répétait lui-même autrefois, et que leur étude récente montre l'inverse. Pourtant plus tard, dans le second segment consacré aux subventions de démarrage, Alaa Youssef, responsable de la recherche en formation médicale au Center for Artificial Intelligence in Medicine and Imaging, conclut la présentation du projet IMPACT en affichant l'équation en trois blocs graphiques : humain plus intelligence artificielle égale de meilleurs soins.
Le projet IMPACT n'est pas une étude, c'est un programme de formation financé par une subvention RAISE, qui vise à doter le personnel clinique des compétences nécessaires à l'usage de l'intelligence artificielle. Une de ses diapositives annonce un dépôt public de contenu didactique sous l'étiquette fondé sur les données probantes. La diapositive de l'équipe nomme Chen cochercheur principal, portrait à l'appui.
Le décalage n'oppose donc pas deux personnes mais deux moments d'un même projet. Que Chen ait vu ou non cette diapositive ne change rien : la critique et ce qu'elle vise coexistent à l'intérieur d'un seul programme de recherche, sans que l'une modifie l'autre. Le symposium accueille les positions divergentes jusque dans une même équipe, et cet accueil ne s'accompagne d'aucun mécanisme qui obligerait à les départager.
Le chapitre santé du rapport annuel que RAISE Health rédige huit mois plus tard reproduit exactement le même décalage. Ce chapitre, publié en 2026 dans l'Artificial Intelligence Index Report du Stanford Institute for Human-Centered Artificial Intelligence, cite la conclusion du State of Clinical AI Report, selon laquelle l'intelligence artificielle est plus efficace lorsqu'elle appuie le jugement clinique plutôt qu'elle ne le remplace. C'est la formule que Chen avait qualifiée de dicton sans preuve. Or quelques pages plus haut figurent des données qui la contredisent enfin : sur des vignettes de raisonnement de prise en charge évaluées à l'aveugle par des expert·es, un modèle de raisonnement obtient une note médiane de 86 %, alors que le modèle de la génération précédente obtenait 42 %. Les médecins disposant de ce dernier obtiennent seulement 41 % de bonnes réponses, pendant que les médecins travaillant avec leurs ressources habituelles ne franchissent que la barre des 34 %. Précisons que l'épreuve ne porte que sur cinq cas cliniques. Les deux énoncés cohabitent dans un même chapitre sans que l'un soit jamais opposé à l'autre, et ni la conclusion ni les chiffres qui la contredisent ne font l'objet d'un examen.
Le même chapitre montre encore comment un constat gênant peut être aussitôt circonscrit. Il rapporte que le banc d'essai NOHARM établit que les grands modèles de langage produisent entre 11,8 et 14,6 recommandations gravement nocives par tranche de cent cas cliniques soumis, dont 76,6 % par omission, c'est-à-dire par défaut de recommander un examen essentiel. Aucun taux comparable n'est fourni pour le personnel clinique, ni là ni ailleurs dans le chapitre, de sorte qu'on ignore ce que ce nombre signifie relativement à la pratique existante. La phrase suivante précise que le constat vaut pour les modèles généralistes évalués sur des tâches ouvertes, et non pour les outils étroits et spécialisés qui sont effectivement adoptés en clinique. La restriction suit l'énoncé sans intervalle.
Deux éléments obligent à nuancer ce constat. Le rapport de 2026 a d'abord fait de la critique sa thèse d'ouverture : il annonce d'entrée que les bonnes performances des modèles ne se traduisent pas systématiquement en effets cliniques réels, et il note que la discussion éthique, en forte croissance, reste étroite et dominée par la gouvernance. L'institution corrige donc ses contenus d'une année à l'autre. Il faut ensuite créditer une procédure qui produit un effet mesuré, le comité d'examen éthique et sociétal du Stanford Institute for Human-Centered Artificial Intelligence, appliqué à toutes les subventions RAISE, qui conditionne le versement des fonds à un examen des conséquences de la recherche que les comités d'éthique de la recherche n'ont pas mandat d'examiner. Bernstein et coll. (2021) en publient l'évaluation : sur quarante et une demandes, 58 % des équipes ayant répondu au sondage estiment que le processus a influencé la conception de leur recherche, et les auteur·rices nomment eux-mêmes le risque que la procédure encourt, celui d'un comité trop peu exigeant produisant un mécanisme sans mordant. David Magnus, titulaire de la chaire Thomas A. Raffin en médecine et éthique biomédicale à Stanford et coauteur de cette évaluation, la mentionne en fin de matinée, dans le panel consacré aux menaces pour la santé humaine, sans diapositive ni démonstration. C'est la seule procédure qui produise une suite documentée, et la seule que le symposium ne mette pas en scène.
Le symposium et son rapport hébergent leur propre contradiction avec une constance remarquable, à toutes les échelles : dans une session, dans une équipe, dans un chapitre. Ce qui manque n'est pas la critique, c'est le moment où elle obligerait à choisir. Ailleurs, énoncer la contradiction tient lieu de l'avoir traitée. - Mot clé(s) associé(s)
- Approche scientifique
- Éthique
- Mises en récit et Discours scientifiques
- Pensée critique
- Réflexivité
- Santé
- Structure argumentative
- Le contenu à relier (ressource physique, actant, conceptuelle)
-
RAISE Health Symposium 2025
- E-mail de la personne ayant créé cette relation / annotation
-
Dominique Michaud
Linked resources
| Title | Class |
|---|---|
| RAISE Health Symposium 2025 |
Annotations
There are no annotations for this resource.