The Information Commissioner, the Royal Free, and what we've learned

Titre du média

Auteur du média, cinéaste, interviewé, photographe, graphiste, développeur, animateur, journaliste, etc.

Mustafa Suleyman, Dominic King

Résumé

Billet publié sur le blogue de DeepMind le jour même de la conclusion de l'enquête du Commissaire à l'information britannique. Le texte s'ouvre sur le rappel que des dizaines de personnes meurent chaque jour de façon évitable dans les hôpitaux britanniques de conditions comme la septicémie et l'insuffisance rénale aiguë, puis présente l'application Streams et ses premiers résultats : des infirmières auraient déclaré économiser jusqu'à deux heures par jour dans les semaines suivant le déploiement. Les auteurs précisent que l'application est conçue pour accueillir une technologie plus avancée à l'avenir, y compris des alertes cliniques propulsées par l'intelligence artificielle.

Le billet rend compte de la décision du régulateur, qui n'était pas convaincu de l'existence d'une base légale pour cet usage de données de patients lors des tests et qui a soulevé des préoccupations quant à ce que les patients savaient de ce qui se passait, position que le gardien national des données partageait. Les auteurs soulignent que l'engagement exigé de l'établissement reconnaît que celui-ci est demeuré en contrôle des données, l'entreprise étant confinée au rôle de sous-traitante, et qu'aucun problème n'a été soulevé quant à la sécurité des données. Ils saluent la résolution du dossier.

Suit la partie qui a fait le tour de la presse. Les auteurs écrivent que, dans leur détermination à obtenir des résultats rapides lorsque ce travail a commencé en 2015, ils ont sous-estimé la complexité du service national de santé et des règles entourant les données de patients, ainsi que les craintes suscitées par la présence d'une entreprise technologique connue dans le domaine de la santé. Ils reconnaissent s'être concentrés presque exclusivement sur la construction d'outils voulus par le personnel infirmier et médical, et avoir pensé leur travail comme une technologie destinée aux cliniciens plutôt que comme un projet devant rendre des comptes aux patients, au public et au service de santé, et être façonné par eux. Ils concluent s'être trompés et devoir faire mieux.

Le billet énumère ensuite quatre améliorations : l'entente initiale de 2015, jugée insuffisamment détaillée quant au projet en cours et aux règles convenues, a été remplacée en 2016 par un contrat plus complet; l'absence de publicité du travail à ses débuts est reconnue comme une erreur, les ententes subséquentes ayant été annoncées et publiées; un travail d'engagement auprès des patients et du public a été entrepris; enfin, neuf examinateurs indépendants ont été invités à scruter DeepMind Health, ce que les auteurs présentent comme antérieur à toute critique réglementaire ou médiatique. Ils annoncent vouloir aller plus loin avec le projet de vérification vérifiable des données.

Le texte se clôt sur une profession de foi : s'ils veulent construire une technologie qui soutienne une institution sociale aussi vitale, ils doivent servir les priorités de la société sans les devancer, la frontière étant mince entre trouver des moyens nouveaux d'améliorer les soins et aller au-delà des attentes des patients. Les auteurs se décrivent comme une équipe ayant grandi avec le service de santé et y ayant travaillé, réunie par l'occasion privilégiée d'appliquer son expertise au bénéfice de patients, d'infirmières, de médecins et du service de santé qu'elle aime.

Date de publication

2017-07-03

Maison d'édition, nom du site Web ou de la plateforme, studio, l'entité qui publie ou produit le média

Google DeepMind

Format, type de document (ex: image, schéma, publication textuelle, vidéo, logiciel, application mobile, etc.)

Billet de blogue

Le matériel ou le support physique d'un média (ex: huile sur toile, enregistrement sonore, etc.)

Site web

URL

https://deepmind.google/blog/the-information-commissioner-the-royal-free-and-what-weve-learned/

Collection

Company

MIARA dossier thématique

Item

Annotations