Version classiqueVersion mobile

Santé, numérique et droit-s

 | 
Isabelle Poirot-Mazères

L'impact du numérique sur la relation de soins

Aidediag expert à l’ère de Google DeepMind Health et IBM Watson

Nicolas Chassaing

Résumé

Les avancées des Technologies de l’Information et de la Communication et le développement de l’Intelligence Artificielle amènent aujourd’hui à de nombreuses applications touchant de nombreux domaines de notre vie quotidienne, et notamment pour ce qui nous concerne plus particulièrement, le domaine de la santé.
Il est probable que ces nouveaux développements vont permettre une amélioration de la prise en charge des patients (prévention, diagnostic, traitement, suivi….) en s’adressant directement aux patients, aux praticiens, voir aux établissements de santé. Cependant, ces nouvelles pratiques, en associant une science médicale à une science technologique, amènent également des interrogations sur des notions telles que la finalité (amélioration de la santé et/ou pratique commerciale), la transparence (quelles données, quels algorithmes pour quels résultats), la qualité des prévisions, la confidentialité et la protection des droits des patients (hébergement, accès et utilisation des données patients), la généralisation de cas particuliers à partir d’algorithmes, et enfin les responsabilités des différents acteurs (concepteur, programmateur, diffuseur, utilisateur). Ces applications peuvent-elles, doivent-elles, vont-elles remplacer les médecins ou les accompagner ?
Nous souhaitons développer ces interrogations en nous basant sur l’étude de deux modèles : l’un concerne l’application d’aide au diagnostic médical AideDiag Expert développée par un médecin généraliste ayant pour objectif de reproduire l’approche diagnostique d’une consultation médicale, l’autre mettant au service l’intelligence artificielle (DeepMind health, IBM Watson Health) pour proposer à partir de millions de données une prise en charge diagnostique ou thérapeutique pour un individu.

Texte intégral

I – Introduction

1Dans un premier temps, et avant de développer les réflexions éthiques/juridiques posées par ces nouveaux outils, je vais vous présenter brièvement leurs fonctionnalités.

2AideDiag Expert est une application développée par un médecin généraliste dont l’objectif est d’aider les médecins généralistes et spécialistes dans leur démarche médicale quand ils sont confrontés à des difficultés diagnostiques, soit en raison de pathologies rares, soit en raison d’une présentation atypique d’une pathologie plus fréquente. Après avoir réalisé son interrogatoire, et son examen clinique, le médecin va pouvoir croiser les signes identifiés chez son patient (parmi 5000 entrés de signes cliniques, paracliniques ou de terrain) et aboutir ainsi à une liste de d’hypothèses diagnostiques classée par ordre probabiliste (prenant en compte la fréquence de la pathologie, la sensibilité et la spécificité de chaque signe rentré par l’utilisateur). A ce stade, un réexamen ciblé sur ces hypothèses diagnostiques est proposé au médecin en hiérarchisant les examens à demander en première, deuxième ou troisième intention. La base de données de l’application est le fruit de 17.000 heures de travail basée sur des publications médicales référencées. L’évolution de cette base est réalisée par des mises à jour régulières des données.

3IBM Watson propose une solution visant à aider les médecins dans leurs choix thérapeutiques. Cette application, actuellement développée pour le cancer, va être capable de compiler les données du patient (historique, génétique, imagerie, histologie, évolution des lésions) pour proposer à partir de bases de données et de la littérature internationale, le meilleur choix de traitement. IBM Watson va se perfectionner grâce à un apprentissage par renforcement : des cas cliniques vont lui être proposés, et ses propositions vont être soumises à un panel d’oncologistes experts qui vont lui faire un retour. Le logiciel sera alors capable d’adapter son algorithme de prise de décision en fonction de ces réussites ou erreurs. Des développements hors cancer sont en cours, notamment pour la prise en charge du diabète, ou pour intégrer les données génétiques du patient pour une prise en charge personnalisée de sa santé.

4Google DeepMind Health a été pensé initialement pour la prise en charge en milieu hospitalier des patients atteints d’insuffisance rénale chronique. A partir des antécédents, constantes et des résultats de laboratoire d’un patient, il va indiquer aux soignants quels patients prioriser. Il produit des alertes aux soignants via l’application mobile Streams. Un partenariat avec le service de santé britannique (National Health Service) a été signé et cette application a été mise en place dans plusieurs hôpitaux Londoniens. L’évolution de l’algorithme se fait également par un apprentissage par renforcement. Des développements sont également prévus pour la prise en charge des patients diabétiques, infectés ou présentant une défaillance d’organe.

5L’apparition et l’utilisation de ces nouveaux outils dans la pratique médicale va poser plusieurs questions. Parmi ces questions, j’ai choisi de développer celles-ci :

  • Comment différencier une approche commerciale d’une approche de santé ?
  • Quel sont les niveaux de transparence des processus décisionnels ?
  • Comment intégrer le cas particulier dans une approche statistique ?
  • Quelles données sont collectées et quelles sont leurs utilisations ?
  • Que devient la responsabilité des acteurs historiques (les médecins) et nouveaux (les applications) vis-à-vis du patient ?
  • Comment ces outils vont changer la pratique médicale ?

II – Interrogations liées à l’utilisation de ces nouveaux outils

A – Comment différencier une approche commerciale d’une approche de santé ?

6AideDiag Expert comme IBM Watson et Google DeepMind Health ont pour but d’améliorer la prise en charge des patients, soit en diminuant l’errance diagnostique, soit en hiérarchisant l’urgence des soins à donner, soit en proposant le traitement le plus adapté pour un patient. Il existe donc une volonté d’amélioration de la santé. Il existe également une approche commerciale, ces outils étant vendus aux personnels soignants ou institutions de santé. Cette démarche commerciale est affichée est ne pose pas de problème particulier. On peut cependant se demander si en dehors de cette démarche commerciale affichée, il peut exister des démarches commerciales « cachées ». C’est notamment le cas pour les outils d’intelligence artificielle récupérant un grand nombre de données sensibles concernant les patients qui présente une valeur marchande évidente, nous y reviendrons. D’autres démarches commerciales cachées pourraient exister, et si l’on prend le cas d’IBM Watson, on pourrait imaginer que des industries pharmaceutiques puissent payer pour que leurs médicaments soient plus souvent prescrits (comme il est possible de payer Google pour avoir sa page web dans les premières positions des recherches). De même, s’il existait une interrelation entre les différentes sources de données (si la possibilité était donnée à IBM Watson d’accéder aux recherches internet du patient par exemple, ce qui n’est pas le cas actuellement), des propositions commerciales pourrait être faites aux patients (comme nos recherches sur internet font apparaître des publicités personnalisées) pour tel ou tel soin, méthode de relaxation, ou autre en fonction de la « personnalité numérique » du patient. Enfin, on peut imaginer que les instances de santé puissent introduire également des critères de traitement proposé en fonction du coût du traitement et du pronostic de la pathologie. Un savant calcul serait alors fait pour déterminer quel patient pourrait bénéficier d’un traitement à coût élevé en fonction de son âge et du pronostic de sa pathologie. Dans ces conditions, les propositions thérapeutiques prendraient en considération non plus seulement les données médicales du meilleur traitement pour tel patient, mais également des données de santé publiques. On comprend bien qu’il existe une nécessité de transparence dans les recommandations faites par ces algorithmes et que si des éléments ne relevant pas de la pratique médicale sont intégrés pour le choix des traitements, ces éléments devront être connus et acceptés.

B – Quels niveaux de transparence pour les processus décisionnels ?

7Nous venons de voir la nécessité d’une transparence totale de ces outils pour éviter des pratiques commerciales cachées. Mais en dehors de cela, quelle est la transparence du processus décisionnel, c’est-à-dire comment l’utilisateur (les professionnels de santé) peuvent comprendre la recommandation faite par l’outil ? Pour le cas d’AideDiag Expert, même si l’algorithme décisionnel n’est pas connu des médecins utilisateurs, celui-ci se base sur la démarche médicale classique et intègre des données classiques pour les médecins (fréquence des maladies, sensibilité, spécificité des signes), ce qui fait que la démarche diagnostique proposée est compréhensible pour l’utilisateur. De plus les données sont issues de publications médicales toutes référencées dans le programme.

8Pour les outils d’intelligence artificielle, le processus amenant à la recommandation de traitement ou de priorisation des patients est plus obscure car se basant sur un nombre important de données dont l’importance relative n’est pas connue. Seul le concepteur et non l’utilisateur aura une idée des critères utilisés. Jusqu’à un certain point car l’application en s’auto-entraînant va modifier son algorithme de prise de décision. Les recommandations proposées apparaissent alors comme une « vérité », sans qu’il ne soit possible de la remettre en cause, les arguments décisionnels n’étant pas connus.

C – Cas particuliers ou approche statistique ?

9La démarche médicale et par nature une approche probabiliste. Devant tel ou tel symptôme, les maladies les plus probables sont connues, et devant ce diagnostic, le traitement qui est habituellement le plus efficace est connu. Ces approches probabilistes sont conservées dans les différents outils présentés ici. Dans le cas d’AideDiag Expert, le médecin est maître des signes cliniques ou paracliniques qu’il va rentrer, et il va pouvoir reclasser les hypothèses diagnostiques en fonction des particularités de son patient (de sa psychologie, de ses antécédents, de son environnement familial et social). Dans le cas d’IBM Watson ou de Google DeepMind Health, les particularités médicales du patient sont prises en compte au travers du nombre de données important qui va servir à la recommandation. Cependant, les aspects psychologiques et sociaux ne peuvent être pris en compte, sauf à pouvoir utiliser d’autres données que les données sur la pathologie. Le développement des outils d’intelligence artificielle permettra peut-être d’inclure ces données dans leurs recommandations. A l’heure actuelle, il convient au soignant d’intégrer ces aspects dans les recommandations qui lui sont faîtes. Une autre question, sur l’approche statistique est celle du risque d’erreur et de l’acceptation de ce risque. En se basant sur une approche statistique, le médecin et l’intelligence artificielle peuvent se tromper. L’acceptation de cette erreur par le patient sera-t-elle la même quand elle sera faite par un soignant ou par une application ? Quelle sera la marge d’erreur tolérée pour les outils d’intelligence artificielle ?

D – Les données collectées et leur utilisation

10Dans l’application AideDiag Expert, le médecin ne va pas rentrer de données nominatives. Il va faire une recherche à partir de données cliniques et paracliniques pour obtenir une liste d'hypothèses diagnostiques. Le médecin peut ensuite télécharger sa recherche pour l’inclure dans son fichier patient. Il n’y a pas donc de données sensibles collectées par l’application. Les seules données que pourraient en théorie enregistrer AideDiag Expert sont les signes les plus fréquemment rentrés et les hypothèses diagnostiques les plus souvent proposées. Cela pourrait être utilisé à des fins d’études épidémiologiques mais aucune donnée sensible ne pourrait être utilisée à des fins commerciales. Dans le cas d’IBM Watson ou de Google DeepMind Health, de nombreuses données de santé sont collectées (résultat d’analyses génétiques, imagerie, constantes, bilan biologiques, stade de la tumeur). DeepMind Health a ainsi collecté les données de 1.6 millions de patients anglais. Ces données sont collectées sans le consentement explicite des patients, ce qui a fait dire à l’Information Commissioner’s Office (ICO) de Grande Bretagne (l’équivalent de notre Commission nationale de l'informatique et des libertés (CNIL)) en juillet 2017 que les hôpitaux anglais utilisant DeepMind Health étaient hors la loi car ils n’informaient pas les patients sur qui utiliseraient les données et pour quels objectifs. Le contrat liant DeepMind Health et le NHS stipule cependant que les données collectées ne peuvent pas être transmises à des tiers et qu’elles seront détruites à la fin de l’étude. En dehors d’une démarche volontaire de cession de ces données, la question d’un piratage de ces données peut se poser. Les données collectées par Google DeepMind Health sont nominatives et comprennent des informations médicales qui pourraient être utilisées à des fins non médicales (assurances, employeurs, banques…) ce qui constitue un risque à la collecte de telles données.

E – La responsabilité des différents acteurs

11La responsabilité médicale incombe en totalité au médecin, même dans le cas où il utiliserait AideDiag Expert. Il reste maître de son interrogatoire et de son examen clinique et de ses hypothèses diagnostiques. AideDiag Expert n’apportant pas un diagnostic, mais une liste d’hypothèses diagnostiques possible. Pour DeepMind Health, c’est l’application qui va décider de sélectionner les patients à voir en priorité, et IBM Watson va proposer des recommandations de traitement. Cependant nous avons vu que les processus menant à ces recommandations restaient obscurs pour les utilisateurs. A l’heure actuelle, la responsabilité médicale repose encore entièrement sur le personnel soignant. Il est libre de suivre les recommandations de DeepMind Health ou d’IBM Watson. Les choses pourraient changer si les recommandations de ces outils devenaient opposables aux médecins. Le rapport « ETHIQUE DE LA RECHERCHE EN APPRENTISSAGE MACHINE » de la CERNA, juin 2017 souligne un risque de dérive de l’utilisation de ces outils : « La personne qui décide risque de n’être plus qu’un exécutant de la « proposition » formulée par la machine. Suivre cette proposition, s’aligner sur la décision de la machine apparaît comme l’option la plus sûre. Dévier de la solution proposée par la machine est un acte qui nécessite d'être expliqué, qui entraîne une prise de responsabilité et de risque. ». Si un médecin peut être condamné pour ne pas avoir suivi les recommandations de ces outils, alors commence à se poser la question d’une responsabilité médicale partagée entre les concepteurs de ces outils, les programmateurs, les entraîneurs et les utilisateurs. De la même façon, si l’outil aboutit non plus à une recommandation, mais directement à la prescription d’un traitement, la responsabilité médicale sera déplacée du médecin vers toutes les personnes impliquées dans le développement de l’application.

F – Quelle évolution de la pratique médicale ?

12Enfin, l’introduction de ces outils en pratique clinique pose une question plus générale de l’évolution de la médecine. AideDiag Expert accompagne le médecin dans une démarche médicale actuelle et déjà intégrée par notre société. Il ne s’agit pas d’intelligence artificielle, mais « d’intelligence assistée », celle du médecin. Pour IBM Watson ou Google DeepMind Health, il s’agit d’une nouvelle forme de médecine. Des données multiples des patients sont intégrées par une « intelligence artificielle » pour aboutir à des recommandations de traitement et de prise en charge. Que devient alors le rôle du médecin confronté à ces nouveaux outils ? Est-il là pour valider ou rejeter les recommandations de ces outils ? Est-il là pour exécuter les recommandations, cette relation médecin-patient permettant alors d’être l’interface humaine pour expliquer les décisions de la machine ? Ces questions ne sont pas tranchées, et dépendront en partie du poids qui sera accordé aux recommandations de ces outils dans la démarche de soin, qu’elle soit diagnostique ou thérapeutique. L’utilisation de ces outils laisse cependant envisager une évolution importante de la pratique médicale.

III – Conclusion

13J’ai dans ce descriptif de types d’applications médicales essayé de soulever les questions posées par l’intégration de ces outils dans la pratique médicale. J’ai à dessein comparé deux types d’outils. L’un s’intégrant dans la pratique usuelle de la médecine à notre époque et visant à améliorer cette démarche diagnostique par l’accompagnement du médecin. L’autre peut s’apparenter à une nouvelle démarche médicale qui est porteuse d’espoirs d’amélioration importante des performances médicales que ce soit dans un cadre diagnostic ou thérapeutique, mais qui par son caractère disruptif pose la question de l’évolution de l’exercice médical et plus largement de la société. Ce dernier type d’outil pose également différentes questions sur le plan éthique et juridique, et j’ai essayé de les identifier et d’apporter quelques éléments de réponse. Les problèmes posés par ces nouveaux outils seront plus ou moins importants en fonction de la place qu’ils prendront dans la pratique médicale et des régulations qui seront mises en place. Il convient dès à présent de penser cette future pratique médicale et de savoir quelle place nous voulons qu’elle prenne. Jürgen Habermas soulignait déjà en 1973 dans « La technique et la science comme "idéologie" » cette nécessité de décider de l’utilisation souhaitée des avancées technologiques et proposait « d’engager une discussion débouchant sur des conséquences politiques, qui mette en rapport de façon rationnelle et obligatoire le potentiel dont la société dispose en matière de savoir et de pouvoir techniques avec notre savoir et notre vouloir pratiques ».

Auteur

Médecin généticien au CHU de Toulouse,
Responsable Innovation AideDiag Expert

© Presses de l’Université Toulouse 1 Capitole, 2018

Conditions d’utilisation : http://www.openedition.org/6540

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search