Versión clásicaVersión móvil

Santé, numérique et droit-s

 | 
Isabelle Poirot-Mazères

Quels modèles économiques pour la e-santé ?

Modèles économiques des GAFAM et vie privée

Patrick Constant

Texto completo

  • 1 Enquête L’Express-Ifop, « Ce que veulent les moins de 40 ans », L’Express, 10 janvier 2018, p. 21 (...)

1L’intelligence artificielle inquiète comme le révèle un sondage récent auprès des Français de moins de 40 ans : 64% l’appréhendent avec crainte, redoutant des suppressions massives d’emplois alors que 36% y voient une chance et l’opportunité de voir les activités les plus pénibles assumées par des robots1. Si l’avenir du marché du travail est ainsi l’objet de réflexions contradictoires, en revanche, les questionnements sur la possibilité même de préserver une vie privée face à la prolifération des objets connectés sont communément partagés. Or la crainte naît souvent de ce que l’on ne connaît pas et de ce qui paraît échapper à notre contrôle. La compréhension des phénomènes en cours et la prise de conscience des enjeux individuels et sociétaux du développement de l’IA doivent permettre d’accueillir l’innovation dans ses plus belles manifestations sans capituler devant ses dérives.

2Avant d’expliciter ceci, quelques mots sur ce que peut être un background de serial entrepreneur dans le secteur du numérique.

3J’ai fondé il y a 20 ans la société Pertimm qui est une entreprise qui travaille essentiellement en B to B sur divers terrains : moteur de recherche sémantique pour le e-commerce (et plus généralement pour les données structurées), indexation et recherche, gestion de données structurées, grands volumes, smart data, big data mais aussi sémantique, linguistique, recommandations et personnalisation, machine learning, etc.

4Je suis également le co-fondateur et co-dirigeant de Qwant, moteur de recherche européen et français, qui s’affirme comme une alternative à Google : en effet la ligne directrice est le respect de la vie privée des visiteurs, ce qui s’avère évidemment crucial s’agissant de données aussi sensibles que les données de santé.

  • 2 Le chatbot, connu aussi sous le nom d'« agent conversationnel », est un logiciel programmé pour si (...)

5Plus récemment Pertimm a été à l’initiative de la création d’une plateforme de création de chatbots2 et d’assistants vocaux. Utilisés couramment sur Internet pour la relation client, les chatbots se développent de plus en plus sur les messageries et les réseaux sociaux, où ils s'alimentent d'une multitude de données. D’où une demande forte des utilisateurs d'Internet et des acheteurs pour des services rentables, neutres et respectueux de la vie privée. Dans ce contexte, l'objectif principal de VOQAL.AI est d'accélérer l'utilisation du premier assistant vocal multilingue européen, plate-forme collaborative et open-source pour le commerce électronique, en tant que premier marché segment, qui garantit la communication homme-machine (HMC), tout en préservant à la différence de la démarche des GAFAM les règles relatives aux traitements des données et au respect de la vie privée.

6Enfin, tout ceci s’accompagne d’un investissement fort dans le soutien à l’innovation au sein de l’association Cap Digital Pôle de compétitivité et de transformation numérique via la vice-présidence de la commission Gestion des connaissances.

7Quels sont les enseignements tirés de près de 25 ans d’expérience dans le domaine de l’IA ?

I – Les GAFAM : Les assistants qui vous veulent du bien

A – Quel modèle économique en santé ?

  • 3 Il faudrait y ajouter les géants chinois, les BATX (Baidu, Alibaba, Tencent et Xiaomi)…
  • 4 Verily multiplie les projets : lentilles connectées avec Novartis pour le diabète, algorithmes pou (...)

8Chacune des entreprises ainsi désignées par le fameux acronyme3 investit massivement dans la santé, sous des angles divers.
Google est d’ores et déjà au regard des milliards investis, un acteur déterminant de la santé. Il vise à en devenir un géant. Dans ce but, Alphabet, holding dédiée, continue à se développer dans le secteur médical, par l'intermédiaire de deux sociétés filles, Verily et Calico. Verily a pris la suite de Google Life Science et, grâce à diverses équipes hardware, software, clinique et scientifique, travaille sur des plateformes, produits et algorithmes destinés à identifier les causes et facteurs des maladies, à dégager les meilleures techniques de diagnostics et analyser les traitements les plus adaptés. Dans le même mouvement, Google s’associe à de nombreux groupes pharmaceutiques dans des projets mêlant les biotechnologies et la santé4. Plus encore, la filiale a pour ambition de dresser à terme « une carte de la santé humaine », « Project Baseline », lancé officiellement en avril 2017, en partenariat avec les universités de Duke et Stanford (États-Unis), et qui consiste à recueillir un large éventail de données médicales, comportementales ou même génétiques sur environ 10 000 volontaires, afin d’établir une base de données de référence « qui puisse être utilisée pour mieux comprendre la transition entre la bonne santé et la maladie, et identifier des facteurs de risques additionnels ». En parallèle, depuis quelques années, l’entreprise travaille aussi sur les mécanismes du vieillissement et les sources de la longévité au travers de son fameux projet Calico. Partant, Google est en train de poser sa pierre sur toutes les étapes du secteur, de la recherche au parcours de soin en passant par la surveillance du métabolisme, la prévention ou l'observance… Les applications ne sont donc qu’une dimension de l’architecture ainsi progressivement construite en santé.

9Apple a développé une application sur l’IPhone qui doit permettre à chacun de suivre son activité physique, de recueillir et stocker des données sans toutefois préciser où elles vont, qui les partage et dans quel but, et in fine ce qui en est fait. Un indice fort néanmoins autorise à l’imaginer : l’argent, sur Internet, provient principalement de la publicité.

  • 5 R. Moreaux, « Microsoft à l'offensive pour "démocratiser" l'usage de ses technologies en santé », (...)

10Microsoft est très présent sur le terrain des services et équipements destinés aux médecins, aux hôpitaux et aux patients, et vise désormais via son programme « Healthcare NExT » à contribuer à la transformation des systèmes de soins et « nouer des accords partenariaux pour « co-produire » des outils de santé à partir des services technologiques mis à disposition par Microsoft dans le domaine de l'intelligence artificielle et du big data »5.

11Quant à Amazon, l’entreprise s’est positionnée sur les produits d’hygiène et de santé, alimentant ainsi les questionnements sur la délicate qualification juridique des produits de santé.

12Le modèle économique des GAFAM en santé est clair. Chacun s’efforce dans son domaine de devenir acteur de premier plan du système de santé, avec pour objectif premier la quête de données de santé afin de mieux connaître les sujets clients et ainsi, non seulement de mieux cibler la publicité qui devient de ce fait plus chère, mais aussi d’orienter plus efficacement la vente de biens ou services.

B – Quelles technologies utilisées ?

13Les GAFAM utilisent diverses technologies usant d’algorithmes très différents :

  • Les algorithmes de pertinence qui permettent d’obtenir les meilleurs résultats pour chacun. Jusqu’à 2007, ces algorithmes de pertinence ne dépendaient pas d’informations personnelles, et les profits (de Google en particulier) étaient au rendez-vous. Cela voulait dire que chacun avait les mêmes résultats pour une même requête. Cependant, avec le plafonnement du trafic (par manque d’êtres humains supplémentaires faisant des recherches), il a fallu améliorer le rendement même d’une recherche. Pour ce faire, la pertinence est désormais dépendante des intérêts de chacun, mais pas uniquement : n’importe quelle information sur une personne permet aujourd’hui de gagner quelques euros supplémentaires par an à chaque fois que la personne va faire quelques clics supplémentaires sur des liens publicitaires.
  • Les algorithmes d’apprentissage, ou machine learning permettent de classifier automatiquement et sans apprentissage manuel de grandes masses de données. Un exemple de grande masse de données : les données de tous les êtres humains sur la planète. Ils s’avèrent ainsi précieux pour dégager du sens dans le Big Data : en effet les outils analytiques traditionnels sont impuissants à livrer des analyses compréhensibles et utiles de volumes de données trop larges et, de plus, dans ce cas, les corrélations entre ces données sont trop nombreuses pour que les analystes puissent tester toutes les hypothèses pour les exploiter. C’est ce que permet le machine learning, créer de la valeur à partir de sources de données massives et diversifiées.
  • La publicité apprenante : Adwords ; retargeting6 (avec notre licorne française, Criteo) ; RTB (Real Time Biding ou enchères publicitaires en ligne). Ainsi ce n’est pas seulement sur les résultats de recherche sur les pages de résultats de Google que les publicités s’affichent, mais sur n’importe quelle page de n’importe quel site, pour peu que ce site ait envie de gagner de l’argent à partir de son trafic internet (donc en premier lieu les journaux). Ainsi, lorsque par exemple l’on ouvre une page sur le site d’un journal, les bandeaux publicitaires font l’objet d’un combat sans merci à qui va s’afficher à la place de l’autre, et le tout en moins de 500 milli-secondes. Les cookies et autres petits objets du navigateur peuvent alors identifier la personne lorsqu’elle clique sur la publicité, de telle sorte qu’elle va par la suite recevoir cette même publicité ou des annonces similaires sur d’autres sites, avec l’impression d’être (pour)suivie. Tel est l’objet du retargeting.
  • Les recommandations : elles partent des données relatives à la personnalité et aux goûts des visiteurs et permettent mieux cerner ceux-ci. Y correspondent par exemple les annonces sur un site de ventes en ligne qui interpellent avec un « les clients qui ont acheté cette cafetière ont aussi acheté ce produit ». Cela permet de vendre davantage de produits en donnant des suggestions pertinentes (des recommandations), à la manière d’un vendeur en magasin, qui propose la cravate et la chemise qui vont parfaitement bien avec le costume qu’un client est en train d’acheter. Sur Internet, ces mécanismes sont automatisés et peuvent aussi être personnalisés et adaptés aux goûts du client. Et pour personnaliser une recommandation, il suffit d’avoir précédemment capté les données le concernant.
  • Le traitement automatisé du langage (TAL) : thesaurii, ontologies, correction orthographique, etc… En tant que tel ce traitement permet de mieux comprendre la demande de l’utilisateur lorsqu’il tape un mot ou une expression dans une barre de recherche. A l’origine, avec Altavista, le TAL comprenait un mot au maximum. Avec Google, le système a permis d’appréhender plusieurs mots (on parle alors de « sacs de mots »). Désormais, ce sont des phrases entières qui peuvent être comprises grâces à ces technologies de traitement du langage naturel.
  • Les chatbots, assistants vocaux et non vocaux : au-delà du traitement d’une phrase, certains programmes peuvent maintenant gérer des dialogues avec des personnes, par exemple pour la réservation d’un voyage, d’un hôtel ou pour demander des renseignements sur les garanties de son assurance. Si les assistants vocaux permettent de faire cela vocalement, les chatbots permettent d’avoir des dialogues avec des personnes sur les plateformes de chat comme, par exemple, Facebook Messenger, Telegram, Slack, Wechat, etc. Plateformes qui étaient, jusqu’à peu, des sanctuaires pour la publicité tout en représentant plus de 50% des échanges internet dans le monde.

14Toutes ces technologies permettent de comprendre de mieux en mieux les besoins des personnes, mais pour cela les opérateurs ont aussi besoin de connaître de mieux en mieux les personnes elles-mêmes. Ainsi un équilibre doit être trouvé entre l’aide apportée, qui peut être intéressante, et la connaissance de l’intimité qui en est la base et qui peut finir par être intrusive pour la vie privée des individus, en particulier dans le domaine de la santé.

II – Des assistants issus de l’IA et des hommes

A – Qu’est-ce que l’IA ?

15On distingue traditionnellement l’IA faible de l’IA forte.
L’intelligence artificielle faible, ou descendante, vise principalement à reproduire le plus fidèlement possible, à l'aide d'un programme informatique, le résultat d'un comportement spécifique observé à l'avance et ne donnant pas d'application non prévue. Les programmes d’IA faible « semblent » intelligents mais il leur manque une dimension, ils ne sont pas conçus pour évoluer. Ils se concentrent sur une tâche, et comme tels sont donc très performants dans leur domaine mais sans possibilité d’en sortir. Entrent dans cette catégorie, les ordinateurs ou les calculatrices, certains assistants personnels comme SIRI, l’application iOS qui répond quand on lui parle, programme qui semble intelligent, mais qui en réalité ne fait qu’enregistrer la voix et l’envoie a un serveur d’Apple qui s’occupe du traitement.

  • 7 S. Morizot, propos recueillis dans « Intelligence Artificielle forte ou faible, quelle différence  (...)

16La limitation fonctionnelle de ces dispositifs ne les rend pas moins potentiellement intrusifs : l’IA faible a pour objet de recueillir des données au travers des activités réalisées ou des informations délivrées (sur les réseaux sociaux et sur les sites marchands) puis d’y relier des transactions, échanges, modèles de travail… Les algorithmes croisent ainsi des informations afin de mieux servir, automatiser, vendre plus, personnaliser les parcours utilisateurs. Finalement, ceci aboutit à dégager une connaissance pointue et approfondie de chaque individu pratiquement malgré lui, et à automatiser une partie de nos relations avec des tiers. Or, souligne-t-on « le coût de déploiement de l’IA faible est nul en raison des progrès technologiques liés à l’informatique, et parce que nous l’alimentons de nous-mêmes, dès que nous nous connectons. En conclusion, l’IA faible, c’est de la matière grise dans un programme informatique alors que l’IA forte serait de la matière grise dans un robot »7.
L’intelligence artificielle faible n’a pas pour objectif d’être « intelligente », elle est avant tout un outil à la puissance de calcul démultipliée, allouée à une tâche complexe, en divisant celle-ci en une série de sous-tâches élémentaires et calculables en logique élémentaire.

17En regard, l’IA forte renvoie à des machines ou programmes capables non seulement d’agir/réagir avec intelligence, mais aussi de comprendre et analyser leurs propres raisonnements, et de la sorte de reproduire un comportement humain entier. Une telle machine pourrait non seulement de produire un comportement intelligent, mais aussi selon certains avoir une réelle conscience de soi, éprouver de « vrais sentiments », accéder ainsi à une conscience d’elle-même et « une compréhension de ses propres raisonnements ». Le passage marquerait l’avènement de la singularité, une sorte de « point de non-retour » où la machine deviendrait plus puissante que l’humain. L’une des étapes de cette transition serait le test de Turing, qui a pour but de mesurer si et comment une machine peut se faire passer pour un être humain face à un être humain. Si la personne n’arrive pas détecter qu’elle a une machine en face, cette machine a passé le test. Pour le moment, il n’est pas avéré qu'une machine y soit parvenue, mais les scores s’améliorent d’année en année.

18C’est l’un des questionnements les plus importants de l’avenir, qui divise les scientifiques comme les philosophes et interroge les juristes : l’IA pourra-t-elle accéder à la conscience, celle-ci peut-elle être seulement créée, et ce à partir de la mécanique comme elle a surgi du biologique ? Qu’est-ce que la conscience et, si elle peut ainsi devenir consubstantielle à l’IA, ne faut-il pas alors lui reconnaître des droits et des devoirs, à l’instar du mouvement qui a conduit à doter les animaux d’un statut juridique ?

  • 8 La création de l’âme humaine st décrite dans le Timée, l’un des derniers dialogues de Platon.

19La réponse est ancienne, apportée par la tragédie et la philosophie grecques, tripartition homérique reprise dans les écrits de Platon8. L’homme est formé de trois éléments : corps, psychisme et esprit, trois entités distinctes que l'on désigne aussi comme le soma, la psyché et le nous. Les deux premiers éléments sont aujourd’hui techniquement modélisables, mécanisables et constructibles et peuvent être reproductibles par l’IA. Mais le nous, l’Esprit, la conscience de soi, semblent hors d'atteinte. La citadelle du moi, le « fort » intérieur, sont la garantie de la singularité pérenne de l’homme, impossible à reproduire. Mais encore faut-il être assuré que ce « moi » reste indépendant du couple soma-psyché, qu’il relève effectivement d’une transcendance qui le met à l’abri de toute tentative de captation et de copie.

20La question, passionnante au plan philosophique, est aussi posée comme un défi scientifique et technologique, que certains ont décidé de relever.

B – Les assistants personnels au cœur de la quatrième révolution industrielle

21Tous les grands acteurs du numérique ont leur assistant personnel et pour eux, l'enjeu est de taille. Un basculement crucial est en cours dans le numérique, le passage de l'ère du mobile à l'ère de l'intelligence artificielle. Et dans ce basculement où les interactions homme-machine sont conçues comme devant être toujours plus fluides, la voix s'impose comme l’axe d’une nouvelle révolution technologique dont le moteur est l’intelligence artificielle à la portée de tous grâce aux assistants personnels. Dopés par les avancées technologiques, ces dispositifs réalisent des tâches de plus en plus complexes, apprennent à réagir en fonction de données précises qu’ils collectent (géolocalisation, heure, historique, etc.) et améliorent leurs modèles mathématiques au fur et à mesure des interactions (deep learning).

22Le marché est désormais largement investi : Apple avec Siri, première introduction d’un assistant personnel auprès du grand public ; Google Now , particulièrement efficace car alimenté par les applications de l’écosystème Google mais remplacé par un système encore plus performant : Google Assistant ; Amazon avec Alexa ou l’IA au service du commerce et de la domotique ; mais aussi, tentant de rivaliser avec les GAFAM, Cortana développé par Microsoft, S-Voice par Samsung, et dernier né et petit frère de Siri, le plus doué selon ses concepteurs, Viv, qui serait capable de comprendre des requêtes complexes, et de leur apporter des réponses personnalisées.

23Les enjeux sont considérables, chacun de ces assistants étant en mesure de collecter des masses de données, certains en continu. La menace est réelle pour le respect de la vie privée notamment si l’on ne recourt qu’à un seul de ces assistants personnels pour toutes les tâches et questionnements de la vie quotidienne : le dispositif connaît alors tout de la personne, de ses goûts et affinités, suit toutes ses activités, analyse en permanence réactions et comportements et les informations afférentes. L’aide fournie par l’assistant se paie alors par l’abdication subreptice de tout contrôle sur les données personnelles. Préoccupant de façon générale, ce problème s’accentue en matière de santé, où toute attitude peut ainsi être perçue, décryptée et susceptible d’être transformée en consignes.

Figure 1 : Le propriétaire terrien du XIXème siècle

Figure 1 : Le propriétaire terrien du XIXème siècle

24Quelle solution ? L’image qui s’impose est celle du propriétaire terrien du XIXème siècle, épaulé dans ses diverses tâches et selon les sphères d’action par de multiples personnes, dotées chacune de connaissances et de compétences spéciales, et en mesure de répondre à des requêtes différentes…

25La structure des rapports inter personnels est ainsi dominée par la « compartimentalisation », qui évite de croiser et d’apparier des informations et données personnelles de façon indue, hors consentement de la personne.

26La solution serait donc, alors même que les entreprises nous proposent des assistants omniscients aux fonctionnalités globalisantes auxquels nous serions totalement inféodés, dans la division du travail entre divers exécutants spécialisés chacun dans certaines fonctions. L’avenir sans intrusion des assistants dans la vie privée des personnes serait dans leur multiplication à nos côtés agissant sur des segments différents.

Figure 2 : Nous au 21ème siècle

Figure 2 : Nous au 21ème siècle

27Cette fragmentation est donc sans conteste la garantie de la liberté et de la préservation de notre individualité. La vie numérique se doit d’être compartimentée physiquement (en des lieux et appareils divers) et fonctionnellement, ce qui n’exclut naturellement ni les échanges ni les partages dans le cadre défini par le droit, comme ils le sont dans la relation médicale dans le respect du secret et des données personnelles.

28Ainsi, à l’instar des applications mobiles actuelles, les assistants sont appelés à participer tant au suivi des pathologies chroniques et des traitements qu’aux actions de prévention et de promotion de la santé, à condition de rester dans les limites fixées par les réglementations relatives aux dispositifs médicaux et à la protection des données. Pas plus ni moins que le médecin de Balzac ou de Flaubert, l’assistant ne saurait aller au-delà de ce que sa mission exige…

Notas

1 Enquête L’Express-Ifop, « Ce que veulent les moins de 40 ans », L’Express, 10 janvier 2018, p. 21 et s.

2 Le chatbot, connu aussi sous le nom d'« agent conversationnel », est un logiciel programmé pour simuler une conversation en langage naturel. Il apparaît sous la forme d'un personnage animé ou d'une zone de dialogue intitulée « Posez-nous vos questions ».

3 Il faudrait y ajouter les géants chinois, les BATX (Baidu, Alibaba, Tencent et Xiaomi)…

4 Verily multiplie les projets : lentilles connectées avec Novartis pour le diabète, algorithmes pour comprendre certaines maladies, traitements par impulsions électriques avec GSK, robotique chirurgicale avec Johnson & Johnson, recherches sur le diabète avec Sanofi.

5 R. Moreaux, « Microsoft à l'offensive pour "démocratiser" l'usage de ses technologies en santé », TICPharma, 10 mars 2017.

6 Il s’agit d’une pratique publicitaire qui consiste à « cibler » un individu qui a visité un site Internet, sans pour autant qu’il y ait eu achat ou transformation lors de cette visite.

7 S. Morizot, propos recueillis dans « Intelligence Artificielle forte ou faible, quelle différence ? », La boîte du futur, 27 septembre 2017.

8 La création de l’âme humaine st décrite dans le Timée, l’un des derniers dialogues de Platon.

Índice de ilustraciones

Título Figure 1 : Le propriétaire terrien du XIXème siècle
URL http://books.openedition.org/putc/docannexe/image/4463/img-1.jpeg
Archivo image/jpeg, 317k
Título Figure 2 : Nous au 21ème siècle
URL http://books.openedition.org/putc/docannexe/image/4463/img-2.jpeg
Archivo image/jpeg, 248k

Autor

Président Directeur Général Pertimm
Co-rédaction, Isabelle Poirot-Mazères, Professeur, Université Toulouse 1 Capitole

Salvo indicación contraria, el texto y otros elementos (ilustraciones, archivos adicionales importados) se puede utilizar bajo licencia OpenEdition Books License.

Buscar en OpenEdition Search

Se le redirigirá a OpenEdition Search