Ne regardons pas l’outil mais la main qui le tient
Cinq questions à Pierre Pezziardi, entrepreneur en résidence (beta.gouv.fr), services du Premier ministre
p. 187-192
Texte intégral
11) Les algorithmes* aident les responsables publics à prendre des décisions concernant les citoyens. N’y a-t-il pas un risque de déresponsabilisation de ces décideurs publics avec la généralisation de procédures peu maîtrisées ?
2Pierre Pezziardi : Cela fait en réalité très longtemps que des automates prennent des milliards de décisions quotidiennement : classement comptable, remboursement de médicaments, réservation d’un vol, etc. Ce sont des décisions encadrées par des règles pensées par des humains et qui doivent s’appliquer implacablement. Rien à redire là-dessus.
3Les traitements informatiques qui eux permettent à un général de prendre une décision sur un terrain d’opération, à un préfet d’évaluer le risque d’implantation d’une usine, ou à un élu de décider d’une ouverture de crèche ont déjà de nombreux biais, notamment de collecte et de représentation de l’information.
4Dans cette perspective historique, je crois que l’on surestime le pouvoir déresponsabilisant de décisions « automatiques ». Les algorithmes servent et serviront moins à décider qu’à mieux voir. Aujourd’hui, un service aux entreprises en région apprend dans la presse les faillites des entreprises qu’il est supposé aider ! Avec l’algorithme « signaux faibles », les entreprises présentant des signes de faiblesses sont visitées en priorité. Ce n’est pas donc la décision humaine qui est menacée par l’algorithme, c’est la vieille manière de choisir quelle entreprise visiter qui était obsolète.
52) Le jugement moral, l’intuition, la créativité, l’affect, entre autres, fondent une grande partie des relations humaines et de la communication. La généralisation des procédures algorithmiques semble installer les relations de service dans un cadre « déshumanisé ». La conséquence de cette évolution n’est-elle pas une perte de sens à la fois pour le décideur et pour le citoyen ?
6P. P. : Cette déshumanisation n’est pas propre aux algorithmes mais aux constructions bureaucratiques qui se sont instituées depuis la révolution industrielle et intensifiées à partir des années 1980 avec la montée en puissance du « management », c’est-à-dire du taylorisme dans les services vécu dans une perspective essentiellement financière. Les algorithmes pourront donc poursuivre et compléter cette déshumanisation, ou au contraire, offrir aux hommes et aux femmes sur le terrain des outils leur permettant d’agir en pleine conscience dans une autonomie retrouvée. Prenons deux exemples aux antipodes de ce spectre, par exemple dans les politiques d’emploi :
les automates établissent un diagnostic du demandeur d’emploi, les guichets sont transformés en bornes, les choix des algorithmes s’imposent pour l’accès aux formations ou aux recruteurs. Le big data* comportemental génère l’essentiel de la communication aux demandeurs (« vous devriez faire plus de candidatures spontanées », « vous venez de finir cette formation, pourquoi ne pas contacter cette entreprise ? », etc.) ;
les automates permettent au conseiller d’élargir le diagnostic du demandeur d’emploi par leur connaissance du marché de l’offre et de la demande (parcours gagnants, parcours perdants notamment), des marges de manœuvre nouvelles leur sont données pour déroger aux multiples réglementations et privilégier la solution à l’usager sur la conformité à la règle (exemple : financement d’une formation senior plus de 50 ans pour un actif de
49 ans).
73) Les algorithmes amélioreraient nos quotidiens, mais en utilisant des données liées à nos actions passées. Comment, dans ce contexte, faire reconnaître nos désirs et en particulier nos éventuels souhaits de rupture alors que le futur que les algorithmes nous proposent est enchaîné à notre passé ?
8P. P. : L’exemple du Pass Culture est assez illustratif de ce point de vue. On pense que tous les algorithmes renforcent nos habitudes, nos comportements, nos envies. Mais ce n’est pas une fatalité ! C’est simplement le fait que les Gafa qui les opèrent les ont orientés ainsi pour maximiser leur intérêt : fidéliser l’audience ou augmenter les ventes.
9Mais avec les mêmes technologies, une puissance publique peut, elle, fabriquer des algorithmes qui vont au contraire suivre les objectifs d’intérêt général d’une politique. Dans le cas d’espèce, susciter la découverte, l’écart aux habitudes, le choix de la diversité. Le Pass Culture met donc en avant des offres culturelles inédites, tente de mixer des offres attractives et connues avec d’autres plus qualitatives ou exigeantes… Par ailleurs, l’algorithme se nourrit aussi des recommandations et des labellisations d’origine humaine (une collectivité labellise une offre par exemple, un ami réserve une offre), ce n’est pas une machine froide mais plutôt une chambre d’écho qui nous aide à tisser des liens.
104) La généralisation des systèmes algorithmiques et du big data semble aboutir à installer une primauté de l’information sur la communication. Ce nouveau paradigme fonde en partie un modèle économique particulier dans lequel les producteurs des informations participent de manière souvent inconsciente à la création de valeur. Cette valeur profite-t-elle finalement aux citoyens ?
11P. P. : Non bien sûr, elle profite d’abord et avant tout aux gros détenteurs de données, ce qui n’est pas nouveau. Avant l’inflation du big data, la grande distribution ou les banques ont toujours analysé leurs ventes et optimisé leurs prix en modélisant leur élasticité. Le consommateur subit depuis longtemps les conséquences de cette asymétrie d’information.
12Le sujet touchant désormais tous les aspects de la vie (santé, transport, emploi) et les usagers étant invités à y contribuer de plus en plus massivement (les adresses favorites que vous stockez dans Google Maps, les avis sur TripAdvisor, vos photos géolocalisées sur Facebook, etc.), la question se pose de l’encadrement de ces pratiques désormais généralisées. Le Règlement général pour la protection des données (RGPD) est de ce point de vue une première pierre salutaire.
13Mais là encore, ne regardons pas l’outil mais la main qui le tient. Il est incontestable que Wikipédia profite aux citoyens, or il ne fonctionne que sur la contribution des usagers. Est-ce mal ? Probablement pas. Il est donc souhaitable que de nouvelles réglementations imposent aux gros détenteurs de données des objectifs d’intérêt général, des « servitudes numériques », pour partager certaines de leurs données dans des « communs numériques ».
145) Une nouvelle « culture décisionnelle » basée sur des algorithmes et des dispositifs intégrés d’acquisition de données de toutes sortes peut certainement améliorer le fonctionnement des services publics, mais avec quelles conséquences, finalement, pour la démocratie et les libertés individuelles ?
15P. P. : La Chine s’équipe massivement de caméras à reconnaissance faciale, d’un système de notation individuelle qui peut vous empêcher de prendre l’avion, le gouvernement a accès à vos relevés de téléphone ou de carte bleue sans votre consentement ni le mandat d’un juge… Elle s’inscrit effectivement dans une stratégie d’autoritarisme numérique.
16Les États démocratiques occidentaux recherchent, je pense, une autre voie. Car ces technologies peuvent aussi être profondément émancipatrices, et notamment permettre au plus grand nombre d’exercer des métiers à forte valeur ajoutée aidés par des assistants numériques. Tout le monde peut devenir expert en prestations sociales en utilisant <mes-aides.gouv.fr>, expert en financement de formation professionnelle grâce à LaBonneFormation1. Ces aidants numériques peuvent ainsi nous permettre de déplacer notre valeur ajoutée sur l’humain, le contact, la relation. Autant de métiers plus souhaitables et durables.
Notes de bas de page
1 <https://labonneformation.pole-emploi.fr/>.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
