Bureaucratie sans fonctionnaires
p. 46-53
Texte intégral
1Alors que le gouvernement a présenté en 2021 un plan de 2,2 milliards d’euros pour le développement de l’IA en France, ses applications sont déjà largement en usage, y compris dans l’administration et les services publics. Mais dans une bureaucratie automatisée, aucune marge de manœuvre n’est possible pour l’application des règles inscrites dans les dispositifs, aucun·e lanceur·se d’alerte ne pourra plus avertir d’éventuelles dérives : l’automatisation bureaucratique a le potentiel de faire advenir un gouvernement totalement déshumanisé.
2Depuis quelques années, à grand renfort d’un vocabulaire issu du monde des start-ups, on assiste à la consolidation d’un nouvel avatar de la réforme néo-libérale de l’État. À travers les concepts d’« État plateforme » ou de « start-up d’État » (Algan & Cazenave, 2016 ; Bertholet & Létourneau, 2017 ; Pezziardi & Verdier, 2017), les nouveaux et nouvelles réformateur·rices comptent sur les corporate hackers et l’innovation disruptive pour transformer de l’intérieur les bureaucraties publiques, laisser libre cours à la créativité, renouer avec la transparence, déployer des méthodes « agiles » et s’adapter à un environnement en perpétuelle transformation, le tout à moindre coût.
3L’« État digital » – un concept vanté en juin 2017 par Emmanuel Macron lors d’une ode à la « start-up nation » restée célèbre – est aussi et surtout un État en voie d’automatisation : pour accompagner l’horizon du non-remplacement de près de 50 000 fonctionnaires d’ici 2022, le plan « Action publique 2022 » lancé en octobre 2018 misait sur des « technologies telles que l’intelligence artificielle et les RPA » (robotic process automation), ce afin « d’automatiser les tâches répétitives et à faible valeur ajoutée » (Gouvernement français, 2018).
4Le contexte est en effet propice à l’automatisation de nombreuses fonctions administratives. Outre la conversion d’une partie des élites politiques et administratives au concept de « gouvernance par les données », l’offre technologique des prestataires privés s’est aussi structurée, grâce notamment au développement rapide des techniques dites d’IA. Du côté des « administrés », ce projet rencontre une plus grande acculturation de la population française au numérique, avec un taux d’équipement important et de nombreux programmes pour la « former » aux outils numériques, que ce soit à l’initiative des pouvoirs publics ou d’entreprises comme Google (accueillie à bras ouverts par plusieurs villes françaises pour installer ses « ateliers numériques »). Rappelons toutefois qu’en 2020, près de 10 millions de résident·es français·es ne bénéficiaient pas d’accès à Internet (parce qu’elles et ils ne disposent pas d’abonnement, et/ou d’équipements adéquats) (Arcep, 2021, p. 308) et que trois Français·es sur dix s’estimaient incompétent·es pour réaliser des démarches administratives en ligne (Charrel & Chaffin, 2021).
5Ces différents facteurs poussent à une multiplication des « assemblages algorithmiques » (Ananny & Crawford, 2018) dans les administrations. Que ce soit la dématérialisation de nombreuses démarches administratives, l’automatisation partielle de l’affectation post-bac avec Parcoursup, l’automatisation de l’accompagnement des demandeur·ses d’emploi avec le projet « Mon assistant personnel » expérimenté par Pôle Emploi, l’automatisation de la lutte contre la fraude sociale par les caisses d’allocation familiale ou par le fisc, l’automatisation du contrôle d’identité via la reconnaissance faciale des bornes Parafe installées dans plusieurs aéroports, ou encore l’automatisation des communications ou comportements suspects au sein des services de police ou de renseignement, nombre de pratiques administratives sont aujourd’hui de plus en plus articulées à des algorithmes semi-autonomes.
6Face à ce processus, des craintes s’expriment dans certains segments de la société – qui en dénoncent de nombreux angles morts. Sont notamment évoqués les risques pour la vie privée, l’avènement d’une « société de contrôle » appuyée sur l’informatique, l’opacité des assemblages algorithmiques, les formes aggravées de déshumanisation induites par l’automatisation ou encore l’accentuation des inégalités structurelles. Au sein même des bureaucraties concernées par ces transformations, la peur du déclassement de l’humain·e par la machine, le surcroît de procédures, le risque de bugs techniques ou le phénomène rampant de privatisation suscitent également leur lot de résistances parmi les agent·es.
7 Ces critiques ont conduit à la multiplication de nombreux rapports, livres blancs ou textes de soft-law émanant du secteur privé, d’organismes de protection des données comme la Cnil, d’institutions comme le Parlement européen, de même que d’organisations internationales comme le Conseil de l’Europe ou le Conseil des droits de l’Homme des Nations unies.
8Certains travaux en sociologie des sciences et des techniques ont pourtant montré la faible portée pratique des approches procédurales proposées dans ces rapports, les règles ainsi posées étant souvent inapplicables, contournées, ou privées de leurs effets. Sur le plan juridique, l’expérience montre que les « garde-fous » adoptés par les législateur·rices ou les juges s’avèrent très fragiles. Compte tenu des logiques bureaucratiques d’optimisation (fonctionnelle, budgétaire, etc.) des tâches administratives, l’innovation technologique (dans le contrôle d’identité, le placement des bachelier·es, etc.) tend systématiquement à créer un besoin, lequel se traduit tôt ou tard par des réformes visant à légaliser des usages qui paraissaient auparavant inenvisageables techniquement ou inacceptables socialement.
9En réduisant les enjeux à des questions de procédures — donc à des questions souvent techniques sur la manière de réguler l’usage d’un dispositif — et en se focalisant sur les artefacts technologiques en négligeant leur environnement institutionnel, les controverses actuelles tendent à multiplier les angles morts de ces projets d’automatisation bureaucratique. Par exemple, il est une question fondamentale dont il est rarement débattu : quelle serait la signification politique d’une bureaucratie presque entièrement automatisée ? La critique des tendances anti-démocratiques du pouvoir bureaucratique a occupé une place importante dans la théorie politique depuis le xixe siècle, mais sans minimiser les formes de violences associées aux bureaucraties passées et présentes, il n’en demeure pas moins qu’en pratique, leur potentiel dystopique peut être en partie contenu par les femmes et les hommes en leur sein.
10C’est ce que soulignent de nombreux travaux en sociologie politique. Pour Michael Mann, par exemple, la critique de Max Weber à l’encontre des bureaucraties exagère l’ampleur du pouvoir qu’elles peuvent imprimer sur la société : selon lui, puisque l’État doit procéder au recrutement massif de fonctionnaires pour garnir les rangs de bureaucraties toujours plus tentaculaires, le « pouvoir infrastructurel » de l’État sur la « société civile » se développe au prix d’une pénétration de ses propres structures administratives par cette même société civile, qui au travers de ces fonctionnaires toujours plus nombreuses et nombreux est en mesure d’influencer l’État (Mann, 2012, p. 59). Dans une approche qui a le mérite d’éviter une opposition trop binaire entre État et « société civile », Timothy Mitchell évoque lui aussi les formes de résistance internes nourries par des « sujets politiques […] formés au sein de la sphère organisationnelle dénommée État » (2018, p. 372).
11De manière plus empirique, la sociologie de l’action publique a largement souligné le rôle joué par les street-level bureaucrats – c’est-à-dire les agent·es placé·es au contact direct des administrés – dans le travail d’interprétation et d’adaptation des règles aux réalités des publics et des terrains (Dubois, 2013). Au sein de la discipline, un débat a cours depuis une vingtaine d’années pour élucider les effets de l’introduction des technologies informatiques vis-à-vis de ce travail d’interprétation (Snellen, 2002 ; Buffat, 2015). Si ces effets apparaissent ambivalents, il reste que, dans un certain nombre de contextes, la technologie rend d’ores et déjà quasi impossible une telle herméneutique. Et quand bien même davantage d’études de terrain seraient nécessaires pour l’évaluer précisément, on peut s’attendre à ce que l’automatisation croissante de certaines tâches administratives en lien avec les dernières innovations technologiques rogne encore davantage sur les marges de manœuvre laissées aux street-level bureaucrats.
12Ce pourrait d’ailleurs être là l’un des ressorts tacites du mouvement d’automatisation bureaucratique. Si, comme le suggère l’anthropologue David Graeber (2015), la bureaucratie est « faite, d’abord et avant tout, d’agressions contre ceux qui persistent à défendre d’autres schémas ou des interprétations différentes », il n’est guère surprenant qu’elle appréhende la subjectivité de ses agent·es comme un aléa dispensable, en abordant les fonctionnaires et ses dilemmes moraux comme un bug à corriger. Dans une bureaucratie automatisée, aucune désobéissance possible dans l’application de la règle inscrite dans le dispositif, plus aucun·e lanceur·se d’alerte dont la conscience pourra être à ce point heurtée par la violence bureaucratique qu’elle ou il se décidera à porter l’affaire à la connaissance du public. En évinçant l’élément humain dans l’application des règles rationnelles et impersonnelles, l’automatisation bureaucratique a le potentiel de faire advenir le gouvernement totalement déshumanisé que décrivait Hannah Arendt (2003) au tournant des années 1960 : « dans une bureaucratie pleinement développée, il ne reste plus personne avec qui l’on puisse discuter, à qui l’on puisse présenter des griefs. »
13Cette analyse signale un autre angle mort d’une bureaucratie sans fonctionnaires : le fait d’accepter d’être administré·e par des machines ne conduit-il pas à rompre avec l’horizon politique de l’humanisme, en acceptant de nous concevoir nous-mêmes – personnes administrées – comme des machines, c’est-à-dire comme les objets d’un gouvernement plutôt que des sujets politiques ? Le droit libéral considère en effet que, même si les motivations et les états mentaux d’autrui ne peuvent pas toujours être sondés, ils sont en fait équivalents aux nôtres. Selon cette conception, autrui est réputé·e doué·e des mêmes facultés que nous, animé·e aussi par une volonté et des désirs. C’est ce qui fait d’elle et lui un pair devant jouir de droits et d’une dignité égale à la nôtre. Même si le fait d’être administré·e par des organisations bureaucratiques constitue bien une forme de dépossession et de violence, au moins est-elle en partie rendue plus tolérable (car plus « négociable ») par l’existence d’interlocuteur·rices humain·es (en espérant que ces personnes pourront user à bon escient d’une certaine marge d’interprétation).
14Dès lors que cet « élément humain » disparaît, et que ne subsiste plus que le fonctionnement froid et impénétrable d’un algorithme fondé sur des simplifications abstraites et une approche quantitative et probabiliste du réel (fût-il paramétré par un·e ingénieur·e), cette capacité à négocier avec un pair disparaît. Comme le notait Hannah Arendt, il devient alors impossible de faire valoir nos situations spécifiques, nos subjectivités et nos affects en comptant sur l’empathie d’autrui.
15 En édifiant des bureaucraties toujours plus automatisées, nous risquons donc de solder cette « anthropologie humaniste » au fondement du droit libéral, pour lui substituer une anthropologie guerrière et cybernétique au sein de laquelle, comme le souligne le philosophe des sciences Peter Galison, chacun·e est considéré·e comme une « boîte noire » (voir Boîte noire), avec « des entrées et des sorties et sans accès à la vie intérieure d’autrui » (Galison, 1994 ; Bruno et al., 2018). Ce qui revient, en fin de compte, à accepter de nous considérer les un·es et les autres comme des machines.
16La focale procédurale et le primat donné aux dispositifs socio-techniques dans l’évaluation des « risques » occultent d’autres angles morts causés par la logique d’optimisation bureaucratique. Par exemple, l’une des justifications les plus courantes à l’informatisation des administrations tient à des objectifs comptables et budgétaires : en réalisant un saut qualitatif dans l’automatisation, l’IA permettrait de faire « passer à l’échelle » tel ou tel process bureaucratique en réalisant des économies d’échelle. Ainsi, dans un courrier à la Cnil, la région Paca défendait récemment l’expérimentation de la reconnaissance faciale aux abords des lycées en affirmant que ce projet constituait « une réponse au différentiel croissant constaté entre les exigences de sécurisation des entrées dans les établissements et les moyens humains disponibles dans les lycées, dans le cadre des plans successifs de réduction des effectifs dans la fonction publique » (Région Sud, 2018). Intimement liée aux politiques d’austérité, l’automatisation poursuit ainsi le mouvement néo-libéral de sape du service public, ainsi que de précarisation et de déqualification d’une partie de la fonction publique, victime d’une atomisation croissante et du démantèlement de ses capacités d’action collective.
17Parmi les autres angles morts fréquemment éludés par la focale procédurale, on pourrait encore évoquer le coût écologique engendré par le processus d’automatisation (l’un des arguments opposés par les abonné·es Enedis à l’automatisation des relevés de leur consommation électrique via les compteurs connectés), la privatisation de l’expertise et l’affaiblissement des compétences des agent·es public·ques, dès lors que les algorithmes sont le plus souvent conçus par des prestataires externes (ce dont ont pu se plaindre des syndicats policiers opposés à des partenariats avec des entreprises spécialisées dans des technologies de surveillance) (SDPM, 2018), l’incapacité fréquemment constatée des grands chantiers de dématérialisation à atteindre l’objectif de « simplification » et leurs effets bien réels sur l’aggravation des inégalités (Deville, 2018 ; Vallipuram, 2019 ; Charrel & Chaffin, 2021 ; Brygo, 2019), ou encore la légitimité des revendications de celles et ceux qui refusent de répondre aux multiples injonctions technologiques et souhaitent continuer à bénéficier des services publics au travers de guichets physiques, peuplés d’humain·es en chair et en os (D’Allens & Pitton, 2020).
18Si l’automatisation bureaucratique aggrave les tendances totalitaires de la domination bureaucratique, et si la multiplication de procédures pour en contenir les effets délétères a fait la preuve de sa trop grande inefficacité, il est peut-être temps d’en tirer les conséquences. Sans forcément renoncer à dépasser l’antagonisme entre bureaucratie et démocratie (Bourgault, 2017), il s’agirait alors de nous en tenir à un principe de précaution en joignant nos voix à celles et ceux qui, en différents endroits du monde social, disent haut et fort leur refus d’un « État digital » et du projet technocratique dont il procède.
Bibliographie
Références
Algan, Y., Cazenave, T. (2016). L’État en mode start-up. Eyrolles.
Ananny, M., Crawford, K. (2018). « Seeing without Knowing : Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability », New Media & Society, 20 (3).
Arcep. (2021). Baromètre du numérique.
Arendt, H. (2003). Du mensonge à la violence, Presses Pocket.
Bertholet, C., Létourneau, L. (2017). Ubérisons l’État ! Avant que d’autres ne s’en chargent. Armand Colin.
Bourgault, S. (2017). « Prolegomena to a Caring Bureaucracy », The European Journal of Women’s Studies, 24 (3).
Bruno, F., Lissovsky, M., Ferraz Vidal, I. (2018). « Abstraction, expropriation, anticipation : Note généalogique sur les visions machiniques de la gestualité », Réseaux, 211 (5).
Brygo, J. (2019, 19 août). « Peut-on encore vivre sans Internet ? », Le Monde diplomatique.
Buffat, A. (2015). « Street-Level Bureaucracy and e-Government », Public Management Review, 17 (1).
Charrel, M., Chaffin, Z. (2021, 7 septembre). « Illectronisme : les laissés-pourcompte du tout-numérique », Le Monde.
D’Allens, G., Pitton, A. (2020, 3 février). « Des humains plutôt que des machines : usagers et cheminots contestent la numérisation des gares », Reporterre, le quotidien de l’écologie.
Deville, C. (2018). « Les chemins du droit : ethnographie des parcours d’accès au RSA en milieu rural », Gouvernement et action publique, 7 (3).
Dubois, V. (2013). « Le rôle des street-level bureaucrats dans la conduite de l’action publique en France », La France et ses administrations. Un état des savoirs. Bruylant.
Galison, P. (1994). « The Ontology of the Enemy : Norbert Wiener and the Cybernetic Vision ». Critical Inquiry, 21 (1).
Gouvernement français. (2018). Action Publique 2022 : Notre stratégie pour la transformation de l’action publique. Gouvernement français.
Graeber, D. (2015). Bureaucratie : l’utopie des règles. Les liens qui libèrent.
Mann, M. (2012). The Sources of Social Power : Volume 2, The Rise of Classes and Nation-States, 1760-191. Cambridge University Press.
Mitchell, T. (2018). « Les limites de l’État : Au-delà des approches étatistes et de leurs critiques », État et société politique : Approches sociologiques et philosophiques. EHESS.
Pezziardi, P., Verdier, H. (2017). Des startups d’État à l’État plateforme. Create Space Independent Publishing Platform.
Région Sud. (2018, 7 mars). Courrier envoyé à la Cnil.
https://data.technopolice.fr/fr/entity/hi661p1k6s9
Snellen, I. (2002). « Electronic Governance : Implications for Citizens, Politicians and Public Servants », International Review of Administrative Sciences, 68 (2).
SDPM. (2018, mars). « Réaction du Syndicat de Défense des Policiers Municipaux à l’interdiction par la CNIL de l’application Reporty à Nice ».
www.sdpm.net/2018/03/reaction-du-sdpm-a-l-interdiction-par-la-cnil-de-l-application-reporty-a-nice.html
Vallipuram, T. (2019, 29 décembre). « Non, il ne faut pas combattre la fracture numérique », Libération.
Auteur
Chercheur associé au Centre Internet et société du CNRS et membre fondateur de La Quadrature du Net, une association dédiée à la défense des libertés en contextes d’informatisation. Il est l’auteur de L’Utopie déchue : une contre-histoire d’Internet, xve-xxie siècles (2019).
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Le Sujet Digital
Claire Larsonneur, Arnauld Regnauld, Pierre Cassou-Noguès et al. (dir.) Stéphane Vanderhaeghe, Géraldine Bertres, Hélène Soldano et al. (trad.)
2015
Le Comportement des choses
Emanuele Quinz (dir.) Lise Thiollier, Gabriele Stera et Armelle Chrétien (trad.)
2021
Artistes-chercheur·es, chercheur·es-artistes
Performer les savoirs
Boudier Marion et Déchery Chloé (dir.)
2022
Architectures of memory
Jean-Marie Dallet et Bertrand Gervais (dir.) Armelle Chrétien et Joshua David Jordan (trad.)
2022
Angles morts du numérique ubiquitaire
Glossaire critique et amoureux
Yves Citton, Marie Lechner et Anthony Masure (dir.)
2023