1Bien que dans son essence l’algorithme* soit un mécanisme sans volonté propre, ses conditions d’utilisation ne sont pas neutres et il convient de s’interroger sur une éthique de l’innovation algorithmique. Dans le cadre plus restreint de la décision publique, l’algorithme doit-il être perçu comme un outil performant de gestion permettant une implication citoyenne large ou plutôt, du fait de la possible spoliation des données fournies par les citoyens, comme un instrument aliénant, produit et orienté pour valider des projets déjà actés par une oligarchie décisionnaire ?

2L’essence même de la logique algorithmique est d’automatiser la prise de décision, mais le choix et l’activation des critères sous-jacents orientent le résultat. En ce sens les processus deviennent parfois plus importants que le résultat tant ils en occultent les modalités d’obtention. Cette automatisation forcée de la décision, renforcée par des prédictions fondées sur des données du passé ou sur des règles de décision reposant sur des hypothèses souvent non explicitées, concourt-elle à une déshumanisation de la décision et, in fine, à un « solutionnisme » simplificateur ?

3Pour tenter de répondre à ces questions, nous aborderons la nouvelle conception de la relation de service public : la « smart logique » ; puis nous verrons en quoi les civics techs* peuvent être des outils d’implication du citoyen dans la prise de décision publique et, enfin, nous ouvrirons le débat sur les risques d’un « solutionnisme » numérique individualisé.

Une nouvelle conception de la relation de service public : la « smart logique »

4Le service public veut désormais intégrer un citoyen actif et critique. Dans ce processus de « servuction » (production d’un service) publique, le citoyen devient un consommateur de services publics qu’il peut co-créer, choisir et évaluer en tant qu’acteur. Les outils algorithmiques sont dès lors introduits pour collecter son point de vue et faire de lui une partie prenante décisionnaire.

Le New Public Management : une imbrication public-privé-citoyen

5La décision publique a longtemps été le fait du « Prince » ou d’une oligarchie détenant le pouvoir décisionnaire. L’apparition de nouvelles formes de gouvernance publique s’inscrivant dans le cadre de la nouvelle gestion publique, ou New Public Management* (NPM), offre en théorie une place plus importante au citoyen. Basé sur le postulat de l’efficacité des processus de marché, le NPM introduit dans la gouvernance publique le principe de concurrence entre cellules publiques autonomes (direction, bureau, service, etc.) et prestataires privés, l’obligation de la transparence et surtout, la nécessité de l’évaluation de ces actions par les parties prenantes. Cependant, pour pleinement correspondre aux principes d’efficacité du marché et de révélation de la demande, les parties prenantes, et plus particulièrement les citoyens, doivent aussi être associées au design du service1. Pour ce faire, les préceptes du NPM posent la réduction de la distance entre le sommet décisionnel et le citoyen, en l’associant le plus en amont possible à la prise de décision. Les outils numériques en fournissent les moyens techniques dans le cadre d’une e-gouvernance.

Figure : Intégration du citoyen par le New Public Management.

6Cette imbrication d’intérêts souvent divergents induit une demande de transparence dans la relation de service public : les entreprises veulent connaître les conditions d’attribution de marchés, les citoyens souhaitent un droit de regard sur les décisions prises. Cette transformation de la relation entre les citoyens et leurs élus conduit à de nouvelles formes de gouvernance dans lesquelles le citoyen devient acteur du système de choix. Il est dit « empowered » : il est considéré comme un acteur habilité à agir, à décider. Il est investi d’un pouvoir (Von Hippel, 1978 ; Shankar et al., 2006 ; Rheingold, 2005).

7Pour que cette participation citoyenne soit consciente et volontaire, le choix des outils adéquats assurant la collecte, le stockage, l’agrégation, le traitement et l’explicitation des données est délicat. Cependant, de nouveaux outils algorithmiques, récemment adoptés par les « smart cities* » (Mattsson et Sørensen, 2015 ; Breux et Diaz, 2017) et « smart collectivités » (Côme, Magne et Steyer, 2017), ouvrent la voie à une « smart démocratie » aux prises avec la logique big data*.

Gouverner avec l’opinion citoyenne

8Pour agréger les opinions, avis, suggestions des citoyens et en restituer les grandes tendances, les techniques d’enquête classiques du management peuvent être mobilisées (études qualitatives de type focus groups ou entretiens individuels et études quantitatives par questionnaire). George Gallup a le premier utilisé de tels outils de « sondages d’opinion » lors des élections américaines de 1936. Jusqu’en 2000, se sont développés les algorithmes permettant le traitement statistique automatique des données collectées selon des méthodes univariées, bivariées et multivariées, et les logiciels de traitement des données ont appuyé en ce sens la prise de décision publique sans pour autant faire participer directement le citoyen.

9Depuis une dizaine d’années apparaissent de nouveaux instruments de collecte des points de vue citoyens fondés sur des algorithmes puissants se développant au rythme du big data, au point qu’ils portent désormais le nom de data studies*. Ils autorisent une prise en compte de plus en plus précise (et ciblée) des opinions citoyennes. Toutefois, ce qui aurait pu apparaître comme un outil au service de la démocratie participative offre un nouveau visage moins amène : celui du profiling* du citoyen, du tracking* comportemental et, in fine, celui de la perte de pouvoir de l’élu, ce qu’illustre le cas Cambridge Analytica durant la campagne présidentielle américaine de Donald Trump2.

Un pouvoir de décision partagé entre élu et citoyen

10Entre sa volonté d’intégrer la vox populi (du moins dans son discours) et celle de conserver ses prérogatives, l’élu est confronté à une nouvelle donne démocratique : il doit impliquer le citoyen dans les projets publics. Le budget participatif en est un moyen. Ainsi, près de 168000 Parisiens ont voté en septembre 2017 pour 196 projets3, privilégiant la propreté et l’environnement. Ils étaient à peine 40000 en 2014 quand Anne Hidalgo, maire de Paris, a lancé le dispositif en le dotant de 100 millions d’euros, soit 5 % de son budget d’investissement. Dans le monde, 2500 communes, dont des mégalopoles comme New York, proposent aussi de telles initiatives participatives, favorisant l’engagement citoyen. Une cinquantaine de communes en France dont Rennes, Grenoble, Clermont-Ferrand mais aussi Tilloy-les-Mofflaines (seulement 1450 habitants), les ont imitées.

11Cette pratique montre qu’aujourd’hui les exigences de renouvellement de la démocratie représentative traditionnelle et d’accroissement de la participation citoyenne (Eshuis et al., 2014) transforment la gouvernance des villes. Charreyron-Perchet (20174) relève ce renversement de pouvoir et explique que :

« ce mouvement marque une double rupture en termes de gouvernance locale :
 – le citoyen devient acteur : cette rupture se matérialise par […] une conception bottom-up qui laisse davantage de place au dialogue entre les usagers-citoyens et leurs représentants politiques, et entre les citoyens entre eux ;
 – l’intelligence collective est reconnue comme une source de solutions innovantes, ce qui implique la fin du monopole de la légitimité des experts. »

12Mais, pour nous, ceci implique également la minoration et la redéfinition du rôle des personnalités représentatives dans les processus de décision.

13Les algorithmes doivent-ils être considérés comme des outils de gestion performants ou concourent-ils à déposséder le politique de sa capacité décisionnaire et visionnaire ? Cette question de fond peut expliquer les tergiversations et craintes des élus face à ces algorithmes agrégatifs. La nouvelle logique « smart » des collectivités (Attour et Rallet, 2014 ; Côme, Magne et Steyer, 2017) pourrait-elle participer à standardiser une décision selon une dynamique strictement logicielle au détriment de projets ambitieux portés par des élus avant-gardistes, volontaires et innovants ?

Intégration du citoyen dans la décision publique : le rôle des algorithmes issus des civic techs

14Longtemps les dirigeants politiques se sont contentés de demander l’avis des citoyens lors des consultations électorales. Ce temps est révolu au niveau local. Le droit d’information et de consultation des électeurs de la commune sur les décisions que peuvent prendre les autorités est reconnu en France par la loi (CGCT L2141-1). C’est un principe essentiel de la démocratie locale. Cependant, de nombreuses collectivités locales veulent aller plus loin et militent désormais pour transformer la gouvernance des villes et développer la démocratie participative.

15Le point commun de ces nombreuses innovations démocratiques est l’utilisation d’outils digitaux pour informer et consulter les citoyens/usagers sur les décisions prises. Ces technologies civiques et numériques (ou civic techs) regroupent l’ensemble des initiatives publiques, privées mais aussi associatives5 prônant une plus grande participation des citoyens aux décisions les concernant, avec, comme point commun l’usage du numérique comme mode d’information, de consultation, d’évaluation des politiques et de décision. Les algorithmes utilisés au confluent du numérique, du Web et de la logique « smart » semblent assurer une profonde intégration du citoyen dans la décision publique.

Les civic techs : outils d’implication ?

16Dans leur fonctionnement, les civic techs s’inspirent des méthodes des entreprises privées cherchant à intégrer le consommateur dans leurs projets de développement de produits et services et, plus largement, de celles utilisées en management de l’innovation. On retrouve ces outils en design-management (Pisano et Verganti, 2008 ; Verganti, 2009 ; Cautela et al., 2012), où le « consomm-acteur » devient un co-créateur du produit au même titre que les ingénieurs, les designers et les marketeurs (Franke et al., 2008).

17Les civic techs complètent ainsi les outils classiques6 et favorisent la participation de la population aux décisions. Les outils traditionnels tels les entretiens individuels, focus groups, débats publics, réunions de concertation, conférences de citoyens coexistent avec de nouveaux outils digitaux fondés sur des algorithmes : concertations en ligne, enquêtes individuelles à domicile sur mobile, forums en ligne, sites web et applications mobiles, techniques d’études marketing en ligne, plateformes collaboratives, etc. Dans leur présentation, ces applications, telle Vooter, encouragent la participation citoyenne dans la prise de décision publique.

18Pour autant, ces civic techs, malgré leur opérationnalité et leur succès croissant, ne résolvent pas le problème de la représentation politique et de la nécessaire implication du citoyen dans ce processus au risque (fort) d’une démocratie participative illusoire et d’une simple validation ex post des projets. Ces civic techs algorithmiques risquent de devenir un simple outil de communication supplémentaire au service des collectivités locales.

Le numérique : outil d’une nouvelle relation ?

19Le numérique ouvre la voie à une relation plus bottom up entre le citoyen et la décision. Elle s’inscrit dans une triple perspective : temporelle, car les outils algorithmiques assurent la collecte longitudinale des appréciations citoyennes ; spatiale, car les données de géolocalisation assurent les segmentations géographiques des attentes citoyennes ; et sociale, car ces outils assurent l’agrégation et la diffusion des opinions des différents groupes citoyens selon leurs caractéristiques sociodémographiques, socio-économiques et socioculturelles. Les actuels instruments numériques du marketing relationnel automatisé permettent déjà d’obtenir des profils individualisés à partir de données comportementales relatives aux attentes et centres d’intérêt des consommateurs. Ils peuvent aujourd’hui être déclinés dans le champ politique au service de l’implication citoyenne.

Les algorithmes : instruments d’une implication citoyenne ?

20En s’inscrivant dans la logique de Kolm (1985) sur le « concernement », nous définirons l’implication citoyenne comme : la volonté et la capacité du citoyen à s’informer sur les projets collectifs, à donner son avis lors de consultations publiques, à promouvoir et à défendre ces projets, à co-innover avec la collectivité entrant ainsi dans une logique d’engagement et, in fine, de prise de décision participative collective. Notre définition de l’implication citoyenne renvoie à un concept multidimensionnel et induit une gradation de l’engagement citoyen. On peut ainsi distinguer trois niveaux de « participation citoyenne » :

21Cette implication citoyenne est à rattacher au degré de participation du citoyen dans la vie de la cité. Le recours aux civic techs est souvent envisagé pour faciliter cet engagement décisionnel. Allant du simple recueil d’avis d’usager à la co-innovation collaborative, elles favorisent l’implication du citoyen et contribuent ainsi à la mise en place du projet et à sa valorisation. Dès lors, ces « technologies civiques », de nature algorithmique, dépassent le stade de simples outils de communication digitale si elles intègrent cet objectif.

22Pour parvenir à collecter les opinions citoyennes et à impliquer les citoyens dans des projets fédérateurs, plusieurs types d’outils existent. Ils peuvent être différenciés selon la facette de l’implication citoyenne visée. En effet, ces niveaux de participation supposent une implication plus ou moins forte des citoyens et un partenariat entre public, privé et population. L’engagement de niveau maximal peut déboucher sur une co-innovation avec des citoyens experts tels des lead users (Béji-Bécheur et Gollety, 2007). Nous pouvons alors nous appuyer sur les niveaux de participation et proposer une typologie de ces outils en tenant compte du niveau d’engagement attendu du citoyen.

• L’ensemble de niveau 1 repose sur la nécessité d’adapter le service. Le citoyen intervient pendant le processus de « servuction » et peut, dans un premier temps, personnaliser son service en fournissant des informations. L’administrateur modifie alors, de manière passive, parfois à l’insu du citoyen et selon des formats préconçus, le service proposé pour l’adapter à son utilisation, avec par exemple des méthodes de tracking par des cookies librement acceptés pour personnaliser le site web en fonction des caractéristiques de l’usager. L’usager peut aussi participer de manière plus active en modifiant lui-même le service, en customisant par exemple l’espace d’accueil du site. Cette adaptation peut passer également par une co-production du service. L’usager participe au processus de production du service en fournissant ou en validant des informations préremplies le concernant.
• Les outils de second niveau permettent aux citoyens de collaborer aux projets et de participer à l’amélioration/modification du service. On fait appel à eux pour produire de nouveaux contenus ou données. Leur pouvoir est toutefois limité car seulement indicatif et consultatif, surtout dans le cas d’une collaboration passive où l’utilisateur, objet inactif de l’étude, n’est pas forcément informé du contenu du projet, voire de la suite donnée au projet. Le citoyen ne peut que suggérer des pistes d’amélioration, des idées lors de forums ou sur les réseaux sociaux, voire dans des laboratoires d’observation, des recueils d’avis ou même des boîtes à idées ouvertes sur les sites des communes. Dans le cas d’une collaboration active, le citoyen participe plus à la conception du produit ou du service, dans le cadre d’un projet clairement exposé par la collectivité locale. Il peut être assisté par des designers qui mettent en forme ses idées. Les contributions, pas forcément originales, peuvent s’agréger dans un projet commun. Les outils mis en place permettent au citoyen de participer à des sondages, d’évaluer les pré-projets des élus ou des propositions des citoyens et même de procéder à des votes consultatifs ou de fédérer des contributions externes (crowdsourcing*). Il s’agit d’agir et non plus de suggérer. Techniquement, cela passe par des jeux-concours, des plateformes communautaires, des panels citoyens ou des groupes de travail en Labs (citoyen + team créatif). Par exemple, la plateforme « Portail de la modernisation de l’action publique8 », créée par la Direction interministérielle de la transformation publique en 2012, permet aux usagers des services publics de donner leur appréciation et surtout leurs éventuelles suggestions et propositions en vue de les améliorer et de les perfectionner.
• Les outils du troisième niveau vont permettre au citoyen de co-innover comme expert. Celui-ci participe à la démarche d’innovation permanente de la collectivité locale et il est source de valeur. Le consommateur, acteur de l’innovation dans l’entreprise privée, trouve son pendant dans le service public puisque le citoyen/usager devient ainsi un co-innovateur dans la conduite des services publics, mais il a, dans cette co-création avec la collectivité locale, un pouvoir décisionnel. Cela passe toutefois par la sollicitation de citoyens aux compétences reconnues pour une contribution experte, au même titre que les services internes ou les prestataires externalisés. Le citoyen devient un expert « quasi-professionnel », un consultant, un représentant des usagers, agréé et adoubé. La collectivité locale reconnaît son expertise d’usage. Il manipule et retraite des données publiques ouvertes par la collectivité pour en tirer de nouvelles applications. Ce pouvoir de création passe par des sites web dédiés, des plateformes collaboratives communautaires de type users communities (Parmentier et Mangematin, 2014), des concours de design, des laboratoires ouverts comme des Labs ou des plateformes de marché, mais il n’est réservé qu’à une minorité. Par exemple, les forums tels que la « Semaine de l’innovation publique 2017 » permettent aux agents et usagers du service public de se rencontrer et de débattre. Ils peuvent, au sein de véritables Labs9, interagir et participer à l’élaboration de nouveaux services publics mieux adaptés.

23Ce classement permet d’attribuer des objectifs aux outils participatifs digitaux à utiliser et indique le degré de pouvoir délégué au citoyen (empowerment). L’intégration du citoyen dans la décision publique est à la fois une nécessité et un risque. Une nécessité au regard du changement de paradigme en management public : le citoyen doit être ré-impliqué dans la vie politique et sa participation active aux projets de la cité est un facteur d’implication. Les risques proviennent de la nature des processus algorithmiques de collecte et de traitement. Le processus ne risque-t-il pas de générer le résultat en ne s’adressant qu’à un segment de population dans une logique opposée à l’innovation créatrice portée par des individus et groupes élus ?

Les risques du « solutionnisme algorithmique individualisé »

24La donnée d’entrée (input) des algorithmes est temporelle, spatiale et sociale. Cette « data » est donc contextualisée sur de multiples dimensions et s’inscrit dans une logique real time qui bouscule les rythmes de la décision publique. Les data studies ancrées dans la data intelligence ont fait passer les instituts du métier de collecteur de données classiques offline à celui d’agrégateurs multicanaux de data hétérogènes issues aussi bien des réseaux sociaux, des historiques d’achat ou d’utilisation de services, que des données de géolocalisation. Ces données sont réputées être comportementales, plus instantanées et plus fiables dans une optique de veille de la consommation et des préférences individuelles. Elles peuvent s’avérer plus dangereuses aussi quand il s’agit d’entrer dans l’écosystème des préférences citoyennes.

De la data déclarative à la data comportementale

25On assiste à une mutation de la nature de la donnée collectée qui affecte aussi la prise de décision publique. Avant, les données primaires et secondaires collectées étaient essentiellement des données déclaratives issues de questionnaires, de retranscriptions d’études qualitatives. Il s’agissait de données circonscrites. Aujourd’hui, la variété des formes de données : tweets, images, vidéos, e-mail, articles, données de géolocalisation, données bancaires, médicales, d’achat, d’utilisation de services, de likes, notations et appréciations diverses, etc., ainsi que la variété des supports de collecte (web, mobile, télévision, radio, papier, objets connectés, etc.) provoquent un enrichissement de la data et une complexification des paramètres de la décision politique. Le défi des élus consiste à pouvoir relier ces données disparates pour les interpréter, les croiser, les comparer les unes aux autres… et susciter de l’implication citoyenne en tenant compte des caractéristiques de ses multiples cibles tout en veillant à l’intérêt commun et au « lissage républicain » des attentes diverses des communautés que le marketing nommerait « segments ».

26La data citoyenne, qui alimente les processus algorithmiques de décision, est donc au cœur d’un paradoxe. Plus complexe, plus comportementale et plus individuelle, elle débouche cependant sur des décisions souvent binaires concernant les projets évalués.

Pensée binaire et systèmes mécanistes

27La digitalisation consécutive au développement des systèmes algorithmiques de prise de décision se fonde sur une logique strictement binaire de type 0-1. Cet encodage d’une information citoyenne multifacette conduit à des décisions qui, à l’extrême, pourraient être prises de manière automatisée par des entités issues de l’intelligence artificielle*. Là où auparavant l’élu et l’humain exerçaient leur libre arbitre, le système de décision fondé sur le big data choisira sur la base d’arbitrages rationnels aux paramètres programmés. Ces systèmes mécanistes de la décision algorithmique pourront-ils se substituer à une approche plus émotionnelle ?

Intérêt public ou décision totalitaire aux antipodes de l’intérêt public ?

28Selon Morozov (2014), la tendance actuelle au « solutionnisme » algorithmique (le fait de tout résoudre en un clic en ligne) conduit à des décisions aux antipodes de l’intérêt public et à l’extrême conduit à un « solutionnisme populiste ».

29Les algorithmes (et leurs instigateurs) façonnent une réalité. Ils ne reflètent pas une réalité objective contrairement à ce qui est affiché dans les discours. Ils modèlent des contenus fondés sur le comportement on line et les centres d’intérêt individuels. Ce processus est, selon Morozov, tellement puissant, qu’en façonnant la sphère publique, il fait converger les systèmes politiques vers des formes de totalitarismes sous couvert d’une démocratie illusoire.

30Les filtres et critères utilisés dans les modélisations permettant de traiter cet ensemble de données hétérogènes concourent donc à reformer la réalité. Ainsi la fonction « Trends » de Twitter (qui met en avant les sujets « tendance ») repose sur des indicateurs qui tendent à survaloriser certains sujets. La question de la pertinence de la mesure et des indicateurs utilisés devrait engager les chercheurs sur la voie de la divulgation des techniques algorithmiques utilisées pour pousser certains thèmes et les rendre populaires dans les discussions de groupes sur les médias sociaux. Le politique peut-il réellement fonder sa prise de décision sur la base d’algorithmes en apparence désincarnés ?

Citoyens compétents, citoyens incompétents et choix guidé par l’intelligence artificielle

31La participation citoyenne a souvent été utilisée comme un outil consultatif relevant du « gadget », mais aujourd’hui de grandes villes veulent lui donner une nouvelle dimension avec plus de pouvoir décisionnaire. Blondiaux (2008) pose six hypothèses pour expliquer cette tendance à la démocratie participative, notamment la complexité, l’ingouvernabilité, la réflexivité croissante et la division de nos sociétés. Face à l’indocilité et à la défiance des citoyens, les collectivités locales doivent proposer des solutions et devenir désormais « des lieux de l’innovation sociale et politique, car elles disposent des leviers pour susciter la contribution des citoyens10 », du moins dans les discours. Dans ce cadre, de nombreuses initiatives (plateformes d’échanges entre administrés, laboratoires urbains comme le Civic Lab de Grenoble11) tentent de repérer non pas des lead users mais leur pendant, les « citoyens engagés » ou empowered.

32Toutefois, l’exclusion de ceux qui ne participent pas (par choix ou non) ou ne fournissent pas de données (qui ne sont donc pas pris en compte par l’algorithme) rend le système de décision peu démocratique. Seuls les plus compétents et équipés en nouvelles technologies risquent de voter, conduisant à une implication citoyenne partiale et partielle. À ce stade, c’est le processus qui domine et crée le résultat concernant les projets. Pour favoriser l’implication citoyenne, le design du process doit s’inscrire dans une perspective temporelle longue et qualitative. Cela nécessite un degré de connaissance minimal et une formation des moins compétents au risque de dénaturer le projet. Les enjeux de la représentativité doivent donc être clairement établis dans les process impliquant des outils algorithmiques de type civic techs. Pour ce faire, le recueil multicanal des données (online et offline) permettra peut-être de rééquilibrer les décisions citoyennes.

33Les modèles algorithmiques fonctionnent largement à partir de données historiques sans innover sur le futur. Quand les modélisations prédictives se substituent aux données initiales du problème en les traitant selon des schémas et paramétrages orientés, la décision est détournée au profit d’une nouvelle oligarchie de la smart data. Des critiques fortes émergent sur ces dark patterns12 qui nous manipulent et modélisent nos habitudes pour proposer des schémas comportementaux et des designs addictifs.

34Un algorithme n’est pas une boîte noire et il est souhaitable de remettre en question ses résultats. Le type de données initiales, les règles et critères de traitement de ces données orientent les résultats13. Seuls les créateurs de l’algorithme peuvent en expliquer les règles et ce qui pouvait apparaître comme une décision hyperrationnelle, objective (« neutre et juste » pour reprendre les termes des fondateurs de Google) devient une décision téléguidée par un paramétrage idéologique. Le processus se substitue à la réalité des faits et des données du système. Les algorithmes sont alors un instrument non plus au service de l’implication citoyenne dont ils ne sont qu’un pâle reflet dans un miroir déformant offrant une image calibrée par un codage préalable.