1Les systèmes experts sont des systèmes d’aide à la décision fondés sur la représentation formalisée d’une expertise. Ces systèmes sont dits intelligents car ils sont capables de décomposer un problème et de reconstruire des solutions. Hélas, pourrait-on dire, ces systèmes ne sont qu’intelligents. D’autres qualités cognitives (d’adaptation, d’interprétation) interviennent dans les processus décisionnels humains que les systèmes actuels ne peuvent simuler.

2Dans le domaine du droit, beaucoup de décisions ne nécessitent pas d’interprétation : la solution est plus ou moins déterminée par les conditions d’application d’une norme. Cependant les langages de programmation logique peuvent traiter des connaissances plus complexes et des processus moins déterministes. Cette évolution des modes de représentation des connaissances est en train de susciter des systèmes cognitifs plus élaborés sinon plus intelligents (1ère partie). Le fait qu’ils utilisent des connaissances moins primitives et tenteront de plus en plus de traiter les "questions difficiles" conduit à réfléchir sur les fondements des savoirs et des savoir-faire juridiques (2ème partie).

3L’utilisation de ces outils s’étend à des univers traditionnellement discursifs : les premières réalisations montrent déjà que les contenus sont affectés par divers biais et contraintes institutionnels et techniques. Ces systèmes ne peuvent prétendre à être neutres. Le doivent-ils d’ailleurs ? Nous tenterons de vérifier l’hypothèse suivant laquelle, dans le domaine du droit un système expert peut aggraver la part d’arbitraire de toute décision juridique, mais aussi, en incluant cette dimension dans le modèle, la circonscrire (3ème partie).

1. Evolution des systèmes experts juridiques

411. Les systèmes d’aide à la décision juridique auxquels se rattachent les systèmes experts sont fondés sur une représentation formalisée d’un domaine du droit et sur la structuration d’un micro-univers de problèmes à résoudre. L’automatisation du mécanisme de raisonnement consiste à appliquer la règle de droit aux faits que le décideur aura soumis à la machine.

5Ainsi par exemple un système sur la détermination du droit à une prestation sociale pourra indiquer si tel individu est susceptible d’en bénéficier en fonction de critères fixés par les textes et combinés entre eux. Il pourra même donner les raisons d’un refus éventuel car ce type d’outil ne se contente pas de donner la solution d’un problème : il possède aussi sa méthode de résolution.

6Simples dans leur principe, ces logiciels intervenaient jusqu’à maintenant soit là où le diagnostic était purement technique, soit là où les conditions d’application des règles ne posaient pas de problèmes d’interprétation.

712. Beaucoup de raisonnements en droit peuvent en effet être réduits à un calcul de logique formelle.

8Ainsi lorsqu’on formalise l’ensemble des conditions d’application de la règle juridique avec l’opérateur SI, ALORS en terme de vrai et de faux et que l’on interprète la relation comme une implication, on se trouve alors en présence de la règle fondamentale du calcul des propositions, celle du modus ponens. Ainsi :

9Si (p--> q) p = = > q

101 ère règle :

11SI NON "chantiers (publics OU privés)"

12ET "la valeur d’émergence d’un bruit est supérieure aux valeurs limites"

13ET "négligence délibérée de prendre des précautions"

14ALORS amende de 3ème classe

15(Décret n° 88-523 du 5 mai 1988).

162ème règle :

17SI "absence de réponse à une mise en demeure"

18ALORS "négligence délibérée de prendre des précautions".

19La logique propositionnelle a l’avantage de déduire mécaniquement de nouveaux faits des anciens. Les connecteurs ET, OU, NON correspondent à la déduction de toute norme, qu’elle soit juridique, technique ou de sens commun. Quel que soit le fondement de la norme, il s’agit de "faire mention de deux états ou de deux événements dont l’un est dit être ou ne pas être une condition nécessaire de l’autre"1. Le calcul de prédicats complète le calcul propositionnel en introduisant la notion de prédicat et celle de quantificateur, existentiel ou universel, dont le rôle est de préciser la portée de toute assertion. On pourra ainsi modéliser la généralité de certaines propositions (est-ce que P est toujours vrai ?) ou particulariser certains objets (notion d’instanciation). La logique propositionnelle ne permet pas de représenter certaines connaissances ou certaines phrases et surtout elle est un "tout indivis" ne permettant pas de traduire certaines relations entre éléments du discours. Mais quelle que soit la logique, les expressions bien formées d’un système formel sont des propositions ou des objets, et non des énoncés2.

20Le domaine du "bruit" par exemple sera défini non comme l’ensemble des textes traitant de ce problème mais comme une liste de termes et de prédicat :

21U (t1 U t2 U t3)

22où pour satisfaire le prédicat Urgence en matière de compétence il est nécessaire qu’il y ait soit atteinte grave à la tranquillité publique (t1), soit danger pour la santé publique (t2) soit pollution sonore grave (t3).

23Dans la plupart des systèmes experts, les objets sont des concepts : ils sont réductibles à un certain nombre de paramètres ou déterminés par des axiomes. La question est donc de savoir si un langage formel peut être un modèle conceptuel suffisamment profond pour représenter des objets de manière flexible et naturelle et notamment les concepts ayant une structure ouverte (open-structured) qui forment une grande partie des connaissances juridiques. En effet on sait depuis Aristote que la force de la conclusion dépend de celle des prémisses : soit les prémisses sont des axiomes et la conclusion est vraie, soit les prémisses sont des lieux communs et les conclusions sont probables.

24Une proposition telle que "atteinte grave à la tranquillité publique" est postulée comme vraie dans l’implication P –-> q. Mais alors que le p de l’implication (la majeure) se situe dans l’ordre de l’axiomatique, le p de l’instanciation (la mineure) est dans celui de l’opinion et du discours et sans doute du lieu commun. Là n’est sans doute pas le moindre paradoxe de la conception axiomatisante du droit.

25Pendant quelques années, les chercheurs en droit et intelligence artificielle se sont demandés si un langage de programmation pouvait "ressembler au style et à la structure du texte (juridique)"3 qu’il devait représenter.

26Mais il me semble bien que la ressemblance, conçue de cette façon, soit assez peu opératoire : pour ces auteurs qui avaient travaillé sur le British Nationality Act, la formalisation était une approximation suffisante de la syntaxe de l’Acte : les clauses de HORN (langage PROLOG) permettent en effet de représenter la syntaxe du domaine sous forme de graphe en ET/OU et de donner une vue structurée du haut vers le bas. Mais l’approche syntaxique d’un texte ne rend pas compte de l’activité discursive et des processus cognitifs de celui qui comprend et applique ce texte à une situation réelle.

27En revanche ce que permet la nouvelle génération de langage de programmation logique (LISP, PROLOG) ce sont deux types de raisonnements familiers aux juristes.

28D’abord, il est possible de traiter pas à pas des problèmes en sous-problèmes. On peut donc déterminer des classes de problème à résoudre et à l’intérieur de ces classes, tester les définitions des plus larges aux plus détaillées. En effet, ce type de résolution se situe à l’opposé d’un système axiomatique classique où il convient de partir d’un ensemble primitif de concepts et d’axiomes. Le problème est bien de ne pas considérer comme primitive la définition d’une "atteinte grave" ou d’"un enfant à charge" qui intervient dans la résolution de problème.

29D’autre part, ces langages ne sont pas déterministes car ils permettent d’explorer plusieurs alternatives par une recherche en profondeur dans l’ordre des règles. Dans la détermination du choix d’un lieu par exemple, l’utilisateur pourra explorer les branches du sous-arbre "lieu public" mais d’autres choix sont laissés en attente. Après avoir épuisé toutes les possibilités d’un sous-arbre, le système remonte explorer une autre branche à partir du noeud (lieu privé).

30Ces nouveaux formalismes permettent donc de gérer deux types de raisonnement : le raisonnement hypothético-déductif (à partir des faits) et le raisonnement régressif (à partir des conclusions). En outre, les structures d’arbres avec gestion des alternatives et retour arrière représentent particulièrement bien le monde des classes en droit, classes qui sont plus distributives que collectives4.

31Ainsi le modèle de la logique mathématique issu des travaux de LEIBNIZ est bien celui de tout programme informatique. Pour le philosophe, la "caractéristique universelle" visait à exprimer toute pensée en un simple calcul reposant sur la puissance de déduction de la forme logique. Mais les systèmes experts, à côté des mécanismes de raisonnement doivent représenter des connaissances et structurer un micro-univers de problèmes à résoudre. Or on s’aperçoit que le simple découpage du droit sous forme de règles de production ou de clauses de HORN ne suffit pas à représenter l’ensemble des connaissances nécessaires pour appliquer le droit aux faits.

32Enfin, l’utilisation de ces outils s’étend à des pratiques sociales ou institutionnelles plus complexes où les rapports entre discours et information, entre connaissance et décision, entre rationalité et intime conviction, entre stratégies et pouvoir restent des points incontournables où une réponse technique ou purement techniciste, ne peut être qu’insuffisante voire dangereuse au moment de l’implantation opérationnelle de ces nouveaux outils dans les organisations.

2. Les trois niveaux de connaissances du processus décisionnel juridique

33Fonder le raisonnement et l’intelligence sur l’esprit de calcul consiste en réalité à considérer que l’on peut décomposer la connaissance en éléments discrets et qu’on peut "la recomposer en n’importe quel système"5.

34Pour le droit, la connaissance se limiterait donc à l’énumération organisée des termes et des propositions exprimées dans les textes de loi.

35En outre, ces termes et ces propositions individualiseraient directement et complètement les situations du monde.

36Enfin la décision serait le fruit d’un calcul portant sur la combinatoire de ces différentes connaissances.

37Cette triple hypothèse paraît difficilement soutenable.

38D’abord en ce qui concerne le découpage des textes législatifs. L’application de la loi par le juge ou par l’administrateur nécessite autre chose que la simple classification des termes juridiques individuels. Pour LEITH6, les règles de la législation ignorent les "déterminants sociaux du procès" et donc du contexte.

39Il est donc nécessaire d’ajouter d’autres connaissances comme les cas de jurisprudence qui pour lui sont la substance même de la loi. On retrouve les positions de GADAMER pour qui la norme ne prend de sens que dans l’application à un cas concret.

40Même si l’on se contentait de cette atomisation des textes, serait-on sûr d’arriver à des éléments ou des concepts premiers, susceptibles d’existence ou de définition ?

41En effet il existe dans les conditions d’application de la norme, des éléments indéterminés, flous, à structure ouverte (bon père de famille, normalité) qui nécessitent une évaluation, une interprétation ou l’appel à des données que la simple lecture ne peut éclairer.

42En outre la règle est incomplète : certains chaînons manquent. Ainsi des obligations sont décrites sans que les conditions de l’infraction soient définies ou la sanction quantifiée.

43En ce qui concerne les faits : la loi ne peut décrire toutes les situations. Les conditions d’application tels les critères numériques (âge) ou les statuts naturels (sexe, profession) ne posent pas de problèmes particuliers. Mais les conditions peuvent faire l’objet d’une évaluation.

44Enfin comme LEITH a pu le signaler les conditions de la loi sont "des objets discursifs et non des objets de nature concrète". Ainsi les objets prévus par la loi sont incomplètement décrits ou énumérés. Il faut donc, soit créer une règle généralisante soit proposer des exemples : ainsi la notion de véhicule administratif, définie par les textes et dont la qualification détermine en droit français la compétence des tribunaux judiciaires ou administratifs.

45Enfin en ce qui concerne la calculabilité de la décision, il est nécessaire de rappeler que d’autres raisonnements et d’autres connaissances entrent dans la composition et la dynamique du processus décisionnel : les valeurs, les buts, les croyances qui ne doivent rien aux objets physiques. La décision inclut aussi l’expérience et le risque, et il serait bien difficile de considérer comme le remarque M. BODEN7 les systèmes mentaux comme des systèmes objectifs susceptibles d’être appréhendés au moyen de concepts physiques. Ainsi la perception de la réalité au moyen du modèle juridique est simplifiée. De plus les détails sont négligés pour ne s’en tenir qu’aux propriétés fondamentales. Enfin un domaine physique ou situationnel n’est jamais complètement exploré et peut donner lieu à de nouvelles découvertes.

46C’est donc le concept même de connaissances nécessaires pour décrire un domaine d’expertise ou un processus décisionnel qui mérite d’être réexaminé dans l’élaboration même des systèmes experts. Car les psychologues comme BERRY8 sont de plus en plus conscients du fait que la connaissance n’est pas une "chose unitaire" et l’acquisition de connaissance ne ressemble en rien à "la recherche de joyaux que l’on sortirait un par un de la tête d’un expert"9. Il y a beaucoup de formes de connaissances, et chaque forme nécessiterait une méthode d’acquisition particulière. Mais surtout les différents travaux dans ce domaine insistent sur le caractère souvent implicite de la plupart d’entre elles. Le problème devient particulièrement difficile si l’on considère que le paradoxe de l’expertise gît dans le fait que lorsqu’on a acquis une vraie connaissance il est aussi difficile d’en parler que d’en décrire les processus d’utilisation10.

47Dans ces conditions, construire un système expert devient dans le secteur du droit une gageure. Si la lecture des textes ne suffit pas, où et comment récupérer les heuristiques du praticien ou les intentions du décideur ?

48Pour DREYFUS et DREYFUS11, il existe deux types de connaissances : celle du novice essentiellement analytique et dont le raisonnement se borne à suivre les règles données sur les atomes de connaissances (le "knowing-that") et celle de l’expert, intuitive, profonde, partiellement exprimable (le "knowing-how").

49D’autres différences caractérisent ces deux types de connaissances qui sont aux extrémités d’un spectre continu : en ce qui concerne l’expert, la perspective, fondée sur l’expérience, et l’engagement (l’investissement) dans le comportement et la décision.

50Dans le domaine du droit, on retrouve ces deux formes de connaissance mais l’une (l’intuition) précède l’autre (la réflexion analytique) ou coexiste avec elle car l’analyse jouera souvent le rôle de justification ou de motivation, ex-post.

51Cependant la décision juridique particulièrement celle du décideur administratif comporte une autre dimension, celle de l’étendue de l’interprétation. Cette interprétation n’est pas seulement une méthode d’application de la règle, elle est fixée par le statut du décideur. Suivant qu’il a pouvoir lié ou compétence discrétionnaire, le nombre de règles auxquelles il sera soumis sera plus ou moins élevé. Et surtout, le pouvoir d’appréciation "souverain" l’autorise à ne pas énoncer les règles qui fondent sa propre décision. Le statut du détenteur d’un pouvoir discrétionnaire s’apparente donc à celui de l’expert tel que le décrivent DREYFUS et DREYFUS. Sa décision ne sera remise en cause que s’il y a "erreur manifeste" sur les éléments tangibles du processus, non sur les règles et les fondements.

52Et surtout quel que soit le type de compétence, il est nécessaire d’inclure à côté des connaissances analytiques et du savoir du "spécialiste", la place symbolique et institutionnelle de l’interprète.

53Ce troisième type de connaissance doit être inclus dans ce modèle. En effet en droit, celui qui est compétent ce n’est pas celui qui sait mais celui qui a le pouvoir de décider, y compris sans savoir. En ce sens le système expert doit gérer l’irreprésentable de l’instance juridique.

54Cet irreprésentable se trouve lié à la notion de pouvoir discrétionnaire et d’intime conviction. Non seulement les règles fondant une évaluation peuvent être difficiles à exprimer mais en outre dans le cas du pouvoir souverain d’appréciation, les fondements ne peuvent être ni contrôlés ni représentés.

55Mais alors, peut-on dire, comment représenter l’irreprésentable ?

56Le modèle du processus décisionnel juridique doit "assumer” l’arbitraire du concepteur-décideur en signalant sa fonction et sa compétence et surtout, en informant de façon systématique l’utilisateur qui aurait un pouvoir discrétionnaire résiduel, du fait qu’il ne s’agit que d’une formalisation possible d’un ensemble de normes interprétées.

57Le système doit aussi permettre à cet utilisateur-interprète d’intervenir dans le déroulement du dialogue grâce à des choix ouverts et à l’évaluation de leur conséquence. Il convient de signaler que le système expert NORMA (anglais) indique, en outre, au juriste à l’écran que la conclusion d’un raisonnement modus ponens est logique et non juridique 12. A aucun moment le décideur ne doit se sentir lié là où son choix est ouvert et son jugement (arbitrarium) sollicité.

58Les problèmes posés par cette troisième instance de la décision juridique rejoint les débats sur les rapports entre argument rationnel et argument d’autorité en droit13. C’est au niveau de la justification de la décision que se manifeste le plus cette combinaison : la décision doit être justifiée par la raison mais aussi être conforme au droit. Cette double nécessité a pour objectif de limiter mais aussi de gérer l’arbitraire comme le concluait WROBLEWSKI "La rationalité présuppose l’exclusion de l’arbitraire tandis que la légalité s’encadre dans le système normatif et les procédures d’administration de justice, avec des autorités formelles suprêmes qui tranchent définitivement les cas"14. Certes il faut distinguer décisions des autorités habilitées et décisions des organismes privés. Mais pour la description du processus de décision, les mêmes niveaux de représentation peuvent sans doute être utilisés.

59En effet dans cette optique, la rationalité d’un système expert permet de limiter l’arbitraire (par la conduite du raisonnement et par la restitution d’une justification) mais elle ne peut se substituer à l’argument de légalité qui suivant la place de l’interprète peut devenir argument d’autorité.

3. Raison technique et gestion de l’arbitraire dans l’aide à la décision juridique

60Les systèmes experts notamment dans les sciences sociales (comme le droit) ne sont pas des systèmes d’information comme les autres : non seulement leur technique est fondée sur différents modèles de raisonnement mais l’information elle-même devient "expérience médiatisée par des modèles intériorisés du monde et des mondes possibles" (BODEN, 1990, déjà citée). Leurs modes de calcul ne peuvent être saisis par des concepts des sciences physiques : ces systèmes ont pour concept fondamental la représentation qui induit explicitement une vision subjective du monde.

61Peut-on encore parler de neutralité de la technique ? La réflexion sur la neutralité de la technique a été depuis MARX (qui en défendait l’autonomie historique par rapport à la sphère du politique) profondément revue par l’Ecole de Francfort en particulier MARCUSE (L’homme unidimensionnel) et HABERMAS (la Science et la technique comme idéologie).

62L’exemple des banques de données a montré que ces technologies ne sont pas des outils neutres : à côté des techniques sommaires (arbitraires ?) de dialogue, on a pu remarquer que ces systèmes pouvaient donner accès à des réponses différentes suivant les finalités de leur maître d’ouvrage. En outre les méthodes d’indexation et de sélection contribuent à privilégier les thèmes et catégories officielles notamment en matière juridique (intégration sans modification des plans de classement).

63La question de l’arbitraire se pose ici différemment. Ces outils étant essentiellement des outils d’aide à la décision, l’arbitraire peut intervenir, non seulement au moment de la modélisation (toujours réductrice) mais à celui de leur utilisation sociale, par la simulation réductionniste des processus décisionnels et par l’opposabilité quasi-immédiate du résultat proposé.

64Plusieurs effets ont pu être constatés ou induits de la constitution de systèmes experts dans le domaine du droit15. Ces effets ont trait à la notion d’arbitraire.

65– D’abord ces systèmes semblent plus déterminés par une finalité fonctionnelle que par une finalité juridique. La preuve en est que pour ce même "droit", des systèmes experts peuvent être mis en place qui sans doute régleront différemment les problèmes qui leur seront soumis. Ainsi en matière sociale, les règles des systèmes experts peuvent être interprétées de façon plus ou moins extensive. Dans le domaine du Revenu minimum d’insertion (RMI), il a été possible de montrer que si l’on part du postulat que le système devra rechercher les conditions les plus favorables au demandeur, l’organisation de la priorité des règles se fera différemment pour déterminer la catégorisation des personnes à charge16.

66Cela signifie que la constitution de la base de connaissances est dépendante de la finalité particulière poursuivie par l’organisme qui interprète la norme générale : c’est un modèle d’intervention sur le réel.

67– Le système est lié à l’environnement organisationnel de la prise de décision.

68Les systèmes experts, bien que pouvant gérer des concepts indéterminés et des ensembles de règles incomplets sont essentiellement devenus opérationnels pour traiter des prises de décision à rationalité bureaucratique (règles précises et calculables). On remarque notamment que la plupart de ces systèmes sont utilisés pour des prises de décision intégrées dans un cycle de production et un environnement informatique.

69Moyennant quoi, les résultats du système restent stockés par exemple, même en cas de désaccord entre la décision humaine et le résultat du système, et les données utilisables seront, par souci d’intégrité et d’ergonomie de consultation, fournies par des bases de données existant dans l’environnement organisationnel.

70De plus en plus, ces systèmes sont conçus, plus comme des aides au contrôle de décisions déjà prises que comme des aides à la prise de décision elle-même (accès à tous les systèmes de contrôle de prestations ou de pensions).

71On peut même considérer que c’est le contrôle même de l’application du droit qui semble devenir le principal enjeu. L’expérience d’ALPIN17 qui a pour objectif d’aider les liquidateurs à traiter de façon plus cohérente et sans doute plus restrictive les demandes de pension d’invalidité (70 % d’augmentation des demandes en 10 ans) est significatif à cet égard. Mais les systèmes mis en place dans le domaine de l’attribution de diverses prestations (Allocations Adulte handicapé par exemple) ont été explicitement utilisés pour le contrôle non pour la décision. L’objectif est de diminuer les dépenses dans ce domaine, et le retour d’investissement semble d’ores et déjà assuré18.

72– Les systèmes experts juridiques intègrent des "connaissances-expertes" à côté de la formalisation des énoncés juridiques.

73En effet on s’aperçoit que les systèmes experts fondés au départ sur la rationalité de la norme et du positivisme de l’univers juridique, ont, depuis longtemps déjà, dû intégrer d’autres connaissances pour devenir efficients et opérationnels dans ce domaine de la résolution de problème.

74La base de connaissances n’est constituée que partiellement de connaissances juridiques. En outre la logique téléologique (la finalité ou le principe général affirmé dans le texte de droit) n’agit que par défaut au profit d’une logique économique, celle des conditions d’exception à l’application de la règle.

75Même si l’énoncé de la règle constitue toujours une "référence", le système inclut des heuristiques issus des pratiques administratives. Si l’on reprend l’exemple d’ALPIN, la pratique de la liquidation visée consistera essentiellement à modéliser la "méfiance du liquidateur" face au dossier19. Bien que l’on demeure convaincu qu’il faille vérifier plus efficacement la demande d’un agent qui a moins de 15 ans de services, ou qui a passé plus de 6 mois entre la date de demande d’ouverture de dossier et celle de l’expertise médicale, on s’aperçoit que la règle de droit (ici l’établissement du droit à pension) est insuffisante à remplir le rôle d’une connaissance experte. C’est moins l’application du droit que la gestion de dossier qui devient l’objectif principal, et une gestion au moindre coût. Mais, soyons prudents : il n’est pas sûr que l’arbitraire humain ait quelque chose à envier à celui de la machine.

En Conclusion

76Plusieurs risques souvent contradictoires peuvent donc être relevés de l’analyse de ces premières applications à visée managériale : création de machines égalitaires mais partiales, atomisation de la connaissance du fait juridique (réduit à l’état de "donnée"), confusion entre lien de causalité et finalité de la norme, axiomatisation de la règle de droit, déterminisme et surdétermination de la rationalité logico-technique.

77Mais ces risques existent déjà dans nos organisations. Ce que peuvent apporter ces systèmes, c’est la réponse à un certain nombre de questions que se posent le décideur dans sa délibération pré-décisionnelle. En outre, comme arbitraire il y a, on l’a vu, il est nécessaire que celui qui est inclus dans la machine soit explicité et reconnu comme tel. Cette explicitation fait partie de la pédagogie de la décision.

78Enfin, le système, fondé sur le traitement de la connaissance, a potentialité pour gérer et éclairer la connaissance la plus importante, celle du choix. En ce sens il ne peut que limiter l’arbitraire.