Droit de la responsabilité civile et l’intelligence artificielle
p. 447-468
Texte intégral
1Il y a quelques mois, un parfum était élaboré avec l’aide d’une intelligence artificielle devant déterminer les ingrédients les plus à même d’accroître la confiance en soi de son utilisateur1. Cette utilisation anecdotique de l’intelligence artificielle ne doit cependant pas faire oublier le principal objectif de cette dernière : apporter du confort, des économies et de la sécurité à chacun. Le véhicule autonome est ainsi pensé pour supprimer les accidents de la circulation, l’humain étant plus faillible qu’une machine aux capacités cognitives stables. Les logiciels de diagnostics médicaux sont également envisagés pour leur plus grande aptitude à brasser les masses de données nécessaires à passer en revue toutes les pathologies possibles. Un système d’intelligence artificielle (SIA) s’est même montré plus apte que des juristes humains à détecter des problèmes juridiques précis lors de l’analyse de contrats2.
2Cette technologie est toutefois également susceptible de causer des dommages. C’est ainsi qu’en 2004, l’agence britannique de traitement des pensions alimentaires se dote d’un système informatique destiné à accélérer leur paiement. Malheureusement, en raison de la complexité du logiciel et d’incompatibilités, de nombreuses pensions ne sont pas versées tandis qu’environ deux millions de personnes reçoivent un sur-paiement dont il résultera un coût d’environ un milliard de dollars. Plus dramatiquement encore, les défaillances d’un logiciel de dosage de rayonnement à fins de radiothérapie provoquent le décès d’au moins cinq patients entre 1985 et 1987 aux États-Unis et au Canada.
3Ce type d’accidents invite alors naturellement à interroger la capacité de notre système juridique à offrir des réponses aux dommages causés par l’intelligence artificielle (IA) en termes de responsabilité civile.
4Les événements relatés ont pu recevoir des réponses juridiques simples parce qu’ils concernaient une IA non autonome. Entendue au sens très large, l’IA renvoie en effet à la « capacité d’un ordinateur ou d’un robot à effectuer des tâches qui sont habituellement celles d’êtres intelligents »3 et donc, à deux réalités distinctes. Celle qui a donné lieu aux tragédies précédemment rappelées : l’algorithme contenu dans un logiciel et capable de réaliser seul une tâche que l’humain lui a confiée. Ce dernier a déterminé la succession d’instructions conditionnelles (ou règles) qui aboutit à une conséquence (si…alors…). Cette IA reste contrôlée et contrôlable par ses concepteurs voire par d’autres acteurs humains. En ce sens, elle ne correspond plus vraiment à ce que les sciences contemporaines visent comme relevant de l’IA.
5La « vraie IA » contemporaine est définie comme un « système qui fait preuve d’un comportement intelligent en analysant son environnement et en prenant des mesures, avec un certain degré d’autonomie, pour atteindre des objectifs spécifiques » 4. Cette IA intègre une capacité d’apprentissage – machine learning – développant son propre modèle comportemental (succession d’instructions/règles) à partir de ses propres constatations et/ou statistiques tirées des données auxquelles elle a accès. C’est à cette catégorie qu’appartient l’IA profonde ou deep learning qui peut utiliser de surcroît de très grands réseaux de neurones artificiels calqués sur le fonctionnement du système nerveux humain. La particularité de cette nouvelle IA tient à son autonomie voire à sa totale émancipation vis à vis de son concepteur5. Ce dernier peut ne plus avoir aucun contrôle sur l’élaboration des règles suivies par l’IA ; il peut même devenir incapable d’expliquer les raisons objectives qui auront conduit l’IA à prendre telle ou telle décision. Cela est d’autant plus vrai que l’IA se sera servi d’une masse de données toujours plus grandes – le big data –, aidée en cela, et pour certains domaines, par l’open data (l’accès libre à certaines informations).
6Là se trouve le principal point d’achoppement de la mise en œuvre d’une responsabilité civile aujourd’hui tout entière construite autour de l’humain6. En atteste la vivacité de la notion de faute qui continue de fonder et/ou de conditionner l’engagement de la responsabilité civile7. A quel humain reprocher le dommage découlant du fonctionnement autonome de l’IA ?
7Si la fiabilité des nouveaux SIA permet de relativiser l’ampleur du problème, deux raisons au moins obligent à ne pas l’éluder. D’abord, cette fiabilité créera une attente plus grande de sécurité et rendra le dommage causé moins acceptable impliquant jusqu’au risque d’une sur-sollicitation subséquente de la responsabilité civile. Ensuite, ces nouvelles technologies seront également à l’origine de risques nouveaux ou d’une ampleur nouvelle. C’est ainsi que les logiciels d’aide à la décision pourraient induire des discriminations illicites entre les individus (ainsi d’un logiciel d’embauche) ou porter atteinte, dans leur mode d’apprentissage, à la vie privée de très nombreuses personnes. Il est donc possible que le droit de la responsabilité civile cristallise une partie des difficultés liées au développement de machines dotés de capacités cognitives.
8Cette problématique n’est pas ignorée de nos gouvernants qui, dans leur réflexion globale sur la place de l’IA dans nos sociétés8, consacrent une large place à la question de la responsabilité civile9 à mettre en œuvre en cas de survenance de dommages causés par un SIA. À les lire, le cadre juridique actuel serait insuffisant et un cadre de dimension européenne devrait être retenu.
9S’agissant du premier constat, il doit être vérifié à l’aune du droit français de la responsabilité civile pour trois raisons. La première raison tient à ce que ce droit sera celui qui devra être appliqué en attendant l’adoption d’une éventuelle norme européenne10. La deuxième raison tient à ce que le droit positif actuel résulte non seulement de lois datant, pour la plupart de 1804, mais aussi d’interprétations jurisprudentielles ayant permis auxdites lois de rester pertinentes malgré une révolution industrielle et un début de révolution numérique. Aussi peut-être ce droit recèle-t-il encore quelques instruments exploitables pour prendre en charge les dommages causés par l’IA. La troisième raison réside dans la norme européenne pressentie11 pour établir un régime spécial qui prévoit qu’elle « est sans préjudice de toute autre action en responsabilité résultant des relations contractuelles ainsi que des réglementations en matière de responsabilité du fait des produits, de protection des consommateurs, de lutte contre la discrimination et de protection des travailleurs et de l’environnement, entre l’opérateur et la personne qui a subi un préjudice ou un dommage […] et qui peut être intentée contre l’opérateur au titre du droit de l’Union ou du droit national12 ». La rigueur scientifique oblige cependant à relativiser le possible maintien même partiel du droit positif actuel après l’édiction de la norme européenne au regard des enseignements tirés du contentieux de la responsabilité du fait des produits défectueux. En effet, alors que la Directive du 25 juillet 198513 mettant en place ce régime semblait ménager le maintien possible des régimes nationaux de responsabilité en présence d’un produit défectueux14, la Cour de Justice des communautés européennes15 allait limiter cette possibilité dans le souci d’une harmonisation totale de la responsabilité des producteurs16. Inutile d’espérer, donc, une option offerte à la victime d’un SIA pour lui permettre d’être mieux indemnisée. Au demeurant, ce n’est pas la philosophie du régime européen pressenti qui repose plutôt sur un équilibre17 entre l’indemnisation des victimes et le soutien au développement des SIA dès lors que la technologie est porteuse de retombées exceptionnelles en termes économiques et sociaux18.
10S’agissant du second constat, celui d’un cadre européen, il a en effet d’ores-et-déjà donné lieu à des propositions précises des institutions européennes, la dernière en date étant une résolution du Parlement européen du 20 octobre 202019 et contenant des recommandations à la Commission sur un régime de responsabilité civile pour l’IA. Le droit futur de la responsabilité civile des dommages causés par l’IA reposerait sur deux régimes de responsabilité cumulativement applicables20 : la responsabilité du fait des produits défectueux – amendée pour que les SIA puissent être qualifiés de « produits » notamment – et un régime de responsabilité spéciale découlant d’un règlement et à l’économie assez complexe. Cette complexité découle d’abord de l’instauration d’un régime dual, distinct selon le SIA concerné ; elle découle ensuite de la nécessité de s’appuyer sur un autre règlement pour opérer la qualification préalable du SIA concerné21, règlement dont l’objet est d’établir des mesures visant à prévenir les atteintes causées par l’IA. Pour l’Union européenne en effet, l’encadrement de l’IA devrait passer par « une bonne dose d’éthique et un soupçon de responsabilité »22.
11Pour mesurer le chemin restant à parcourir avant la mise en place d’un droit de la responsabilité civil adapté à la prise en charge raisonnable des dommages causés par l’intelligence artificielle, il convient donc de s’attarder sur les ressources du droit positif de la responsabilité civile face à l’IA (I.) puis sur les perspectives offertes par le régime européen de responsabilité civile pour l’IA (II.).
I. Les ressources du droit positif de la responsabilité civile face à l’IA
12De nombreux régimes de responsabilité peuvent être ici mobilisés. Ainsi pourra-t-il s’agir tantôt de responsabilité contractuelle23 tantôt de responsabilité extracontractuelle au sein de laquelle il est encore possible de distinguer la responsabilité délictuelle des responsabilités légales qui s’appliquent sans opérer de différenciation entre lien contractuel ou absence de lien contractuel entre la victime et l’éventuel responsable.
13Aussi, doivent être mesurées les ressources et les limites de chacun de ces régimes en distinguant classiquement les ressources de la responsabilité contractuelle face à l’IA (A.) et les ressources de la responsabilité extracontractuelle face à l’IA (B.).
A. Les ressources de la responsabilité contractuelle face à l’IA
14Il est possible d’envisager au moins deux points de rencontre entre la responsabilité contractuelle et l’IA. Tout d’abord, l’IA aura pu être dommageable à son utilisateur lequel a acquis le SIA par contrat. L’utilisateur se tournerait toutefois plus volontiers vers le régime des vices cachés24.
15Ensuite, l’IA peut être utilisée pour exécuter une obligation contractuelle : ainsi en serait-il de l’avocat qui élaborera une stratégie juridique avec l’aide d’un logiciel de prédiction jurisprudentielle ou du gestionnaire de patrimoine qui s’appuiera sur un logiciel de gestion pour proposer des placements à ses clients. Les clients pourraient alors engager la responsabilité contractuelle de ces professionnels alors que la mauvaise exécution du contrat aura été la conséquence d’une erreur du logiciel.
16De manière incontestable, la responsabilité contractuelle dispose d’atouts intéressants pour maîtriser le risque de l’utilisation d’une IA dans ce cas de figure (1.). Cependant, des zones d’incertitudes existent qui doivent également être rapportées (2.).
1) Les atouts de la responsabilité contractuelle face à l’IA
17Le premier atout de la responsabilité contractuelle réside dans la certitude de son applicabilité présente et future dès lors que la résolution du Parlement européen invite à penser que les régimes nationaux de responsabilité contractuelle pourront être choisis par la victime en lieu et place du régime offert par l’Union européenne. Cet atout doit cependant être relativisé, qui dépendra des choix interprétatifs opérés par la Cour de Justice de l’Union européenne qui pourrait par exemple s’opposer à ce que le professionnel utilisant cette technologie soit débiteur d’une obligation de résultat lorsque le règlement ne le vise pas comme un débiteur souhaitable de l’obligation de réparation des dommages causés par les SIA25.
18Le second atout de la responsabilité contractuelle tient aux aménagements contractuels qu’elle peut connaître. C’est ainsi que la pratique connaît de clauses limitatives voire élusives de responsabilité ou encore de clauses de force majeure qui permettent de faire du contrat un outil performant de prévisibilité, même pour ce qui concerne son inexécution. Une clause relative à la répartition des risques attachées à l’utilisation d’un SIA dans l’exécution du contrat est à ce titre imaginable. Toutefois, cet atout doit également être relativisé dès lors qu’il repose sur une liberté contractuelle largement contrariée, aujourd’hui par le droit de la consommation26. Sous réserve que ces professionnels puissent être qualifiés d’« opérateurs » du SIA, ils ne devraient cependant pas avoir à respecter la disposition du règlement selon laquelle « tout accord conclu entre l’opérateur d’un système d’IA et une personne physique ou morale […] qui contourne ou limite les droits et les obligations fixés par le présent règlement est réputé nul et non avenu »27.
19Ces atouts ne doivent cependant pas éclipser les incertitudes introduites par l’IA dans la responsabilité contractuelle.
2) Les incertitudes introduites par l’IA dans la responsabilité contractuelle
20Plusieurs notions ou mécanismes, déjà problématiques, devront être réinterrogés en tenant compte spécifiquement de l’IA28.
21Il en est ainsi de la notion d’exécution défaillante ou de faute en présente d’une obligation de moyen. Faudra-t-il reconnaître la défaillance du professionnel qui a suivi les préconisations d’une IA prédictive ? Ne faudrait-il pas, au contraire, lui reprocher de ne pas la suivre ? La réponse dépendra certainement du niveau de fiabilité du système d’IA. Si cette fiabilité est exceptionnelle, il serait fautif car imprudent de ne pas s’y fier ; si la fiabilité est simplement bonne, une marge de manœuvre doit être laissée au professionnel utilisateur.
22L’utilisation d’un SIA dans le cadre d’une obligation de résultat questionne, quant à elle, la notion de force majeure. L’erreur commise par l’IA correspond-elle à un événement échappant au contrôle du débiteur, qui ne pouvait être raisonnablement prévu lors de la conclusion du contrat et dont les effets ne peuvent être évités par des mesures appropriées29 ? Deux arguments semblent s’opposer à une telle qualification. D’abord, il serait peu convaincant d’affirmer que l’erreur de l’IA n’était pas raisonnablement prévisible, du moins au début de son utilisation. Ensuite, il est probable que la jurisprudence refuse cette qualification dès lors que le professionnel aura choisi de faire appel à cette technologie, en raisonnant par analogie avec le refus de considérer que l’acte de celui à qui un débiteur aura confié l’exécution du contrat (un préposé ou un sous-traitant) n’est pas considéré comme un cas de force majeure.
23Enfin, à supposer la responsabilité contractuelle du professionnel utilisateur établie, la question du fondement juridique du recours de ce dernier se posera nécessairement. Ainsi, s’il souhaite recourir sur le fondement de la garantie des vices cachés, la principale difficulté tiendra à la possibilité de démontrer que le vice de l’IA existait bien au jour de la vente30 et qu’il n’est pas apparu au cours de l’apprentissage postérieur autonome de l’IA.
24Ces développements n’épuisent certainement pas l’ensemble des questions juridiques déclenchées ou renouvelées par la présence d’une IA mais ils ont le mérite de rappeler que l’IA ne concerne pas que la responsabilité extracontractuelle qu’il convient également d’éprouver.
B. Les ressources de la responsabilité extracontractuelle face à l’IA
25L’identification des régimes de responsabilité pertinents à mettre en œuvre à raison d’un dommage causé par une IA présuppose d’aborder la question préalable de la nature juridique de l’IA, particulièrement au regard de la summa divisio personne/chose. C’est ainsi que pendant quelques années, la possibilité de doter le « robot » d’un statut juridique proche de celui des personnes juridiques a pu être évoquée, y compris par le Parlement européen. Vivement critiquée, la proposition est aujourd’hui abandonnée31.
26Consécutivement, il devient possible d’affirmer qu’il ne saurait y avoir de responsabilité du fait de l’IA envisagé comme un « autrui », autorisant que soient laissées de côté toutes les responsabilités du fait d’autrui32.
27Restent alors deux types de régimes possibles : la responsabilité pour faute (1.) et la responsabilité du fait des choses (2.).
1) Les ressources de la responsabilité pour faute face à l’IA
28La responsabilité pour faute a depuis longtemps été envisagée comme un fondement possible d’une action en réparation des dommages causés par l’IA.
29Avant que l’idée d’une IA dotée d’une personnalité juridique ait été abandonnée, avaient été suggérée une responsabilité pour faute de l’IA. De nombreux obstacles s’étaient alors fait jour, certains plus dirimants que d’autres. En premier lieu, comment admettre la faute d’une entité non humaine aux capacités cognitives aujourd’hui encore limitées ? Cet obstacle peut être surmonté en s’appuyant sur la faute des personnes morales telle qu’elle est admise par la jurisprudence et reprise par les projets de réforme de la responsabilité civile33. À l’endroit de ces « personnes », la faute peut être définie comme un défaut de fonctionnement34, ce qui pourrait également être retenu pour l’IA. Cette solution n’épuise cependant pas les difficultés. En effet, en deuxième lieu, comment distinguer la faute de l’IA de celle de ses concepteurs35 ? Et en troisième lieu, quel modèle de référence adopter pour qualifier le défaut36 ?
30Cette responsabilité dite de droit commun, issue de l’article 1240 du Code civil pourrait également être invoquée à l’encontre d’une personne étant intervenue dans la conception ou la mise en œuvre du système d’IA37, à la condition que soit rapportée la preuve qu’elle a commis une faute à l’origine du dommage38. La difficulté résidera alors dans l’établissement de cette preuve dont la charge pèse sur la victime qui rencontrera deux épreuves : l’épreuve de la technicité pour laquelle le recours à un expert est possible et l’épreuve de l’opacité pour laquelle seule une réglementation est à même d’apporter des réponses. Certains auteurs attirent en effet l’attention sur l’absence de transparence actuelle de l’identité et du rôle des acteurs participant au processus de développement et de déploiement des systèmes d’IA39.
31L’ensemble de ceux qui se sont penchés sur le problème en conviennent – ce compris le groupe d’experts de haut niveau − : ce régime sera souvent une impasse pour la victime ce qui est inacceptable. Par conséquent, il convient de recourir à d’autres régimes de responsabilité, ceux-là même qui ont pu être mobilisés lorsqu’au XIXème siècle, les accidents industriels avaient éprouvé les limites de l’article 1240 du Code civil : les responsabilités du fait des choses.
2) Les ressources de la responsabilité du fait des choses face à l’IA
32La doctrine obligationniste fait entrer dans la catégorie de la responsabilité du fait des choses plusieurs régimes qui ont pour point commun l’intervention centrale d’une chose : la responsabilité du fait des produits défectueux (a.), la responsabilité générale du fait des choses (b.) et la loi du 5 juillet 1985 sur les accidents de circulation (c.).
a) La responsabilité du fait des produits défectueux
33De l’avis des experts de haut niveau relayé dans la résolution adoptée par le Parlement européen, ce régime est pertinent à l’endroit des dommages causés par une IA sous réserve de quelques ajustements40.
34Il conviendra d’abord d’ajuster la notion de produit41 qui renvoie en effet à une matérialité que ne connaît pas l’IA. Au mieux, il serait actuellement possible de recourir à ce régime de responsabilité pour les IA « embarquées »42 c’est-à-dire incorporées dans une chose matérielle (robot d’accueil, véhicule autonome etc.). En revanche, l’IA dématérialisée peut-elle être considérée comme un produit ? Certains auteurs en doutent, considérant que l’IA est alors un service par analogie avec le service offert par l’avocat, l’architecte etc. D’autres sont plus convaincus43. Interrogés à propos des logiciels, les institutions des communautés européennes en 1989 et le gouvernement français en 199844 avaient admis que les logiciels pouvaient correspondre au produit visé par la directive de 1985. Le Parlement européen se montre plus mitigé puisqu’il suggère que soit précisée la notion de produit pour déterminer si le contenu numérique et les services numériques entrent dans le champ d’application de ce régime. En attendant, ce régime de responsabilité n’est pas complétement condamné, la jurisprudence pouvant, dans l’intervalle, faire preuve d’une interprétation créative sur le sujet.
35Ensuite, la notion de défaut devrait également être réinterrogée car elle pose actuellement deux problèmes à son application en cas d’IA. Premièrement, un produit défectueux est un produit qui ne présente pas la sécurité à laquelle on peut légitimement s’attendre45 laissant supposer la nécessité d’un défaut de sécurité. Or le défaut dommageable de l’IA peut être sans lien avec la sécurité physique (ex. décision discriminatoire). Secondairement, la définition du produit défectueux invite à s’interroger sur le modèle de référence à prendre en compte. En effet, quelle sécurité attend-on d’un système d’IA ? Une sécurité absolue sur le modèle de la loi d’Asimov qui interdit qu’un « robot » puisse porter une atteinte à un être humain ? La seule survenance d’un dommage suffirait alors à caractériser le défaut de sécurité, créant une distorsion entre ce produit infaillible et les autres produits pour lesquels la démonstration de leur défectuosité sera plus exigeante. Plus généralement les méthodes actuellement utilisées par les juges pour caractériser les défauts ne sont pas adaptées à l’IA. Cette situation ne condamne pas l’utilisation de ce régime mais elle est source d’incertitudes juridiques.
36Également, la notion de producteur de l’article 1245-5 du Code civil devrait être revisitée. Le producteur correspondant aujourd’hui au « fabriquant du produit fini, d’une matière première ou d’une partie composante », en résultera-t-il la responsabilité des développeurs, des programmeurs et autres prestataires de services ayant contribué à la « fabrication » de l’IA ? Pour le Parlement européen, il conviendrait de s’en assurer en retravaillant la définition de producteur.
37Enfin certains auteurs soulignent qu’il conviendrait également de revenir sur le risque-développement comme cause d’exonération. La possibilité offerte par l’article 1245-10 4° du Code civil de s’exonérer en démontrant que « l’état des connaissances scientifiques et techniques, au moment où [le producteur] a mis le produit en circulation, n’a pas permis de déceler l’existence du défaut » permettrait en effet assez facilement, à l’heure actuelle, au producteur de ne pas engager sa responsabilité pour les dommages causés par les IA les plus pointues, même en retenant l’interprétation européenne restrictive qui est faite46. Le législateur devra alors trancher : favoriser l’innovation en maintenant cette cause d’exonération ou créer les conditions de la confiance du public dans ladite innovation en la supprimant. Le choix sera assurément cornélien !
38Ce régime est donc une ressource possible face à l’IA à la condition que le juge utilise pleinement son pouvoir d’interprétation. Il n’est pas certain que la responsabilité du fait des choses soit aussi performante.
b) La responsabilité générale du fait des choses
39Pour rendre applicable en présence d’une IA, le régime découvert en 189647 par la Cour de cassation dans l’article 1242 du Code civil, trois obstacles doivent être surmontés.
40Le premier tient à la notion de chose dès lors que jusqu’ici, il n’a jamais été question que de chose matérielle dans la jurisprudence et que les projets de réforme visent explicitement les « choses corporelles »48. Là encore, la jurisprudence acceptera certainement d’appliquer le régime aux AI matérialisées (sans que cela soit véritablement pertinent d’ailleurs dès lors que le dommage n’aura pas été causé par l’anormalité de l’enveloppe corporelle de la chose mais de celle de son contenu incorporel). Elle sera certainement plus réticente pour les IA dématérialisées.
41Le deuxième obstacle tient à la notion de garde qui interroge fortement la doctrine. Cette dernière note que la Cour de cassation a fait le choix en 194249 d’une garde matérielle de la chose impliquant un pouvoir d’usage, de contrôle et de direction de la chose dommageable. Or il n’est pas certain qu’une IA autonome ait véritablement un gardien de ce type50. Les auteurs ont alors suggéré de recourir à la distinction − pourtant non dénuée de défaut – entre la garde de structure et la garde de comportement51 pour ventiler la responsabilité entre le gardien de l’IA (défaut de l’algorithme) et celui de la chose embarquant l’IA (défaut des capteurs, des freins du robots etc). Cette proposition permettra assurément au propriétaire de l’IA « embarquée » de ne pas être le gardien de l’IA dommageable mais rien n’indique qu’elle permettra d’identifier un gardien de l’algorithme devenu autonome52.
42Plus simplement, la solution pourrait résider ailleurs, dans une approche différente de la notion de garde qu’amorce la présomption de garde pesant sur le propriétaire de la chose53. Il est en effet troublant que cette responsabilité objective, soi-disant fondée sur le risque, accorde autant d’importance à ce que le responsable ait pu empêcher la chose de produire un dommage pour l’en rendre responsable. La démarche semble induire que sa responsabilité reste bien fondée sur un mauvais usage de son pouvoir sur la chose, donc sur sa …faute ! À l’inverse il serait possible de concevoir une responsabilité du fait des choses fondée sur le risque profit54 qui permettrait de retenir la responsabilité du propriétaire de la chose corporelle « embarquant » l’IA, du propriétaire de l’IA ou du licencié de l’IA. Cela simplifierait la tâche de la victime au stade de l’obligation à la dette sans fermer la possibilité de découvrir un débiteur plus approprié au stade de la contribution à la dette.
43Une fois surmontées ces deux premières difficultés, resterait un troisième problème plus difficile à régler : celui de la preuve de l’anormalité de la chose dommageable, donc de l’anormalité de l’IA. Comment démontrer l’anormalité du système d’IA ? Faudra-t-il démontrer une erreur de programmation, une vulnérabilité excessive aux attaques virales ? Un « droit à l’erreur » doit-il exister à l’endroit d’un algorithme ? La question renvoie à celle, non résolue, de l’appréciation de la faute de l’IA55. Le problème ne pourra être évité que lorsque l’anormalité sera présumée, dans des cas très limités où l’IA sera matérialisée dans une chose étant entrée en contact avec le siège du dommage. Tel pourrait être le cas d’une IA embarquée dans un robot d’aide aux interventions chirurgicales par exemple.
44Assurément ce régime de responsabilité paraît donc moins adapté à la situation de l’IA. Pour autant, il est aujourd’hui très malléable puisque prétorien. Ce n’est pas le cas de la loi du 5 juillet 1985 qui se révèlera pourtant une ressource intéressante.
c) La loi du 5 juillet 1985 sur l’indemnisation des victimes d’accidents de la circulation
45Les nombreuses expérimentations menées sur les véhicules autonomes conduisent logiquement à interroger l’application de la loi susvisée aux accidents causés par ces IA embarquées et ce, alors même que ce régime ne saurait parfaitement être assimilé à un véritable régime de responsabilité. Plus encore, c’est probablement le régime le plus « prêt » à faire face à l’immixtion d’une IA dommageable.
46En effet, les conditions d’application de la loi sont insensibles à la présence d’une IA embarquée.
47Cette dernière est sans effet sur l’existence d’un véhicule terrestre à moteur (dont la définition est étrangère à la présence d’un conducteur), d’un accident de la circulation, de l’implication du véhicule dans l’accident laquelle correspond à son intervention à quelque titre que soit dans l’accident et d’un lien de causalité entre l’accident et le dommage.
48La règle d’imputation de l’obligation d’indemniser mérite plus d’attention en revanche. Les deux débiteurs désignés par la loi – conducteur et gardien du véhicule56 – pourraient en effet être introuvables en présence d’un véhicule autonome. Deux solutions sont cependant immédiatement mobilisables. La première est suggérée par le Code de la route qui semble considérer qu’un véhicule autonome a toujours un conducteur en la personne de celui qui peut en reprendre le « contrôle dynamique »57. La seconde repose sur la ratio legis de la loi de 1985 qui n’a soumis les débiteurs à une obligation d’indemnisation très lourde qu’en raison de l’existence d’une assurance obligatoire. Dès lors, il serait possible de retenir une acception autonome du gardien renvoyant à celui qui assure le véhicule58, 59.
49La loi de 1985 semble donc offrir la plus belle démonstration de ce que le droit positif actuel dispose de nombreuses ressources pour faire face à l’émergence d’IA dommageables. Pour autant, ces solutions n’auraient qu’une portée nationale là où est proposée une solution à l’échelle de l’Union européenne.
II. Les perspectives offertes par le régime européen de responsabilité civile pour l’IA
50Il est actuellement difficile d’imaginer les répercussions exactes de l’introduction massive de l’IA dans nos vies. Sans doute est-ce la raison pour laquelle une partie importante de la doctrine se prononce en faveur de l’élaboration de responsabilités sectorielles plutôt que d’un régime global de responsabilité. Trois secteurs semblent prioritaires : les véhicules autonomes60, l’IA médicale61 et la domotique.
51La proposition du Parlement européen semble prendre le contrepied de cette approche puisque, conformément aux réflexions préalablement initiées par la Commission, elle vise à encadrer les conséquences dommageables de toute IA. Deux régimes au champ d’application général auraient ainsi vocation à s’appliquer cumulativement62 : la responsabilité du fait des produits défectueux63 pour rechercher la responsabilité des producteurs (et assimilés) des SIA et un régime spécial permettant d’engager la responsabilité d’autres acteurs.
52À y regarder de plus près cependant, l’éloignement entre les deux stratégies n’est que relatif. En effet, le règlement propose en réalité un régime de responsabilité complexe dépendant de l’intensité du risque créé par l’IA, donc du type d’IA concerné.
53Avant d’en faire la démonstration en détaillant le régime proposé (B.), il convient de revenir sur le champ d’application du régime européen envisagé (A.).
A. Le champ d’application du régime européen de responsabilité civile pour l’IA
54Le règlement pressenti connaît d’un champ d’application relativement large. En effet, il instaure une responsabilité légale en ce sens où elle s’appliquera sans tenir compte de la nature des liens qui pourraient unir victime et responsable. Par ailleurs, il retient une définition large du système d’IA (1.). En revanche, le champ d’application se resserre quant à la détermination de la personne responsable qui ne peut être qu’un « opérateur » (2.).
1) Les dommages causés par un système d’IA
55Pour comprendre le régime proposé par les institutions européennes, il convient de se rapporter à sa ratio legis. D’une part, le règlement tend à proposer un cadre pour toutes les IA et pour toutes ses utilisations. D’autre part, le règlement vise à établir « des règles de responsabilité différentes pour des risques différents »64.
56Ainsi, dans un premier temps, le règlement retient une définition large du SIA à savoir « un système qui est soit fondé sur des logiciels, soit intégré dans des dispositifs matériels, et qui affiche un comportement simulant l’intelligence, notamment en collectant et traitant des données, en analysant et en interprétant son environnement et en agissant, avec un certain degrè d’autonomie, pour atteindre des objectifs spécifiques ». Le règlement s’applique donc aux IA immatérielles et aux IA embarquées. En revanche, il est difficile de savoir si les IA « faibles » tels les logiciels basiques seront considérées comme suffisamment autonomes pour entrer dans cette définition. Les considérants de la résolution invitent toutefois à le penser.
57Dans un second temps, le règlement opère une distinction entre les systèmes d’IA à « haut risque » et les autres et ce, pour leur appliquer un régime différent.
58Il est proposé de définir le haut risque comme « un risque important, dans un système d’IA opérant de manière autonome, de causer un préjudice ou un dommage à une ou plusieurs personnes d’une manière aléatoire et qui va au-delà de ce à quoi l’on peut raisonnablement s’attendre ; l’importance de ce risque dépend de l’interaction entre la gravité de l’éventuel préjudice ou dommage, le degré d’autonomie de décision, la probabilité que le risque se concrétise, la manière donc le système est utilisé et le contexte d’utilisation ».
59Cette longue définition mériterait d’être critiquée car elle repose sur des critères peu précis : ainsi qu’est-ce qu’un préjudice ou un dommage « qui va au-delà de ce à quoi l’on peut raisonnablement s’attendre » ? À quoi le terme « gravité [du préjudice] » fait-il référence ?
60Toutefois, le Parlement européen a le mérite de suggérer que la Commission dresse et amende régulièrement une liste exhaustive desdits systèmes d’IA à haut risque. Deux documents sont actuellement disponibles pour anticiper cette liste : la résolution du Parlement européen sur les « principes éthiques relatifs au développement, au déploiement et à l’utilisation de l’IA, de la robotique et des technologies connexes »65 – qui distingue les secteurs à haut risque (emploi, éducation, soins de santé, transports, énergie, défense et sécurité, finance etc.) des usages ou de finalités à haut risque (recrutement, notation des étudiants, octroi de prêts, processus électoraux, conduite automatisée, gestion des déchets etc.) – et la proposition de règlement du 21 avril 2021 – qui définit deux grandes catégories de SIA à haut risque : les « IA à haut risque sous conditions » et les « IA automatiquement à haut risque »66.
61Cette distinction n’a pas vocation à restreindre le champ d’application du règlement qui se montre en revanche plus sélectif dans l’identification du responsable qui devra être un « opérateur ».
2) La responsabilité civile des « opérateurs »
62Afin de permettre de rendre responsable « l’ensemble des personnes, qui tout au long de la chaîne de valeur, créent, entretiennent ou contrôlent le risque associé au système d’IA »67, les institutions européennes proposent un régime rendant responsables des personnes qui ne le seraient pas sur le fondement de la responsabilité du fait des produits défectueux.
63Plus précisément, il s’agirait de viser d’une part l’ « opérateur frontal », personne physique ou morale qui exerce un certain contrôle sur un risque associé à l’exploitation et au fonctionnement du système d’IA et tire profit de son exploitation68 ; d’autre part l’« opérateur d’amont », personne physique ou morale qui, de manière continue, définit les caractéristiques de la technologie et fournit des données ainsi qu’un service de soutien en amont essentiel et exerce donc également un certain contrôle sur le risque lié à l’exploitation et au fonctionnement du système d’IA69. L’opérateur n’est donc pas l’utilisateur de l’IA, même si une personne peut cumuler les deux qualités. Plus généralement, l’opérateur frontal est celui qui décide globalement de l’utilisation du système tandis que l’opérateur d’amont dispose d’un niveau de contrôle plus élevé sur les risques opérationnels70. Par suite, l’avocat ou le gestionnaire de patrimoine qui s’appuie sur l’IA pour proposer une stratégie ne sera généralement pas un opérateur et ne pourra donc engager sa responsabilité que s’il participe par sa faute au fait dommageable. Ne seront pas davantage des opérateurs les courtiers en données71 qui n’interviennent pas dans l’élaboration de l’algorithme. Sont en revanche des opérateurs les développeurs (encore qu’ils ne « fournissent » pas toujours les données, confiant cette tâche aux courtiers) qui pourront, le cas échéant, être aussi considérés comme des producteurs au sens de la Directive de 1985.
64Dans ce cas, le règlement propose de régler le conflit de « lois » en faisant prévaloir l’application du règlement sauf en présence d’une personne qui est à la fois opérateur d’amont producteur72.
65En outre, s’il y a plus d’un opérateur pour un SIA, le règlement prescrit leur responsabilité solidaire73, une action récursoire étant ouverte après indemnisation de la victime, pour ne supporter que leur part de responsabilité « au prorata du degré de contrôle exercé […] sur le risque lié à l’exploitation et au fonctionnement du SIA »74.
66Les choix opérés par le Parlement européen semblent ainsi correspondre aux souhaits d’une partie de la doctrine qui prône la responsabilité « de l’acteur le mieux placé pour prendre en charge le risque potentiel75 ». Pour autant, ces choix nous inspirent deux remarques plus critiques. D’abord, il pourrait sembler plus satisfaisant que le responsable des dommages causés par l’IA soit au premier chef celui qui est censé les prévenir ; or d’après le projet de règlement du 21 avril 2021, il s’agirait du « fournisseur du SIA » c’est-à-dire de la personne physique ou morale, l’agence ou tout autre organisme qui développe un système d’IA ou qui possède un système d’IA déjà développé en vue de sa mise sur le marché ou de sa mise en service, sous son propre nom ou sa propre marque, à titre onéreux ou gratuit76. La multiplication des concepts pour désigner le responsable – producteur, opérateur, fournisseur etc. – nuit à la lisibilité de la norme et atteste d’une articulation trop complexe pour être parfaitement opérationnelle.
67Ensuite, il convient de ne pas sous-estimer le futur rôle des assurances dans la détermination du responsable. Le Parlement suggère ainsi l’instauration d’une assurance obligatoire à la charge de l’opérateur frontal des SIA à « haut risque » qui deviendra le « responsable idéal » pour garantir à la victime une indemnisation. L’existence d’une assurance aurait également le mérite de permette une meilleure anticipation des dettes de réparation, ce d’autant plus facilement que le règlement prévoit des plafonds d’indemnisation. Mais c’est déjà aborder la question du régime mis en place.
B. Le régime européen de responsabilité civile pour l’IA
68L’ensemble du régime pressenti ne saurait être ici détaillé, le choix ayant été fait de n’en faire ressortir que les seuls traits saillants. Le premier de ces traits tient à l’instauration de deux régimes de responsabilité dépendant de l’intensité du risque créé par l’IA : un régime de responsabilité pour les systèmes d’IA à haut risque (1.) et un régime de responsabilité pour les autres systèmes d’IA (2.). Si ces deux systèmes connaissent de quelques règles communes − une exonération partielle en cas de faute de la victime notamment −, elles reposent par ailleurs sur des logiques diamétralement opposées qui justifient qu’elles soient abordées successivement.
1) Le régime de responsabilité des systèmes d’IA à haut risque
69Le régime proposé lorsque le dommage a été causé par un SIA à haut risque présente trois caractéristiques majeures.
70Premièrement, il repose sur une responsabilité objective, sans faute de l’opérateur, seule la force majeure pouvant lui permettre de s’exonérer.
71Deuxièmement, il s’écarte du principe de la réparation intégrale de tous les préjudices. D’une part l’article 5 ne vise que le « décès [ou l’] atteinte à la santé ou à l’intégrité physique », le « préjudice immatériel important entraînant une perte économique vérifiable » et le « dommage causé aux biens », laissant de côté le préjudice moral tel que le pretium doloris ou le préjudice d’anxiété. La rédaction approximative de l’article quant à la distinction entre dommage et préjudice laisse cependant espérer une erreur de plume, la volonté du législateur européen étant surtout de distinguer dommages corporels et autres dommages, sans parti pris sur les préjudices qui s’y rattachent.
72D’autre part et plus significativement, le même article instaure des plafonds d’indemnisation77 et une franchise si la personne subissant un dommage non corporel peut également faire valoir la responsabilité contractuelle de l’opérateur. La victime aura donc tout intérêt à ce que l’opérateur ne soit pas également producteur pour engager la responsabilité de ce dernier sur le fondement de la Directive de 1985 qui ne prévoit aucun plafond.
73Troisièmement, le règlement propose des délais de prescription spéciaux78 et un délai de forclusion79 pour les dommages non corporels, qui n’est pas sans rappeler le mécanisme du double délai issu de la Directive de 1985 sur les produits défectueux mais qui est étranger au régime de responsabilité pour les autres SIA.
2) Le régime de responsabilité pour les autres systèmes d’IA
74Cet autre régime de responsabilité parait moins favorable à la victime. En effet, les opérateurs de SIA qui ne sont pas à haut risque sont soumis à une responsabilité pour faute. Cependant le règlement prévoit également que « l’opérateur n’est pas responsable » s’il prouve que le système d’IA a été activé à son insu alors que toutes les mesures raisonnables avaient été prises pour éviter une telle activation ou que toute la diligence requise a été déployée80, ces deux motifs renvoyant à l’absence de faute. Mutatis mutandis, le règlement prévoit donc finalement une responsabilité pour faute présumée, facilitant la charge de la preuve de la victime sans lui offrir la même garantie qu’une responsabilité objective.
75Une fois la responsabilité acquise, la victime française d’une IA « simple » est en revanche avantagée puisque le règlement prescrit l’application du droit national quant à l’indemnisation et la prescription, faisant disparaître plafond et forclusion81.
76Toulouse, octobre 2021.
Notes de bas de page
1 L. Pailles, L’intelligence artificielle pousse les créateurs de parfum à l’audace, Le Monde, vendredi 28 août 2021.
2 Étude LawGeex dont la méthode et les résultats ont été analysés par B. Dondero et B. Lamon, Juristes humains contre IA : l’analyse de contrats, À propos de l’étude LawGeex, JCP 2018, 1201.
3 En ce sens, S. Borguetti, Civil liability for Artificial Intelligence: what should its basis be?, RJSP 2019, 9.
4 C. Castets-Renard qui cite une définition donnée par le Joint Research Centre (Comment construire une intelligence artificielle responsable et inclusive ? D. 2020, p. 225).
5 Au sein de cette catégorie d’IA, il est en effet encore possible de sous-distinguer les IA dont l’apprentissage est supervisé (un humain rétroagit sur les réponses attendues), de celles dont l’apprentissage n’est pas supervisé (l’algorithme « découvre » la distribution statistique des échantillons d’entraînement et fait ressortir tendance et dispersions) et de celles dont l’apprentissage s’effectue « par renforcement » (un contrôle stratégique est exercé par l’humain sur l’IA sous forme de récompense en cas de bonne réponse ou de punition en cas de mauvaise réponse).
6 La prise en compte de la personne morale ayant donné lieu à un anthropomorphisme parfois indigne de la féconde intellectuelle des juristes.
7 P. Le Tourneau, La verdeur de la faute dans la responsabilité civile (ou la relativité de son déclin), RTD civ. 1987, p. 505.
8 Les réflexions s’opèrent à de nombreuses échelles :
À l’échelle nationale (pour la France, V. Le rapport Villani, Donner un sens à l’IA. Pour une stratégie nationale et européenne, 2018)
À l’échelle internationale (V. not. Y. Meneceur, Les cadres juridiques des organisations intergouvernementales pour une régulation de l’intelligence artificielle, RPPI 2021, dossier 6.)
À l’échelle européenne (sans exhaustivité : « Livre vert sur les aspects juridiques des robots » par la Commission, « Livre blanc sur l’intelligence artificielle : excellence et confiance » https://ec.europa.eu/info/files/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en, groupe d’experts de Haut niveau diligenté par la commission, https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai, propositions du Parlement européen, V. infra)
9 V. également à propos de la responsabilité pénale, la nouvelle rédaction de l’article 123-1 du Code de la route découlant de l’ordonnance n° 2021-443 du 14 avril 2021 portant sur la circulation d’un véhicule à délégation de conduite et à ses conditions d’utilisation.
10 La réforme de la responsabilité civile, promise depuis une quinzaine d’année, ne sera pas ignorée mais elle ne s’intéresse pas à l’IA. La situation pourrait être critiquable s’il n’était la quasi-certitude que le législateur français devra rapidement suivre les préconisations européennes en la matière, rendant inutiles toutes velléités de proposer des solutions conformes à la seule tradition française.
11 La contribution renverra, par commodité, au seul règlement là où il sera question du règlement pressenti comme découlant de la résolution du Parlement européen précité.
12 Article 2 du règlement.
13 N° 85/374/CEE.
14 Article 13 : « la présente directive ne porte pas atteinte aux droits dont la victime d’un dommage peut se prévaloir au titre du droit de la responsabilité contractuelle ou extracontractuelle ou au titre d’un régime spécial de responsabilité existant […] ».
15 CJCE, 25 avril 2002, n° C-183/00, RTD civ. 2002.523, obs. P. Jourdain. Civ. 1, 10 décembre 2014, n° 13-14.314 : « Le régime mis en place par la directive […] n’exclut pas l’application d’autres régimes de responsabilité […] reposant sur des fondements différents, tels que la garantie des vices cachés ou la faute […] ».
16 Le régime se proposait de garantir une concurrence loyale au sein de l’Union européenne en limitant la responsabilité des producteurs.
17 Selon certains auteurs, la balance bruxelloise penche plutôt en faveur de l’incitation aux entreprises (D. Galbois-Lehalle, Responsabilité civile pour l’intelligence artificielle selon Bruxelles : une initiative à saluer, des dispositions à améliorer, D. 2021, p. 87). Certains éléments du régime en attestent en effet (V. infra).
18 Avis du Comité économique et social européen du 31 mai 2017.
19 P9_TA(2020)0276.
20 V. infra pour de plus amples précisions.
21 Proposition de règlement du 21 avril 2021 établissant des règles harmonisées concernant l’IA, COM(2021)206 final.
22 A. Bensamoun, Stratégie européenne sur l’intelligence artificielle : toujours à la mode éthique, D. 2018, p. 1022.
23 À supposer que l’on admette cette figure (contra, Ph. Remy, La « responsabilité contractuelle » : histoire d’un faux concept, RTD civ. 1997, p. 323 ; Ph. Le Tourneau et alii, Droit de la responsabilité et des contrats, Dalloz Action, 2021/2022, n° 3213) plutôt que la notion d’exécution par équivalent.
24 V. infra les difficultés probatoires rencontrées dans ce cas.
25 V. infra sur la possibilité qu’il soit un « opérateur ».
26 Notamment les articles L.212-1 et R.212-1 du Code de la consommation qui prévoient de réputer non écrites ces clauses qualifiées d’abusives.
27 Article 2 du règlement pressenti.
28 H. Christodoulou, Les nouvelles technologies à l’origine de l’évolution contractuelle, CCE 2020, 20.
29 Article 1218 du Code civil qui définit la force majeure.
30 Civ. 3, 24 novembre 2016, n° 15-26.226 – Comp. Civ. 3, 13 novembre 2014, n° 13-24.027.
31 V. le droit américain qui a pu les doter d’une personnalité morale au moyen d’une immatriculation et qui a exigé qu’ils disposent d’un capital visant à les assurer pour répondre des dommages (C. Coulon, op. cit., n° 5).
32 V. tempéraments infra.
33 C. Mangematin, La responsabilité extracontractuelle des personnes morales et de leurs dirigeants dans le projet de réforme français in La réforme du droit de la responsabilité civile en France, 8ème journées franco-allemandes, SLC 2021, p. 57 et s.
34 Article 1242-1 du projet de la Chancellerie présenté le 13 mars 2017.
35 En ce sens, C. Coulon, op. cit.
36 En ce sens, S. Borguetti, Civil Liability for Artificial Intelligence: What Should its Basis Be?, RJSP 2019, 9.
37 Op. cit.
38 La responsabilité du fait d’autrui pourrait alors retrouver son empire, en particulier la responsabilité du fait des commettants du fait de ses préposés.
39 C. Castets-Renard, Le Livre blanc de la Commission européenne sur l’intelligence artificielle : vers la confiance ? D. 2020, p. 837.
40 À cette occasion, la Directive de 1985 pourrait être remplacée par un Réglement.
41 Article 1245 du Code civil.
42 J. Senechal, Responsabilité ab initio, régulation ex ante et responsabilités a posteriori : le Coeur des débats européens sur les systèmes d’intelligence artificielle, hors et dans le secteur du commerce électronique, IP/IT 2020, p. 667.
43 G. Loiseau, Robots intelligents et responsabilité : quels régimes, quelles perspectives ? IP/IT 2016, p. 287.
44 Réponse ministérielle.
45 Article 1245-3 du Code civil.
46 CJCE, 29 mai 1997, C-300/95.
47 Arrêt Teffaine, 16 juin 1896, DP 1897 I 433, note R. Saleilles.
48 Article 1243 issue du projet de la Chancellerie – article 1242 issue de la proposition sénatoriale du 29 juillet 2020.
49 Arrêt Franck, Ch. Réunies, 2 décembre 1941, S. 1941, 1, 217, note H. Mazeaud.
50 A. Mendoza-Caminade, Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques ?, D. 2016, p. 445.
51 Arrêt Oxygène liquide, Civ. 1, 12 novembre 1975.
52 Cf. opacité dénoncée plus haut.
53 Sur cette présomption, Ph. Brun, Responsabilité civile extracontractuelle, LexisNexis, 2018, 5ème éd., n° 394 et s.
54 M. Fabre-Magnan, Droit des obligations, 2. Responsabilité civile et quasi-contrat, PUF, 4ème éd., 2019, n° 251.
55 V. supra.
56 Selon la définition de l’arrêt Franck (op. cit.).
57 Cf. article L.211-1 du code de la route.
58 Il pourra s’agit du propriétaire de celui-ci ou, d’après les quelques annonces déjà faites, des constructeurs des premiers véhicules autonomes mis sur le marché.
59 Cette dernière proposition connaît cependant une limite puisqu’aux termes de l’article L.221-1 du Code des assurances, doit être assurée la personne qui peut engager sa responsabilité sur le fondement de la loi de 1985. La règle conduit alors à une impasse.
60 En ce sens, les dispositions spéciales prises pour l’expérimentation des véhicules autonomes, notamment article 125 Loi Pacte qui oriente vers la responsabilité du titulaire de l’autorisation (d’expérimenter).
61 Via une réflexion globale sur les aléas thérapeutiques.
62 V. infra.
63 Considérants, n° 10.
64 Considérants, n° 14.
65 Résolution du 20 octobre 2020, P9_TA(2020)0275.
66 C. Crichton, Projet de règlement sur l’IA (II) : une approche fondée sur les risques, D. actu. 4 mai 2021.
67 Considérant n° 7.
68 Article 3, e)
69 Article 3, f).
70 Considérant n°10.
71 Les data brokers.
72 Article 11.
73 Article 11.
74 Article 12.
75 C. Castets-Renard, Le livre blanc de la Commission européenne sur l’intelligence artificielle : vers la confiance ? (réf. préc.).
76 C. Chrichton, Projet de règlement sur l’IA (I) : des concepts larges retenus par la Commission, D. actu. 3 mai 2021.
77 Deux millions d’euros en cas de décès, d’atteinte à la santé ou à l’intégrité physique, un million d’euros en cas de préjudice immatériel important entraînant une perte économique vérifiable ou en cas de dommages causés aux biens.
78 Trente ans pour les dommages corporels et dix ans pour les autres dommages.
79 Trente ans à compter du début de l’exploitation du SIA.
80 Sélection d’une IA adaptée à la situation, bonne mise en service du système, contrôle des activités et maintien de la fiabilité du système par l’installation régulière de toutes les mises à jour disponibles.
81 Certains auteurs y voient une source d’incohérence (D. Galbois-Lehalle, op. cit.).
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Qu’en est-il du code du commerce 200 ans après ?
États des lieux et projections
Corinne Saint-Alary-Houin (dir.)
2008
Qu'en est-il de la simplification du droit ?
Frédérique Rueda et Jacqueline Pousson-Petit (dir.)
2010
La réorientation européenne de la TVA à la suite du renoncement au régime définitif
Francis Querol (dir.)
2014
Regards critiques sur quelques (r)évolutions récentes du droit
Tome 1 : Bilans et Tome 2 : Réformes-Révolutions
Maryvonne Hecquard-Théron et Jacques Krynen (dir.)
2005