Version classiqueVersion mobile
OpenEdition Books

Vidéo-surveillance et détection automatique des comportements anormaux

 | 
Jean-Jacques Lavenue
, 
Bruno Villalba

Partie 2. Diversité de la normalité et réduction technique

Normativité et systèmes intelligents

Stéphane Callens et Lu Shang

Texte intégral

1La normativité est le pouvoir de générer des normes de fonctionnement. Cette notion a été introduite en médecine pour caractériser le vivant. Dans un grand partage entre la Vie et la Mort, la normativité indique l’élan du vivant, une capacité à générer des normes de fonctionnement dont la perte totale est l’entrée dans la Mort.

2Une dimension morale et comportementale a toujours été présente dans cette notion de normativité. Cependant, l’extension de cette notion à des normes sociales et techniques multiplie les mises en garde méthodologiques : il ne peut exister une théorie générale des normes, théorie valable pour l’inanimé et le vivant (Macherey, 1998) ; même pour les normes comportementales, il importe de distinguer légitimation et normativité (Reynaud, Richebé, 2007).

3Les systèmes intelligents complètent ou se substituent à une action humaine réfléchie. Un système d’aide à la conduite va faire freiner le véhicule parce qu’un obstacle imprévu est présent sur la chaussée, plus rapidement que ne le ferait le conducteur. L’action réfléchie ne peut plus être la part spécifique revendiquée par l’homme. Une économie comportementale se développe à partir des anomalies constatées en faisant référence à une action entièrement rationnelle. L’homme se réserve un privilège de l’anomalie légitime. Il devient l’élément le moins fiable d’un ensemble agissant, et pourtant le garant de sa normativité.

Introduction : de l’acceptabilité à la normativité

4L’ouvrage de référence sur le Normal et le Pathologique est celui de Georges Canguilhem (1943). Son livre était lié à l’œuvre du chirurgien Leriche, alarmé des pathologies post-opératoires, qui a introduit les premières pratiques systématiques de réanimation. Cet ouvrage avait introduit le néologisme de « normativité » et la notion d’erreur pour le biologique. Le nageur victime d’une hydrocution n’est pas celui que des indicateurs numériques biologiques auraient signalé a priori, il est victime d’une réponse erronée à l’environnement par son propre organisme. L’organisme humain a sa propre normativité, et aussi cette capacité d’erreur dans l’adaptation à un environnement. L’organisme humain définit ce qui est normal pour lui. Cela n’exclut pas l’aléa d’un choc pathologique. Les « systèmes intelligents » reproduisent tout ou partie d’un processus réalisé par un opérateur humain. Il s’agit d’une action contrôlée reposant sur une programmation informatique, avec en amont une prise d’information par un ou des capteurs, une capacité à traiter cette information, et une possibilité d’agir sur l’environnement en aval. L’ouvrage de référence sur le Normal et le Pathologique est contemporain des premières tentatives de réanimation du nageur victime d’une hydrocution. Normativité et erreur commandent l’action. Notre époque est celle de l’introduction multiforme des « systèmes intelligents », qui pourraient équiper par exemple une balise individuelle pour les nageurs, ou un système de détection d’incident dans un lieu de baignade. La question de la normativité porte maintenant sur l’ensemble de la scène sociale, englobant les procédures opérationnelles mises en œuvre : vaut-il mieux équiper les individus ou les sites ? Quels signaux fiables doit-on employer ? Avec quelles valeurs de déclenchement ? Comment organiser un secours efficace ? Comment les individus modifient leurs comportements en tenant compte de l’existence de ces systèmes intelligents ?

5L’ouvrage Démocratie et Télésurveillance (Callens, 2002) avait fait le point sur les technologies liées à la vidéosurveillance à partir d’une procédure de jury citoyen. Cette contribution se veut une mise à jour de cet ouvrage à partir des développements ayant eu lieu ces dernières années. Plus particulièrement, les travaux qui ont été menés depuis 2003 au Centre EREIA et au CLERSE ont porté sur les cadres théoriques de la sécurité globale, la gouvernance, l’économie comportementale (Callens, 2005 ; Shang, Callens, 2008 ; Brot, Callens, Gérardin, Petit, 2008 ; Uzinidis, Callens, 2009). Des travaux empiriques ont été menés sur des nouvelles technologies de sécurité : bracelet électronique, véhicule intelligent, géolocalisation Galileo (Callens, 2003a ; Shang, Callens, 2006).

6La Conférence Citoyenne de 2001 indiquait une préoccupation première d’acceptabilité des systèmes de télésurveillance. Trois conclusions du jury citoyen ponctuent cette acceptabilité et donnent des lignes de force pour les développements ultérieurs : 1) Rejet de la co-surveillance : la télésurveillance est une activité intermédiée. 2) Une demande de qualité opérationnelle : l’alerte et l’intervention doivent être rapides. 3) Un souci de proximité et de communication avec les opérateurs (télésurveilleur, forces de police)

7Les usages des systèmes intelligents appliqués à la télésurveillance se font aujourd’hui dans un contexte qui est celui d’une acceptabilité en grande partie acquise, comme l’indiquait déjà le résultat de la consultation citoyenne de 2001. Les interrogations se sont déplacées de l’acceptabilité à la normativité, particulièrement les conditions de mise en œuvre de ces nouveaux procédés de télésurveillance. La terminologie sur la « normativité » n’est pas entièrement fixée : il s’agit d’abord de lever quelques ambiguïtés à ce propos. En prenant comme référence l’ouvrage de 2002, nous apportons ici des compléments qui portent sur l’évolution des cadres théoriques (I), puis sur le compte-rendu de quelques mises en œuvre empiriques (II).

1. L’évolution des cadres théoriques

8La définition de la normativité par Georges Canguilhem est celle d’un pouvoir du vivant. L’arrivée de la médecine de réanimation réévalue la situation du pathologique : le pathologique est une situation où le vivant a conservé une capacité à produire de façon ordonnée ses propres régulations, à la différence des états-limites que doit traiter le médecin-réanimateur. L’expérience du médecin-réanimateur est celle d’un essai thérapeutique de récupération de ce pouvoir spécifique du vivant, la normativité. L’erreur est aussi une manifestation de pouvoir du vivant, affirme Canguilhem, cependant elle n’est pas spécifique : parler de normativité pour un système artificiel est de l’ordre de l’analogie, au contraire de la notion d’erreur, pouvoir partagé par le Vivant et l’Artificiel.

9Canguilhem introduit une notion de normativité qui était aussi bien morale que physiologique, mais qui se distinguait très fortement de l’usage du même vocable par la sociologie juridique. Le vivant définit ses « allures » de fonctionnement, aussi bien d’un côté physiologique que moral. Le Droit est une technique ou un art, comme la médecine, dans la perspective ouverte par Canguilhem. Il ne fait pas qu’entériner des conventions sociales, il a ses propres moyens et ses propres limites de fonctionnement, par exemple celles d’une logique juridique.

10L’ouvrage de 2002 (Callens, 2002) opposait une démocratie réflexive à une démocratie « conseilliste ». Cette notion de réflexivité vaut pour les normes sociales, et un souci de qualité de ces normes présidait à cette procédure de conférence citoyenne. La revue critique de cet ouvrage (Froment, 2003) accorde un statut d’ébauche à ce schéma de « démocratie réflexive ». Nous pouvons aujourd’hui compléter sur trois points ce schéma de départ : sur la normativité, sur la gouvernance, et sur l’analyse des comportements.

1.1. - Normativité et Démocratie réflexive

11Les notions de normativité et d’erreur introduites par Canguilhem introduisent des pouvoirs positifs et négatifs du vivant. Ces pouvoirs positifs et négatifs font de toute vie une expérience singulière. Il est connu depuis Quetelet que cette irréductible singularité s’agrège dans des normalités des distributions des caractéristiques du vivant. Les notions de normativité et de normalité peuvent être mises en place en dehors de toute considération institutionnelle.

12« Parler de normativité, c’est bien, au lieu de considérer la mise en œuvre des normes comme l’application mécanique d’un pouvoir préconstitué, montrer comment le mouvement concret des normes, qui sont des schèmes vitaux à la recherche des conditions de leur réalisation, élabore au fur et à mesure de son déroulement ce pouvoir. La vie cesse alors d’être une nature substantielle pour devenir un projet » (Macherey, 1998 : 74). Cette normativité nécessairement endogène doit être distinguée de la « légitimation » exogène, celle de tout processus social fondé sur une structure de pouvoir (Reynaud & Richebé, 2007). La théorie des conventions nous permet de préciser qu’une normativité ordinaire est aussi celle des conventions sociales, règles et valeurs éthiques. La question du fondement du Droit telle que l’aborde John Rawls (1997, 2003) est la question de la conciliation entre légitimation et normativité. Cette conciliation est exprimée principalement à travers un principe de Liberté : il s’agit d’affirmer que chacun choisit la vie qu’il veut mener. Ce principe de liberté revient à assigner une priorité à la normativité, la légitimation n’intervient que pour garantir le libre jeu de la normativité. L’expérience humaine et sa singularité sont défendues à travers un principe de liberté dans les Théories de la Justice, à la différence d’une simple philosophie morale qui ne cherche qu’à déterminer un Bien idéal. « On ne légifère pas à partir de la Vertu » disait déjà Condorcet au dix-huitième siècle : des systèmes de pouvoir sont à concevoir pour éviter une normativité dictatoriale.

13La stabilité évolutionniste des sociétés humaines aborigènes ne soulève pas trop de grandes interrogations. C’est en fait un grand succès, puisque les chasseurs-cueilleurs vont s’installer sur tous les continents de la planète. Cette stabilité évolutionniste va être remise en cause avec la néolithisation et l’aménagement systématique de la nature par l’agriculture. La question de la durabilité apparaît. Un concept tel que celui d’un équilibre évolutionnairement stable peut prendre une nouvelle signification, comme quelque chose qui n’est pas du tout assuré, mais qui est recherché (Callens, 2003b). Une démocratie réflexive doit faire face à ces dilemmes, où le jeu des acteurs peut donner des situations socialement sous-optimales, même dans le cas d’une démarche basée sur la participation (Callens, 2004). La démocratie réflexive résulte d’une mise en incertitude de la normativité sociale ordinaire.

14Le Contrat Social de cette démocratie réflexive peut s’inscrire dans la voie tracée par John Rawls. Les deux principes premiers en sont d’abord l’affirmation d’un principe de liberté, un individualisme éthique pour caractériser les démarches issues du texte fondateur de Rawls et puis maintenir le pouvoir sur sa propre vie, un principe plus explicitement formulé chez Sen, mais qui se trouve déjà exprimée chez Rawls.

1.2. - La Gouvernance : une micro-économie des pouvoirs et des libertés

15La démission d’un ordre juridique devant une science de l’anormal est une inquiétude qui peut se nourrir du précédent historique de la montée d’une expertise psychiatrique dans les procédures judiciaires de la seconde moitié du dix-neuvième siècle (Foucault, 1999). Insérer une expertise technique dans un système de gouvernance était déjà une préoccupation de l’ouvrage de 2002 (Callens, 2002). Les travaux plus récents ont pu préciser des règles de construction de ces systèmes de gouvernance (Brot, Callens, Gérardin, Petit, 2008 ; Uzinidis, Callens, 2009).

16Depuis Isaiah Berlin (1969), on distingue les libertés négatives, restrictions des abus de pouvoir externe à l’individu, des libertés positives, les capacités de faire d’un individu, accroissement de son pouvoir sur sa propre existence. On classe généralement dans les libertés négatives, les libertés publiques, comme la liberté de se déplacer. Par contre, un aménagement pour faciliter la mobilité de personnes handicapées se situe dans le registre des libertés positives.

17La distinction de Berlin sur la différence entre libertés négatives et libertés positives indique bien les déplacements dans les programmes de recherche depuis un quart de siècle. Les travaux de Sen mettent en avant la Capacité, qui est un pouvoir sur sa propre vie, et se situent du côté des libertés positives. Les formes de pouvoir analysées chez Foucault étaient toujours de l’ordre du monitoring, d’une relation sociale autre que celle de la simple domination, mais qui induit un assujettissement. Il s’était intéressé aux formes induites de pouvoir sur sa propre vie, et se situe donc du côté des libertés négatives.

18Les angles de vue de Foucault et de Sen sont complémentaires, une algèbre avec du positif et du négatif, ce qui permet de proposer une analytique générale des pouvoirs. Dans un de ses cours, Foucault précise que la notion de pouvoir qu’il étudie n’a rien à voir avec la notion de capacité. À la suite d’Amartya Sen, cette notion de pouvoir-capacité a été mise au centre des préoccupations de l’économie du Développement. Schématiquement, la figure emblématique de Foucault est ancrée autour des libertés négatives, celle de Sen, autour des libertés positives. La liberté négative dépend de la structure des pouvoirs externes à l’individu : l’idée d’un pouvoir externe qui doit être limité s’affirme avec les premières constitutions modernes du dix-huitième siècle (révolutions américaines et françaises). Le développement de la technologie n’est qu’un moyen qui peut poser un problème particulier de liberté publique : par exemple, usage d’écoutes téléphoniques par un pouvoir central en dehors d’une instruction judiciaire.

19En règle générale, une innovation apporte de façon souvent très limitée un peu de liberté positive. La contribution de l’inventeur du grille-pain au progrès des libertés est sans doute très modeste. Parfois, une question de liberté publique intervient. L’usage des caméras pour la vidéosurveillance en est un exemple – il ne s’agit d’ailleurs pas d’une invention, mais d’un usage particulier d’une technologie relativement ancienne (le cinéma, puis la vidéo). Un schéma de pouvoir centralisé va être moins favorable aux libertés positives et négatives – la technologie sert à renforcer un pouvoir externe aux individus, la diffusion d’une nouvelle technologie sera plus difficile.

20Les libertés positives sont en expansion conjointe avec les avancées technologiques. Les libertés négatives sont conjointes d’un état de gouvernance, et sont donc relativement indépendantes du développement technologique. Les libertés négatives dépendent avant tout d’autres facteurs que des facteurs technologiques. Les technologies à diffusion rapide (véhicule automobile, téléphone mobile, Internet) ont un bilan des libertés (libertés négatives et positives) favorables.

21L’ouvrage Surveiller et Punir de Michel Foucault (1975) indiquait le grand aménagement des techniques de supervision au moment de la sécularisation européenne. Entre sécularisation et supervision, il n’y a pas une opération qui serait de l’ordre de la simple soustraction : plus de sécularisation donnerait moins de supervision. La sécularisation est une dissémination des pouvoirs, avec un principe d’autonomie qui fait de l’individu lui-même un centre de pouvoirs. Les théories de la gouvernance des organisations déclinent la supervision, soit sous une forme rapprochée, où le dépositaire d’un mandat, l’exécuteur d’un contrat sont étroitement surveillés, soit sous une forme distante : des audits de commun accord entre les parties améliorent des procédures objectivées de l’organisation.

22Les indicateurs de la gouvernance les plus couramment utilisés peuvent être divisés entre ceux qui concernent la prise de parole et ceux du respect de l’État de Droit. L’ouvrage Le Gouvernement de Soi et des Autres de Michel Foucault (2008) est consacré à l’éthique du dire vrai, éthique qui peut être mise en relation avec une valorisation de la prise de parole. Les ouvrages d’Amartya Sen sur l’économie politique de la famine et la démocratie mettent aussi l’accent sur l’importance de la possibilité de l’alerte et le côté « disciplinaire » de la presse locale libre (Sen, 1979). Le premier ouvrage de Sen sur ces questions date de 1979, des mêmes années que les cours de Michel Foucault consacrés à l’éthique du dire vrai. Les années 1980 ont ainsi vu des contributions majeures sur le premier groupe des indicateurs de gouvernance, ceux de la prise de parole. Les travaux postérieurs sur le risque majeur mettent surtout en avant des aspects d’organisation des pouvoirs d’urgence, de qualité et de respect d’une réglementation : nous sommes alors dans le deuxième groupe des indicateurs de gouvernance.

23Ces indicateurs sont principalement liés à des questions de libertés négatives. Les études empiriques sur la gouvernance font ressortir des indicateurs nettement du côté des libertés positives (par exemple : taux d’équipement en postes de télévision, en accès Internet…). La prise en compte d’indicateurs plus « positifs » sur la gestion de l’innovation, les capacités des firmes, la concentration de la propriété des grandes entreprises peuvent venir si nécessaire compléter ces indicateurs de gouvernance.

24Canguilhem, Sen, Foucault : toutes ces contributions sont basées sur une normativité individuelle, où il s’agit de réaliser effectivement ses choix de vie. Une autre convergence de ces contributions est l’inscription biologique des pouvoirs : la Capacité de Sen, qui est un pouvoir sur sa propre vie, définit positivement un biopouvoir dont les formes historiques ont été décrites par Foucault.

25Les applications des systèmes intelligents viennent directement s’inscrire dans ces schémas des systèmes contemporains de pouvoir. Un premier groupe d’applications assistent une normativité individuelle, comme des prothèses intelligentes (par exemple les implants rétiniens pour les malvoyants) ou les aides à la conduite. Un deuxième groupe aide à la prise de parole, à l’alerte précoce et à la communication sociale – le premier volet des indicateurs de la Gouvernance. Un dernier groupe d’applications interviennent directement dans la bonne application de règles de Droit – le deuxième volet des indicateurs de la Gouvernance.

1.3. - Une économie comportementale

26Les travaux contemporains interdisciplinaires ont permis de développer une économie comportementale. Cette économie comportementale est aujourd’hui sur le devant de la scène par le rôle de conseillers de l’actuel Président des États-Unis dévolu aux « économistes comportementaux ». L’économie comportementale s’est développée à partir de la critique d’une hypothèse de non déformation des distributions de probabilité par les agents faite par John Von Neumann. La psychologie n’a pas eu trop de mal à montrer l’irréalisme de cette hypothèse, et de proposer un modèle tenant compte des déformations psychologiques les plus courantes. Cette théorie nouvelle a été couronnée d’un Prix Nobel d’économie en 2002, accordée à Daniel Kahneman. Un débat sur la mise en place de ce que nous connaissons en France comme étant la carte « Vitale » lors de la campagne de primaire à l’intérieur du camp Démocrates a mis en avant les thèses du « coup de pouce » propres à l’approche de l’économie comportementale. La mise en place d’un système de gestion unifiée du système de santé a été pensée à partir d’une architecture des choix proposés à l’assuré social tenant compte des déformations psychologiques habituelles.

27Nous pouvons reprendre une définition proposée par Barberis (2007) : l’économie comportementale est l’économie de l’agent qui n’est pas pleinement rationnel. L’agent pleinement rationnel a des erreurs qui sont des « bruits blancs », une espérance d’utilité, et ne laisse pas de portefeuille d’arbitrage. Cette rationalité de l’agent pleinement rationnel se base sur des préférences formées au préalable, avant la phase de décision. L’agent pleinement rationnel présente les aspects consacrés dans la théorie économique du comportement de l’agent. L’économie comportementale s’occupe des rationalités approchées. Une contrainte de vérité du processus de décision est introduite.

28La finance comportementale est introduite par la voie de la modélisation positive dans les manuels (par exemple : Broihanne, Merli & Roger, 2004). Les modèles sont présentés à partir des écarts à expliquer par rapport aux notions standards de référence de théorie financière. Nous adoptons ici une voie plus synthétique en suivant la succession suivie traditionnellement dans les manuels de micro-économie. Nous devons essayer de trouver quelques principes généraux et transversaux pour l’ensemble de l’économie comportementale, et qui peuvent la distinguer d’autres approches théoriques.

29Trois principes nous semblent caractériser le programme contemporain d’économie comportementale :

1.3.1. - Une théorie à portée essentiellement exploratoire de l’action ou du comportement

30L’exploration est psychologique, et pour un thème donné recouvre l’ensemble des déterminations d’une action, d’une attitude ou d’un comportement. Les déterminants de l’action, attitude ou comportement peuvent être répartis dans quatre grand sous-ensembles : le Cognitif, le Conatif, l’Émotion, le Contexte. Les modélisations utilisées n’utilisent généralement que des facteurs appartenant à un seul de ces domaines. Cependant une situation où les facteurs appartiennent à plusieurs de ces domines n’est pas a priori exclue.

31La démarche exploratoire va valider la pertinence d’un choix de modélisation. Par exemple, pour parler d’innovation, il faudrait disposer d’une théorie intégrant la créativité pour la théorie du producteur. Une démarche exploratoire va donc s’interroger sur la créativité. Cette démarche indique que les variables cognitives interviennent peu, tout comme la dimension émotionnelle, tandis qu’un consensus existe autour sur le rôle majeur pour la créativité des dimensions « motivation, ou conative » du « contexte ». Une exploration indique le fait que la modélisation doit intégrer une dimension conative. L’orientation des travaux théoriques est ainsi donnée.

1.3.2. - Une approche spéculative de l’erreur

32Dans la théorie des anticipations rationnelles, par détermination volontaire, les biais ne persistent pas, puisque les distributions des erreurs sont choisies à variance finie et à moyenne nulle. La démarche fondatrice de Kahneman et Tversky réintroduit une dimension spéculative, algébrique à l’erreur. L’existence de biais psychologique persistant, de biais de moyenne non nulle est alors justifiée.

33D’autres approches théoriques se basent sur un statut strictement positif de l’erreur. Par exemple, dans les approches évolutionnistes, l’entrepreneur est optimiste, il présente un biais persistant qui sert de justification générale à la spécificité de la démarche théorique de l’évolutionnisme. C’est une situation « d’erreur créative », comme dans la théorie biologique de l’évolution. Cette erreur des évolutionnistes n’est pas « algébrique », capable de plus ou de moins, le signe « plus » est imposé. Dans l’approche comportementale, ces limitations théoriques de l’erreur sont donc volontairement levées : le biais peut avoir une portée négative, n’est pas obligé de prendre une valeur nulle (anticipations rationnelles) ou strictement positive (évolutionnisme).

1.3.3. - Un réalisme cognitif de la décision

34Dans une théorie comme l’évolutionnisme, la relation avec les sciences biologiques et psychologiques est de l’ordre de la métaphore. L’économie comportementale introduit une démarche expérimentale pour les processus de décision. La démarche expérimentale des « neuroeconomics » est plus centrée sur les limitations biologiques de ces procédures de décision. Les méthodologies de la psychologie expérimentale sont adaptées pour le programme de l’économie comportementale.

35L’ouvrage de Foucault sur Les Anormaux (1999) permet une mise en perspective historique des approches comportementales. Cet ouvrage est consacré à l’histoire de la psychiatrie du dix-huitième siècle à la fin du dix-neuvième siècle. Les aliénistes du début du dix-neuvième siècle sont des cliniciens : l’observation des pathologies se fait avec des moyens d’investigation limités au chevet du malade. La sphère d’observation et de communication que constitue la clinique privilégie les pathologies les plus spectaculaires, les grands délires.

36Une littérature médicale, un peu burlesque à nos yeux d’aujourd’hui, sur l’onanisme comme pathologie majeure se développe au dix-huitième siècle. Elle entraîne cependant la formation d’un point de fixation des études sur l’enfance et l’adolescence. Cette pédopsychiatrie du dix-huitième siècle va permettre de constituer une expertise sur l’enfance, qui va conduire à la formation d’une science du comportement dans la deuxième moitié du dix-neuvième siècle, autour des schémas de la dégénérescence. Il faudra attendre Heuyer et les lendemains de la Seconde Guerre Mondiale pour une constitution de la pédopsychiatrie moderne, comme science clinique.

37Trois ensembles de pratiques scientifiques peuvent ainsi être distingués :

  1. Les sciences cliniques. Elles sont basées sur l’observation directe, et sur des concepts qui mettent en relation des symptômes apparents et des pathologies. Elles sont spécialisées dans le Pathologique, et intensifie un usage des sens dans l’exploration de cas pathologiques.

  2. Les sciences d’investigation. Elles sont basées sur des moyens exploratoires et métrologiques. Ces investigations peuvent être conduites en routine, même sans présence d’une pathologie. L’investigation est basée sur le soupçon de la présence d’agent pathologique connu chez un sujet.

  3. Les sciences du comportement. Elles fournissent des explications et des traitements à des anomalies constatées. L’anomalie est fondatrice de la biologie contemporaine, disait Canguilhem – elle a permis d’affirmer ses moyens propres vis-à-vis des approches des sciences physiques et mathématiques, indifférentes aux anomalies.

38Maurice Tubiana dans son Histoire de la Pensée médicale (1998) date des années 1930 le recul général en médecine des approches cliniques qui ont connu leur âge d’or au début du dix-neuvième siècle. L’arrivée des théories pastoriennes, puis l’emploi de moyens d’investigations de plus en plus spécifiques aux divers champs pathologiques expliquent ce reflux. Les sciences cliniques reçoivent des critiques à la fois techniques et philosophiques : faiblesse d’une prise d’information uniquement visuelle et sonore, inconsistance scientifique de liens entre symptômes et diagnostics, biais méthodologique systématique introduit par la seule prise en compte des cas aux symptômes les plus remarquables. La critique de Maslow de la psychologie clinique est celle de cette focalisation sur le pathologique : les généralisations à partir de cas extrêmes sont une méthodologie imprudente, et il vaut mieux s’intéresser au bien-être du plus grand nombre. La critique de Canguilhem portait sur l’inconsistance théorique de cette même approche de la psychologie clinique.

39Le renouveau de la clinique est important en pratique, comme par exemple pour la pédopsychiatrie, et ce renouveau est en cause dans la crise des systèmes de santé, car les coûts des sciences d’investigation et des sciences cliniques sont très élevés. C’est dans ce contexte qu’une science comportementale réapparaît, avec des préoccupations pragmatiques de gestion d’ensembles très composites des systèmes de soins et de prises en charge par une « architecture des choix ».

40Le programme de l’économie comportementale a été exposé dans l’ouvrage Nudge de Thaler et Sustein (2008). Le thème de l’architecture des choix est présenté à travers l’exemple d’une cantine scolaire en libre service, où suivant la disposition des plats, les choix des élèves vont être différents. Un architecte des choix bienveillant évitera par exemple les options par défaut présentant des plateaux repas au contenu par trop déséquilibré. La sécurité routière est un autre domaine où l’intervention sociale d’un architecte des choix est très habituelle. La signalisation routière trace un parcours comme option par défaut, elle tient compte des heuristiques et biais des conducteurs.

41Par exemple, l’automobiliste commet une erreur pour quelques centaines de mètres parcourus. La signalisation et l’équipement de la route et du véhicule fonctionnent de deux manières différentes par rapport à cette génération rapide d’erreurs. Il y a un écrémage des erreurs les plus graves : la signalisation va être renforcée à l’approche d’un carrefour dangereux. D’autre part, il y aura une tolérance du système à l’erreur : par exemple, les bas-côtés seront rendus carrossables pour que l’automobiliste puisse mieux gérer un écart de la chaussée principale. Les architectures de choix sont des filtres de débiaisage : la présentation des plats à la cantine utilise une heuristique (le fait de préférer certains endroits dans les vitrines de présentation des plats) pour présenter un « bon calcul » tout fait du plateau repas, de même la signalisation routière tient compte des heuristiques mis en œuvre par les automobilistes (ils lisent en moyenne un panneau sur deux).

42Une limite de l’architecture des choix est qu’elle sera inopportune dans une situation où l’apprentissage sur le tas peut se faire sans coût de façon entièrement décentralisée. Ce n’est pas le cas en sécurité routière, où l’apprentissage peut être très coûteux ; cela pourrait être le cas pour des choix alimentaires à la cantine avec des plats aux valeurs nutritionnelles et de santé équivalentes. De même si les enjeux des choix sont par exemple esthétiques, par exemple le choix de la couleur de la peinture extérieure d’un véhicule, la situation ne nécessite pas d’architecte de choix.

43Réflexivité, Gouvernance, Architecture des choix : les précisions sur les cadres théoriques apportées ces dernières années ont des conséquences directes sur la conception et l’implantation des générations les plus récentes des systèmes intelligents dans leurs différents domaines d’application.

2. Réalisations empiriques

44Nous dressons un bilan dans deux domaines d’application, les applications relatives à la santé, et les applications relatives aux transports, puis nous proposerons une typologie générale des Systèmes Intelligents. Une application comme les implants de rétine est un exemple d’application des Systèmes Intelligents pour la Santé. Porter des lunettes est un exemple très simple qui permet de voir comment s’organisent respectivement la normativité (capacité personnelle à retrouver des normes de fonctionnement), l’erreur (elle peut être d’origine biologique, par exemple une myopie), et le « filtre de débiaisage », à savoir les verres correcteurs. Les implants de rétine sont destinés aux personnes atteintes de cécité à cause d’une pathologie du globe oculaire. Ils traitent de l’information extérieure pour la redonner au nerf optique, et ils nous indiquent de façon simple les avancées technologiques par rapport à de simples lunettes de correction. Les applications relatives à la santé sont les plus directement concernées par la relation entre normativité et systèmes intelligents.

2.1. - Les applications relatives à la santé

45L’histoire des réalisations empiriques pour des applications qui touchent le domaine de la santé permet de s’apercevoir que les systèmes intelligents ont été développés aussi bien dans un cadre des sciences cliniques, des sciences d’investigation et des sciences comportementales. Les applications pour la sécurité routière sont du côté des sciences comportementales, et ce domaine extérieur aux acteurs de santé est celui qui a connu le plus d’amélioration dans ses résultats. La mise au point de systèmes intelligents pour la santé a été précoce : dès la fin des années 1970, la mise au point de systèmes d’aide au diagnostic médical a marqué une inflexion générale de la recherche en Intelligence Artificielle. En dépit d’importants bénéfices sociaux, économiques et cliniques, attendus d’un usage à grande échelle de ces systèmes intelligents pour la santé, l’impact des systèmes intelligents est aujourd’hui estimée « négligeable » dans le domaine de la santé stricto sensu en dehors des applications de sécurité routière (Precarn, 2005, p. 5).

46Les systèmes intelligents pour la santé recouvrent un ensemble de dispositifs de veille épidémiologique intelligente, de prothèse intelligente, d’amélioration de l’accès au soin, de meilleure gestion des capacités hospitalières et de meilleure gestion des coûts. Les raisons le plus souvent invoquées pour leur faible diffusion sont : le manque de normalisation des protocoles d’échanges de données, la conception générale des applications informatiques hospitalières, l’image de traitement automatique associée aux systèmes intelligents. Une conférence canadienne de consensus sur la question de l’échec de l’introduction des systèmes intelligents pour la santé a déterminé la hiérarchie suivante des obstacles rencontrés :

  1. Le plus grand obstacle perçu est un sous-investissement des organisations de soins de santé dans les systèmes intelligents de santé,

  2. Les difficultés dans l’accès aux données individuelles,

  3. La nécessité d’établir des partenariats, particulièrement entre organisations de soins et milieux innovateurs,

  4. La question des protocoles d’échange de données,

  5. Le manque d’expertise dans le domaine des systèmes intelligents pour la santé,

  6. Les questions éthiques (Precarn, 2005, p. 17-21)

47Les systèmes intelligents qui ont connu des succès de commercialisation portent sur de l’équipement de laboratoire et d’investigation chirurgicale, c’est-à-dire qu’ils s’inscrivent dans un contexte de science d’investigation. Les systèmes intelligents de santé qui sont plutôt délaissés par les acteurs de santé sont des systèmes intelligents pour des sciences cliniques et des approches comportementales.

48La figure 1 indique le fort potentiel des applications pourtant délaissées par les utilisateurs.

Figure 1 : Systèmes Intelligents délaissés dans le domaine de la Santé

Pour le public

Pour le personnel de santé

Pour l’administrateur de santé publique

Sciences cliniques

Accès rapide au diagnostic

Amélioration du diagnostic
Soins plus adaptés

Identification des grands risques de santé
Gestion des maladies chroniques

Sciences comportementale

Education de santé
Amélioration de l’accès aux soins

Gestion de la procédure d’investigation

Gestion des ressources hospitalières (accès aux lits, capacité des services)

Source : Precarn, 2005

49Le système de santé privilégie l’accroissement d’un pouvoir d’investigation, alors que les aspects les plus positifs pour l’ensemble des acteurs proviennent des applications comportementales. Les applications cliniques ont joué un rôle pionnier mais ont été remisées au second plan par la suite.

2.2. - Les applications relatives au transport

50Le système de freinage de l’avion géant Airbus A 380 nous fournit un exemple de ces applications. L’électronique embarquée du véhicule de Monsieur Tout-Le-Monde est aujourd’hui plus importante que celle des missions Apollo au moment de la conquête de la lune. Le système de freinage de l’A 380 comprend des circuits de secours et des systèmes de surveillance des 20 roues du train d’atterrissage en sus des dispositifs d’assistance directionnel et au freinage. Le transport est un domaine qui popularise une relation entre la normativité qui est laissée au pilote humain, et des systèmes intelligents dispensant une assistance indispensable pour réaliser des tâches complexes, comme freiner un avion géant. Le véhicule de Monsieur Tout-le-monde se rapproche de la frontière technologique.

51La législation européenne rend obligatoire pour les véhicules terrestres neufs le système intelligent de correction de trajectoire (ESP) au plus tard pour l’année 2012. Dans l’enquête « Poids / Puissance » qui portait sur l’ensemble des sinistres automobiles 2004 d’une grande société d’assurances, les gains en sécurité des véhicules haut de gamme ont pu être constatés bien réels, à la différence d’études portant sur des parcs antérieurs (Callens, 1994 ; Callens, Granger, Dupont, Carnis, Taillandier, 2007). La sinistralité est issue des comportements, et non de caractéristiques techniques. Les gains de sécurité effectifs par la conception entretiennent des liens délicats avec la psychologie du conducteur : par exemple, un avantage pour la sécurité est constaté à travers la conception de type monospace du véhicule, qui a une position de conduite surélevée par rapport aux autres véhicules (ibid.).

52L’évaluation de l’impact de la géolocalisation fine sur la sécurité routière indique des impacts macroéconomiques pour des dispositifs communicants, qui permettent de servir de support d’échanges (Shang, Callens, 2006). Pour les applications dépendantes directement de la mise en service de Galileo, le nouveau réseau de géolocalisation améliorant les performances du GPS, le bilan pour la sécurité du véhicule équipé indique des applications matures dans la sécurité dite « tertiaire », celle qui améliore la résilience et diminue l’intervalle de temps où l’accident a des conséquences. En sécurité primaire, pour éviter l’accident, les mises au point nécessaires et la fiabilité des réseaux font subsister un manque de maturité des systèmes développés et disponibles. En sécurité secondaire, celle qui limite les conséquences des accidents, les gains potentiels sont aujourd’hui limités, alors qu’ils ont été importants dans la période précédente. Les applications nouvelles qui vont avoir un impact dans la décennie 2010-2020 sont celles qui vont améliorer les alertes précoces et la gestion des lieux de l’accident (Shang, Callens, 2006).

2.3. - Une typologie générale des Systèmes Intelligents

53Quatre groupes d’applications sont ici proposés, ou plutôt, il s’agit de fonctionnalités que vont a voir des dispositifs particuliers, un dispositif pouvant regrouper plusieurs fonctionnalités. Cette typologie générale vaut aussi bien pour un risque ou une menace. Dans une situation de menace, il apparaît des comportements stratégiques qui essaient de contourner les dispositifs existants, et il faut en tenir compte dans la conception du système intelligent.

54Cette typologie est basée sur des principes généraux qui régissent les relations entre trois éléments, Normativité, Erreur, Système Intelligent. La normativité, comprise comme une propriété des individus vivants, est à préserver dans la réalisation et l’implantation des systèmes intelligents. Le système intelligent va par exemple prévenir les risques de diabète pour conserver la normativité individuelle. En cas de diabète déclaré, il va suppléer pour aider l’organisme dans sa tâche de retrouver une allure de fonctionnement. Du côté de l’erreur, le système intelligent prend en charge une gestion qui contribue à améliorer la tolérance et à diminuer les occurrences fatales.

55Cette combinaison Normativité, Erreur, Système Intelligent est déclinée aujourd’hui au moins dans quatre types d’applications différentes.

2.3.1. - Les applications de type « téléalarme »

56Le gain procuré par le système intelligent est celui d’une alerte précoce. Il s’agit d’améliorer par exemple la vigilance d’un télésurveilleur. Une amélioration des temps d’intervention est recherchée. Le système intelligent peut équiper soit un lieu public, soit les personnes. L’erreur surveillée en cas de survenue déclenche l’alerte et le système doit gérer la transmission d’informations permettant l’adéquation des moyens d’intervention.

57Juridiquement est sanctionnée l’absence de diligence. Le cas d’une patiente en situation de détresse vitale dans un service d’urgence laissée sans secours, dont les enregistrements de la vidéosurveillance témoigne donne un exemple du contexte d’application et de ce qui peut être légitimement attendu d’un Système Intelligent de traitement des images permettant de déclencher une alerte.

2.3.2. - Les applications de type « normativité assistée »

58Cette assistance peut être celle nécessaire à cause d’une maladie chronique, ou la réalisation d’une tâche particulière, comme freiner un avion géant. Une application comme l’ESP, le contrôle de trajectoire des véhicules terrestres, indique la relation avec la normativité. La situation accidentelle résulte d’une rigidité de comportement qui fait que, par exemple, le véhicule aborde trop rapidement la courbe d’une sortie d’autoroute. L’assistance porte ainsi sur le bon fonctionnement de la normativité.

2.3.3. - Les applications de type « détectionsanction »

59Un souci de bonne gouvernance est celui d’éviter une modulation arbitraire d’une sanction pour une infraction détectée. Le Système Intelligent doit éviter qu’un fort pouvoir de détection s’accompagne d’une absence de sanction.

2.4. Les dispositifs de « défense en profondeur »

60Ce principe de « défense en profondeur » va être mis en œuvre pour des situations sensibles. La fiabilité des freins de l’avion géant doit être certaine : une « défense en profondeur » va présider à la redondance des systèmes de surveillance et des circuits de secours. Les systèmes de freinage vont par exemple être divisés et rendus autonomes pour chacune des 20 roues, pour qu’une panne ne puisse atteindre qu’une partie la plus restreinte possible du système de freinage.

Conclusion : L’action humaine à peu près réfléchie

61La normativité singularise les expériences personnelles. L’image des sciences comportementales de l’action est celle d’une action humaine à peu près réfléchie. La promotion des Systèmes Intelligents provoque un double mouvement sur la frontière entre l’inanimé et le vivant :

  1. Une action humaine pleinement réfléchie devient de plus en plus une action dont la normativité est assistée. La survenue brusque d’un animal de grande taille devant le véhicule déclenchera un freinage d’urgence, alors que, sans assistance d’un système intelligent, il n’aurait pas été possible d’éviter le choc.

  2. Les spécificités de l’approche du vivant gagnent des champs nouveaux. « L’intelligence de l’anomalie est ce par quoi la biologie s’est distancée de la mécanique », disait Georges Canguilhem. Les sciences comportementales nouvelles se définissent à partir des anomalies dans la rationalité de l’action humaine.

Bibliographie

Bandura A, Auto-efficacité. Le sentiment d’efficacité personnelle, Bruxelles, de Boeck, 2007.

Berlin I., Four Essays on Liberty, Oxford, Oxford U. P., 1969

Broihanne M.-H., Merli M. et Roger P., Finance comportementale, Paris, Economica, 2004.

Brot J., Callens S., Petit O. & Gérardin H., Catastrophe et gouvernance. Succès et échecs dans la gestion des risques majeurs, Louvain, E.M.E. Intercommunications, Collection « Proximités Sociologie », 2008

Callens S., Un siècle d’accidents d’automobiles, Risques, n° 20, 1994, pp. 101-112.

Callens S., Démocratie et télésurveillance, Villeneuve d’Ascq, Septentrion, 2002

Callens S., L’avenir de la télésurveillance, Revue de la Gendarmerie Nationale, n° 4, 2003a, pp. 110-114

Callens S., Conventions et écologie politique, Colloque « Conventions et Institutions : Approfondissements théoriques et contributions au débat politique », Paris, La Défense, 11-12 décembre, 2003b

Callens S., Démocratie et Durabilité : Un paradoxe ?, in Barrère C. (éd.), « Économie et Démocratie », Paris, L’Harmattan, vol. 2, pp. 185-198.

Callens S., La Société de l’information : une société de surveillance ?, in Mathien M., (dir.) « La ‘‘Société de l’information’’ entre mythes et réalités », Bruxelles, Bruylant, 2005a, pp. 295-314.

Callens S., Hasard et Liberté, in Conche M. et alii, « Le Hasard », Paris, L’Harmattan, 2005b, pp. 43-59.

Callens S., Granger T., Dupont V., Carnis L. et Taillandier A.-C., Poids, Puissance, Comportement et Accidentalité, Arras, 2007, 111 p.

Canguilhem G., Le Normal et le pathologique, réédition citée, Paris : PUF, 1988 (1943)

Debru C., Georges Canguilhem, Science et non-science, Paris, Rue d’Ulm, 2004

Foucault M., Surveiller et punir. Naissance de la prison, Paris, Gallimard, 1975

Foucault M., Les anormaux, Cours au Collège de France, 1974-1975, Paris, Gallimard-Seuil, 1999

Foucault M., Histoire de la sexualité, 3 volumes, Paris, Gallimard, 1976, 1984

Foucault M., Le Gouvernement de Soi et des Autres, Cours au Collège de France, 1982-1983, Paris, Gallimard-Seuil, 2008

Kassaagi M., Moessinger M., Meyer T., Delhomme P. et Valot C., Attitudes et dynamique de la confiance dans les alertes et les assistances à la conduite, rapport GIE PSA-Renault, Nanterre, 2006.

Kopits E. et Cropper M., Traffic fatalities and Economic Growth, Accident Analysis and Prevention, vol. 37, n° 1, 2005, pp. 169-178

Lefeuvre R., Brodel S., Guingouain G., Pichot N., Somat A., Testé B., Sentiment de contrôle et acceptabilité sociale a priori des aides à la conduite, Le Travail Humain, vol. 71, n° 2, 2008, pp. 97-135

Macherey, P., Normes vitales et normes sociales dans l’Essai sur quelques problèmes concernant le normal et le pathologique, in Bng F., Braunsteun J.-F. et Roudinesco E., « Actualité de Georges Canguilhem. Le Normal et le Pathologique », 1998, pp. 71-84

PRECARN, Intelligent Systems Applications in Health Care, University of Caligary, 2005

Reynaud J.-D., Richebé N., Règles, conventions et valeurs. Plaidoyer pour la normativité ordinaire, Revue Française de Sociologie, vol. 48, n 1, 2007, pp. 3-36.

Rawls J., Théorie de la justice, Paris, Seuil, 1997

Rawls J., La justice comme équité, Paris, La Découverte, 2003

Sen A., Poverty and Famines. An essay on Entitlements and Deprivation, Oxford, Clarendon Press, 1979

Sen A., Un nouveau modèle économique, Paris, Odile Jacob, 2001

Sen A., Rationalité et Liberté en économie, Paris, Odile Jacob, 2005

Shang L. et Callens S., Galiléo et la gestion des risques : l’exemple du véhicule intelligent, in Tahiri, M. (éd.), « La maintenance et la maîtrise des risques », Rabat, Enim, 2006, pp. 111-119

Shang L. et Callens S., Frontière technologique et sécurité globale, Préludes. Les cahiers de l’association tiers-monde, n° 23, 2008, pp. 53-60

Shang L. et Callens S., Sécurité routière et système intelligent, COGIST’09 Compte rendu de la Conférence francophone sur les Technologies de l’Information, de la Communication et de la Géolocalisation dans les systèmes de transports, Rennes, ITS Bretagne, 2009a, pp. 49-56

Shang L. et Callens S., L’acceptabilité du véhicule intelligent, COGIST’09 Compte rendu de la Conférence francophone sur les Technologies de l’Information, de la Communication et de la Géolocalisation dans les systèmes de transports, Rennes, ITS Bretagne, 2009b, pp. 65-71

Shang L., Economie de l’innovation : le cas du véhicule intelligent, thèse, Université de Lille 1.

Thaler R. H. et Sustein C. R., Nudge. Improving Decisions About Health, Wealth and Happiness, New Haven and London, Yale University Press, 2008

Tubiana M., Les Chemins d’Esculape : histoire de la pensée médicale, Paris, Flammarion, 1998

Uzinidis D. et Callens S., Gouvernance. Exercices de pouvoir, Marché et Organisations, Paris, L’Harmattan, 2009

Auteurs

Professeur des Universités en sciences économiques et Directeur du Centre Etudes et Recherches Economiques Interdisciplinaires de l’Artois (EREIA, rattaché au LEM UMR 8179). Il est l’auteur de Démocratie et télésurveillance, Presses Universitaires du Septentrion, 2002. Il a notamment coordonné, avec Dimitri Uzunidis, le n° 9 de la revue Marché et Organisations, sur « Gouvernance, exercices et pouvoir » (2009).

ATER à l’Université d’Artois, est docteure en sciences économiques et de gestion, chercheuse contractuelle au CNRS, laboratoire CLERSE (UMR 8019). Ses recherches portent sur l’économie de l’innovation et des applications des nouvelles technologies. Ses dernières publications portent sur « Géolocalisation fine et transformation de l’expérience » et « Sécurité routière et développement ».

© Presses universitaires du Septentrion, 2011

Conditions d’utilisation : http://www.openedition.org/6540