Version classiqueVersion mobile
OpenEdition Books

Le texte en mouvement

 | 
Roger Laufer

Machines à comprendre

Patrick Greussay

Texte intégral

Le titre proposé de « Machines à comprendre » me paraît explicite en dehors de son contexte informatique. Je le prends dans le sens d'« albums à colorier ».

1Partons des jeux sur ordinateur : il y a encore cinq, voire trois ans, les jeux complexes tournaient sur des ordinateurs coûteux et peu accessibles. Le plus célèbre s'appelle Adventure. À la différence des jeux d'arcade, c'est un jeu textuel. On y explore un labyrinthe. Sans plan, évidemment, ce qui ne facilite pas la tâche. Un plan, comme celui que je peux montrer aujourd'hui, nous aurait bien aidé voici quelques années. Il a été dressé par un connaisseur, quelqu'un qui a beaucoup joué. L'enjeu consiste en une chasse aux trésors des plus classiques. La chasse est dangereuse. On y risque symboliquement sa vie. Aussi la première règle est-elle de faire tout pour rester vivant. L'action se déroule dans des lieux souterrains, telle est la tradition. Il faut d'abord trouver l'entrée ; une fois dedans, on rencontre des créatures parfois indifférentes, parfois menaçantes, avec lesquelles il faut négocier, par exemple, l'autorisation de franchir un pont. D'autres personnages se montrent immédiatement hostiles. Vous même êtes une des créatures de l'univers, ou plutôt du programme activé, de la « chose ».

2Le plan résulte d'un long travail d'analyse et de pratique. Au fait, pourquoi un jeu totalement textuel, assez terne en apparence ? L'essentiel se situe dans un espage ludique assez raréfié. Je crois à l'avenir des jeux informatiques de type textuel car ils donnent cours à l'imagination. La perfection de l'image vidéo lasse vite. Un texte, même si la typographie en est mauvaise, laisse nos représentations internes libres. Le jeu gagne en puissance d'évocation à ne pas submerger sous des images. Car en réalité, il n'a rien de visuel. Son fonctionnement repose sur le dialogue. Les conditions de ce dialogue, il faut les découvrir sans aide aucune. C'est à vous qu'appartient, dans l'ignorance, d'engager le dialogue. Le programme ne dit rien. Vous êtes au bord de la route. Il y a une maison. À vous de découvrir quoi faire. Effectivement, vous trouvez petit à petit quoi dire à la chose, par exemple pour entrer dans la maison, y avancer, parvenir à l'entrée des souterrains, qui sont évidemment fermés à clef. Vous trouvez la clef, puis d'autres clefs, et bientôt vous apprenez à vous passer même de clef. Les trésors n'ont rien de remarquable. Le remarquable c'est qu'on puisse arriver à jouer à la chose et à trouver des trésors.

3 Adventure a été créé par William Crowthers, sans visée commerciale ni but scientifique. Le jeu n'est qu'apparence. Crowthers travaillait dans une équipe de développement du célèbre réseau ARPA. Adventure, il l'a développé dans ses moments perdus et il a écrit le programme sur une machine peu accessible. Celui-ci a été implanté sur d'autres machines du même type (PDP10). Un groupe restreint de chercheurs en a pris connaissance. Parmi eux, une espèce jugée alors « mythique » d'informaticien, des adolescents, qui ne fréquentaient les lieux qu'en dehors des heures de bureau. Ils sont devenus adultes. Ils ont créé ces petites sociétés qui parfois réussissent. Ils ont fait profession de développer des jeux. Adventure se trouve et s'achète dans les boutiques.

4Son véritable intérêt est ailleurs, dans sa fonction métaphorique. Ce n'est pas un hasard si son inventeur était à l'époque chargé de réaliser un des plus grands réseaux de communication alors conçu. Adventure est l'aventure même d'un système informatique. Pour ceux qui n'en ont pas l'expérience directe, j'insiste sur l'incomprehensibilité intrinsèque de tout système informatique. On s'attendrait à trouver un tel système maximalement transparent d'un point de vue logiciel, mais en fait la documentation manque toujours ; surtout pour des professionnels, il est en fait minimalement transparent. Contrairement à ce qu'on serait en droit d'attendre, le programme est au moins en partie faux, sinon démodé et donc pire que faux. Ou alors le programme est correct mais sa conduite ne correspond pas à votre mode d'appréhension à vous. Il est incommunicable, ce qui est bien le pire encore. Vous redevenez débutant, au moins pendant quelques heures. Vous n'avez pas le choix. Vous vous en tirerez par des explorations successives, par la technique des essais et des erreurs. Le jeu est la métaphore du premier apprentissage de l'enfant. Quand il commence à parler, il se fait des plans d'expérience, comme disent les psychologues. On finit par savoir quoi dire à qui. Adventure a donc d'incontestables vertus pédagogiques.

5Après ce jeu textuel, le premier, le grand classique, on passe à une seconde génération. Maze rompt avec la « tradition » textuelle et introduit la culture des jeux de café. Vous y voyez des espaces géométriques schématiquement vus de l'espace. Un des personnages, le héros, vous-même, vous déplacez à l'aide d'une roue, d'une manette, d'un bouton-poussoir. Vous vous déplacez et allez lutter avec d'autres. Vous connaissez la suite. À ma connaissance, aucun jeu de café n'utilise des bulles de style BD. J'ignore pourquoi car elles sont faciles à afficher. Il y a une lacune à combler. Certains jeux parlent. Ce n'est guère intéressant : la parole se perd dans les divers bruits de fond. Il y a aussi Zork, développé par de très jeunes chercheurs qui arrêtent leurs études, interrompent leur thèse, font un jeu textuel, excessivement complexe, qui marche très bien. Ils fondent une société, transportent le jeu sur d'autres machines. Ils ne deviennent pas milliardaires, mais réussissent fort bien. Il y a enfin Haunt, qui brise avec la tradition. Le labyrinthe d'Adventure n'est pas culturellement neutre. Il met en œuvre un Moyen Age succinct, renforcé par l'imaginaire du dessinateur, une mythologie qui renvoie à Tolkien, à l'Ibsen de Peer Gynt. Le héros y paraît rusé parfois, mais toujours généreux. La plus féroce des bêtes mérite pardon dès lors qu'elle vous fait un sourire. Bref, le héros n'est jamais à l'épreuve de la bonté. Or, Laird, étudiant en doctorat, inaugure avec Haunt une série de jeux textuels dont le héros est méchant. Vous devez vous faire aventurier crapuleux pour progresser dans le jeu : mentir, voler, tuer, vendre de la drogue. Jeu anti-conformiste d'un auteur anti-conformiste en ce qu'il reste peu connu. On ne le connaît pas dans le milieu, fait rare pour quelqu'un de talent dans un petit milieu. Laird est relativement peu connu parce qu'il reste à l'écart. Les autres jeux ont été transportés à partir des programmes sur diverses machines. Haunt n'a jamais été diffusé. Implanté sur une machine (PDP20) en voie de disparition, le programme n'en a pas été rendu public. Impossible de se procurer le « source ». Le jeu était voué à disparaître avec les machines. La seule solution pour sauver cette chose était de la rendre portable. Mais l'informaticien ne peut comprendre comment fonctionne la machine virtuelle, abstraite qu'est un programme. Haunt dans le cas présent, sauf à le réinventer en utilisant son imagination. Qu'est-ce qu'un programme sans « source » ? un énorme paquet de binaires, totalement incompréhensible, capable de fonctionner sur certaines machines. J'ai décidé de sauver la chose. J'ai donc joué avec, mais pas de la façon dont on joue d'ordinaire. Je ne voulais pas gagner, ni obtenir le maximum de points — tuer des créatures hostiles pour gagner des trésors, etc. Je devais explorer au sens strict, comprendre, y compris les impasses, les fausses pistes, les boucles égarantes, dans lesquelles on tourne indéfiniment, jusqu'au moment où on arrête, parce qu'il est 6 heures du matin, qu'il faut dormir ou aller au travail. Normalement on évite les boucles ; on acquiert du flair, on les sent. Au contraire, je voulais y tomber le plus tôt possible. Il me fallait découvrir ce qu'on appelle un arbre recouvrant, c'est-à-dire avoir emprunté tous les chemins pour en posséder la forme. Pendant deux mois, j'ai systématiquement perdu mon temps, et j'ai vu environ 95 % de l'ensemble du comportement du jeu. Les 5 % restants me demeurent inaccessibles, peut-être parce que je ne suis pas Dieu, qui a le temps, ou que l'auteur s'est tout simplement trompé. Assez pour créer dans le pire des cas quelque chose comme les répliques du métro Louvre aux statues du musée, pour le cas où les vraies seraient détruites...

6Ces 95 % du jeu une fois récupérés, je reprenais ma qualité d'informaticien et je fabriquais avec deux langages de programmation le comportement de la chose. Ce n'est pas le lieu de montrer les procédures techniques. Ce qui est pertinent ici, c'est de réfléchir sur la démarche suivie, sur le passage d'un comportement ludique à une recherche exploratoire. Il est remarquable que, passé une certaine ampleur, et Haunt est une très grosse chose, un artefact n'est plus démontable, qu'il devient un phénomène naturel. Si l'intuition ne suggère pas immédiatement une solution triviale — déjà connue — il faut recourir à des protocoles expérimentaux. Cette nécessité me cause encore quelque surprise. Du moins ai-je l'énorme satisfaction d'avoir sauvé quelque chose du patrimoine de l'humanité. Grâce à mon intervention, Haunt va subsister pendant au moins quinze ans. Je regrette que pour l'instant il ne soit pas transportable sur une petite machine. La démarche évoque l'archéologie industrielle. Prenez une usine en ruines, reconstituez-la, remettez-la en marche, payez des gens pour la faire tourner devant les visiteurs. Si on tient compte de l'accélération du temps informatique, l'analogie n'est pas absurde. Pourtant ce n'est pas vraiment l'archéologie informatique qui me préoccupe, mais l'attitude épistémologique à tenir devant des artefacts. De là le concept de machine à comprendre.

7Qu'on pense aujourd'hui à un gros programme de calcul scientifique ou de gestion, par exemple pour inscrire les étudiants à l'université, à des programmes de jeux, de recherche : ces productions sont intrinsèquement incompréhensibles, parce que le sujet n'est pas entièrement maîtrisé, ou le comportement du programme si complexe qu'on doit renoncer à s'en faire une image claire. D'ailleurs rechercher la clarté est professionnellement la mauvaise approche, sauf sur des points ou des moments précis. La seule manière de comprendre vraiment est dans une énorme pratique quotidienne. Je crois probable que l'informatique évolue naturellement vers une incompréhensibilité croissante, même si le stade ultime du processus ne sera sans doute pas atteint de notre vivant. L'intelligence artificielle nous propose un but très anticipateur, sur la base d'une technologie qui n'existe pas encore. Il est normal d'y penser. Mais pourquoi y travailler ? pour comprendre ce qu'est une personne qui parle, communique, envie son prochain, le déteste, convoite une femme / un homme, désire posséder un bien ? L'idée de machines capables d'avoir des émotions n'est pas si nouvelle : le programme Aldous était supposé maîtriser des émotions.

8 Aldous était une petite expérience, à la limite du canular, si on prend au sérieux le lexique descriptif de son auteur. Au contraire, le programme était parfaitement visionnaire et singulièrement actuel si on le considère comme une tentative de recréer un milieu d'interactions d'organismes très élémentaires, sans trop chercher à qualifier ces interactions par des métaphores psychologiques. Toutefois, les seuils numériques déclencheurs de comportement d'Aldous étaient déjà relativement inimportants ; ce qui comptait vraiment, c'était la structure des interactions : nous sommes à présent au cœur du sujet.

9L'informatique est devenue qualitative, déjà. L'alibi de l'intelligence artificielle : ça servira à la science. On aura des machines qui parleront, pas comme vous et moi, comme des machines. On les comprendra et elles nous comprendront. Mais savoir ce qu'est une grammaire du français, par exemple, je doute que l'objectif ait un sens. Peut-être certains principes neuro-anatomiques nous interdiront de jamais comprendre les processus du vivant. Cette perspective à la fois pessimiste et optimiste me vient de ce que je vis dans un état de semi-compréhension, face à des objets trop gros, trop complexes, mal faits, et moi trop limité en temps. La position de l'informaticien constructeur absolu va disparaître, sauf pour des personnes en très petit nombre, amenées à démarrer la création de logiciels, dont le développement sera poursuivi par de nombreux autres, comme Debussy après neuf ans a repris Pelléas ; il y aura transmission de faisceaux, d'héritage, programmation au long cours. Aucun outil ne permet d'envisager comment cela se fera. Nous allons vers l'opacité croissante des textes informatiques. Ce qui appelle deux attitudes. Une réaction cynique du genre « qui tue par l'épée, périt par l'épée ». Juste retour des choses. L'informatique s'est longtemps donnée pour inaccessible aux profanes. Les logiciens se sont rendus compte que des observations mathématiques pouvaient s'appliquer à des programmes. L'industrie informatique en rendant les machines de plus en plus disponibles et indispensables, l'a mise à la portée sinon de tous, du moins de plusieurs. L'autre attitude consiste à prendre une nouvelle direction. Le point de vue que je veux exposer, je ne peux en attester la vérité. J'émets une opinion personnelle. Voici pourquoi.

10Peu d'objets technologiques sont démontables par les temps qui courent. Une montre à quartz, le manche d'un tourne-vis permet de la « démonter », mais pas de la remonter. Les générations précédentes pouvaient démonter et remonter les mécanismes. Pour les informaticiens eux-mêmes, l'objet démontable par excellence était le programme. Il a cessé de l'être. Je ne pouvais pas plus démonter Haunt que je ne peux le faire pour une puce informatique. La distance entre les « fils » approche de celle de la longueur d'onde de la lumière blanche. On sait faire ; on ne sait pas défaire. La plus haute technologie ne permet pas d'écarter les fils. Toute modification résulte en une destruction.

11La machine à comprendre prétend donc combler ce manque. Elle est destinée à être comprise dès sa conception. Le prototype ressemblera à un jeu, mais la ressemblance est trompeuse. La plupart des machines sont destinées à servir, pas à être comprises. La machine à comprendre est un objet épistémologique, à étudier. Des contraintes de dimension et de temps interdisent de comprendre aujourd'hui des programmes importants qui tournent sur de grosses machines.

12La faisabilité passe obligatoirement par la « rétraction ». Rétraction du temps : un programmeur, même de talent, court les plus grands risques, à dépasser trois mois de développement, de ne plus maîtriser son chantier. Rétraction spatiale : les petites machines ont ce charme, que, faute de place suffisante pour développer des monstres, les logiciels construits dessus gardent l'échelle de l'appréhension humaine. Et le développement est encore le cas le plus favorable. Mais notre sujet d'intérêt est ici l'hypothèse d'une capacité considérable d'apprentissage, à propos d'un programme. Le but n'est pas de contribuer à sa mise en marche, mais de le comprendre plan en main, sous condition, bien sûr, que le plan puisse tenir dans une main !

13Je travaille pour ma part au projet « tobor » (le mot « robot » à l'envers). C'est mon second prototype, après la reconstitution de « Haunt ».

14Que fait-on avec un robot ? On le programme. Comment apprend-on à programmer ? Personne ne sait vraiment. Observez des gens qui apprennent ; vous ne comprenez pas ce qui se passe. Tobor se présente comme un jeu, avec des lieux, es emplacements, des enjeux. Dans le jeu, il y a aussi des robots, indispensables par exemple pour saisir des objets brûlants ou radioactifs, mais qu'on ne sait pas utiliser. On dispose au mieux d'un manuel — incomplet, faux ou pas à jour — ou d'un programme déjà écrit par quelqu'un, qui traîne là, et qu'il faut pouvoir interpréter. Il existe ainsi dans tobor une vingtaine de salles contenant un ou plusieurs types de robots, chacun ayant son langage de programmation. Il faut arriver à deviner quoi faire et dans quel langage, en inventant la structure syntaxique et sémantique de ce langage. Des programmes-robots plus simples existent. On les appelle des « vers », car se sont de petits animaux qui vivent dans leur terre naturelle, les machines. Ces vers sont de simples programmes, à ceci près qu'ils sont doués de l'instinct minimal de survie. Leur développement est lié en France à l'extrême diffusion du réseau TRANSPAC. Les informaticiens de recherche sont reliés continûment les uns aux autres, à partir de leur laboratoire. Tout en poursuivant mes travaux, je reçois des messages, des injonctions, des réponses à mes demandes. Ce système relationnel peut s'élargir grâce à un embranchement sur les réseaux américains. Je mène une vie en apparence monacale, en fait ouverte en permanence sur un certain monde extérieur. Le réseau, que je le regarde ou pas, véhicule des textes entiers ou des tronçons de programme. Il faut, bien sûr, des programmes pour assurer le transport des messages et cela de façon ininterrompue. Ces programmes sont, si l'on veut, des « facteurs » perpétuels et infatigables : préposés du genre de celui de Jacques Tati dans Jour de Fête. À la différence de l'employé des postes, qui compte ses points de retraite le soir après le boulot, le programme ne cesse de travailler. Il ne souhaite pas se reposer. Au contraire, il a horreur d'être désactivé et prendra des mesures pour éviter ce malheur. On appelle « ver » un programme qui n'accepte pas d'être désactive. Ceci dit, sur une machine isolée, il n'est quand même pas difficile de contrecarrer les efforts du ver. Mais si plusieurs machines sont reliées en réseau, le ver peut aller sur une autre machine se mettre à l'abri. Ce phénomène est déjà connu depuis quatre ou cinq ans sur réseau local. Sur TRANSPAC, la fuite est plus difficile à réaliser, mais on sait faire. Le ver trouve son salut dans la fuite. Il a aussi une deuxième façon de survivre à une tentative de destruction : il se dédouble. Si lui mourait, sa copie, dont on ignore tout, échapperait. Effectivement le programme se fait prendre. Tout paraît joué. Mais voici que la copie se manifeste et la chasse doit recommencer. Supposons cependant que, sur une seule et même machine, vous manquiez le ver original. L'original et sa copie continuent à se multiplier. Bientôt, la grosse machine va être remplie par la prolifération de copies dont Tunique objectif est fa reproduction existentielle de soi. Sur le réseau Arpanet, on a connu l'équivalent des vers. Ils ne sont pas nés par génération spontanée. Au début, des chercheurs sérieux les ont créés pour comprendre le fonctionnement de l'informatique distribuée dans un réseau local. Imaginez la saturation d'un réseau à l'échelle des États-Unis ! La catastrophe s'est produite. Comment un homme peut-il lutter devant son écran avec ses doigts si lents sur le clavier contre des choses qui ont les réflexes rapides d'un programme, un comportement à la milli-seconde ? L'homme doit créer des programmes existentiellement définis comme prédateurs, dont l'instinct est de trouver et de tuer les programmes de l'espèce ver. Dans une même machine, on met donc un ou plusieurs prédateurs pour lutter contre les proies qui y sont déjà. Ce que nous faisons avec les chats, quand les souris visitent le garde-manger.

15Cette fois, l'incompréhensibilité des programmes informatiques atteint la taille monumentale. Ça ne fait pas sérieux. Vous avez vu le film Wargame, qui montrait un petit garçon manquant provoquer une guerre mondiale par son intervention inopinée sur un réseau. L'événement n'a en réalité aucune chance sérieuse de se produire, parce que les réseaux militaires ne sont pas physiquement accessibles aux personnes non autorisées. Par contre, les réseaux de recherche passent par le réseau commuté des P et T, plus simplement le téléphone ordinaire. Et précisément le piratage du réseau sur lequel je travaille s'est produit Tan dernier.

16Nous ne sommes plus dans la fiction. J'étais bonnement installé chez moi à Paris sur une machine de Bordeaux. Peu importe le lieu physique que j'occupe. À un moment donné, je constate un comportement du système encore plus bizarre que d'habitude. Je réussis à repérer le lieu logique de la perturbation. Celle-ci paraissait incompatible avec ce que je pouvais savoir de la personnalité de leurs deux auteurs apparents. Je suis surpris qu'un brillant mathématicien, agrégé et normalien mais informaticien débutant, se comporte en traqueur système virtuose, et je lui envoie un courrier pour lui rappeler que ses manipulations sont inutiles, puisque la machine est de toute façon ouverte. L'autre, une mère de famille, n'avait guère de chance de travailler à 4 heures du matin sur le système.

17J'attends et je reçois la réponse de jeunes gens qui s'étaient connectés sur nos machines sous des identités d'emprunt. Les voilà techniquement maîtres de la machine et capables de tout détruire s'ils le veulent. Que faire d'eux ? Ces intrus-là ne sont pas des « vers », c'est-à-dire des programmes, mais des êtres humains, dont j'ignore qui ils sont et où ils sont, des individus anonymes et non localisables géographiquement.

18Premier problème : comment les attraper ? J'y parviens. Je réussis à les prendre par la peau du cou, logiquement s'entend. Et je découvre avec plaisir qu'ils veulent bien sortir de l'anonymat. Qui sont-ils ? De petits lycéens, pas nécessairement géniaux, d'origine sociale assez élevée pour disposer financièrement à titre personnel de l'équipement nécessaire, qui veulent se distinguer. Ils ne sont sans doute très bons ni en sport, ni en classe. Mais ils se montrent gentils et fiables.

19Second problème : comment des collègues vont-ils prendre la menace que fait peser sur leur travail la mainmise de lycéens inconnus de 13-14 ans ?

20Troisième problème : la machine appartient au CNRS. Comment expliquer aux autorités que les chercheurs s'étaient fait « percer » et n'avaient aucun moyen de se débarrasser des intrus ?

21Je craignais que les jeunes gens ne soient des pirates destructeurs. Gardons la tête froide. Je leur propose de réaliser de petits travaux à leur portée : sans succès, du moins jusqu'à présent. Je les invite par ailleurs à détecter les nouveaux intrus. Or, cette tâche, ils l'accomplissent aussitôt avec conscience et deviennent les parfaits gardiens du système, apportant ainsi l'antidote écologique à la menace d'une invasion incontrôlée. Sur certaines machines, ils ont été vomis : comportement inefficace et combien dangereux. Ailleurs, on a avoué l'extrême embarras dans lequel ils placent les chercheurs vis-à-vis de leur administration qui ne comprendrait pas la situation, et on s'en tire en offrant quelques cadeaux... un peu de « doc » sur un autre système par exemple, allez voir ailleurs. Nous avons connu des guerres de gangs (de deux ou trois personnes...), qui s'accusaient de maladresses comme autant de crimes, et qui cherchaient à se supprimer les uns les autres. Heureusement, aucun d'eux n'a poussé la perversité jusqu'à tout détruire pour accabler moralement leurs adversaires. Que faire ? On ne peut techniquement les évincer. Aller voir leurs parents ? Les jeunes resteraient maîtres des machines, et gare aux représailles !

22Peut-être connaîtrons-nous, d'ici trois à quatre ans, le vandalisme anonyme qui existe déjà aux États-Unis. Ne nous affolons pas. Nous avons créé une tradition de tolérance, connue dans les petits milieux concernés, et qui nous en préservera, s'il plaît à Dieu. Tel n'est pas le cas sur une certaine machine de messagerie que j'évite de nommer, qui compte de trois à quatre mille utilisateurs, surtout en correspondance commerciale, dont l'équipe système n'a pas réussi à se débarrasser de ses intrus, en partie à cause de la taille du système.

23L'informatique n'est pas transparente. Ce qui me ramène aux machines à comprendre.

24Que faire des textes informatiques ? les exécuter, les étudier comme les physiciens ou les naturalistes ? Ou retourner à la situation prométhéenne des débuts en créant ce micro-univers d'auto-apprentissage existentiel dont les informaticiens ont aujourd'hui le plus besoin ?

25En ce sens, l'intelligence artificielle est devenue la forme contemporaine de l'informatique : simulation des machines et des réseaux pour savoir vivre avec eux.

Table des illustrations

URL http://books.openedition.org/puv/docannexe/image/1281/img-1.jpg
Fichier image/jpeg, 170k

© Presses universitaires de Vincennes, 1987

Conditions d’utilisation : http://www.openedition.org/6540

Cette publication numérique est issue d’un traitement automatique par reconnaissance optique de caractères.