Version classiqueVersion mobile
OpenEdition Books

Le savant fou

 | 
Hélène Machinal

Sixième partie. Résurgence de l'ancrage historique

Norbert Wiener dans la presse américaine : une figure du bon savant fou1

Pierre Cassou-Nogués

Texte intégral

  • 1 Cet article diffère substantiellement de mon exposé au colloque organisé par Hélène Machinal et do (...)

1Le but de cet article est d’étudier le portrait qui est donné de Wiener dans la presse durant la période qui commence avec ses premiers travaux sur la cybernétique, en particulier la publication de Cybernetics, en 1948, jusqu’à sa mort en 1964. Nous nous intéresserons en particulier à une série d’articles dans Time Magazine et le New York Times. Wiener est y représenté sous la figure d’un savant fou, d’un bon savant fou plus exactement, proche de ceux que l’on rencontre dans la littérature à partir de Frankenstein. Nous n’entendons pas étudier l’œuvre elle-même de Wiener ou montrer que, par ses textes comme par sa personnalité, Wiener serait un savant fou, une version réelle pour ainsi dire de cette image littéraire. Nous voulons seulement analyser la représentation que donnent ces articles de presse du savant américain et, au contraire, mettre en évidence l’écart qui sépare ses thèses de l’écho que prend son travail dans cette représentation. Notre hypothèse est que les travaux de Wiener et son discours critique sur la politique et le capitalisme américains sont d’emblée perçus au prisme d’une image de savant fou, qui est déjà constituée à partir de la littérature. Les travaux et le personnage même de Wiener sont ainsi interprétés en référence à une image qui leur est extérieure et conduit à une inversion de leur sens. Nous nous interrogerons, en discutant de ces articles, sur la portée de la figure du savant fou, qui ici nous semble neutraliser pour ainsi dire le discours de Wiener.

2Norbert Wiener est né en 1894. Il est le fils aîné de Leo Wiener, qui, après avoir émigré de Russie, devient professeur de langues slaves à l’université de Harvard, traducteur en anglais des œuvres complètes de Tolstoï, l’auteur également d’une histoire de la littérature yiddish. Leo Wiener a par ailleurs des idées sur l’éducation, qu’il met en pratique sur ses enfants. Et, de fait, Norbert Wiener est un enfant prodige. Il entre à l’université à 11 ans et obtient son doctorat de Harvard en logique mathématique à 18. Ses principaux travaux dans l’entre-deux-guerres concernent le mouvement brownien et différents problèmes d’analyse liés aux mathématiques appliquées. Il obtient des résultats tout à fait importants. Il s’éloigne pourtant des mathématiques à partir des années quarante. Il introduit, suite à ses recherches pour l’armée américaine dans le cadre de la défense antiaérienne, le concept de rétroaction (feed-back) qu’il applique au développement d’automates et à l’étude du corps humain. La rétroaction est la capacité à corriger un certain processus au vu de ses résultats. Par exemple, avançant la main pour saisir sur la table une tasse, que je n’ai vue que du coin de l’œil, je m’aperçois que ma main, dans ce premier geste, s’est posée sur la table à droite de la tasse, je la ramène donc sur la gauche. Il se peut que dans ce deuxième geste, si je pense à autre chose, je déplace ma main trop à gauche, ce qui m’obligera à la ramener de nouveau sur la droite, produisant ainsi une sorte d’oscillation. Dans le cas de rétroaction négative, l’amplitude de ses oscillations diminuera et ma main s’approchera peu à peu de la tasse. Dans le cas de rétroaction positive, l’amplitude de ces oscillations augmentera et je n’arriverai jamais à prendre la tasse. L’idée de Wiener est que de tels mécanismes de rétroaction peuvent être implémentés sur des machines et qu’un même concept permet de décrire certains mécanismes que l’on peut alors dire téléologiques ainsi que différents aspects du comportement humain, des fonctions physiologiques aussi bien que des phénomènes psychologiques.

3À la fin des années quarante, Wiener participe aux conférences Macy au côté en particulier de John von Neumann. Celui-ci travaille alors activement à la construction des premiers ordinateurs. Les conférences Macy entendent mettre en évidence, sur différents plans, une analogie entre l’homme et la machine, de façon à pouvoir décrire certains aspects du comportement humain en s’inspirant de mécanismes utilisés dans les ordinateurs ou, à l’inverse, élaborer des machines plus puissantes en s’inspirant des fonctions et du comportement humains. Dans son ouvrage de 1948, Wiener développe ces théories sur l’analogie homme-machine dans le cadre d’une nouvelle discipline à laquelle il donne son nom, la « cybernétique ». Durant les mêmes années, il tient également un discours politique, contre l’arme atomique d’abord puis contre le maccarthysme. Si Wiener a travaillé pour l’armée américaine durant les deux guerres mondiales, l’usage de la bombe atomique à Hiroshima puis à Nagasaki, modifie entièrement son attitude, au point qu’il envisage dans l’immédiat après-guerre de cesser toute activité scientifique. Il publie une lettre ouverte dans laquelle il expose et explique son refus de transmettre à l’armée américaine des résultats mathématiques susceptibles de servir au guidage des missiles aériens (« A Scientist Rebels », 1947 ; « A Rebelious Scientist After Two Years », 1948). Ou encore il milite pour le désarmement atomique (« Too Damn Close », 1950). Ces positions sont sans doute à l’origine de la rupture avec von Neumann, qui reste associé jusque dans les années cinquante aux laboratoires de Los Alamos, et de l’éclatement du groupe cybernétique. Dans les années cinquante, Wiener publie une série de livres destinés à un public plus large, notamment The Human Use of Human Beings, 1950, God and Golem Inc., 1964, et une autobiographie en deux tomes, Ex-prodigy, 1953, et I am a mathematician, 1956. Il écrit également quelques nouvelles de science-fiction, dont la plupart restent inédites, et un roman, The Tempter, 1959. Il meurt en 1964.

4C’est durant la période cybernétique que le personnage même et les travaux de Wiener rencontrent un écho dans la presse. On trouve par exemple dans le New York Times plus de deux cents mentions sur la période 1945-1965. Les travaux de Wiener sur la cybernétique sont d’emblée perçus dans le contexte de la sciencefiction. Ils ne sont pas perçus comme de la science-fiction mais comme annonçant dans le réel des thèmes de science-fiction. Et ils sont donc lus, ou présentés, en référence à la science-fiction. Ce faisant, Wiener devient lui-même un personnage, un savant fou qui semble lui-même sorti de la littérature. Il existe incontestablement une proximité de la cybernétique de Wiener avec la science-fiction. Wiener s’intéresse à la science-fiction, dans une certaine mesure. Il développe dans ses travaux des idées qui relèvent de la science-fiction et inspirent la science-fiction qui lui est contemporaine. De surcroît, Wiener se prête parfois à – et semble donc accepter – cette représentation en savant fou. Il n’empêche que ce portrait qui est fait de lui et la lecture qui en suit de ses travaux semblent dépendre d’une figure du savant fou antérieure et extérieure aux travaux mêmes de Wiener et qui aboutit à un malentendu sur leur sens. C’est ce que nous voudrions montrer.

5Cette figure du savant fou, avec la portée idéologique qu’elle prend ici, n’est pas exclusivement littéraire. Et les savants fous littéraires ne se ressemblent pas forcément tous. Il nous semble néanmoins que l’on peut placer le Wiener de la presse dans une lignée qui passerait par Victor Frankenstein le roman de M. Shelley, le couple Rodolphe de Gortz et Orfanik dans Le Château des Carpathes de Verne ou, au cinéma, par le savant, Rotwang, de Metropolis de F. Lang. La folie de ces savants, d’abord marquée dans leur apparence extérieure ou leur abord immédiat, consiste ensuite à donner vie au non vivant pour former une créature artificielle possédant une ressemblance monstrueuse avec l’homme et, de différentes façons, se retournant contre celui-ci.

6Cette image, si elle doit pouvoir s’appliquer à différents personnages, des personnages fictifs ou à demi fictifs comme l’est le Wiener de la presse, doit rester vague. Mais prenons comme exemple la première vision qu’a Mary Shelley de son personnage, dans « l’introduction » ajoutée au roman en 1831 :

  • 2 Shelley M., Frankenstein, Oxford, Oxford University Press, coll. « Oxford World’s Classics », 1998 (...)

«I saw the pale student of unhallowed arts kneeling beside the thing he had put together. I saw the hideous phantasm of a man stretched out, and then, on the working of some powerful engine, show signs of life, and stir with uneasy, half vital motion. Frightful must it be; for supremely frightful would be the effect of any human endeavour to mock the stupendous mechanism of the Creator of the world. His success would terrify the artist. […] He sleeps; but he is awakened; he opens his eyes ; behold the horrid thing stands at his bedside, opening his curtains, and looking on him with yellow, watery, but speculative eyes2»

7La folie, dans son apparence extérieure, est seulement marquée par la pâleur et l’attitude de Frankenstein agenouillé devant sa créature. On trouverait, cependant, par exemple dans Le château des Carpathes, des descriptions plus explicites du savant fou. Ce sera le premier thème que nous aborderons dans les articles sur Wiener : l’apparence extérieure ou l’abord immédiat du savant. Nous voudrions ensuite montrer comment sont repris les différents points qu’illustre la « vision » de M. Shelley : le savant comme concepteur ou « père » de machines qui semblent prendre vie, de machines, par leur ressemblance même avec l’humain, sont terrifiantes, hideuses et, finalement, menacent notre humanité.

Le personnage

8On rencontre déjà avant 1945, et alors que Wiener est uniquement mathématicien, des articles mentionnant le savant. Il s’agit surtout de sa précocité et du devenir des enfants prodiges. Sa promotion à Harvard en comptait plusieurs. Wiener, adulte, est décrit comme un savant « bouillonnant » et « distrait » :

  • 3 Time Magazine, 29 septembre 1938.

«When chubby little Norbert Wiener was 14, he graduated from Tufts College. Reporters hailed him, and parents of ordinary children predicted that he would be a flash in the pan. When Norbert was 18, he emerged from Harvard with a PhD and an academic halo which grew brighter as he studied at Göttingen, Cambridge, Columbia. Today Norbert Wiener, at the age of 43, is a member of the National Academy of Sciences, a professor at Massachusetts Institute of Technology, ranks as one of the topflight mathematicians in the US. A familiar figure on the Tech campus, with his up-tilted head and rolling gait, Professor Wiener is as famous for his ebullience and absentmindedness as he is for his erudition in mathematics, philosophy, theoretical physics, politics and linguistics. Students have heard him cry when making an intellectual coup: “Hot stuff, boys! Hot stuff!”3 »

9C’est à partir de 1948 et du livre Cybernetics que les articles concernant Wiener se multiplient. On y insiste à nouveau sur l’étendue et le caractère apparemment éclectique des domaines auxquels s’intéresse le savant. Au moment de la cybernétique, cependant, cet éclectisme ne relève plus seulement d’un goût personnel : il est au fondement de cette nouvelle discipline qu’entend être la cybernétique et qui vise à étudier la pensée, le corps et les interactions humaines sur le modèle de leurs analogues mécaniques ou vise à décrire l’homme et la machine par un même système de concepts. Il est clair aussi que le personnage de Wiener a pris une dimension supplémentaire : « un champion de Quiz devenu un Père Noël ».

  • 4 Time Magazine, 27 décembre 1948.

«The professor [Wiener] is anything but specialized. Short, round, bearded and kindly, he looks like a Quiz Kid grown into a Santa Claus–and that’s about what he is. He was graduated from Tufts at 14 and got his Ph. D. from Harvard at 18. He speaks many languages; he loves detective stories and belongs to Boston’s Sherlock Holmes club, “The Speckled Band.” A mathematician by trade, he knows almost as much about physiology as he does about mathematics. It was his interest in the human nervous system that led him into the most extraordinary of his researches4

  • 5 « Notes on a novel to be entitled Under the stone », Archives Wiener, boîte 33A, dossier 867.

10Le « champion de Quiz » marque sans doute une référence à l’enfant prodige qu’a été Wiener. Certaines émissions radiophoniques faisaient en effet intervenir dans ces jeux des enfants, ou de jeunes adolescents, à la mémoire phénoménale, capables de répondre aux questions les plus farfelues. Il ne nous semble pas que Wiener commente ce portrait qui est donné de lui. Mais une nouvelle policière, inédite, de Wiener met en scène un tel champion de Quiz. Haym Moskowitz, qui, à quinze ans, est exploité par une agence de publicité et une marque de céréales, Power Crunch Cereal, dont le slogan est « Listen to it crunch », finit par se suicider en sautant du quarantième étage de la tour où sont enregistrés ces quiz5. Dans le premier tome de son autobiographie, Ex-prodigy, qui retrace sa propre enfance, Wiener laisse également paraître un sentiment ambigu concernant la précocité intellectuelle et les motivations des parents – dans le cas de Wiener son père – qui encouragent celle-ci, malgré les difficultés et l’isolement qu’elle entraîne inévitablement. L’ouvrage devait du reste d’abord s’intituler The Bent Twig – la « branche tordue » étant l’enfant Norbert.

  • 6 Ancker F., 9 septembre 1949: « Thank you for your compliments, but there is one slight difference (...)

11La référence au « Père Noël » nous semble intéressante. Manifestement, le portrait qui est fait de Wiener repose ici entièrement sur une image, prise à l’extérieur des textes de Wiener ou de la représentation qu’il peut donner de lui-même dans son autobiographie (postérieure à cet article), ses entretiens ou sa correspondance – dans une lettre à sa cousine, Wiener discute avec sans doute ironie et peut-être un peu de fatuité d’un rapprochement avec Leonard de Vinci6. À voir les photographies de Wiener – qui porte un bouc et non la barbe, qui pose en costume sombre devant de petites machines ou un tableau noir –, on peut même se demander en quoi le savant ressemblerait au Père Noël. Quoi qu’il en soit, cette comparaison a un effet clair. Au même moment, Wiener refuse de collaborer avec l’armée américaine. Il milite pour le désarmement atomique. Il critique avec force la politique extérieure des États-Unis – qu’il compare à ce principe, dans la bouche de l’alcoolique, qu’un autre verre ne peut pas faire de mal. Évidemment, ces propos prennent une autre portée dans la bouche d’un « inoffensif Père Noël » qu’ils ne l’auraient dans celle d’un nouveau Léonard de Vinci.

  • 7 Segal J., Le Zéro et le Un, Paris, Syllepse, 2003, p. 325.
  • 8 Wiener R., Human Use of Human beings, New York, Avon, 1967. Wiener commente dans une lettre à R. W (...)

12Dans la même perspective, l’extrait suivant, tiré d’un article publié à la mort de Wiener, ajoute une curieuse remarque sur la réception de la cybernétique en URSS. On le sait, la cybernétique après avoir été caractérisée comme une « pseudo-science réactionnaire » a donné leur titre à de nombreux travaux et institutions en URSS7. Il faut ajouter que, sans jamais se déclarer communiste, ou marxiste, Wiener a gardé, durant la période de maccarthysme, un jugement tout à fait mesuré sur les textes de Marx8. Mais, en évoquant en miroir l’image de Wiener chez les « russes », le journaliste ramène le savant dans le bon camp :

  • 9 Time Magazine, 27 mars 1964.

«With his short, rotund figure and his spade beard, Professor Norbert Wiener of MIT looked like a harmless Santa Claus. Instead he bristled with versatility. He was a top-rank mathematician who fathered a new branch of science, an enthusiastic mountain climber, and a facile writer of both fiction and philosophy. He could talk intelligently on almost any subject. […] Cybernetics made Wiener famous. Even the Russians, who called him a “fat, cigar-smoking capitalist” adopted his ideas9

13Retenons de ces articles le portrait qui est fait de Wiener en un « distrait » et « inoffensif » « Père Noël ». On a bien affaire ici à un personnage, dont la singularité se marque dans l’apparence extérieure. À la différence des savants fous tels Orfanik et Rotwang, dont l’apparence ou l’abord immédiat serait inquiétant, Wiener semble au contraire bienveillant. Il n’empêche que cette bienveillance singularise d’emblée un personnage et marque sans doute une sorte de folie. Il faut être un peu fou pour être un Père Noël à l’heure de la guerre froide.

  • 10 Par exemple, Wiener R., I Am a Mathematician, Cambridge, MIT Press, 1956, p. 227: « I have never f (...)
  • 11 Masani P., Norbert Wiener, Basel, Birkhaüser, 1990, p. 18 et suiv.
  • 12 Ulam S., Adventures of a Mathematician, New York, Scribner, 1976, p. 96.

14Ajoutons sans doute que la distraction de Wiener était en son temps célèbre. Wiener lui-même avoue un certain manque de sens pratique10. Au début de sa biographie, P. Masani rapporte sans toujours mentionner ses sources plusieurs anecdotes11. Ainsi, Wiener, croisant l’un de ses collègues à l’heure du déjeuner, parlant longuement avec lui, finit par lui demander dans quel sens lui, Wiener, marchait au moment où ils se sont rencontrés, vers son bureau ou la cafeteria : il ne se souvient plus s’il a déjà mangé. S. Ulam, également, décrivant Wiener et l’opposant à von Neumann – dont Ulam est très proche – insiste sur l’excentricité du mathématicien du MIT : « Absentminded and otherworldly in appearance […] Wiener seemed childish in appearance […] Anecdotes about Wiener abound; every mathematician who knew him has his own collection […] Wiener was a true eccentric12. » Cela dit, Wiener excentrique, Wiener distrait ou étourdit – dans son apparence extérieure du moins – n’est pas encore le bon Père Noël que présente le Time Magazine. Pourquoi alors cette représentation et cette douce folie attribuée au savant ? Elle peut avoir en partie pour fonction de neutraliser un discours critique vis à vis de la politique américaine. Mais elle tient aussi aux thèmes mêmes qu’aborde Wiener dans ses travaux sur la cybernétique.

« Le père de l’automation »

  • 13 The New York Times, 19 mars 1964.

15Nous voudrions montrer dans cette section comment on retrouve dans ces articles de presse l’image du savant créateur de machines, de machines effrayantes en cela que tout en restant machines elles prennent une ressemblance à l’humain. L’expression « père de l’automation » est reprise au titre d’un article dans le New York Times publié à la mort de Wiener : « Dr Norbert Wiener Dead at 69 ; Known as Father of Automation13. »

16L’attribution de la paternité de l’automation à Wiener est tout à fait ambiguë. À la différence de von Neumann, Wiener ne contribue pas à la conception des premiers ordinateurs. À la différence de Turing ou, à l’intérieur du groupe cybernétique, de McCulloch et Pitts, il n’est pas non plus à l’origine d’une théorie formelle des automates. Il est sans doute au MIT associé à la conception de différentes sortes de machines électroniques : une « souris », dont le premier modèle est dû à C. Shannon, capable de sortir par elle-même d’un labyrinthe ; une autre « souris » ou, plus exactement, un « papillon » sur roulettes dont il sera question plus bas et qui est attiré par la lumière ; un appareil, de la taille d’une grosse valise, destiné à traduire les sons sous forme tactile de façon à permettre à un sourd de suivre une conversation. Ces réalisations techniques, auxquelles Wiener ne participe que dans ce qu’elles ont de théorique, restent, par rapport aux ordinateurs que développe von Neumann, anecdotiques. Le travail de Wiener, dans le cadre de la cybernétique, a plutôt consisté à développer, à systématiser dans une réflexion philosophique et, finalement, à vulgariser une série d’interrogations et d’hypothèses liées à des progrès techniques et dont certaines font en particulier l’objet des discussions qui ont lieu lors des conférences Macy. Il introduit le terme de cybernétique (dans son sens actuel) et avec ce terme l’idée que les machines électroniques dans leur rapport à l’humain peuvent faire l’objet d’une théorie – en un sens non formel – propre. S’il faut lui attribuer une paternité, ce serait plutôt celle du concept de cybernétique ou, si l’on veut, de l’idée d’automation en tant qu’objet philosophique.

17Notre but n’est pas de corriger ces articles de presse mais de montrer comment – ou, du moins, que – ils dessinent une figure de « savant fou », comparable à celle de Frankenstein et qui ne colle pas forcément aux travaux de Wiener. Notre hypothèse est que cette figure est déjà constituée et informe la réception des travaux de Wiener. On attend, pour ainsi dire, un Frankenstein, et ce sera Wiener. Wiener est donc le créateur, le « père » de ces nouvelles machines, qui nous ressemblent et risquent de nous détruire.

18Il faut dire que Wiener aime lui-même à mettre en scène un rapport, une proximité à la machine. Ainsi, dans un script pour un reportage télévisé sur le MIT, The Search, le journaliste rencontre « par hasard » le savant jouant avec ses souris électroniques. Celui-ci présente également son « papillon » dans le prologue qu’il donne sur scène pour une représentation de la pièce de Čapek R. U. R. :

  • 14 Archives Wiener, boîte 29B, dossier 657. Le journal des étudiants de Harvard, Harvard Crimson, don (...)

«Now I would like to show you one of these machines: “Here, Palomilla” [la machine entre sur scène, guidée par le rayon d’une lampe électrique que tient un assistant]. Notice that there is no particular facial resemblance of this machine to a living organism. Its resemblance is in its soul, and what it does and how it behaves. Similarly, the automata of industry do not portray any deceptive resemblance to human beings in their appearance. They do not wear masks, and work by wheels and shafts, rather than by arms and legs14

  • 15 The Human Use of Human beings, op. cit., p. 86.
  • 16 Wiener R., Cybernetics, Paris, Hermann, 1948, chapter VII. Wiener s’attaque aussi à certaines form (...)

19L’idée d’une possible ressemblance entre le mécanique et l’humain est au centre de la cybernétique. Il s’agit bien en effet de définir des concepts, comme celui de rétroaction, susceptibles de s’appliquer à la machine comme à l’homme. Par définition, la cybernétique entend montrer que certains comportements que l’on pourrait penser spécifiquement humains peuvent en réalité être reproduits par des machines. C’est ainsi que Wiener soutient que les machines sont susceptibles d’apprendre. C’est-à-dire munies d’un système de rétroaction, les machines peuvent non seulement corriger leurs « gestes » mais également prendre en compte leurs erreurs passées pour établir de meilleures stratégies. « Cet ajustement […] est essentiellement un acte d’apprentissage15. » Un autre exemple, anecdotique dans les textes de Wiener mais qui reçoit un large écho dans la presse, est celui de la folie. Avec la collaboration de G. Bateson, Wiener tente de donner un analogue mécanique à différents troubles psychiques. Une obsession, une idée fixe – explique Wiener dès la première édition de Cybernetics – ressemble à une boucle dans un programme d’ordinateur : un certain processus, une certaine suite de pensées qui reconduit à lui-même16. Plus largement, Wiener est convaincu que la cybernétique peut rencontrer et, en fait, éclairer la psychologie et, plus particulièrement, la psychanalyse freudienne. La difficulté, aux yeux de Wiener, est principalement que les concepts de la psychanalyse restent flous. Mais, précisément, la cybernétique en leur cherchant des analogues mécaniques pourra permettre de les préciser. Ainsi, Wiener écrit à propos d’un travail de G. Bateson :

  • 17 Frank A. L. K, 26 octobre 1951, archives Wiener, boîte 9, dossier 142.

«I think that [“my cybernetic point of view”] will eventually be of very considerable use in the study of psycho-analysis. […] In psychology however, the problem of an adequate knowledge of the elementary processes is far from complete, and although Bateson has done valiant work in attempting to bring psycho-analytic processes under the heading of cybernetics, his work is and must be sketchy. The vocabulary of psycho-analysis abounds in vagueness and clichés to the extent that it is often very difficult to find a substantial agreement in the application of this or that term17

20La conséquence d’une telle analogie entre l’homme et la machine est que, si l’on peut décrire mécaniquement la folie humaine, on peut à l’inverse décrire comme folie certains aspects de l’action des machines. C’est l’idée que développent – bien au-delà de ce que l’on trouve dans les textes de Wiener – les trois extraits suivants :

  • 18 The New York Times, 13 mars 1949.

«“Mathematical calculators are very similar to the human organism”, [Dr. Wiener] declared adding that machines now have the power of learning from experience, acquiring new skills and acting on information gained from their own performance. In answer to a question, the scientist said that complicated control mechanisms are subject to much the same afflictions as the human nervous system and can become as frustrated or aggressive as persons18

  • 19 Time Magazine, 23 janvier 1950.

«Some philosophical worriers suggest that the computers, growing superhumanly intelligent in more & more ways, will develop wills, desires and unpleasant foibles’ of their own, as did the famous robots in Čapek’s R. U. R. Professor Wiener says that some computers are already "human" enough to suffer from typical psychiatric troubles19

  • 20 Time Magazine, 27 décembre 1948.

«If calculators are like human brains, do they ever go insane? Indeed they do, says Professor Wiener. […] The cures administered to psychotic calculators are weirdly like the modern cures for insanity20

  • 21 von Neumann J., « General and Logical Theory of Automata » [1948], in Collected Works, Oxford, Per (...)

21La machine reproduit le comportement humain, jusque dans sa possible folie. Cette idée, que les aspects les plus apparemment humains du comportement sont accessibles à la machine, est encore étendue dans un article du New York Times. Il y est fait référence à la théorie des automates auto-reproducteurs de von Neumann. Celle-ci est une théorie formelle, montrant que un automate – défini abstraitement – est susceptible de se reproduire ou de produire un automate en un sens plus complexe que lui-même21. L’auteur de l’article lie ce résultat, purement mathématique, de von Neumann à la perspective, fantaisiste, d’implémenter des émotions sur une machine, pour envisager alors – malgré les réticences de Wiener – une véritable copie de l’esprit humain : un esprit mécanique, capable de raisonner sans doute mais aussi d’éprouver des émotions et de se reproduire.

  • 22 The New York Times, 30 mai 1949.

«Inculcation of synthetic emotions into the present “electric brain” calculating machines is quite a conceivable future development, Dr. Norbert Wiener of the MIT declared today. Requesting that his comments not be “sensationalized”, Dr. Wiener said that he did not mean that synthetic emotional apparatus might round out a scientific duplication of the human mind. Dr. Wiener mentioned, however, that Dr. John von Neumann, internationally noted mathematician of the IAS at Princeton, N. J., had done some mathematical speculation on the possibility of constructing a machine that could reproduce itself22

  • 23 Dans une lettre à von Neumann de 1949, Wiener prend en partie la théorie des automates auto-reprod (...)
  • 24 Shelley M., Frankenstein, op. cit., p. 165.

22L’idée que les machines puissent acquérir des « émotions » n’est pas réellement développée par Wiener. Et il discute seulement de la reproduction des automates, avec un modèle beaucoup plus élémentaire, que celui de von Neumann, dans des cours et l’essai God and Golem, Inc. de 1964, postérieur à cet article. Il est donc difficile de distinguer dans cet article, qui s’appuie sur des commentaires oraux, des commentaires que le savant ne voulait pas « sensationnels », ce qui tient de Wiener lui-même et ce qui ne tient qu’à l’imagination du journaliste23. Il est clair du moins que l’on retrouve l’un des grands thèmes de Frankenstein, la possibilité que la créature se reproduise, donnant alors naissance à une nouvelle espèce qui mettrait en danger l’espèce humaine: « one of the first results of those sympathies for which the daemon thirsted would be children, and a race of devils would be propagated upon the earth, who might make the very existence of the species of man a condition precarious and full of terror24 ».

Quand la créature se retourne contre son créateur

23La machine peut apprendre, souffrir de troubles psychiques, éprouver des émotions et se reproduire. On a tous les éléments pour imaginer que les machines se développent par elles-mêmes, échappent au contrôle de leur créateur et, finalement, le détruisent, comme le craignait de sa créature le premier de ces savants fous, Victor Frankenstein.

24Avant tout, l’image même d’une machine susceptible d’apprendre et de gagner ainsi son autonomie prend quelque chose de « monstrueux », qui peut rappeler la « vision » de Shelley citée au début :

  • 25 Time Magazine, 27 décembre 1948.

«Engines and production machines replace human muscles; control mechanisms replace human brains. […] They act upon it more quickly and accurately than human beings can. They never sleep or get sick or drunk or tired. If such mechanisms are properly designed, they make no mistakes. […] Most remarkable are the computing machines, Professor Wiener’s own specialty. […] Now they are beginning to act like genuine mechanical brains. Dr. Wiener sees no reason why they can’t learn from experience, like monstrous and precocious children racing through grammar school. One such mechanical brain, ripe with stored experience, might run a whole industry, replacing not only mechanics and clerks but many of the executives too. […] Man, he thinks, is recreating himself, monstrously magnified, in his own image25

25Wiener n’emploie pas, à notre connaissance, le terme de monstrueux à propos de ces machines. On peut également douter que Wiener qui a lui-même parcouru si vite les classes de l’école élémentaire qu’il est entré au lycée à neuf ans, ait associé la monstruosité à la précocité. Plus profondément, l’idée que la machine en elle-même serait monstrueuse, est tout à fait étrangère à ses écrits, nous y reviendrons. L’extrait précédent nous semble à nouveau indiquer que les idées de Wiener sont interprétées en référence à une figure littéraire du savant fou, une image issue de Frankenstein bien qu’elle ne s’y réduise pas, une image en tout cas qui modifie entièrement le sens des textes de Wiener. L’un des effets de cette image est de prêter à la machine elle-même, « au monstre mécanique » une puissance, mystérieuse, susceptible de défaire l’humain qui l’a mis en route :

  • 26 Time Magazine, 11 janvier 1960.

«Revolt of the Machines. The greatest challenge to man’s ascendancy is not other living creatures but mechanical monsters of his own creation, argued Mathematician Norbert Wiener of MIT Dr. Wiener, inventor of the word “cybernetics” (science of control mechanisms), and No. 1 cybernetic philosopher, solemnly warned that computers and other educated machines may yet outgrow man’s control. […] “It is my thesis”, said Wiener, “that machines can and do transcend some of the limitations of their designers.” […] Once their human masters have set them to work, it is quite possible that an overeducated machine may sweep its masters to disaster before they realize clearly what it is up to26

26Cette révolte des machines peut faire penser à de la science-fiction.

Wiener et la science-fiction

27Répétons-le, la thèse de cet article est que la figure d’abord littéraire du savant fou vient informer la réception des travaux de Wiener et neutraliser leur aspect critique. C’est dans le contexte d’une telle image et, plus largement, dans le contexte de la science-fiction que les textes de Wiener sont compris. Voici plusieurs exemples de références explicites :

  • 27 Time Magazine, 27 novembre 1950.

« [l’ordinateur est-il un…] Frankenstein Monster ? Mathematician Wiener had often said this before, and been pooh-poohed as an alarmist. Last week he was not laughed at27. »

  • 28 « The search », script for CNS Television, archives Wiener, boîte 31A, dossier 759.

« [Le journaliste seul devant la caméra, avant de rencontrer Wiener] : This is the story of a revolution in Machines. […] A new breed of robot machines that will soon change our lives. […] This is not science fiction or fantasy. These machines exist today28. »

  • 29 U. S. News and World Reports, 24 février 1964.

« MACHINES SMARTER THAN MEN. Is it just science fiction the idea of building computers with brains like those of humans ? […] Exactly what is the danger of “thinking machines” getting out of hand, taking over from man himself? In this exclusive interview with “U. S. News & World Report”, one of the world’s foremost computer experts [Norbert Wiener] probes an exciting future29. »

  • 30 Wiener R., The Human Use of Human Beings, op. cit., p. 139-140. Également, Wiener R., God and Gole (...)
  • 31 The New York Times, 11 mai 1952. Wiener exprime cependant certaines réserves vis-à-vis de la scien (...)

28À notre connaissance et contrairement à ce qu’affirme le passage cité de Time Magazine, Wiener lui-même ne se réfère jamais à Frankenstein. Il est vrai, néanmoins, que le savant se rapproche de la science-fiction. Wiener est en contact avec I. Asimov, F. Pohl, K. Vonnegut ou J. W. Campbell, l’éditeur d’Astounding Science-fiction. Il publie une nouvelle « The Miracle of the Broom Closet », dans une anthologie éditée par F. Pohl. Plusieurs autres nouvelles restent dans ses archives, parfois à l’état de projet. Plus largement, dans ses essais, Wiener se livre à des considérations qui relèvent de la science-fiction, sur la possibilité, par exemple, de voyager par le télégraphe : « Let us then admit that the idea that one might conceivably travel by telegraph, in addition to traveling by train or airplane, is not intrinsically absurd, far as it may be from realization30. » L’idée de Wiener est que l’individu n’est pas déterminé par sa matière mais par une organisation, une structure qui pourrait être codée numériquement et envoyée alors par télégraphe, par téléphone et réalisée à nouveau dans une autre matière. Cette idée inaugure une sorte de fonctionnalisme que l’on retrouve dans de nombreux textes de science-fiction, tels que la nouvelle « Schematic Man », parue en 1968, de F. Pohl, pour l’exemple d’un contemporain de Wiener. S’il est impossible d’en faire la liste, différents thèmes dans les travaux de Wiener trouveront un écho dans la science-fiction. La « cybernétique » apparaît de façon explicite dans des textes de Dick ou de Vonnegut. Le New York Times fait du reste de l’ouvrage de Wiener l’une des quatre sources possibles ou, plus exactement même, une « mine d’or » pour les auteurs de science-fiction : « Today’s authors of science-fiction are chiefly concerned with space-time, electronic thinking machines based of Norbert Wiener’s Cybernetics – a gold-mine of ideas – synthetic chemistry and the release of atomic energy31. »

  • 32 The Human Use of Human Beings, op. cit., p. 250.

29Cela dit, la figure du savant fou et cette image de la créature qui se retourne contre son créature, ou de la machine monstrueuse, que l’on a vues apparaître dans plusieurs extraits ci-dessus conduisent à un malentendu sur le sens des travaux de Wiener. Il faut d’abord souligner que, si l’on trouve dans ses écrits des références à des textes de science-fiction, ou précurseurs de la science-fiction (Verne, Wells, Kipling, par exemple) Wiener n’évoque jamais ces savants et leurs machines que l’on pourrait placer dans la lignée de Frankenstein et de sa créature. Le texte, cité par Wiener, le plus proche de cette thématique serait sans doute Erewhon mais Wiener indique que « il ne faut pas prendre trop sérieusement les prédictions de Butler32 ». Les références les plus fréquentes de Wiener semblent, à première vue, curieusement décalées. Ce sont « La patte de singe » de W. W. Jacobs et « L’apprenti magicien » de Goethe.

  • 33 Ibid., p. 247-248.
  • 34 Ibid., p. 249.

30Les articles cités plus haut, concernant « la révolte des machines », partent sans doute des analyses de Wiener, qui entend dénoncer les risques d’une certaine attitude vis-à-vis de la machine. On peut isoler, dans The Human Use of Human Beings en particulier, deux préoccupations. La première serait d’ordre politique. Wiener part de l’idée d’une « machine à gouverner », un ordinateur à qui l’on confierait notre gouvernement, une idée qui lui a été proposée par le Père Dubarle dans une recension en français de Cybernetics. Le danger, pour Wiener, n’est pas dans l’existence d’une telle machine ou dans la possibilité qu’une telle machine s’affranchisse de tout contrôle humain. Il est plutôt dans la possibilité qu’un groupe d’individus utilisent cette image d’une machine à gouverner pour euxmêmes prétendre gouverner au nom de la science. « It’s real danger is the quite different one that such machines, though helpless by themselves, may be used by a human being or a block of human beings to increase their control over the rest of the human race33. » Et, pour Wiener, quelque chose de semblable a déjà lieu lorsque l’on applique aveuglément une technique – Wiener se réfère à l’usage de la théorie des jeux de von Neumann dans la guerre froide avec l’URSS34 – pour déterminer une politique.

31La seconde préoccupation est d’ordre économique. Wiener est convaincu que les progrès réalisés pendant ou à l’issue de la Seconde Guerre mondiale, en particulier le développement de machines à rétroaction et des premiers ordinateurs, sont sur le point de provoquer une deuxième révolution industrielle. La première révolution industrielle, fondée sur la machine à vapeur, a rendu inutile la force humaine. Les ouvriers, selon Wiener, n’exercent et ne vendent plus leur force. L’effort est fourni par des machines à vapeur d’abord, puis électriques pour l’essentiel. La part de l’humain dans l’usine tient, d’une part, à la nécessité de contrôler le travail accompli par la machine ou à la présence de tâches qui doivent faire l’objet d’un contrôle immédiat – pour coller une étiquette sur une boîte de conserve ou accomplir cette tâche de façon efficace, il faut pouvoir vérifier aussitôt la position de l’étiquette, qui ne doit pas être collée de travers – et, d’autre part, à la nécessité de planifier et de gérer la production : c’est la tâche de cols-blancs. Ces deux types de tâches, cependant, restent tout à fait élémentaires. Mieux, elles semblent, à l’heure de la cybernétique, être réalisables par des machines. D’un côté, les machines à rétroaction ont précisément cette propriété de pouvoir contrôler et, le cas échéant, corriger leur propre travail. Et, de l’autre côté, les ordinateurs qui commencent à se développer semblent susceptibles d’effectuer les calculs des col-blancs, plus rapidement que ceux-ci. Bref, une deuxième révolution, selon Wiener, rendra inutile le contrôle et le calcul humains et aboutira à des usines entièrement automatiques : il suffira d’appuyer sur un bouton pour que sortent, d’un côté, les produits dans la quantité qu’attend le marché et, de l’autre côté, une fiche de comptabilité avec le bénéfice réalisé.

  • 35 « In the hands of the present industrial setup the unemployment produced by such plants can only b (...)
  • 36 The Human Use of Human Beings, op. cit., p. 220.

32L’être humain se trouvera donc libéré du travail qui pourra être presque entièrement confié à des machines. La question est de savoir à qui profitera cette révolution industrielle. Dans le système actuel de production, le remplacement du travailleur par la machine semble devoir conduire à une crise économique majeure et une explosion du chômage35. Wiener tente d’avertir des syndicalistes – il est en particulier en correspondance avec W. Reuter de l’Union of Automobile Workers à Detroit – pour que ceux-ci s’organisent et rendent aux travailleurs leur part du gain obtenu par la construction d’usines automatiques. Contrairement à ce que laisse entendre l’article cité plus haut, « La révolte des machines », les usines automatiques, cette seconde révolution industrielle qui se prépare, ne sont pas en elles-mêmes une menace pour l’humanité ou elles ne le sont que dans le cadre du système de production actuel. « Thus the new industrial revolution is a two-edged sword. It may be used for the benefit of humanity […]. It may also be used to destroy humanity, and if it is not used intelligently it can go very far in that direction36. »

33Ainsi, aussi bien en ce qui concerne la machine à gouverner que l’usine automatique, le danger pour Wiener ne vient pas de la machine mais de l’homme qui utilise la machine. La machine fera ce que nous lui demandons, ou s’intégrera dans le système économique et politique qui est le nôtre. C’est cette sorte de neutralité que Wiener entend illustrer en évoquant « La patte de singe » ou « L’apprenti magicien ». Nous sommes dans la situation de formuler un vœu, ou de demander des informations ou la réalisation d’un travail à la machine, et ce vœu sera exaucé : la machine nous obéira. Mais elle ne fera pas par elle-même notre bien. Elle exécutera seulement les tâches qu’on lui a données. Il faut donc, avant de la mettre en route, avoir réfléchi ce que nous lui demandons ou à la place que nous voulons lui donner.

34En réalité, le principal danger lié à la machine est, pour Wiener, dans une sorte d’idolâtrie qui prête à la machine un pouvoir que seul possède l’homme.

  • 37 Seidenberg A. R., 13 novembre 1950, archives Wiener, Boîte 9, dossier 129.

«I am probably a little less afraid of the machine than you are, but that is perhaps simply on the basis that the zoo attendant in charge of the lions’ cage cannot afford to be particularly afraid of the lions. I am quite convinced that both the point of weakness of our present situation and the point on which it will have to be strengthen lie in man and not in the machine. In other words, machines only become formidable to man when they are made idols. If the human race is ever exterminated, it will be an act of suicide and not of murder37

35Wiener entend d’abord informer des transformations que la machine est sur le point d’induire. Il entend ensuite militer pour une réforme de la politique américaine, dans son rapport à l’URSS, et une transformation du système d’organisation de la production industrielle. La machine – qu’il s’agisse de l’ordinateur auquel on peut demander des calculs pour gouverner ou de l’usine automatique – n’est pas en elle-même dangereuse. Elle ne le devient que dans un contexte dont l’homme est seul responsable. Or le rapprochement de Wiener avec le « savant fou » dans les articles cités plus haut, l’idée d’une « monstruosité » de ces machines recouvrent précisément le message de Wiener, puisqu’il place dans la machine la seule cause d’une possible destruction, masque le rôle de l’homme qui manipule la machine et occulte la perspective d’une transformation du contexte social et politique qui seul en réalité rend la machine dangereuse. C’est précisément l’idolâtrie contre laquelle Wiener entend lutter.

36Notre but n’est pas défendre les thèses ou le point de vue de Wiener, dont les prédictions, l’émergence d’usines entièrement automatiques sans ouvriers ni comptables par exemple, ne se sont pas réalisées. Nous avons seulement voulu montrer d’abord que le personnage de Wiener tel qu’il est représenté dans la presse entretient une parenté avec la figure du savant fou telle qu’elle se constitue à partir de Frankenstein et, ensuite, que la lecture qui est alors faite de ses textes, dans une perspective dominée par la figure du savant fou aboutit à recouvrir la perspective critique de Wiener tant sur la politique américaine que sur l’organisation économique.

Bibliographie

Bibliographie

Archives Wiener, « Notes on a novel to be entitled Under the stone », boîte 33A, dossier 867.

Archives Wiener, « The search », script for CNS Television, boîte 31A, dossier 759.

Archives Wiener, A W. Reuter, 13 août 1949, boîte 7, dossier 102.

Archives Wiener, A. L. K. Frank, 26 octobre 1951, boîte 9, dossier 142.

Archives Wiener, A. R. Seidenberg, 13 novembre 1950, boîte 9, dossier 129.

Archives Wiener, boîte 29B, dossier 657.

Archives Wiener, Frances Ancker, 26 octobre 1949, boîte 7, dossier 105.

Archives Wiener, Frances Ancker, 9 septembre 1949, boîte 7, dossier 104.

Cassou-Noguès P., « La reproduction des automates : de Descartes à von Neumann en passant par Erewhon », in Adam V. (dir.), La fabrique du corps humain, Grenoble, Presses univ. de Grenoble, à paraître.

Masani P., Norbert Wiener, Basel, Birkhaüser, 1990.

Segal J., Le Zéro et le Un, Paris, Syllepse, 2003.

Shelley M., Frankenstein, Oxford, Oxford University Press, coll. « Oxford World’s Classics », 1998. The New York Times, 13 mars 1949, 30 mai 1949, 7 mai 1950, 11 mai 1952, 19 mars 1964. Time Magazine, 29 septembre 1938, 27 décembre 1948, 23 janvier 1950, 27 novembre 1950, 11 janvier 1960.

U. S. News and World Reports, 24 février 1964.

Ulam S., Adventures of a Mathematician, New York, Scribner, 1976

Von Neumann J., « General and Logical Theory of Automata » [1948], in Collected Works, Oxford, Pergamon, 1963, t. V, p. 288-328.

Wiener R., Cybernetics, Paris, Hermann, 1948.

Wiener R., God and Golem, Inc., trad. par Wall-Romana C. et Farazzi P., Nîmes, Éditions de l’Eclat 2000.

Wiener R., Human Use of Human beings, New York, Avon, 1967.

Wiener R., I Am a Mathematician, Cambridge, MIT Press, 1956.

Notes

1 Cet article diffère substantiellement de mon exposé au colloque organisé par Hélène Machinal et doit beaucoup aux réflexions proposées dans ce cadre par Jean-Jacques Lecercle. La correspondance de Wiener est citée d’après les archives conservées à la bibliothèque du MIT.

2 Shelley M., Frankenstein, Oxford, Oxford University Press, coll. « Oxford World’s Classics », 1998, p. 9.

3 Time Magazine, 29 septembre 1938.

4 Time Magazine, 27 décembre 1948.

5 « Notes on a novel to be entitled Under the stone », Archives Wiener, boîte 33A, dossier 867.

6 Ancker F., 9 septembre 1949: « Thank you for your compliments, but there is one slight difference between the late L. da Vinci and myself: I can’t paint. » (Archives Wiener, boîte 7, dossier 104.)

7 Segal J., Le Zéro et le Un, Paris, Syllepse, 2003, p. 325.

8 Wiener R., Human Use of Human beings, New York, Avon, 1967. Wiener commente dans une lettre à R. W. Sommer du 7 décembre 1950 : « You will find no point in my book where I have attacked Marx as such. What I have attacked is rather the Marxian church. I am quite convinced that both Freud and Marx have made in their respective fields two of the greatest contributions of the past 150 years. » (Archives Wiener, boîte 9, dossier 131.)

9 Time Magazine, 27 mars 1964.

10 Par exemple, Wiener R., I Am a Mathematician, Cambridge, MIT Press, 1956, p. 227: « I have never fancied myself as an administrator nor, as a matter of fact, has an anybody else ever fancied me in that capacity. »

11 Masani P., Norbert Wiener, Basel, Birkhaüser, 1990, p. 18 et suiv.

12 Ulam S., Adventures of a Mathematician, New York, Scribner, 1976, p. 96.

13 The New York Times, 19 mars 1964.

14 Archives Wiener, boîte 29B, dossier 657. Le journal des étudiants de Harvard, Harvard Crimson, donne un compte rendu du prologue de Wiener : « Then the professor turned towards one wing of the tiny stage, clapped, and commanded: “Here, Palomilla!” Palomilla nosed out from behind a curtain, a buzzing four-wheeled cart which doggedly trailed a flashlight held by Wiener’s assistant. Palomilla made mistakes; it ran back into the curtain once and stalled often. But it acted with at least as much decision and far more speed than an earthworm. When Palomilla had crept offstage, Professor Wiener pointed out that “this is a simple animal,” and described some of Palomilla’s more modern descendents. Then he leaned over at the audience and said the time was gone when we could afford to make machines for the sake of making machines, that to avoid a society of R. U. R. we would have to start worrying about the moral value of the machines, deciding whether they were good or bad. » La représentation fait l’objet d’un court article dans le New York Times (« Revival of RUR with New Prologue », 7 mai 1950).

15 The Human Use of Human beings, op. cit., p. 86.

16 Wiener R., Cybernetics, Paris, Hermann, 1948, chapter VII. Wiener s’attaque aussi à certaines formes d’hystérie et de personnalités multiples (The Human Use of Human Beings, op. cit., p. 137).

17 Frank A. L. K, 26 octobre 1951, archives Wiener, boîte 9, dossier 142.

18 The New York Times, 13 mars 1949.

19 Time Magazine, 23 janvier 1950.

20 Time Magazine, 27 décembre 1948.

21 von Neumann J., « General and Logical Theory of Automata » [1948], in Collected Works, Oxford, Pergamon, 1963, t. V, p. 288-328 ; Cassou-Noguès P., « La reproduction des automates : de Descartes à von Neumann en passant par Erewhon », in Adam V. (dir.), La fabrique du corps humain, Grenoble, Presses universitaires de Grenoble, à paraître.

22 The New York Times, 30 mai 1949.

23 Dans une lettre à von Neumann de 1949, Wiener prend en partie la théorie des automates auto-reproducteurs sur le mode de la plaisanterie: « At any rate, I am very much interested in what you have to say about the reproductive potentialities of the machine of the future. As Grey Walter in England has just made a machine with ethics of its own, it may be an opportunity for a new Kinsey report. » (von Neumann A., 10 août 1949, archives Wiener, boîte 7, dossier 102.) Wiener a sans doute pu faire devant le journaliste du New York Times une plaisanterie semblable.

24 Shelley M., Frankenstein, op. cit., p. 165.

25 Time Magazine, 27 décembre 1948.

26 Time Magazine, 11 janvier 1960.

27 Time Magazine, 27 novembre 1950.

28 « The search », script for CNS Television, archives Wiener, boîte 31A, dossier 759.

29 U. S. News and World Reports, 24 février 1964.

30 Wiener R., The Human Use of Human Beings, op. cit., p. 139-140. Également, Wiener R., God and Golem, Inc., trad. par Wall-Romana C. et Farazzi P., Nîmes, Éd. de l’Eclat 2000, p. 59.

31 The New York Times, 11 mai 1952. Wiener exprime cependant certaines réserves vis-à-vis de la science-fiction qui lui est contemporaine : « As to science-fiction, I am a little [mot illisible] of it. In the first place, I have talked with one of the editors of one of the journals, and his requirements and my taste don’t check. If science fiction would be taken back to the plane of H. G. Wells’s earlier work then it would interest me, but at present it has achieved a glib complacent slickness which I don’t care for, and which if I did care for is not my meat. » (Ancker F., 26 octobre 1949, archives Wiener, boîte 7, dossier 105.)

32 The Human Use of Human Beings, op. cit., p. 250.

33 Ibid., p. 247-248.

34 Ibid., p. 249.

35 « In the hands of the present industrial setup the unemployment produced by such plants can only be disastrous. » (A. W. Reuter, 13 août 1949, archives Wiener, boîte 7, dossier 102.)

36 The Human Use of Human Beings, op. cit., p. 220.

37 Seidenberg A. R., 13 novembre 1950, archives Wiener, Boîte 9, dossier 129.

Auteur

Professeur de philosophie, université Paris 8

© Presses universitaires de Rennes, 2013

Conditions d’utilisation : http://www.openedition.org/6540