1Avant de s’interroger sur les théories touchant au fantastique, il paraît nécessaire de poser la question des rapports du genre avec les textes qu’on y rapporte. Comme l’énonce Gilles Deleuze, « [l]e genre relève du discours abstrait et généralisateur, les textes d’une pratique concrète dans le champ de l’écriture »1. Ajoutons que les textes existent matériellement, qu’ils précèdent la création du genre critique. Sans les chants d’Homère et les tragiques, pas de Poétique d’Aristote.

2Dans ce cas, à quoi sert le genre ? C’est un instrument intellectuel inventé par la critique et qui permet d’opérer des rapprochements de textes en fonction de diverses visées critiques. Il répond au souci de comparer pour mieux saisir, et de signifier, c’est-à-dire de classer en catégories reconnues des textes singuliers dont le sens en soi n’a rien d’évident.

3Par certains aspects, le genre a le même statut que les nombres imaginaires en mathématique, qui sont évacués des équations après avoir accompli leur office. Avec deux différences : d’abord, que cette mise en série de textes dans le cadre d’un genre permet de faire ressortir leur visée et signale la présence d’un « impensable », lequel est peut-être leur ressort caché. Ensuite, qu’à partir du moment où l’on a étiqueté des textes comme appartenant à un genre, ces textes seront perçus comme constituant ce genre. En conséquence, ce qui n’avait aucune existence concrète (le genre) acquiert alors une réalité effective. On peut dès lors l’analyser pour lui-même et il permet ainsi d’opérer dans le champ littéraire, à la fois sur les textes qu’il caractérise au moment de son « invention », mais aussi sur les textes à venir, pour lesquels il constitue un horizon d’attente, et même sur les textes du passé – comme le montre Borges avec l’exemple des précurseurs de Kafka2. Au point que l’on finit par croire, après les avoir construites, que les frontières artificielles des genres correspondent à une réalité : il s’agit là d’une illusion dont devrait se défaire la critique si elle prétend expliquer l’évolution des théories touchant aux genres.

4Cette illusion donne en effet une image discutable du genre, considéré comme objet / outil transhistorique : il couvrirait de son nom une multitude hétérogène de textes venant d’époques et de cultures différentes. On posera a contrario que les genres sont des produits socio-symboliques, qui se sont construits en même temps que l’ensemble des textes qu’ils classent et nomment. Ce qui impose à la théorie littéraire de prendre en compte les conditions dans lesquelles un genre est créé, les effets qu’il induit, dans quel contexte socio-politique, en relation avec quel horizon d’attente, et en réaction à quels autres genres littéraires existant. Mais elle doit s’intéresser aussi à la question de la permanence éventuelle du genre. Pourquoi un genre cesse-t-il d’être opérant, ou comment perdure-t-il ? Est-ce qu’il concerne toujours les mêmes types de textes, ou est-ce qu’il couvre de son nom des textes ultérieurs, dont les formes ne sont pas exactement semblables, et qui visent des effets différents ? Dans quel contexte socio-symbolique se trouve-t-il pris et à quoi réagit-il ? C’est ce que nous envisageons d’examiner en confrontant quelques textes réputés « fantastiques » aux théories qui en ont rendu compte.

Premiers textes « fantastiques » et premières théories constitutives

5Le vocable « fantastique » existe en français depuis le XVI^e siècle, dans une acception qui le différencie assez peu du merveilleux, du bizarre et de l’imaginaire. Il prend le sens particulier de genre, que nous connaissons depuis l’époque romantique, par une coïncidence entre deux erreurs de traduction en français. Le titre allemand du recueil d’Hoffmann Phantasiestücke in Callots Manier est traduit en français en 1829 par Contes fantastiques : Phantasiestücke devient « fantastiques », ce qui transforme les « morceaux de fantaisie » en « genre ». Parallèlement, le traducteur de la préface de Walter Scott à ce recueil traduit fantastic mode par « genre fantastique »3.

6Ajoutons que Scott avait noté le mot fantastic en majuscules, et qu’il le glosait ainsi : « [ce type de composition] est celui qu’on pourrait appeler le genre fantastique, où l’imagination s’abandonne à toute l’irrégularité de ses caprices et à toutes les combinaisons des scènes les plus bizarres et les plus burlesques »4. Ces prétendus défauts seront au contraire décrits comme des qualités originales par le critique du Globe, Jean-Jacques Ampère : ce dernier trouve dans les textes d’Hoffmann « une verve intarissable de bouffonnerie », et « les figures les plus fantastiques », rendues « présentes par la netteté du récit et par la vérité des détails », et susceptibles de faire « à la fois frissonner, rêver et rire »5.

7Cette manière hoffmannesque d’envisager les rapports entre le regard et les réalités prend alors le nom de « fantastique ». Des auteurs comme Gautier et bien d’autres se placeront sous le parrainage d’Hoffmann, chacun avec son style et ses fantasmes. Mais ceci s’inscrivait dans un horizon d’attente en gestation, car déjà Nodier, en 1820, rendant compte de certains textes de Goethe et de Bürger, insistait sur ce mélange de tons qui constituent un « horrible merveilleux », qui fait qu’on ne sait plus si le lecteur en éprouve « de l’horreur ou du plaisir »6. Dans ses essais des années 1820 et 1830, notamment dans « Du fantastique en littérature »7, Nodier donne au genre fantastique une base sociologique et onirique mêlées. Sociologique : « Un recueil de contes est toujours le symptôme […] d’un grand malaise social »8 ; « la littérature est l’expression de la société, et […] rien n’est plus fantastique à mon gré que la société de nos jours »9 ; « j’étais seul, dans ma jeunesse, à pressentir l’infaillible avènement d’une littérature nouvelle »10. Onirique : le lieu où ce fantastique prend vie, c’est le sommeil, sur lequel Nodier insiste dans son essai De quelques phénomènes du sommeil : « toutes les religions […] nous ont été enseignées par le sommeil »11 ; « Quel homme accoutumé aux hideuses visites du cauchemar ne comprendra pas, du premier aspect, que toutes les idoles de la Chine et de l’Inde ont été rêvées ? »12 – car « la vie du Sommeil […] a dû enfanter toutes les hautes pensées de la création sociale » grâce à « cette force imaginative, dont le sommeil est l’unique foyer »13.

8On peut conclure qu’à la naissance du genre fantastique, à l’époque du romantisme français, des textes divers sont rassemblés sous le vocable « fantastique », qui désigne un genre perçu comme théoriquement justifié. Ces textes – en particulier ceux de Gautier – mettent en jeu un mixte de réalisme, de grotesque, de surnaturel ou d’irrationnel, ils sont nourris de rêves, et donnent, comme lieu de résolution des impossibilités qu’ils mettent en scène, l’espace onirique, ou ce qu’on nommera plus tard l’inconscient. Les effets produits par ces textes sont proches de ceux du merveilleux, mais touchent par endroits à l’horreur, comme on le perçoit dans « Arria Marcella » ou « La Morte amoureuse ». La visée de ces textes de fantastique romantique semble être de donner à percevoir et à ressentir l’ambiguïté pour l’intellect qui résulte de la difficile appréhension de la réalité à une époque sociologiquement et presque ontologiquement troublée, qui a vu la première révolution industrielle, la fin des monarchies de droit divin, l’émergence de l’individu libre de s’affronter à toutes ces nouveautés. Mais cet affrontement se fait dans la solitude et le héros garde la nostalgie d’un monde plus ancien – comme Théodore à la fin du Château d’Otrante devant le château en ruine dont il hérite, ou bien Octavien dans « Arria Marcella » avec sa mélancolie, ou encore comme Romuald, le prêtre qui, vampirisé par l’amour de Clarimonde (qu’il rejette pourtant), éprouve le sentiment d’être une ruine.

Vers des théories classiques

9Tout genre est tributaire du corpus de textes à partir de quoi il est construit, et des caractéristiques mises en avant pour le définir : soit de simples « ressemblances familiales », soit des traits plus théorisables. Or d’après le genre défini par rapport à Hoffmann et ses successeurs, un texte comme « La Vénus d’Ille » poserait problème. En effet, dans ce texte de Mérimée, pas plus que dans la seconde version du « Horla » de Maupassant, on ne trouve de caricature, ni de références au grotesque. Pourtant ces textes sont réputés fantastiques, mais – si l’on en croit l’article qu’écrit Maupassant dans Le Gaulois, où il fait office de théoricien précurseur – ils constituent une dimension originale, d’où sont exclus la satire et le grotesque14.

10Cet « effarement » de l’esprit dont parle Maupassant15 ne se réfère plus ni à la Surnature, ni aux légendes anciennes, mais aux cauchemars, à l’inimaginable. Ce qui propose à la critique deux directions. Si l’on prend en compte la première version du « Horla », ou la « Vénus d’Ille », le lecteur comme les personnages et / ou le « lecteur implicite » se trouvent devant la situation décrite par Octave Mannoni du « je sais bien… mais quand même »16. Tzvetan Todorov théorisera plus tard, en bon structuraliste, de façon approfondie, ce type de situation comme une relation engendrant des effets d’ambiguïté, semblables à ceux des textes du fantastique romantique17.

11Mais la seconde version du « Horla » ne se contente pas de simples effets d’ambiguïté – les seuls envisagés par Todorov. Ce récit met en scène l’horreur d’une conscience en proie à une possession supposée, dont le résultat est un passage à l’acte dément, avant un suicide annoncé. Il s’agit d’une situation monstrueuse. Ce texte ouvre la voie à un approfondissement de la théorie du genre fantastique en lui faisant prendre en compte non plus les monstres issus des songes de la raison, mais la réalité monstrueuse en soi, dont les effets sont de l’ordre du viscéral, du dégoût. Pensons, pour illustrer ce point, à la masse grouillante de viscères qui coule sur le sol après l’éveil du cadavre de Monsieur Valdemar : « une masse dégoûtante et quasi liquide, une abominable putréfaction »18. C’est une scène proprement inimaginable, même si on nous la met sous les yeux par une présentification, comme dirait Jacques Lacan, ou une monstration, si l’on prend le vocabulaire de Denis Mellier19.

12Or la critique universitaire du fantastique, qui en France pose ses fondements en 1951 avec Pierre-Georges Castex20, s’est limitée à présenter l’événement fantastique comme une déchirure dans la trame de la légalité quotidienne. Roger Caillois ne dira pas autre chose, mais il distinguera avec subtilité, quoique ce soit par endroits discutable, le domaine des merveilleux de celui des fantastiques et de la science-fiction21. L’un des premiers aussi, il s’est intéressé aux domaines du fantastique iconique, distinguant le fantastique « institutionnel » du fantastique « insidieux », et ouvrant ainsi la voie à la critique cinématographique des effets de fantastique22. Mais, pas plus que Castex ou Todorov, il n’a pris en compte autre chose que des effets d’ambiguïté, ou d’« étrangeté ». Seul sans doute, Louis Vax, qui s’est intéressé aux effets de peur engendrés par les textes fantastiques, a entrevu un au-delà des effets d’ambiguïté23. Or les effets de fantastique de type romantique ou classique sont du domaine du tremblement intellectuel de la raison. Par contre les effets d’horreur et / ou de dégoût renvoient à d’autres types de rapport au monde où l’intellectualisation même n’est plus possible, à une sorte de retour vers les peurs archaïques.

Quelques approches nouvelles

13Ces dernières années, un renouveau de la critique a permis d’élaborer non pas une théorie nouvelle mais la prise en compte d’une plus grande complexité des effets produits par les textes réputés fantastiques. C’est le cas de philosophes comme Alain Chareyre-Méjan, qui s’inspire des travaux de Clément Rosset, et pour qui les effets textuels de ces textes figurent une expérience bouleversante de proximité avec l’indicible du réel24. Gwenhaël Ponnau a contextualisé de manière fine l’émergence du fantastique en Europe au XIX^e siècle dans le cadre de l’évolution des théories médicales touchant à la démence25. Les nouvelles formes des textes à effets de fantastique – aussi bien étasuniens avec Howard Phillips Lovecraft ou Stephen King que slaves avec Fedor Dostoïevski ou hispaniques avec Julio Cortázar – ne sont plus, depuis longtemps, pensées comme réductibles à des effets d’ambiguïté, mais il faudra attendre Denis Mellier pour en tirer des conséquences au plan théorique26.

14Ce dernier ancre les effets de fantastique dans une lignée qui part du sublime de Burke pour arriver jusqu’à nos jours. Il montre que l’émotion fantastique est première – rejoignant par là les propos de Cortázar. Elle ne constitue pas pour celui-ci une « conception intellectuelle » mais « un sentiment face à la réalité »27. Mellier pose que les effets de fantastique proposent ou imposent une multitude de sentiments ou de sensations mis en œuvre par divers types de récits relevant du domaine des fantastiques. Le fonds est constitué par l’angoisse – l’imminence d’un objet redoutable – ou par la terreur devant la « force de l’incertain », ou encore par l’horreur qui renvoie à la répulsion, ce que l’on a apprécié dans le cas de Valdemar. Le suspense est présent mais il n’a pour but que d’imprimer une tension du récit qui met en mouvement l’ensemble de ce fonds multiple et hétérogène28. Le tout pourrait être résumé par Stephen King29 selon deux axes : le récit angoissant lorsque « le monstre est derrière la porte » – qui peut induire des effets d’ambiguïté – ou alors le récit « terrifiant » si le monstre est mis sous les yeux – où sa seule présence est déjà agressive. Un tel récit met en scène des effets de « monstration » par une « rhétorique de l’excès » ainsi que la définit Mellier. L’excès dans la représentation crée cet effet sidérant de la « monstration » médusante. Cette approche, qui insiste sur la présence par excès de la chose « impensable et pourtant là », permet d’aborder les effets de fantastique dans les images picturales, photographiques, cinématographiques, avec les mêmes instruments que ceux qu’utilise la critique littéraire.

Conclusion

15On se réfère toujours aux textes de Gautier, Maupassant, Lovecraft, Cortázar ou King comme à des textes relevant du « fantastique », et ce, alors que tout semble les différencier. Est-ce simplement par une ancienne habitude ou par paresse intellectuelle ?

16Je poserais l’hypothèse suivante : ces textes, malgré l’aspect hétérogène qu’ils présentent, renvoient bien à un point fondamental : ils mettent en scène une situation inimaginable d’« impossible et pourtant là ». Mais cette situation est prise dans un contexte socio-symbolique et littéraire à chaque fois différent. La forme du texte, qui prétend donner une réponse adéquate à l’indicible, est à chaque fois présentée comme répondant à une promesse, mais celle-ci n’est jamais tenue. Sa mise en scène est fonction du paradigme intellectuel et émotionnel de l’époque, et tente de donner forme à ce qui est impensé, avec les simples moyens de la littérature.

17C’est ainsi que l’espace onirique est le lieu qui permet à Gautier d’éviter de se trouver devant l’indicible, et l’ambiguïté résulte de ce qui est présenté comme vécu par ses personnages – à qui il ne reste que la mélancolie (chez Octavien dans « Arria Marcella ») ou le désespoir (dans « La Morte amoureuse »). Cette attitude est en gros celle d’une part des romantiques français.

18Poe nous laisse sur notre sidération à la fin de « Ligeia », ou avec un dégoût quasiment proche d’un refus ontologique devant la pourriture qu’est devenu Valdemar, qui semble n’avoir plus, pour être décrit, « de mot dans aucune langue », comme le dit Tertullien.

19Maupassant affronte, lui, l’horreur par la mise en scène de la possession de soi par une force inconnue et innommable, dans « Le Horla », seconde version. Le texte se situe alors dans la période de la bourgeoisie triomphante d’après 1848, mais déjà ce nouvel ordre moral et économique sent poindre une crise sociale : la Commune a eu lieu vingt ans auparavant.

20La critique peut évidemment chercher les interprétations de cet « impossible et pourtant là » qui varie selon les époques et les auteurs. Et sans doute une vraie sociologie de la littérature aurait-elle beaucoup à dire de ce point de vue.

21Notons cependant que cette définition a minima des effets de fantastique comme relevant de l’inimaginable d’un « impossible et pourtant là » ne s’applique ni au merveilleux – car l’impossible n’existe pas dans les contes – ni à la science-fiction – pour qui tout est possible a priori. Elle ne prétend pas non plus rendre compte de tous les récits se réclamant du fantastique dans toutes les cultures.

22En particulier, elle évite de rendre compte de récits où la visée est davantage de rendre sensible un malaise devant la réalité qu’une mise en cause de celle-ci : on peut penser à certains récits de Buzzati, comme par exemple « Non aspettavano altro ». Elle évite aussi de se prononcer sur la singularité de certains textes de Landolfi, qui récupèrent la fonction du grotesque au cœur du texte fantastique, ainsi qu’on le voit dans « Il babbo di Kafka » ou dans « La moglie di Gogol ».

23Il va de soi qu’une théorie des genres plus ambitieuse devrait envisager de façon plus systématique l’ensemble des textes réputés fantastiques, en tenant compte du fait que les textes qui en relèvent sont actuellement écrits dans des cultures non occidentales : se développe aujourd’hui, par exemple, un fantastique japonais que des films et quelques romans nous font connaître, et dont l’étude enrichirait, et peut-être bouleverserait, notre approche minimaliste du genre – nuançant à coup sûr les étapes de l’évolution que j’ai présentée ici.