Bienveillance
p. 38-40
Texte intégral
1On discute beaucoup des risques que les dispositifs numériques présentent en termes de surveillance – ou de sousveillance (voir Sousveillance). Les dangers de leur bienveillance constituent toutefois un angle mort de ces débats. Dans La bienveillance des machines, Pierre Cassou-Noguès (2022) nous invite à parler de « sociétés de bienveillance » plutôt que de « sociétés de contrôle » ou de « capitalisme de surveillance » : comme l’illustrent les robots-compagnons et autres logiciels de santé, « la machine veille sur nous, et nous surveille, pour améliorer notre bien-être : elle nous “bienveille” » (p. 92 ; voir aussi Citton, 2011).
2 Le philosophe montre que cette bienveillance se paie d’un triple prix. Il en résulte tout d’abord le risque d’un aplatissement de notre expérience : dès lors que mes écrans me révèlent la température qu’il fait, mon rythme cardiaque, voir ma probabilité de bonheur ou d’anxiété pour la journée à venir (calculée à partir de mes réactions passées et de mon agenda à venir), je n’ai plus besoin de réfléchir pour savoir si j’ai chaud, si je suis tendu, ou vraiment malheureux. La complexité fine, nuancée et souvent ambivalente de nos états d’âme se trouve aplatie sur un chiffre ou un émoticône, au sein d’un catalogue très sommaire et standardisé d’affects moyens à travers lesquels je finis par guider, percevoir et ressentir mon existence.
3En régime de capitalisme de plateforme, la bienveillance est par ailleurs orientée par la quête de profits financiers. Contrairement à ce que l’on dit souvent, nos machines bienveillantes visent moins à « capter l’attention » qu’à masser une inattention réceptive. Nos écrans disposent leur utilisateur·rice « à laisser tomber ses défenses et à se préparer à accueillir les clichés, les rêves qu’on lui a fabriqués […], pour le placer dans un état de quasi-hypnose, une sorte d’anesthésie consciente, pour ensuite le fasciner par une publicité » (Cassou-Noguès, 2022, p. 179, 203). Autrement dit : nos machines numériques nous bienveillent pour mieux nous faire sommeiller – afin de mieux investir nos rêves de consommation.
4Enfin, la bienveillance des machines pose la question, soulevée dès le récit Erewhon de Samuel Butler (1872), de l’instrumentalisation de nos subjectivités humaines par une tendance collective des objets techniques, envisagés comme des espèces animales, à se propager, à se sélectionner, à se perfectionner et à étendre leur règne. Si « dans cette cohabitation, machines et humains se transforment […], la question est de savoir quelle espèce bénéficie de cette symbiose » (Cassou-Noguès, 2022, p. 327). L’angle mort des dynamiques de technogenèse est peut-être que les machines (et ceux qui les vendent à grands renforts d’obsolescence programmée) en tirent davantage de bénéfices que leurs utilisateur·rices.
5C’est en lisant Pierre-Damien Huyghe (2022) que l’on mesurera plus finement les bénéfices mutuels. Il distingue la logique d’innovation, par laquelle les appareils techniques se reproduisent en régime capitaliste selon la pulsion marchande d’extension du domaine du profit, de la logique d’invention, qui attend des designers, artistes et autres bricoleur·ses une extension des potentiels d’usage des appareils au-delà de leurs attentes initiales. Le rapport de « service » induit par le consumérisme nous asservit à la bienveillance des machines. Celle-ci requiert de notre part non seulement un travail de veille envers leurs dangers obscurs, mais surtout un travail d’éveil – attentif, actif, créatif, expérimental et expérientiel – envers leurs possibilités encore insoupçonnées.
Bibliographie
Références
Butler, S. (1980). Erewhon. Gallimard.
Cassou-Noguès, P. (2022). La bienveillance des machines. Comment le numérique nous transforme à notre insu. Le Seuil.
Citton, Y. (2011). Zazirocratie. Très curieuse introduction à la biopolitique et à la critique de la croissance. Amsterdam.
Huyghe, P.-D. (2022). Numérique : la tentation du service. B42.
Auteur
-
Yves Citton
Étudie et enseigne la littérature et les media à l’université Paris 8. Il co-dirige la revue Multitudes et a publié Médiarchie (2017), Pour une écologie de l’attention (2014), Zazirocratie (2011). Ses articles sont accessibles en ligne sur www.yvescitton.net.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Le Sujet Digital
Claire Larsonneur, Arnauld Regnauld, Pierre Cassou-Noguès et al. (dir.) Stéphane Vanderhaeghe, Géraldine Bertres, Hélène Soldano et al. (trad.)
2015
Le Comportement des choses
Emanuele Quinz (dir.) Lise Thiollier, Gabriele Stera et Armelle Chrétien (trad.)
2021
Artistes-chercheur·es, chercheur·es-artistes
Performer les savoirs
Boudier Marion et Déchery Chloé (dir.)
2022
Architectures of memory
Jean-Marie Dallet et Bertrand Gervais (dir.) Armelle Chrétien et Joshua David Jordan (trad.)
2022
Angles morts du numérique ubiquitaire
Glossaire critique et amoureux
Yves Citton, Marie Lechner et Anthony Masure (dir.)
2023