Boîte noire (comment les ouvrir par l’enquête)
p. 40-43
Texte intégral
1Le code source des logiciels que nous utilisons quotidiennement est rarement disponible dans son intégralité : bon nombre d’opérations réalisées par les dispositifs numériques nous sont donc inconnues et méconnaissables – ce qui explique pourquoi elles sont qualifiées de « boîtes noires ». Leur opacité est double. Elle tient à leur fonctionnement – c’est-à-dire à la nature des opérations réalisées par les programmes – mais aussi à des évidences encapsulées dans le code et les interfaces de ces applications : les normes et formes de vie dont ces applications sont porteuses sont souvent invisibilisées par l’apparente neutralité du dispositif technique.
2Cette opacité est d’autant plus forte du fait de la complexité des applications contemporaines : ainsi, obtenir une simple réponse d’une enceinte connectée nécessite en pratique une très grande quantité de traitements (Crawford & Joler, 2018). Les concepteur·rices d’applications utilisant des réseaux de neurones reconnaissent elles·eux-mêmes la difficulté à comprendre certaines opérations réalisées par de tels logiciels (Le Cun, 2020, p. 351). A contrario, les firmes qui conçoivent les logiciels peuvent à un niveau inédit accumuler et croiser des informations concernant leurs utilisateur·rices, du fait de la collecte et du traitement de traces visant – notamment – à orienter nos comportements (Zuboff, 2020). Dans ce contexte, comment avoir prise sur l’opacité de ces dispositifs techniques et sur ce que leur déploiement transforme ? Comment retourner le projecteur pour mettre en lumière leurs angles morts ?
3Une des pistes possibles consiste à ouvrir les boîtes noires que sont les applications en menant l’enquête : comprendre leur fonctionnement par leur utilisation permet d’« allonger les algorithmes sur le divan » (Cardon, 2015) et, ainsi, de mieux comprendre leur fonctionnement et/ou les formes de vie dont ces applications sont porteuses – et ce faisant, de mieux comprendre le monde qu’elles tendent à façonner. Nourrie des travaux de l’archéologie des médias, des software studies comme de ceux de la sémiotique des écrits d’écran, une telle démarche peut prendre plusieurs formes, complémentaires et variables selon l’application à analyser.
- La première de ces formes consiste en un travail d’interprétation d’une application afin de questionner les évidences modélisées dans les applications, en s’interrogeant sur les choix opérés par leurs concepteurs (Souchier et al., 2019). Ce pas de côté consiste, par exemple, à se rendre attentif à la terminologie employée sur ces applications : parler d’« ami·es » sur Facebook ou de « faire des raids » sur la plateforme de streaming Twitch n’est pas neutre. Il est également possible de se demander quelles injonctions implicites comporte un logiciel. Lorsque l’on fait une capture d’écran d’un profil d’un·e utilisateur·rice, l’application de rencontres Tinder propose de partager le profil de cette personne sur les réseaux sociaux numériques ; cette même application nous invite à engager une conversation en vidéo après seulement quelques messages échangés avec un match : qu’est-ce que l’implémentation de ces deux fonctionnalités révèle de la conception de la rencontre pour les designers de cette application ? Il existe de nombreux autres détails auxquels se rendre attentif·ves pour analyser et interpréter des logiciels (Souchier et al., 2019 ; Marino, 2020).
- Une deuxième forme consiste à entretenir une réflexivité sur nos pratiques d’une application en s’appuyant sur un journal de recherche (Nicolas-Le Strat, 2009). Au-delà du recueil de données, mettre en mots nos expériences peut nous aider à réfléchir sur notre pratique d’une application et à nous rendre sensibles à la manière dont une application agit sur nos émotions et représentations : quelles variations de notre état émotionnel suscite le fait de scroller pendant plusieurs heures sur un site de réseaux sociaux numériques ? Quelles formes d’attention à l’autre s’élaborent sur les applications de rencontres, en quoi celles-ci ressemblent ou diffèrent des manières de se rencontrer en dehors des applications ? Enfin, tenir un journal permet de situer notre point de vue et d’analyser nos implications, ce qui peut nous aider à prendre conscience et à dépasser certains de nos propres préjugés.
- Une autre manière d’éclairer les angles morts du fonctionnement d’une application consiste à procéder au reverse engineering, c’est-à-dire à modifier les données en entrée de la boîte noire pour observer les variations que cela produit en sa sortie et tenter d’en déduire ce qui se passe à l’intérieur. Ainsi, en créant plusieurs profils sur une application de rencontres et en faisant varier leur âge, genre et orientation sexuelle, on s’aperçoit que le prix d’un abonnement mensuel est différencié en fonction de ces caractéristiques, alors que ceci n’était signalé nulle part – ce qui relève par ailleurs d’une pratique illégale en France. Ce type d’expérimentation permet également de mettre en lumière certains biais algorithmiques ou encore quelques-uns des choix opérés par les concepteur·rices d’une application : il est ainsi possible d’identifier les mots censurés sur l’iPhone d’Apple en voyant ceux qui ne sont pas corrigés par l’autocorrection lorsqu’ils sont écrits d’une façon incorrecte par exemple (Diakopolous, 2013). Il faut signaler que cette pratique de reverse engineering peut aller à l’encontre des conditions générales d’utilisation de l’écrasante majorité des applications, notamment dans les cas où l’on utilise plusieurs avatars pour explorer une application : « le profilage politique et marchand de l’usager nécessite cependant que le profil dise vrai » (Saemmer, 2018).
4Ces trois manières d’essayer d’ouvrir les boîtes noires se révèlent d’autant plus fécondes lorsqu’elles sont pratiquées collectivement, par une multitude d’individus : la mise en commun d’impressions, d’analyses et d’interprétations permet d’explorer de façon plus approfondie une application et de révéler certaines de ses caractéristiques, qu’il serait difficile d’identifier autrement du fait du très grand nombre de cas d’utilisation possibles (et ceci tout particulièrement pour les applications complexes, comme celles qui utilisent des réseaux de neurones multicouches). Elle permet également d’identifier, depuis différents usages, les formes d’appropriations et les tactiques des utilisateur·rices pour résister aux stratégies des concepteur·rices.
Bibliographie
Références
Cardon, D. (2015). À quoi rêvent les algorithmes. Nos vies à l’heure des big data. Le Seuil.
Crawford, K., Joler, V. (2018). « Anatomy of an AI system ». https://anatomyof.ai/
Diakopoulos, N. (2017). Algorithmic Accountability Reporting : On the Investigation of Black Boxes. Tow Center for Digital Journalism, Columbia University.
Le Cun, Y. (2019). Quand la machine apprend. Odile Jacob.
Masure, A. (2019). « Résister aux boîtes noires. Design et intelligences artificielles », Cités, 80.
Marino, M. C. (2020). Critical Code Studies. MIT Press.
Nicolas-Le Strat, P. (2009). Journal de thèse. Fulenn.
https://pnls.fr/journal-de-these-septembre-1992-octobre-1993-livre-epub/
Saemmer, A. (2018). « Bienvenue dans la colonie », actes du colloque « Art, littérature et réseaux sociaux ». https://art-et-reseaux.fr/bienvenue-dans-la-colonie-%E2%80%A8enjeux-de-limperialisme-algorithmique-et-tentatives-dinsurrection/
Souchier, E., Candel, É., Gomez-Mejia, G. (2019). Le numérique comme écriture. Théories et méthodes d’analyse. Albin Michel.
Zuboff, S. (2020). L’Âge du capitalisme de surveillance. Zulma.
Auteur
Ingénieur en informatique, est actuellement doctorant en Sciences de l’information et de la communication à l’université de Paris 8 (EUR ArTeC, CEMTI). Ses recherches portent sur les sociabilités numériques qui s’expérimentent dans et par les médiations algorithmiques.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Le Sujet Digital
Claire Larsonneur, Arnauld Regnauld, Pierre Cassou-Noguès et al. (dir.) Stéphane Vanderhaeghe, Géraldine Bertres, Hélène Soldano et al. (trad.)
2015
Le Comportement des choses
Emanuele Quinz (dir.) Lise Thiollier, Gabriele Stera et Armelle Chrétien (trad.)
2021
Artistes-chercheur·es, chercheur·es-artistes
Performer les savoirs
Boudier Marion et Déchery Chloé (dir.)
2022
Architectures of memory
Jean-Marie Dallet et Bertrand Gervais (dir.) Armelle Chrétien et Joshua David Jordan (trad.)
2022
Angles morts du numérique ubiquitaire
Glossaire critique et amoureux
Yves Citton, Marie Lechner et Anthony Masure (dir.)
2023