Numérisation
p. 285-286
Texte intégral
1Paradoxalement, la numérisation pourrait être l’un des angles morts du numérique. Nous savons que tout ce qui passe par un ordinateur présuppose un traitement symbolique de l’information réduisant celle-ci à des données strictement quantitatives, exprimables en nombres et en fonctions. Peu d’entre nous, cependant, se demandent comment ont été transformés en séquences de 0 et 1 les blocs de réalité que nous voyons ou entendons circuler à travers nos media électroniques. Peu d’entre nous cherchent à comprendre les processus d’extraction et d’abstraction qui permettent à des relations sociales multidimensionnelles de se trouver traduites en données chiffrées – données sur lesquelles les algorithmes peuvent ensuite exercer leurs fonctions de classement.
2À l’heure où les algorithmes sont chargés d’opérer de plus en plus de fonctions affectant de plus en plus profondément nos vies collectives et personnelles, les différentes modalités et surtout les différentes qualités des processus de numérisation deviennent pourtant de plus en plus importantes à observer. L’expression anglaise garbage in, garbage out indique bien le nœud du problème. Foutaises à l’entrée, foutaises à la sortie : aussi raffinés que soient les algorithmes, les résultats des opérations de computation ne seront jamais meilleurs que le pire de données qui auront alimenté la base utilisée.
3Clare Garvie a documenté ce phénomène dans un cas précis, qui se trouve être particulièrement dramatique. Elle a enquêté sur les multiples façons dont des départements de police états-uniens font mouliner les logiciels de reconnaissance faciale destinés à identifier des auteur·rices de crimes en les nourrissant de données tragiquement pourries. Des personnes (majoritairement racisées) se trouvent ainsi arrêtées sur la base de reconnaissance faciale alors que l’image qui les a identifiées vient d’un simple portrait-robot esquissé selon les indications d’un témoin, d’une photo de stars hollywoodiennes ou de célébrités sportives auxquelles un témoin a dit qu’elles ressemblaient, ou de photos effectivement prises de la personne suspectée, mais tellement retouchées que le portrait en est à peine reconnaissable.
4 Il est par ailleurs avéré que les logiciels de reconnaissance faciale tendent à être plus performants dans leur numérisation des visages de races blanche que de ceux des minorités raciales. Au lieu de permettre aux Africains-Américains de passer entre les mailles d’un filet d’identification plus lâche et moins précisément taillé, la conséquence en est de multiplier les arrestations de faux coupables. Nous ne sommes certainement pas égaux face à la numérisation du monde, et le premier angle mort à éclairer est sans doute cette inégalité première, qui se situe en amont de tout ce que le numérique pourra faire de nous.
Bibliographie
Référence
Garvie, C. (2019, 16 mai). « Garbage In, Garbage Out, Face Recognition on Flawed Data ». https://www.flawedfacedata.com/
Auteur
Étudie et enseigne la littérature et les media à l’université Paris 8. Il co-dirige la revue Multitudes et a publié Médiarchie (2017), Pour une écologie de l’attention (2014), Zazirocratie (2011). Ses articles sont accessibles en ligne sur www.yvescitton.net.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Le Sujet Digital
Claire Larsonneur, Arnauld Regnauld, Pierre Cassou-Noguès et al. (dir.) Stéphane Vanderhaeghe, Géraldine Bertres, Hélène Soldano et al. (trad.)
2015
Le Comportement des choses
Emanuele Quinz (dir.) Lise Thiollier, Gabriele Stera et Armelle Chrétien (trad.)
2021
Artistes-chercheur·es, chercheur·es-artistes
Performer les savoirs
Boudier Marion et Déchery Chloé (dir.)
2022
Architectures of memory
Jean-Marie Dallet et Bertrand Gervais (dir.) Armelle Chrétien et Joshua David Jordan (trad.)
2022
Angles morts du numérique ubiquitaire
Glossaire critique et amoureux
Yves Citton, Marie Lechner et Anthony Masure (dir.)
2023