Capitolo 5. Per un’etica dell’Intelligenza2
p. 126-167
Texte intégral
«Niente era ancora tuo eccetto quei pochi centimetri cubici dentro il tuo cranio».
George Orwell, 1984
1Per quanto futuristico possa sembrare lo scenario di simbiosi tra l’essere umano e l’intelligenza artificiale descritto da Elon Musk, si badi che tale scenario non è un’idea recente ma era già stato preconizzato addirittura nel Marzo del 1960. In quell’anno, lo psicologo cognitivo e pioniere dell’informatica J.C.R. Licklider pubblicava un articolo titolato per l’appunto “simbiosi uomo-computer” (in inglese, Man-computer Symbiosis) nel quale scriveva:
La simbiosi uomo-macchina è una sottoclasse dei sistemi uomo-macchina. Ci sono molti sistemi uomo-macchina. Attualmente, tuttavia, non esistono simbiosi uomo-macchina. Lo scopo di questo lavoro è quello di presentare il concetto e, si spera, di favorire lo sviluppo della simbiosi uomo-macchina analizzando alcuni problemi di interazione tra uomini e macchine informatiche, richiamando l’attenzione sui principi applicabili dell’ingegneria uomo-macchina, ed evidenziando alcune domande alle quali sono necessarie risposte di ricerca. La speranza è che, in non troppi anni, i cervelli umani e le macchine informatiche saranno accoppiati molto strettamente gli uni con le altre, e che il legame che ne risulterà saprà pensare come nessun cervello umano ha mai pensato ed elaborato i dati in un modo che non è mai stato avvicinato dalle macchine per l’elaborazione delle informazioni che conosciamo oggi.
Oggi possiamo dire con buona certezza che la speranza di Licklider si sta finalmente realizzando. Grazie a centinaia di milioni di anni di evoluzione biologica e svariate migliaia di anni di evoluzione culturale, l’intelligenza umana è riuscita a sviluppare gli strumenti cognitivi e tecnologici per arrivare ad avere coscienza di sé, osservarsi nei suoi funzionamenti e, da qualche tempo a questa parte, sottoporsi a una volontaria ma minuziosa operazione di auto-analisi, resa possibile dalle neuroscienze e dalle neurotecnologie. Inoltre, negli ultimi decenni, essa è riuscita a generare ricorsivamente un’altra intelligenza, di tipo artificiale, e oggi si appresta a integrarsi a essa. I vantaggi che potrebbero derivare da tale integrazione sono enormi. Come abbiamo visto, la combinazione di neurotecnologie e intelligenza artificiale sta facendo grandi progressi verso il ripristino del controllo motorio o verbale delle persone disabili, consentendo loro di controllare dispositivi robotici direttamente tramite l’attività cerebrale o di ristabilire parzialmente il controllo motorio o verbale naturale tramite neurostimulazione. Potremo ridare la parola a chi l’ha persa, ridare il movimento a chi è paralizzato, ridare la memoria a chi l’ha perduta invecchiando o anche migliorare le facoltà intellettuali delle persone comuni. Come abbiamo sottolineato, infatti, non sono soltanto i pazienti neurologici a beneficiare direttamente dalla progressiva integrazione di intelligenza naturale e artificiale. Tale integrazione, infatti, sta incrementalmente rendendo possibile, potenzialmente per ogni essere umano sul pianeta, una varietà di cose che fino a pochi anni fa venivano considerate pura fantascienza. Tra queste, controllare telefoni o automobili solamente con il pensiero, rallentare o persino invertire il declino cognitivo legato all’invecchiamento (riportando indietro l’orologio biologico della memoria), scrivere con il pensiero più velocemente che con le mani, o – più genericamente – espandere i confini funzionali e le possibilità operative dell’intelligenza umana al di là dei limiti fisici che la nostra specie ha ricevuto in dote.
2L’Intelligenza2 potrebbe segnare l’inizio di una nuova transizione epocale nella storia di Homo sapiens. Una transizione nella quale un’intelligenza biologica utilizza ricorsivamente un’intelligenza artificiale da lei stessa creata al fine di unirsi a essa e, in tal modo, autopotenziarsi. Per definizione, grandi transizioni epocali comportano grandi cambiamenti. Cambiamenti che riguardano non soltanto il singolo individuo, ma anche e soprattutto l’intera società all’interno della quale ogni individuo è inscritto. Le grandi transizioni epocali comportate dall’origine del linguaggio e dall’invenzione della scrittura, ad esempio, hanno completamente rivoluzionato le società umane modificando aspetti essenziali del loro funzionamento: dalle modalità di trasmissione delle informazioni a quelle di organizzazione ed esecuzione delle attività produttive, dalla distribuzione geografica alla gestione del tempo, dalle dimensioni delle reti sociali alla loro struttura qualitativa.
3Nel caso della transizione epocale verso l’Intelligenza2, tali cambiamenti radicali a livello sociale sono tanto più attesi in quanto il soggetto del cambiamento è proprio il motore o generatore di tali processi sociali, ovvero l’intelligenza umana. Le organizzazioni sociali umane, gli artefatti tecnologici che le popolano, le comunità immaginarie che chiamiamo “nazioni”, i modi di organizzazione delle risorse e i sistemi di interazione che garantiscono tale organizzazione (che chiamiamo solitamente “economia”), senza contare le attività e le organizzazioni politiche, o tutte le forme di creatività ed espressione artistica, dalla musica alla pittura, dalla poesia alla narrazione: nulla di tutto ciò esisterebbe sul pianeta Terra oggi se delle macchine biologiche come i cervelli umani non avessero avuto modo di evolversi. Tutte le attività umane, anche quelle in scala più ampia, sono determinate in una buona misura dai processi che occorrono all’interno del cervello umano e alle scariche elettriche che occorrono tra le sinapsi. Per questo stesso motivo, qualsiasi cambiamento esogeno dei processi che occorrono all’interno del cervello umano e delle scariche elettriche che occorrono tra le sinapsi può avere un impatto trasformativo sulle attività umane, comprese quelle su più ampia scala. Per dirla con una metafora del filosofo tedesco Johann Gottlieb Fichte: «non si può rimuovere un singolo granello di sabbia dal suo posto senza cambiare qualcosa in tutte le parti dell’incommensurabile tutto» (Fichte 1800/2001).
4Modificare radicalmente l’intelligenza umana tramite l’Intelligenza2, pertanto, ci pone davanti a una incipiente trasformazione storica i cui prodromi sono già qui intorno a noi. Come vedremo in questo capitolo, i primi segnali delle ripercussioni che l’Intelligenza2 comporterà per le società umane sono già osservabili, seppure in modo frammentario, parcellizzato e confuso. Come per una buona interfaccia cervello-computer, la difficoltà primaria è quella di distinguere tali segnali dal rumore di fondo. Pertanto, nelle pagine che seguono cercheremo di organizzare in modo unitario e organico questi segnali incipienti e di distinguerli dal rumore di fondo che li avvolge al fine di capire quali sfide attendono la nostra specie negli anni a venire. Infine, nei paragrafi conclusivi, presenteremo alcune proposte finalizzate a garantire preventivamente che questa incipiente transizione storica avvenga in modo da beneficiare l’umanità tutta e in modo da proteggere e potenziare quella macchina biologica delicatissima che milioni di anni di evoluzione ci hanno lasciato in eredità.
5In particolare, ci soffermeremo su quattro segnali essenziali. Il primo di questi segnali inerisce ai beneficiari dell’Intelligenza2, ovvero agli individui o gruppi di individui che si stanno profilando come intestatari di questa transizione socio-tecnologica. Il secondo segnale riguarda la progressiva trasparenza del cervello umano nella sfera pubblica, un fenomeno che chiameremo “nudità dell’intelligenza”. Infine, il terzo e il quarto segnale che cercheremo di decodificare riguardano le implicazioni dell’Intelligenza2 dal punto di vista, rispettivamente, della libertà di pensiero e dell’identità personale.
6Prima di cominciare questa disamina, però, c’è bisogno di un avvertimento. Come affermato dal filosofo James H. Moor, le rivoluzioni socio-tecnologiche «non arrivano completamente mature». Al contrario esse «richiedono tempo e il loro futuro, come quello dei bambini piccoli, è difficile da prevedere». Pertanto, il terreno in cui ci stiamo muovendo è un territorio di grande incertezza. È difficile prevedere oggi con rigore analitico le conseguenze a lungo termine dell’Intelligenza2 per le società umane, semplicemente perché più è estesa la scala temporale di riferimento e più aumentano i fattori variabili. Questa incertezza potrà essere ridotta soltanto dal tempo. Allo stesso tempo però, più andremo avanti negli anni e meno capacità avremo di indirizzare l’Intelligenza2 in modo tale da massimizzare i suoi effetti benefici per le società umane e ridurne gli effetti potenzialmente dannosi in quanto queste tecnologie saranno troppo diffuse e d’uso comune per essere modificabili sostanzialmente. Questo problema appena descritto è noto negli studi sull’impatto delle tecnologie come “dilemma di Collingridge”, dal nome di David Collingridge della University of Aston, che per primo lo descrisse nel suo libro del 1980 The Social Control of Technology. Si tratta di un dilemma metodologico relativo all’analisi dell’impatto sociale delle tecnologie basato su un problema a doppio legame. Anzitutto, il dilemma di Collingridge pone un problema di tipo informazionale: ovvero che gli impatti di una certa tecnologia non possono essere facilmente prevedibili fino a quando la tecnologia non è ampiamente sviluppata e utilizzata. Congiuntamente, esso pone un problema che potrebbe essere foucaultianamente definito “di potere”: controllare o modificare una certa tecnologia è tanto più difficile quanto più la tecnologia si è sviluppata e consolidata. Per usare le parole dello storico della scienza bielorusso Evgeny Morozov: «Quando il cambiamento è facile, la necessità di un cambiamento non può essere prevista; quando la necessità di cambiamento è evidente, il cambiamento è diventato costoso, difficile e richiederebbe troppo tempo».
7La difficoltà di risoluzione del dilemma di Collingridge risiede principalmente nella difficoltà di raccogliere prospettivamente un grado sufficiente di evidenza scientifica circa un dato fenomeno in un intervallo di tempo sufficientemente breve da consentire ancora di indirizzare il cambiamento tecnologico in una direzione socialmente desiderabile. Questo è esattamente quanto si cercherà di fare nelle pagine che seguono.
Intelligenza di chi? Intelligenza2 e uguaglianza
8Non tutte le transizioni storiche che hanno caratterizzato l’evoluzione biologica o culturale della nostra specie hanno coinvolto l’intera popolazione mondiale. Alcune, come l’evoluzione del linguaggio verbale, hanno escluso alcune centinaia di migliaia di persone affette da disturbi come l’afasia. Altre, come la scrittura, sono state, per buona parte della storia umana, appannaggio di una ristretta cerchia di persone. Ancora oggi, nel mondo altamente industrializzato e informatizzato del 2019, oltre settecento ottanta milioni di persone non sanno né leggere né scrivere. Il raffronto con le transizioni epocali precedenti suggerisce pertanto che la trasformazione storica dell’Intelligenza2 potrà non andare a beneficiare l’intera specie umana, ma solamente determinati gruppi di persone.
9Questo rischio risiede principalmente nella componente artificiale della Intelligenza2. Come affermato da Marc Benioff al World Economic Forum 2019 di Davos, in Svizzera,
oggi, solo pochi paesi e aziende hanno accesso alla migliore intelligenza artificiale del mondo. E coloro che la possiedono saranno presto più intelligenti, più sani, più ricchi e, naturalmente, il loro potenziale bellico sarà molto più avanzato. Questo è il motivo per cui è fondamentale oggi perseguire un principio di uguaglianza. Dobbiamo chiederci: cosa stiamo facendo per portare veramente queste tecnologie a tutti? Le persone che rimarranno senza l’intelligenza artificiale saranno meno istruite, più deboli, più povere e più malate. Quindi dobbiamo chiederci: è questo il tipo di mondo in cui vogliamo vivere?
Benioff è solo uno dei tanti commentatori che hanno sottolineato come sebbene l’Intelligenza2 possa apportare grandi benefici in termini di nuovi posti di lavoro, nuovi modi per curare le malattie e alleviare la sofferenza, ci sia il rischio collaterale che essa aggravi le nostre disuguaglianze economiche, razziali, di genere e persino ambientali.
10I primi segnali di questo rischio emergente sono già visibili. Circa la metà della popolazione mondiale, oggi, ancora non ha accesso a sistemi di computazione di base come uno smartphone, un tablet, un PC o a una connessione internet. Della restante metà, solo alcune centinaia di migliaia di persone hanno accesso alle interfacce di programmazione delle applicazioni, agli algoritmi auto-apprendenti e ad altre componenti delle intelligenze artificiali. Molti software di intelligenza artificiale sono software proprietari (detti anche software non liberi o closed source), cioè coperti da licenza. Questo consente ai detentori di tale licenza di imporre restrizioni all’uso e alla distribuzione del software e, in alcuni casi, perfino di tenere segrete alcune componenti tecniche. Ad esempio, i titolari della licenza possono spesso rendere noto soltanto il codice binario e tenere segreto il codice sorgente. Pratiche di questo tipo recano chiaramente un vantaggio ai titolari della licenza in termini di proprietà intellettuale e, potenzialmente, ritorno economico. Allo stesso tempo, però, esse rendono la diffusione, lo studio e la modifica delle intelligenze artificiali tecnicamente molto complessi o addirittura illegali. Oltretutto, molte delle intelligenze artificiali incorporate, come ad esempio i robot, richiedono dei costi elevati di acquisto e mantenimento dell’hardware (il corpo del robot). Il robot Pepper, ad esempio, considerato uno dei robot intelligenti di maggiore diffusione e per uso quotidiano, costa ancora intorno ai duemila euro. Costi certamente proibitivi per molti in un mondo in cui oltre tre miliardi di persone ancora vivono sotto la soglia di povertà. Lo stesso vale per le interfacce cervello-computer: maggiore la capacità del neurodispositivo di leggere in modo chiaro e affidabile l’attività cerebrale, maggiori i costi dell’hardware.
11Tutto questo comporta anche che dei circa novanta miliardi di dollari di profitti che si prevede verranno generati dall’intelligenza artificiale nel Mondo nei prossimi cinque anni (una cifra quasi cinque volte superiore a quella attuale), la buona parte di quei profitti finirà nelle tasche di pochi mentre molti ne rimarranno esclusi. Pur non avendo accesso alla creazione dell’intelligenza artificiale e alla redistribuzione dei profitti derivanti, però, la gran parte della popolazione mondiale contribuirà, spesso inconsapevolmente o addirittura suo malgrado, a tale creazione e a tali profitti. Come abbiamo visto, infatti, per allenare gli algoritmi di apprendimento automatico sono necessarie grandi moli di dati, un fenomeno solitamente descritto come “big data”. Pertanto, lo sviluppo e il perfezionamento di algoritmi intelligenti devono passare attraverso l’acquisizione e l’elaborazione di grandi volumi di dati provenienti da più persone possibili, che queste persone lo desiderino oppure no. Oggi chiunque abbia accesso a una rete internet (e spesso anche chi ne è escluso) è un partecipante più o meno consapevole di esperimenti finalizzati al miglioramento e al potenziamento degli algoritmi intelligenti. E spesso anche se non abbiamo una rete internet, c’è sufficiente informazione sul nostro conto nell’ecosistema digitale da renderci completamente esposti.
12Nel 2014, ad esempio, il colosso digitale Facebook ha condotto un massiccio esperimento psicologico su ben 689.003 utenti del social-network, manipolando algoritmicamente la loro newsfeed al fine di valutare che tipo di effetti tale manipolazione avrebbe avuto sulle loro emozioni. I dettagli dell’esperimento, pubblicati sulla prestigiosa rivista “Proceedings of the National Academy of Sciences of the United States of America” (PNAS) dimostravano sperimentalmente la possibilità di realizzare per via algoritmica quello che Facebook stessa ha chiamato “massive-scale emotional contagion” ovvero contagio emotivo su scala massiva. In poche parole, lo studio dimostra la capacità di Facebook di influenzare algoritmicamente le tue emozioni, dunque di farti stare bene o male, semplicemente modificando ciò che appare nella tua newsfeed. Di quei 689.003 utenti, però, nessuno è stato informato di stare partecipando a un esperimento. E nessuno ha tratto beneficio diretto o profitto economico da tale partecipazione. Esempi come questo sono indicativi di come, nella attuale economia dei dati, si possa finire per sfruttare centinaia di migliaia di persone pur di addestrare gli algoritmi e ottimizzarne le funzioni.
13Colossi digitali quali Facebook, Google e Amazon hanno accesso ai dati di centinaia di milioni di persone su scala globale. Il che consente loro di allenare meglio i propri algoritmi, dunque di sviluppare intelligenze artificiali più avanzate rispetto a quelle di rivali più piccoli. E si tratta di un vantaggio ricorsivo: intelligenze artificiali più avanzate consentiranno la creazione di altre intelligenze artificiali ancora più avanzate e così via. Questa asimmetria informazionale (ossia il divario nell’acceso ai dati) è tanto più marcata se si prende a termine di paragone la singola intelligenza naturale, ovvero il singolo individuo. Sebbene Facebook possa raccogliere svariati terabyte di dati sul mio conto, comprese informazioni sulla mia dimensione mentale quali stati emotivi, preferenze e aspetti della mia memoria (dove e con chi ero esattamente un anno fa), io singolo individuo non ho conoscenza delle procedure attraverso le quali i miei dati vengono aggregati ed elaborati. Oltretutto, in quanto singolo individuo, non dispongo delle risorse computazionali (in termini di processori e server) né degli strumenti analitici (algoritmi di autoapprendimento) necessari per l’aggregazione di tali informazioni. Google, ad esempio, ha raccolto ogni singola ricerca web che voi abbiate mai fatto sul suo motore di ricerca, mentre difficilmente voi siete in grado di ricordare che cosa avete cercato sul web lo scorso martedì mattina. Questo rende plausibile il noto adagio secondo cui i colossi digitali sappiano più sul vostro conto di voi stessi. Come vedremo tra poco, l’asimmetria informazionale diventa particolarmente problematica nel momento in cui compagnie come Facebook si preparano ad aggregare all’interno dell’infosfera di dati digitali anche i dati neurali come passaggio essenziale per lo sviluppo di un’intelligenza naturale-artificiale integrata.
14Le disuguaglianze che rischiano di essere esacerbate nella transizione verso l’Intelligenza2 non si limitano al divario tra chi ha e chi non ha accesso ai vantaggi dell’intelligenza artificiale, ma anche al rischio che l’automazione dei processi operata dalle intelligenze artificiali possa discriminare determinati gruppi di persone. Svariate intelligenze artificiali si sono rivelate suscettibili di questo rischio. Un esempio di ciò è il COMPAS, un algoritmo intelligente ampiamente utilizzato negli Stati Uniti per facilitare i processi giudiziari tramite una predizione automatizzata della probabilità di recidiva criminale. Nel maggio del 2016, l’agenzia di stampa statunitense ProPublica ha scoperto che COMPAS discriminava le persone su base etnica. Secondo la loro analisi, il sistema prevedeva che gli imputati neri avessero un rischio di recidiva più elevato di quanto non fosse supportato dai dati, mentre per gli imputati bianchi avveniva esattamente l’inverso. Indagare come questo pregiudizio razziale possa essere stato appreso dall’algoritmo è molto difficile in quanto si tratta anche in questo caso di un software proprietario, dunque con accesso ristretto.
15Simili rischi di discriminazione razziale tramite intelligenze artificiali sono stati osservati in relazione agli algoritmi di visione computerizzata, specialmente quelli di riconoscimento facciale (anche questi, peraltro, sempre più utilizzati dalle forze dell’ordine). Nel febbraio del 2018, la ricercatrice Joy Buolamwini del Massachusetts Institute of Technology (MIT) ha scoperto che tre delle più avanzate intelligenze artificiali per il riconoscimento facciale, prodotte rispettivamente da IBM, Microsoft e della società cinese Megvii, erano in grado di identificare correttamente il genere di una persona da una fotografia nel 99% dei casi. Ma solo per gli uomini di pelle bianca! Per le donne dalla pelle scura, il grado di precisione degli algoritmi scendeva invece addirittura al 35%, denotando dunque un doppio rischio di discriminazione: sia su base etnica che di genere.
16È bene notare, per meglio comprendere questi rischi, che non ha senso incolpare le intelligenze artificiali di una deliberata forma di razzismo. Le intelligenze artificiali attuali, come abbiamo visto, non sono esseri coscienti, dunque non sono capaci di esprimere intenzionalità o volizione. Esse pertanto sono esposte al cosiddetto stereotipo implicito, ovvero al rischio di attribuzione inconscia e ingiustificata di caratteristiche a determinati individui o gruppi. Si tratta di un rischio a cui sono esposte anche le intelligenze naturali, tra cui quella umana. Nel 1995 gli psicologi statunitensi Mahzarin Banaji e Anthony Greenwald furono i primi a dare una caratterizzazione scientificamente esaustiva di questo fenomeno. Gli stereotipi impliciti sono modellati dall’esperienza e basati su associazioni apprese tra particolari qualità e categorie sociali, compresa la razza o il sesso. Le percezioni e i comportamenti degli individui possono essere influenzati dagli stereotipi impliciti che detengono, anche se sono inconsapevoli o involontari. Il pregiudizio implicito è oggi considerato un aspetto della cognizione sociale implicita: ovvero l’insieme di percezioni, atteggiamenti e stereotipi che operano senza intenzione consapevole.
17Le intelligenze artificiali sono soggette esattamente alla medesima vulnerabilità. La discriminazione etnica o di genere operata da alcune intelligenze artificiali è modellata sulla base dei suoi processi di apprendimento automatico e sulle associazioni apprese in tal modo all’interno del set di dati con il quale è stato allenato l’algoritmo. Se il set di dati con il quale è stato allenato l’algoritmo è caratterizzato da un pregiudizio etnico o di genere, tale pregiudizio si rifletterà nell’output generato dall’algoritmo. Un processo non troppo distante da come un bambino cresciuto in una famiglia di razzisti ha più probabilità di esibire comportamenti discriminatori una volta diventato adulto. Nelle intelligenze2 gli errori pregiudiziali generati dalle componenti artificiali potrebbero ripercuotersi sulle intelligenze naturali e addirittura amplificarsi. Avendo accesso ai dati neurali, infatti, esse potrebbero involontariamente discriminare anche altre categorie di persone, come quelle affette da disturbi neurologici o semplicemente più deficitarie sul piano cognitivo.
18Oltre al rischio di disuguaglianza su base economica, di etnia e di genere, un altro fattore da tenere in considerazione per valutare prospettivamente chi beneficerà più (o meno) di altri dall’Intelligenza2, è il crescente impiego di intelligenze artificiali e intelligenze naturali aumentate (cervelli umani potenziati neurotecnologicamente) in ambito militare. La corsa alla militarizzazione dell’intelligenza artificiale più avanzata è già iniziata. Nel settembre 2018, il Pentagono si è impegnato a spendere 2 miliardi di dollari nei prossimi cinque anni attraverso la Defense Advanced Research Projects Agency (DARPA) per «sviluppare [la] prossima ondata di tecnologie di IA». A inizio 2019, il presidente degli Stati Uniti Donald Trump ha firmato un ordine esecutivo per creare la “American AI Initiative”, con la quale gli Stati Uniti si sono uniti ad altri importanti paesi che perseguono strategie nazionali per lo sviluppo dell’IA. La Cina ha pubblicato il suo “New Generation Plan” nel 2017, delineando la sua strategia per guidare il mondo in IA entro il 2030. Mesi dopo quell’annuncio, il presidente russo Vladimir Putin ha dichiarato riguardo all’intelligenza artificiale: «Chiunque diventerà il leader in questo campo diventerà il sovrano del mondo». Più di 20.000 ricercatori nel campo dell’IA hanno finora firmato una lettera aperta in cui si afferma che «avviare una corsa agli armamenti militari intelligenti è una cattiva idea, e deve essere impedita da un divieto completo degli armamenti autonomi per fini di offesa che vanno al di là di un significativo controllo umano». Human Rights Watch, tra gli altri, ha lanciato una campagna contro i “robot killer”, mentre l’ONU è sempre più attiva nella revisione della tecnologia.
19Molte delle intelligenze artificiali in fase di militarizzazione sfruttano il canale dell’Intelligenza2. DARPA sta infatti sviluppando anche una “interfaccia neurale” che permetterà a soldati e macchine di connettersi attraverso il pensiero. Questo programma di ricerca militare è chiamato N3 (Next-Generation Non-Surgical Neurotechnology) e è un progetto che mira a sviluppare due nuove tecnologie BCI per il monitoraggio del cervello in tempo reale e per il controllo remoto di dispositivi esterni. Entrambe le interfacce saranno di tipo bidirezionale, ovvero potranno sia leggere l’attività cerebrale che scrivere informazioni e viceversa. Non è chiaro come DARPA intenda utilizzare la tecnologia, ma Al Emondi, il program manager del settore per le tecnologie biologiche di DARPA, ha anticipato pubblicamente che le interfacce potranno essere utilizzate per aiutare i piloti a coordinare una flotta di droni con il pensiero o per controllare un robot dispiegato a distanza utilizzando i segnali cerebrali provenienti dalla corteccia motoria. Emondi ha peraltro aggiunto: «Non pensiamo alla tecnologia N3 come a un nuovo modo di pilotare un aereo o di parlare con un computer, ma come un vero e proprio strumento per la cooperazione uomo-macchina». Anche alla luce di questi sviluppi, il tenente colonnello dell’Air Force americana Brian E. Moore ha affermato che le interfacce cervello-computer hanno «il potenziale di rivoluzionare gli equilibri di dominio militare nella stessa misura degli armamenti nucleari» (Moore 2013).
20La militarizzazione dell’Intelligenza2, pertanto, rischia di creare degli squilibri non solo a livello inter-individuale e tra gruppi socio-economici ma anche tra nazioni. Nazioni militarmente più potenti potrebbero servirsene per soggiogare nazioni meno potenti. E come per qualunque altra corsa agli armamenti della storia umana, non abbiamo garanzie che tali strumenti vengano utilizzati solo per fini di deterrenza e non di offesa. Se i conflitti militari del futuro sfrutteranno il canale dell’Intelligenza2, inoltre, essi sposteranno la linea del conflitto all’interno della nostra sfera più intima. Alla luce di questi sviluppi, sta prendendo piede nella comunità scientifica la volontà di sviluppare delle linee guida per la neurosicurezza, ovvero delle tutele contro l’uso malevolo o offensivo delle neurotecnologie (Ienca, Jotterand e Elger 2018). Grazie a queste sollecitazioni, i ricercatori dello Human Brain Project, uno dei più grandi progetti scientifici al mondo in materia di neurotecnologia, hanno pubblicato alla fine del 2018 un report sul “doppio uso responsabile” delle neurotecnologie, dove per doppio uso si intende sia quello per fini civili che per usi militari.
Il cervello è nudo
21Il rischio che la transizione storica verso l’Intelligenza2 possa lasciare indietro molte persone, o addirittura esacerbare le disuguaglianze tra diversi gruppi sociali, etnici o culturali, è acuito da un’altra caratteristica senza precedenti di questa nuova era. Ovvero, la nudità del cervello umano. Per tutta la storia umana, il cervello è stato “vestito”, cioè nascosto dentro la scatola cranica. I suoi processi interni sono stati inferibili tramite indicatori indiretti come il comportamento, le espressioni, i gesti e le parole. Tuttavia, l’analisi diretta di tali processi è rimasta elusiva alle tecnologie precedenti, dunque refrattaria all’osservazione esterna. Come abbiamo visto nel capitolo precedente, una grande varietà di processi cerebrali è oggi osservabile per via neurotecnologica e analizzabile con l’aiuto dell’intelligenza artificiale. La nuova e inattesa nudità del cervello apporterà – e sta già apportando – immensi benefici all’umanità in termini di diagnostica, prevenzione e cura di malattie neurologiche e psichiatriche. Inoltre, consentirà – e sta già consentendo – un’interazione più immediata ed efficiente tra l’essere umano e il mondo digitale.
22Allo stesso tempo, però, la nudità del cervello apre nuovi scenari dal punto di vista etico e giuridico. Già nel 2013, il Presidente degli Stati Uniti Barack Obama richiamò l’attenzione sul potenziale impatto delle neurotecnologie sui diritti umani, sottolineando la necessità di affrontare questioni come quelle «in materia di privacy, identità personale e responsabilità morale delle proprie azioni; domande sulla stigmatizzazione e la discriminazione basata su misure neurologiche dell’intelligenza o altri tratti; e domande sull’uso appropriato delle neuroscienze nella giustizia penale» (Obama 2013). Nel lustro abbondante che è seguito a quelle dichiarazioni, questo potenziale di impatto si è andato sempre più delineando.
23Un uso potenzialmente rivoluzionario della neurotecnologia in campo giuridico è stato illustrato da un team di esperti tra cui lo psicologo Eyal Aharoni, il neuroscienziato Michael Gazzaniga (tra i padri fondatori delle neuroscienze cognitive) e il filosofo Walter Sinnot-Armstrong. In questo studio, i ricercatori hanno seguito un gruppo di 96 detenuti maschi dopo essere stati rilasciati dalle strutture penitenziarie. Utilizzando la fMRI, i cervelli dei detenuti sono stati analizzati durante l’esecuzione di attività informatiche tramite le quali gli veniva richiesto di prendere decisioni rapide e inibire le reazioni impulsive. I ricercatori hanno seguito gli ex-detenuti per 4 anni al fine di osservarne e monitorarne il comportamento. I risultati dello studio indicano che gli ex-detenuti che mostrano una bassa attività in una regione della corteccia cerebrale associata al processo decisionale e all’azione (la corteccia cingolata anteriore o ACC) hanno maggiori probabilità di commettere nuovamente reati entro quattro anni dal rilascio. Negli individui che mostrano bassa attività in quella regione del cervello il rischio di recidiva è più del doppio rispetto agli individui con elevata attività in quella stessa regione. In altre parole, le scansioni cerebrali possono teoricamente aiutare a determinare quali ex-condannati hanno un rischio di recidiva maggiore dopo il rilascio. A detta degli autori dello studio, questi risultati suggeriscono l’esistenza di un «potenziale biomarcatore neurocognitivo per un comportamento antisociale persistente».
24Questa prospettiva evoca la storia descritta nel celebre racconto di fantascienza The Minority Report scritto da Philip K. Dick del 1956 e poi adattato in veste cinematografica da Steven Spielberg nel 2002 con Tom Cruise come protagonista. Il racconto, infatti, descrive le attività di un’unità speciale di polizia chiamata “divisione pre-crimine” (“Precrime Division”) la quale è in grado di identificare e arrestare gli assassini prima che essi commettano i loro crimini. Nel racconto di Dick, questa unità di prevenzione del crimine viene ritenuta il sistema perfetto di mantenimento dell’ordine e rispetto della legge fino a quando un ufficiale della stessa unità viene erroneamente accusato di un futuro omicidio. Il riconoscimento di biomarcatori neurocognitivi del comportamento antisociale, reso possibile dalla nudità del cervello, solleva importanti questioni etiche e di diritti umani. Quante prove sono necessarie per dimostrare che le scansioni cerebrali siano in grado di individuare con esattezza solo quelle persone che realmente commetteranno un crimine? E soprattutto, dal momento che si tratta di predizioni di natura probabilistica, è legittimo utilizzare queste informazioni per fini giuridici o di ordine pubblico? Inoltre, in che misura dei risultati basati su una certa coorte di persone possono essere generalizzati all’intera popolazione essendo la legge uguale per tutti? Sebbene sia necessario ancora molto lavoro di ricerca per garantire l’affidabilità scientifica delle predizioni neurotecnologiche prima di autorizzarne l’uso da parte dei tribunali, è fondamentale porsi oggi queste domande e avviare un dibattito pubblico sulla desiderabilità di una società come quella prospettata da Dick. Un’urgenza resa ancora maggiore dal rischio di discriminazione algoritmica di cui si è parlato precedentemente. Se uno scenario ipotetico in cui si possano incriminare persone per crimini ancora non commessi ci appare distopico, è ancora più distopico uno scenario in cui tale incriminazione si basa su processi automatizzati che discriminano algoritmicamente determinati gruppi etnici o socio-economici sulla base dei dati neurali.
25Un’altra implicazione della nudità del cervello riguarda la possibilità di ogni individuo di scegliere se dire la verità o mentire. L’idea di poter utilizzare un dispositivo tecnologico per predire quando una persona sta dicendo il vero e quando il falso è molto antica, e radicata nella cultura popolare sotto la definizione di “macchina della verità”. Negli ultimi decenni, il dispositivo che più di tutti si era avvicinato a questa nozione di macchina della verità è stato il poligrafo, ovvero un dispositivo in grado di misurare e registrare diversi indicatori fisiologici come la pressione sanguigna, il polso, la respirazione e la conduttività cutanea mentre una persona viene sottoposta a una serie di domande. L’assunzione scientifica che sta alla base dell’uso del poligrafo è che le risposte ingannevoli producano delle risposte fisiologiche diverse (o, perlomeno, differenziabili) da quelle associate a risposte non ingannevoli. Il poligrafo fu inventato nel 1921 da John Augustus Larson, uno studente di medicina all’Università di Berkeley e un ufficiale di polizia del dipartimento di polizia locale. Inizialmente voluminoso, il dispositivo venne successivamente aggiornato da Leonarde Keeler, il quale lo rese portatile e vi aggiunse la capacità di misurare le risposte galvaniche della pelle. Il dispositivo fu poi acquistato dall’FBI, la quale se ne servì come prototipo del moderno poligrafo. Ancora oggi, le forze dell’ordine statunitensi e le agenzie governative federali come l’FBI, l’NSA e la CIA utilizzano gli esami poligrafici per interrogare i sospetti e controllare i propri dipendenti. Da un punto di vista tecnologico, però, il problema principale del poligrafo è di affidabilità: esso infatti non è in grado di individuare con grande affidabilità le reazioni fisiologiche specifiche associate alla menzogna. Non a caso, gli stessi esaminatori tendono a utilizzare questa tecnica in modo complementare ma non sostitutivo della valutazione umana basata su un semplice interrogatorio.
26È per questo che si è pensato di sfruttare la crescente nudità del cervello per andare a leggervi all’interno delle tracce fisiologiche più affidabili di verità e menzogna. Ne sono derivati i cosiddetti “decodificatori mentali” o “stampanti cerebrali” ovvero dispositivi in grado di registrare e misurare le risposte cerebrali associate al recupero di memorie, con lo scopo di accertare i valori di verità delle affermazioni relative a tali memorie. Se i tradizionali rilevatori di menzogne, come il poligrafo, misurano marcatori corporei extracerebrali come la pressione sanguigna, la frequenza cardiaca e le reazioni muscolari, i decodificatori mentali si basano direttamente sulle registrazioni EEG e fMRI. Essi, per così dire, rilevano la menzogna alla fonte. Attualmente varie aziende, tra cui le americane No Lie MRI e Cephos Corp, offrono servizi di rilevamento di menzogne tramite fMRI. Uno studio pubblicato nel 2005 da un gruppo di ricerca collegato a Cephos ha sostenuto che il rilevamento delle menzogne basato sul segnale fMRI ha un’affidabilità di circa il 90%, dunque molto superiore rispetto al poligrafo. Lo stesso studio prevedeva che negli anni successivi la procedura sarebbe stata ulteriormente migliorata e resa pronta per essere utilizzata in tribunale in un futuro non troppo lontano. Si è rivelata una previsione azzeccata. Tre anni dopo una donna indiana fu processata per omicidio e condannata all’ergastolo sulla base di una scansione del cervello che mostrava, a detta del giudice, “conoscenza esperienziale” del crimine. Ça va sans dire: questo utilizzo delle neurotecnologie in ambito processuale è altamente criticato dagli esperti, incluso il sottoscritto, in quanto prematuro e affetto da seri dubbi di validità scientifica.
27Studi più recenti hanno confermato la maggiore affidabilità dei rilevatori di menzogne basati sulla fMRI rispetto alla poligrafia (Langleben et al. 2016). Parallelamente, i decodificatori mentali si sono rivelati in grado di decodificare gli stati mentali e di tradurli in output osservabili come testi, segnali verbali o immagini grafiche. Per esempio, i ricercatori del Politecnico di Karlsruhe in Germania hanno dimostrato l’efficacia di un decoder in grado di ricostruire il discorso parlato a partire dalle onde cerebrali. Come discusso nello scorso capitolo, l’applicabilità clinica di una simile tecnologia sarebbe di immenso beneficio per diverse classi di pazienti neurologici, in particolare quelli che soffrono di sindrome di locked-in e paralisi. Tali pazienti, che potrebbero aver perso la capacità di produrre comunicazioni verbali, sarebbero in grado di re-interagire con il mondo esterno riproducendo nuovamente attraverso l’attività cerebrale. Non tutti i decoder mentali, però, sono progettati per migliorare l’autonomia delle persone affette da disabilità motoria o verbale. I nuovi neuro-poligrafi, infatti, potrebbero presto diventare strumenti in dotazione alle forze dell’ordine e alle agenzie militari per scopi investigativi o di interrogatorio. Secondo la giurista Nita Farahany, già presidente della Società Internazionale di Neuroetica, questo possibile utilizzo delle neurotecnologie da parte delle forze dell’ordine potrebbe violare alcuni principi giuridici come il diritto contro l’autoincriminazione. Spesso descritto con la locuzione latina nemo tenetur se detegere, questo diritto afferma che nessuno può essere obbligato ad affermare la propria responsabilità penale. Oggi ognuno di noi ha ancora, nelle nazioni che consentono un giusto processo, la protezione formale contro dichiarazioni orali autoincriminatorie. Questo diritto, sancito ad esempio dal Quinto Emendamento alla Costituzione degli Stati Uniti, garantisce il diritto di qualsiasi imputato di rifiutarsi di rispondere a domande le cui risposte potrebbero incriminarli. Nel caso di un imputato sottoposto da un giudice a fMRI, EEG o altra forma di “lettura cerebrale”, invece, non c’è modo di sottrarsi alla risposta di domande che potrebbero incriminarlo in quanto, pur tacendo, sarebbe comunque l’attività cerebrale a rivelare quelle risposte. E non c’è alcun metodo attualmente noto per offuscare il segnale cerebrale al fine di impedire l’auto-incriminazione. Come affermato da Nita Farahany, l’autoincriminazione può avvenire in silenzio proprio come avviene ad alta voce.
28Il terzo scenario aperto dalla nudità del cervello è il riconoscimento dell’identità di una persona dalle sue “firme” neurali. I segnali neurali – ad esempio quelli misurabili tramite EEG e fMRI – hanno infatti proprietà biometriche. Esattamente come le impronte digitali o lo screen della retina essi possono essere utilizzati per fini di riconoscimento biometrico come, ad esempio, per lo sblocco di uno smartphone o l’autenticazione su un profilo digitale personale. Ad esempio, i ricercatori della Binghamton University nello stato di New York hanno ideato un modo per verificare l’identità di una persona in base a come il cervello risponde a certe parole. I ricercatori hanno osservato i segnali cerebrali di 45 volontari mentre leggevano una lista di 75 acronimi, come FBI e DVD, e hanno registrato la reazione del cervello a ogni gruppo di lettere, concentrandosi sulla parte del cervello associata alla lettura e al riconoscimento delle parole. I ricercatori hanno scoperto che il cervello dei partecipanti reagisce in modo leggermente diverso a ogni acronimo. Elaborando quei dati tramite un sistema informatico basato su algoritmi di apprendimento automatico, sono riusciti ad associare i segnali neurali a ciascuna persona, dunque a identificare ogni partecipante con una precisione del 94% (Armstrong et al. 2015). Sul breve-medio termine, questa tecnologia potrebbe sostituire le password e le impronte digitali come strumento di autenticazione degli account personali, sollevando nuove questioni di privacy e sicurezza dei dati.
29Da un punto di vista etico, la principale implicazione della nudità del cervello riguarda ovviamente la sfera privata o privacy. Come abbiamo visto, la ricchezza informativa delle registrazioni cerebrali, ad esempio di quelle ottenibili tramite encefalografia o risonanza magnetica funzionale, fa sì che esse possano contenere in forma codificata informazioni altamente private sugli individui da cui vengono ottenute, comprese alcune caratteristiche predittive del loro stato di salute e i loro stati mentali. In virtù di tale potenziale informativo, queste tecnologie sono state spesso classificate sotto l’etichetta di “brain reading”, facendo leva sull’analogia tra la possibilità di decodificare informazioni e stati mentali dai dati neurali e l’interpretazione funzionale di un testo scritto tramite la lettura. Le neurotecnologie odierne, specie se potenziate tramite intelligenza artificiale, sono in grado di decodificare (cioè inferire con affidabilità statisticamente significativa) dai dati neurali di una persona svariate forme di informazione mentali quali intenzioni nascoste, informazioni celate, immagini naturali, esperienze visive e i processi che sottendono la generazione inconscia di decisioni libere. Alcuni studi sono riusciti a raggiungere un sufficiente grado di solidità epistemologica da costruire modelli predittivi. Ad esempio, due celebri studi condotti da John-Dylan Haynes e colleghi hanno utilizzato la fMRI al fine di predire il flusso di coscienza e le scelte di una persona riguardanti non solo la preparazione motoria ma anche, sorprendentemente, le intenzioni astratte. Tali studi hanno sollevato legittimo clamore nella comunità scientifica in quanto la coscienza, l’intenzionalità e la libera scelta sono componenti essenziali di quella facoltà che nella tradizione teologico-filosofica è solitamente definita come “libero arbitrio”.
30Il dibattito è ancora aperto circa la possibilità di decodificare non solo correlati neurali di informazioni mentali ma anche i loro effettivi contenuti. Ad esempio, il filosofo Daniel Dennett ha avanzato la possibilità che nei segnali neurali sia possibile leggere solo il veicolo del pensiero, ma non il suo contenuto. Ciò nonostante è innegabile che nel corso degli ultimi anni la ricchezza quantitativa e qualitativa delle registrazioni neurali sia andata progressivamente e rapidamente migliorando. In questo processo di miglioramento ha influito non solo il potenziamento a livello hardware dei macchinari, ma anche e soprattutto il miglioramento delle tecniche di analisi, un miglioramento all’interno del quale l’uso dell’intelligenza artificiale ha giocato e sta giocando un ruolo chiave.
31Tre principali tipi di rischi per la privacy sembrano profilarsi all’orizzonte dell’Intelligenza2: la diffusione accidentale di informazioni private, l’accesso indesiderato ai dati da parte di terzi e il furto di dati. Tali rischi sono, come è noto, comuni a varie tipologie di dati, specialmente a dati fruibili all’interno dell’ecosistema digitale. La società digitale e l’economia dei dati stanno fagocitando rapidamente domini che per lungo tempo erano rimasti privati. Oggi è normale avere telecamere e microfoni nelle proprie abitazioni in grado di acquisire informazioni circa i nostri movimenti o discorsi. Gli spazi pubblici sono quasi interamente videosorvegliati. Ogni sito web che visitiamo è in grado di archiviare e recuperare informazioni a lungo termine sul nostro conto sul lato client tramite cookie HTTP. Ogni nostro comportamento online, ogni ricerca su un motore di ricerca, ogni transazione online o tramite carta di credito, sono informazioni processabili sul nostro conto. I film che guardiamo, la musica che ascoltiamo, le cose che acquistiamo, le notizie che leggiamo, nulla di tutto ciò pertiene più al dominio del privato. In questo contesto di erosione della privacy, l’intelligenza artificiale sta entrando sempre più nella nostra sfera intima. Dapprima essa è entrata nella nostra sfera lavorativa, sotto forma di tecnologie e processi quali la business intelligence. Poi è entrata nella nostra proprietà privata, attraverso applicazioni intelligenti alle quali abbiamo consentito di entrare nelle nostre case sotto forma di assistenti domestici come Amazon Echo. Ed in virtù degli assistenti digitali per smartphone, come Siri di Apple, gli abbiamo persino consentito di entrare nelle nostre tasche, operare in prossimità del nostro corpo e registrare informazioni dettagliate sul nostro conto. Le BCI sembrano segnare l’ultimo passo di questo processo di attrazione dell’IA nella sfera sempre più intima e privata dell’essere umano. Esse infatti consentono all’IA di entrare all’interno della nostra sfera mentale e, potenzialmente, di modificarla.
32Dato l’intimo legame tra le registrazioni neurali da un lato, e gli stati mentali e la predizione del comportamento dall’altro, l’introduzione delle informazioni cerebrali all’interno di questa infosfera digitale potrebbe segnare il passo definitivo di questo rapido processo di erosione della privacy. Non è un caso che nel 2015 venne pubblicata un’edizione speciale della celebre rivista scientifica “Science” dal titolo La fine della privacy. A differenza di altre misurazioni elettrofisiologiche, le registrazioni neurali sono in grado di codificare in modo più diretto e potenzialmente più dettagliato il contenuto degli stati mentali di una persona, compresi quelli privati (ovvero non comunicati tramite linguaggio verbale, testo scritto o comportamento osservabile). Data la rilevanza giuridica del carattere privato delle informazioni e l’importanza degli stati mentali nella definizione della persona giuridica e delle sue responsabilità, questa maggiore complessità etica si riflette anche al livello del diritto. Ma soprattutto, quando anche l’ultimo bit di informazione cerebrale sarà stato assorbito dall’infosfera digitale, niente sarà più considerabile privato. Uno scenario ancora più distopico di quanto profetizzato da George Orwell, il quale, in 1984, descriveva un mondo in cui «nulla vi apparteneva, se non quei pochi centimetri cubi che avevate dentro il cranio».
La libertà di pensiero: Essere umani nell’era dell’Intelligenza2
33In un’opera del 1634 dal titolo Comus, il poeta britannico John Milton racconta la storia di una giovane nobildonna (semplicemente descritta come “the Lady”) la quale, dopo essersi persa nei boschi mentre era a passeggio con i suoi fratelli, viene rapita da una sorta di stregone debosciato chiamato Comus (un personaggio ispirato all’antico dio della baldoria, in greco antico chiamato Κῶμος). Travestito da abitante del villaggio, Comus aveva adescato la giovane donna sostenendo che l’avrebbe aiutata e condotta dai suoi fratelli. Ingannata dal suo volto amabile, la donna decide di seguirlo, per poi essere catturata, portata nel suo palazzo, legata a una sedia incantata e sottoposta a molestie contro la sua volontà. Nonostante tutti i ripetuti assalti verbali e fisici dello stregone, la donna rifiuta ripetutamente le sue “avances” e pronuncia le celebri parole «Thou canst not touch the freedom of my mind» ovvero «Tu non puoi toccare la libertà della mia mente». Con quelle parole, the Lady intima allo stregone che, qualunque cosa egli faccia o dica, lei continuerà ad affermare la sua libertà di pensiero, la quale va oltre ogni tentativo di manipolazione esterna. Alla fine, la donna viene salvata dai suoi fratelli, che troveranno e scacceranno Comus.
34La storia narrata da Milton ci raffigura la mente umana come una sorta di ultimo rifugio di libertà personale e di autodeterminazione. Mentre il corpo può facilmente essere soggetto al dominio e al controllo esterno delle altre persone (le quali, come è successo a the Lady, ci possono rapire, legare e molestare), la nostra mente, invece, può rimanere in larga misura libera da ogni vincolo esterno. Tuttavia, con i progressi dell’ingegneria neurale, della proliferazione algoritmica e dell’uso dell’IA per fini persuasivi, la mente potrebbe non essere più una fortezza inattaccabile. Come abbiamo visto, la crescente nudità del cervello sta progressivamente consentendo l’accesso ad almeno alcune componenti dell’informazione mentale. In aggiunta a ciò, l’integrazione di intelligenze artificiali all’interno del ciclo delle interfacce cervello-computer e la neurostimolazione potrebbero rimettere in discussione le certezze di Milton e revocare il carattere assoluto della libertà di pensiero. Come per le scansioni cerebrali, ci troviamo a maneggiare un’arma a doppio taglio. Se da un lato le BCI intelligenti e i neurostimulatori possono essere di grande beneficio per i singoli individui e per la società tutta, essi possono anche essere abusati e creare minacce senza precedenti alla libertà della mente e alla capacità degli individui di governare liberamente il loro comportamento.
35L’uso crescente dell’apprendimento automatico e, più in generale, dell’intelligenza artificiale per ottimizzare il funzionamento delle BCI ha sollevato, secondo molti esperti, implicazioni per le nozioni di azione e responsabilità. Ad esempio, il filosofo e psicologo olandese Pim Haselager ha sostenuto che quando il controllo della BCI è in parte dipendente da componenti algoritmiche intelligenti, potrebbe diventare difficile per l’intelligenza umana discernere se l’output comportamentale risultante è stato effettivamente eseguito dall’utente. Questa difficoltà introduce un principio di indeterminazione all’interno del processo cognitivo che parte dall’ideazione di una azione (o intenzione) alla sua esecuzione, con conseguente incertezza nell’attribuzione di responsabilità all’autore di tale azione. In un contesto in cui le BCI hanno diffusione pervasiva, questo principio di indeterminazione potrebbe mettere in discussione la nozione di responsabilità individuale, con ovvie ripercussioni di tipo penale e assicurativo. Inoltre, la presenza di componenti intelligenti nel ciclo della BCI potrebbe generare un senso di straniamento nell’utente, la cui rilevanza etica è tanto maggiore qualora si tratti di persone vulnerabili quali i pazienti neurologici. Ad esempio, dato l’utilizzo da parte di un paziente affetto da tetraplegia di una BCI fortemente potenziata da componenti intelligenti per l’estrazione, la decodifica e classificazione delle informazioni, non è chiaro come si potrà determinare quali componenti delle azioni del paziente siano attribuibili alla volizione dello stesso e quali, invece, all’intelligenza artificiale. Tale problema diventa particolarmente controverso, come detto poc’anzi, in circostanze in cui l’attribuzione di responsabilità ha rilevanza giuridica.
36Inoltre, c’è la possibilità che la centralità di tali componenti intelligenti nel funzionamento delle BCI possa influire sull’esperienza soggettiva, quindi sull’identità personale degli utenti. Questa ipotesi ha recentemente ottenuto una conferma empirica preliminare in uno studio qualitativo circa l’esperienza personale di pazienti-utenti di BCI condotta dall’Università della Tasmania. Intervistando dei pazienti neurologici che avevano ricevuto l’impianto di interfacce-cervello computer invasive come la DBS, i ricercatori hanno scoperto che alcuni pazienti tendono a esperire una sensazione di straniamento della propria soggettività. Alcuni pazienti, ad esempio, hanno dichiarato di non sentirsi “più sé stessi” a seguito dell’impianto e dell’attivazione della DBS, come se aspetti della loro personalità soggettiva fossero stati eliminati o rimpiazzati dalle componenti intelligenti del dispositivo. Altri pazienti, all’inverso, hanno dichiarato di sentirsi sé stessi solo quando la DBS era in funzione, sviluppando una sorta di nuova soggettività estesa, comprendente non solo il cervello biologico ma anche l’impianto neurale.
37Va notato, anche in questo caso, che si tratta di un’arma a doppio taglio: sebbene l’intelligenza artificiale possa offuscare alcuni aspetti soggettivi dell’identità personale e della libertà mentale, una BCI ben ottimizzata tramite intelligenza artificiale, considerata nel suo insieme, può aumentare enormemente la capacità performative dell’utente di agire in un dato ambiente, specialmente quando usata per il controllo motorio da parte di un paziente con grave compromissione motoria. Senza il dispositivo, i pazienti non sarebbero liberi (in senso di abilità fisica, non di diritto normativo) di realizzare molte delle azioni che la BCI consente loro di realizzare. Pertanto, risulta difficile determinare in senso assoluto se le interfacce cervello-computer intelligenti possano, o meno, aumentare la libertà mentale di chi le usa. Al contrario, risulta necessario valutare caso per caso e determinare di volta in volta sotto quali circostanze, in quali intervalli temporali, e in relazione a quali domini cognitivo-comportamentali, è rilevabile una variazione (positiva o negativa) dell’autonomia dell’utente. Nell’esecuzione di tali valutazioni è importante acquisire non soltanto informazioni di tipo quantitativo e oggettivo (ad esempio, misurazioni matematiche o osservazioni comportamentali) ma anche di tipo qualitativo e soggettivo. In quest’ultima categoria rientrano le auto-valutazioni introspettive dell’utente, considerate una finestra d’accesso alla dimensione fenomenologica in prima persona della stessa o dello stesso. In un futuro a breve termine in cui le neurotecnologie non invasive riusciranno a realizzare molte delle funzioni realizzate oggi dalle interfacce invasive, queste implicazioni per la libertà mentale e la responsabilità individuale non riguarderanno soltanto centinaia di migliaia di pazienti neurologici, bensì milioni di persone.
38Inoltre, come ogni altro dispositivo digitale anche le interfacce cervello-computer e i dispositivi di neurostimolazione come la DBS sono esposte al rischio di crimine informatico. È stato infatti dimostrato sperimentalmente che tali neurotecnologie possono essere hackerate da attori malintenzionati al fine di dirottarne il controllo; una modalità di attacco questa che potrebbe avere conseguenze deleterie per la vittima. Tra queste: l’estrazione non autorizzata di informazioni mentali, l’espropriazione della vittima dal controllo cosciente sui propri arti robotici o perfino lesioni fisiche e psicologiche gravi risultanti dall’aumento intenzionale di intensità della neurostimolazione da parte di attori terzi ai danni del paziente.
39Con l’aumento degli usi non clinici delle neurotecnologie, un’ulteriore sfida etica sarà presto quella del potenziamento cognitivo o enhancement. Mentre le applicazioni cliniche delle BCI sono finalizzate a ripristinare le funzioni motorie o cognitive in persone con disabilità fisiche o cognitive come i sopravvissuti all’ictus, le applicazioni di neuroenhancement potrebbero, nel prossimo futuro, consentire a persone sane di produrre prestazioni superiori rispetto alla media della popolazione. Questo renderà urgente discutere quali tipi di potenziamento siano ammissibili e sotto quali circostanze. Già oggi esiste un folto ecosistema di compagnie private che commercializzano BCI non-invasive a un numero sempre crescente di utenti sani per scopi quali l’auto-quantificazione, l’allenamento cognitivo, e la polisonnografia. Come parte della propria strategia pubblicitaria, la compagnia californiana Emotiv, ad esempio, afferma già pubblicamente (seppur in assenza di solida evidenza scientifica) di essere in grado di poter migliorare il benessere mentale e la concentrazione di utenti cognitivamente sani. Dunque, di poter realizzare alcune forme di enhancement. Come visto in precedenza, dei neurostimulatori sperimentali riescono già a potenziare in persone sane alcune funzioni cognitive quali la memoria, seppur temporaneamente.
40Un altro aspetto da tenere in considerazione, inoltre, è che le attuali BCI per il controllo cerebrale di dispositivi consentono non solo l’amplificazione di capacità esistenti ma addirittura l’acquisizione di facoltà altrimenti non presenti nell’essere umano: in primis, il controllo telepatico di dispositivi robotici quali droni, smartphone eccetera. La capacità di controllare oggetti con il pensiero, infatti, non fa parte del repertorio di abilità che l’evoluzione biologica ha dato in dotazione all’essere umano (nonostante personaggi come Eleven di Stranger Things giochino a farci credere il contrario). Nel prossimo futuro, la diffusione di tali (e nuove) applicazioni e la corroborazione scientifica dei loro meccanismi di funzionamento renderanno la seguente questione etica ineludibile: cosa significa essere umani nell’era dell’Intelligenza2?
41Auspicabilmente, in questo complesso processo di autoanalisi e autoriflessione, l’intelligenza naturale e quella artificiale riusciranno ad aiutarsi a vicenda. Lo sviluppo stesso dell’intelligenza artificiale, infatti, è considerato da molti come un metodo promettente per comprendere meglio l’intelligenza umana. Come abbiamo visto nel terzo capitolo, i programmi di intelligenza artificiale sono stati storicamente sviluppati per realizzare attività umane che risultano molto complesse per la gran parte degli esseri umani: come giocare a scacchi, partecipare a un quiz o risolvere problemi matematici. Esse, però, non sono particolarmente capaci di eseguire attività relativamente semplici come ridere a una battuta, arrabbiarsi o farsi un caffè. Studiare come gli esseri umani apprendano queste abilità semplici potrebbe aiutare a comprendere quali modelli siano necessari al fine di riprodurre tali abilità nelle intelligenze artificiali. O, in senso più specifico, comprendere le scorciatoie biologiche che i cervelli usano per eseguire gli stessi compiti dell’intelligenza artificiale può darci intuizioni che possono aiutare a creare migliori algoritmi di apprendimento automatico. Lo stesso vale per il filone delle architetture bioispirate e della programmazione evolutiva, i quali prendono elementi biologici ai fini della produzione di sistemi di intelligenza artificiale. Viceversa, studiare come le intelligenze artificiali risolvano problemi complessi può aiutarci a comprendere meglio le facoltà cognitive umane più sofisticate, o perfino a potenziarle.
Ripensare i diritti umani nell’era dell’Intelligenza2
42Le sfide etiche poste dall’Intelligenza2 pongono la nostra specie davanti a un crocevia storico senza precedenti. Per la prima volta nella storia del pianeta, infatti, un’intelligenza di tipo biologico ha generato un’intelligenza di tipo artificiale e sta cercando di fondersi a essa. Per quanto questa intelligenza di tipo artificiale sia ancora molto distante da quella biologica umana, non esiste alcun antecedente comparabile di un’intelligenza creatrice e ricorsiva di questo tipo. Questa integrazione di intelligenze cambierà per sempre la nostra specie e avvierà una transizione storica nuova sul pianeta Terra. Non a caso il filosofo di Oxford Luciano Floridi ha definito quest’epoca incipiente come la “quarta rivoluzione industriale” mentre il cosmologo del MIT Max Tegmark l’ha definita “vita 3.0”.
43Come in ogni processo profondamente trasformativo, questa transizione potrebbe sparigliare le variabili in gioco. Alcune di queste variabili potrebbero ridefinire il modo in cui l’essere umano si auto-concepisce in quanto specie e rimodellare l’organizzazione delle società umane. La ragione di ciò deriva dal fatto che l’attività cerebrale, oggi finalmente osservabile, misurabile e potenziabile in modo diretto, è il generatore delle attività umane, nonché il presupposto essenziale di un’ampia serie di concetti da cui dipende l’organizzazione delle società umane. Pertanto, l’era dell’Intelligenza2 potrebbe avere ripercussioni senza precedenti sulle attività umane e sull’organizzazione delle nostre società. Questa trasformazione non riguarda solo determinati gruppi di persone ma l’intera specie umana in quanto tale. Eccetto rari casi di neonati affetti da anencefalia (i quali comunque risultano privi di porzioni di cervello ma non dell’intero organo), ogni essere umano sulla Terra possiede un cervello e è primariamente grazie a esso che riesce a mantenersi in vita e interagire con il mondo. L’attività cerebrale è rilevabile in ogni essere umano indipendentemente da genere, sesso, nazione, etnia, appartenenza politica o religiosa. E come abbiamo visto, anche qualora le neurotecnologie e l’intelligenza artificiale non dovessero diventare sufficientemente pervasive da raggiungere ogni essere umano sul globo, esse avranno comunque un impatto sull’intera popolazione, ad esempio, acuendone le disuguaglianze.
44Dopo aver ereditato cervelli complessi da milioni di antenati biologici, vagato per centinaia di migliaia di anni attraverso i cinque continenti, gli esseri umani si trovano oggi in una transizione storica senza precedenti. La nostra generazione verrà ricordata o come quella che ha indirizzato l’ultima grande transizione storica dell’evoluzione biologico-culturale umana per il bene di tutti; oppure, al contrario, verremo ricordati come quelli che hanno abusato dell’organo più complesso mai prodotto nella storia dell’Universo conosciuto, il cervello umano, per destabilizzare le società umane, amplificarne le disuguaglianze, erodere definitivamente la sfera privata e abrogare principi basilari dell’organizzazione sociale.
45Il problema però è che ancora non abbiamo sviluppato una mappa (o se preferite, un sistema GPS) che ci dica come scegliere la prima strada senza rischiare di perderci inoltrandoci nella seconda. Negli ultimi anni, rappresentanti della comunità scientifica e organizzazioni politiche hanno cercato di sedersi attorno allo stesso tavolo per provare a disegnare questa mappa. Le pagine che seguono presentano un primo aggiornamento su questo fronte e riassumono alcuni primi passi concettuali mossi su questo tema sia in ambito accademico che di organizzazioni politiche. Negli ultimi cinque anni, infatti, società accademiche, istituti di ricerca, fondazioni scientifiche e organizzazioni governative e intergovernative hanno pubblicato principi e linee guida finalizzate a indirizzare i progressi delle neurotecnologie e dell’intelligenza artificiale in modo etico. Seppur attraverso strumenti normativi non vincolanti, queste attività hanno comportato un avanzamento del dibattito su come sviluppare l’Intelligenza2 in modo responsabile e quali requisiti etici, standard tecnici e soluzioni legislative siano necessari per la sua realizzazione.
46La chiave di lettura privilegiata di questo dibattito è quella dei diritti umani. Nel diritto internazionale, infatti, i diritti umani sono un insieme di diritti e libertà fondamentali che pertengono a tutti gli esseri umani. Come stabilito dall’ONU, essi «sono diritti inerenti a tutti gli esseri umani, indipendentemente da razza, sesso, nazionalità, etnia, lingua, religione o qualsiasi altro status» e «ogni individuo ha diritto a questi diritti, senza discriminazioni». Così come i cervelli, le intelligenze artificiali e pressoché qualsiasi cosa descritta in questo libro, anche i diritti umani si sono evoluti nel corso del tempo. I popoli antichi non avevano un’esplicita concezione di diritti umani universali. Seppur alcuni segnali anticipatori fossero rintracciabili nella filosofia greca e romana, il vero precursore del discorso sui diritti umani è stato il concetto di diritti naturali, originatosi nel corso della tradizione giuridica medievale per poi acquisire un ruolo di primo piano durante l’Illuminismo europeo. Nel Seicento, il filosofo inglese John Locke aveva affrontato la questione dei diritti naturali in varie sue opere, identificandone tre famiglie di diritti principali: “vita, libertà e proprietà”. Locke sosteneva che tali diritti fondamentali non potessero essere ceduti o revocati nel processo di civilizzazione, tantomeno come parte del contratto sociale. Le idee di Locke furono tradotte in pratica pochi anni dopo nel regno di Gran Bretagna dove, nel 1689, fu introdotto un celebre documento legislativo noto come la Bill of Rights. In quel documento, venivano posti dei limiti al potere assoluto del monarca e proibite tutta una serie di attività repressive come la tortura. Le due grandi rivoluzioni avvenute nel corso del secolo successivo, ovvero quella negli Stati Uniti (1776) e quella in Francia (1789), hanno portato le due nazioni rivoluzionarie a promulgare due documenti legislativi fondamentali: la Dichiarazione di Indipendenza degli Stati Uniti e la Dichiarazione Francese dei Diritti dell’Uomo e del Cittadino, le quali articolano ancor più dettagliatamente vari diritti umani come il diritto alla vita, alla libertà e alla ricerca della felicità.
47L’idea di diritti di tipo universalistico inerenti a tutta la specie umana attraversa tutta la filosofia del Settecento e dell’Ottocento passando attraverso filosofi molto diversi quali i tedeschi Immanuel Kant e Georg Wilhelm Friedrich Hegel, l’inglese John Stuart Mill e lo statunitense Thomas Paine. Purtroppo però ci vollero gli orrori della Seconda Guerra Mondiale, in particolare l’orrore dei campi di concentramento, affinché ben quarantotto nazioni distribuite sui vari continenti decisero di sedersi a un tavolo e sviluppare un programma d’azione condiviso per la protezione dei diritti inalienabili di Homo sapiens. Il 10 dicembre 1948 a Parigi veniva proclamata dall’Assemblea Generale delle Nazioni Unite la Dichiarazione Universale dei Diritti dell’Uomo. Essa stabiliva, per la prima volta, i diritti umani fondamentali da tutelare universalmente nonché degli standard comuni per tutti i popoli e tutte le nazioni. Tradotta in oltre 500 lingue, la dichiarazione fu redatta da rappresentanti di diversa estrazione giuridica e culturale provenienti da tutte le regioni del mondo.
48La Dichiarazione Universale attribuisce un ruolo di centralità primaria alla protezione del cervello umano. Sin dal primo articolo essa stabilisce, infatti, che tutti gli esseri umani «sono dotati di ragione e di coscienza e devono agire gli uni verso gli altri in spirito di fratellanza». Enfatizzando sin dal primo articolo due di quelle che nelle neuroscienze cognitive vengono definite funzioni cognitive di livello superiore quali la ragione e la coscienza, la Dichiarazione stabilisce un legame concettuale (seppur non di causalità) tra tali funzioni e i principi morali presentati nello stesso articolo, ovvero quelli di libertà, uguaglianza e dignità umana.
49Negli articoli successivi, la Dichiarazione pone anche le basi per la protezione di alcune caratteristiche del cervello umano nell’era dell’Intelligenza2 che abbiamo descritto in questo capitolo. All’Articolo 2, ad esempio, essa stabilisce che i diritti e le libertà enunciati al suo interno spettano “a ogni individuo” e non ammettono «distinzione alcuna, per ragioni di razza, di colore, di sesso, di lingua, di religione, di opinione politica o di altro genere, di origine nazionale o sociale, di ricchezza, di nascita o di altra condizione». Questo, pertanto, pone le basi per un ripudio sistematico di tutti i fenomeni di discriminazione, compresi quelli generati per via algoritmica o basati su caratteristiche cognitive o emotive delle persone. Tuttavia, la Dichiarazione fu redatta in un’epoca in cui le intelligenze artificiali erano ancora nella prima infanzia, e la loro integrazione con le intelligenze naturali era a malapena pensabile. Il 1948, infatti, è lo stesso anno in cui Alan Turing pubblicò il suo celebre articolo dal titolo Intelligent Machinery. La stessa espressione “Intelligenza Artificiale” sarebbe stata coniata solo sette anni più tardi, nel 1955. Dato questo enorme divario temporale e tecnologico, la Dichiarazione Universale dei Diritti dell’Uomo non poteva fornire una caratterizzazione delle specificazioni e delle modalità di implementazione dell’Articolo 2 nel contesto odierno. È per questo che negli ultimi anni ricercatori e organizzazioni internazionali hanno cercato di cimentarsi in questo lavoro di specificazione.
50Nel maggio 2018, organizzazioni per i diritti umani quali Amnesty International, Access Now e altre organizzazioni partner hanno lanciato la cosiddetta Dichiarazione di Toronto (dalla città in cui è stata proclamata), una dichiarazione interamente focalizzata sulla protezione del diritto all’uguaglianza e alla non-discriminazione in riferimento ai sistemi di apprendimento automatico. La Dichiarazione è un documento di riferimento che cerca di applicare gli standard internazionali esistenti in materia di diritti umani allo sviluppo e all’uso di sistemi di apprendimento automatico (e più estesamente a tutte le intelligenze artificiali). La dichiarazione di Toronto sottolinea come uno dei rischi più significativi dell’apprendimento automatico sia il pericolo di amplificare i pregiudizi e le discriminazioni esistenti nei confronti di alcuni gruppi, soprattutto emarginati e comunità vulnerabili, che già lottano per essere trattati con dignità e rispetto. Essa mette in guardia dalle distorsioni che possono emergere quando i dati sono utilizzati per addestrare sistemi di apprendimento automatico senza salvaguardie, e dal conseguente rischio che tramite apprendimento automatico tali distorsioni possano perfino rafforzarsi.
51Redatta dopo discussioni e interviste con decine di ricercatori in intelligenza artificiale, esperti di diritti umani e compagnie private, la dichiarazione si articola in tre sezioni principali. In primo luogo, essa stabilisce il dovere degli Stati di prevenire la discriminazione nel contesto della progettazione o dell’implementazione di sistemi di apprendimento automatico in contesti pubblici o attraverso partenariati pubblico-privato. Questa sezione include principi per identificare i rischi nell’uso dei sistemi di apprendimento automatico, per garantire la trasparenza e la responsabilità (anche attraverso la divulgazione pubblica dei casi in cui sono utilizzati sistemi di apprendimento automatico), per far rispettare il controllo, compresi i meccanismi di controllo indipendente, e per promuovere l’uguaglianza.
52In secondo luogo, la dichiarazione delinea le responsabilità degli attori privati nel contesto dello sviluppo e della diffusione dei sistemi di apprendimento automatico. Si basa sul principio normativo della dovuta diligenza (in inglese due diligence) in materia di diritti umani (originariamente definito nei Principi guida delle Nazioni Unite sulle imprese e i diritti umani). Tali responsabilità comprendono l’identificazione di potenziali risultati discriminatori attraverso la mappatura e la valutazione dei rischi, l’adozione di azioni efficaci per prevenire e mitigare la discriminazione (anche sottoponendo i sistemi ad audit indipendenti di terzi laddove vi sia un rischio significativo di violazioni dei diritti umani) e la trasparenza, anche attraverso la pubblicazione di specifiche tecniche, di campioni dei dati di formazione utilizzati e delle fonti dei dati.
53In terzo luogo, la dichiarazione afferma il diritto a un ricorso effettivo e che i responsabili degli abusi siano chiamati a risponderne. La Dichiarazione invita i governi a garantire standard di giusto processo per l’uso dell’apprendimento automatico nel settore pubblico e ad agire con cautela sull’uso del sistema di apprendimento automatico nel sistema giudiziario. Invita inoltre a delineare chiare linee di responsabilità per lo sviluppo e l’implementazione di applicazioni di machine learning, e a chiarire quali organismi o individui sono legalmente responsabili delle decisioni prese attraverso l’uso di tali sistemi. Lo sviluppo della Dichiarazione di Toronto è solo un primo passo per rendere il quadro dei diritti umani una componente fondamentale dello sviluppo e dell’etica pubblica nell’era dell’Intelligenza2.
54Un discorso simile vale per le implicazioni etiche e i rischi sollevati dalla crescente nudità del cervello. La Dichiarazione del 1948 infatti, all’Articolo 12, stabilisce che «nessun individuo potrà essere sottoposto a interferenze arbitrarie nella sua vita privata». Anche in questo caso, tuttavia, data la distanza temporale tra la redazione della Dichiarazione e la nostra epoca, le specificazioni del concetto di “vita privata” si limitano «alla famiglia, alla casa e alla corrispondenza». Interferenze dirette nella vita mentale di una persona, all’epoca, non erano neanche immaginabili. Come abbiamo visto nel precedente capitolo, nel 1948 la risonanza magnetica non era stata ancora inventata (figurarsi quella funzionale) e le tecniche di apprendimento automatico non erano ancora state applicate all’analisi dei dati neurali. Per questo motivo, negli ultimi anni, vari ricercatori e giuristi tra cui il sottoscritto, l’argentino Roberto Andorno e la statunitense Nita Farahany (già membro della Commissione Presidenziale di Bioetica degli Stati Uniti) hanno avanzato la proposta di specificazioni relative a quel sottodominio della sfera privata di un essere umano che è localizzata all’interno del cranio: il cervello ovviamente. Questa specificazione del diritto di ogni essere umano alla vita privata è stato definito “diritto alla privacy mentale”.
55Se le specificazioni del diritto alla non-discriminazione proposte tramite la Dichiarazione di Toronto si focalizzano sulla discriminazione algoritmica, quelle del diritto alla privacy mentale sono finalizzate a proteggere gli esseri umani e i loro dati neurali, ad esempio durante l’uso di interfacce cervello-computer o la partecipazione in operazioni di neuromarketing. Nella sua connotazione positiva, questo diritto prescrive di consentire a ciascun individuo di gestire consciamente il flusso dei propri dati cerebrali e delle inferenze circa i propri stati mentali che sono derivabili tramite analisi automatica. In altre parole, ogni individuo deve poter separare le proprie informazioni mentali dall’accesso e dallo scrutinio non autorizzati, con particolare protezione per le informazioni elaborate al di sotto della soglia di percezione cosciente. Infatti, gli esseri umani sono più vulnerabili a potenziali violazioni della privacy mentale rispetto ad altri domini della riservatezza delle informazioni a causa del loro limitato livello di controllo volontario dei segnali cerebrali (Ienca e Andorno 2017). È noto, d’altronde, che molte modalità di registrazione dell’attività cerebrale come l’EEG e la fMRI avvengono al di sotto della soglia di controllo cosciente, quindi non è possibile per l’individuo decidere liberamente quali segnali possano essere resi registrabili da parte di terzi e quali invece debbano essere mantenuti privati.
56Il crescente flusso dei dati neurali nell’era dell’Intelligenza2 è un’arma a doppio taglio da maneggiare con estrema cura. Da un lato, l’ampia disponibilità di dati neurali offrirà molteplici opportunità per gli individui di disporre ed esercitare un controllo sulla propria attività cerebrale, dando luogo a una serie di attività potenzialmente benefiche come l’automonitoraggio, il potenziamento neurocognitivo e l’uso del computer controllato dal cervello. Dall’altro però, questi stessi strumenti diffonderanno un volume e una varietà senza precedenti di informazioni sul cervello al di fuori del settore clinico che aumenterà inevitabilmente la pubblica disponibilità di tali informazioni e il loro riutilizzo da parte di terzi. Poiché le applicazioni pervasive della neurotecnologia stanno introducendo dati cerebrali nell’infosfera, esse li espongono allo stesso grado di invadenza e vulnerabilità a cui è esposto qualsiasi altro bit di informazione che circola nell’ecosistema digitale. Attualmente, nessuna specifica salvaguardia giuridica o tecnica protegge i dati cerebrali dall’essere soggetti alle stesse misure di estrazione dei dati e di violazione della privacy di altri tipi di informazioni. Nelle parole di Nita Farahany, «non ci sono protezioni legali che impediscono alla mente di farsi leggere involontariamente». La ragione di ciò deriva dal semplice fatto, come osserva la bioeticista statunitense Alta Charo, che «la tecnologia innova più velocemente di quanto il sistema normativo possa adattarsi» (Charo 2015). Già oggi c’è una buona probabilità che tra gli oltre sei milioni di dati che vengono rubati o compromessi ogni giorno nel mondo (settantadue al secondo) ci siano i segnali cerebrali di qualcuno.
57Un gran numero di questioni etiche, giuridiche e sociali derivano da queste possibilità neurotecnologiche. Tra queste: per quali scopi e in quali condizioni è possibile raccogliere e utilizzare le informazioni sul cervello? Quali componenti delle informazioni sul cervello devono essere legittimamente divulgate e rese accessibili ad altri? Chi ha il diritto di accedere a tali dati (datori di lavoro, compagnie di assicurazione, Stato)? Quali dovrebbero essere i limiti al consenso in questo settore?
58È interessante notare che il diritto alla privacy è uno dei pochi diritti riconosciuti dal diritto internazionale come un diritto ampio prima che fosse incluso in qualsiasi costituzione statale. Uno dei saggi fondamentali sul diritto alla sfera privata fu pubblicato nel 1890 da due giuristi statunitensi, Samuel Warren e Louis Brandeis. I due articolavano il diritto alla privacy come «un diritto a non parlare di sé» (Warren e Brandeis 1890). All’epoca in cui fu scritto il loro saggio, ovvero l’epoca di inizio dei giornali a grande diffusione e dei mass-media, la loro principale preoccupazione era il crescente interesse della carta stampata per il pettegolezzo e per la diffusione di informazioni personali sugli individui, comprese immagini di persone private senza il loro consenso (un cancro giornalistico mai del tutto scomparso fino ai giorni nostri). Questa specifica istanza di privacy è stata ulteriormente sviluppata oltre mezzo secolo dopo da Alan Westin e da altri autori nella nozione più ampia di “privacy informativa”, cioè il diritto di ciascuno al controllo delle informazioni sul proprio conto. Secondo Westin, il quale scriveva all’inizio degli anni di grande diffusione della televisione, la privacy può essere descritta in termini della nostra pretesa di determinare per noi stessi quando, come e in che misura le informazioni su di noi sono comunicate ad altri (Westin 1967). È interessante notare come sia Warren e Brandeis che Westin affrontassero il problema della privacy delle informazioni in relazione ai nuovi sviluppi tecnologici della propria epoca. È pertanto lecito perlomeno considerare delle specificazioni della sfera privata calibrate sul contesto informazionale dell’era dell’Intelligenza2.
59Un indizio utile per queste specificazioni può offrirlo la fantascienza. Nel romanzo e nella relativa serie Star Trek, proiettata a partire dagli anni Sessanta, il capitano Kirk viene informato che una pericolosa spia si è surrettiziamente unita a uno dei gruppi che visitano l’astronave Enterprise. Kirk vuole disperatamente identificare l’intruso e saperne di più su di lui e sui suoi piani. Facendo appello a un membro del suo staff che ha capacità di telepatia, Kirk vuole leggere le menti di tutti i visitatori. Tuttavia, al capitano viene ricordato da uno dei suoi assistenti che, secondo la legge, «il diritto alla privacy mentale è un diritto inalienabile di tutti i cittadini della Federazione e non deve essere abrogato senza un giusto processo» (Dillard 1986). Inoltre, «giudicare un individuo colpevole in uno di questi due gruppi significa che c’è una grande probabilità di invadere la privacy di un certo numero di persone innocenti».
60Il tipo di dilemma descritto in questo scenario futuristico, ambientato nel xxiii secolo, può fornirci una buona indicazione della direzione in cui muoverci nella nostra epoca. Come osservato dal neurogiurista Francis Shen, nelle società moderne, le norme sulla privacy e sulla protezione dei dati riguardano l’uso e la divulgazione di vari tipi di informazioni personali. Poiché i dati decodificati dal cervello di un individuo possono essere considerati come “informazioni personali” – o “informazioni personalmente identificabili”, come vengono chiamate negli Stati Uniti – non vi è in linea di principio alcuna ragione per cui tali dati non potrebbero essere coperti dalle norme vigenti in materia di protezione della vita privata e dei dati. Se si ha una “ragionevole aspettativa di privacy” per quanto riguarda le informazioni identificative derivate dai propri campioni di sangue o saliva, sicuramente si ha una ragionevole aspettativa di privacy per quanto riguarda i dati decodificati dalla propria mente (Shen 2013).
61Una particolarità dei dati cerebrali, però, è che le informazioni da proteggere non sono facilmente distinguibili dalla fonte stessa che ha prodotto tali dati: ovvero il cervello dell’individuo. Questo è quello che ho altrove definito il problema di “inception”. (Per chi se lo fosse chiesto: sì, il riferimento cinematografico è intenzionale). In altri termini, l’integrazione di intelligenza naturale e artificiale ci richiede di garantire protezione non solo alle informazioni che registriamo e condividiamo, ma anche alla fonte di tali informazioni, poiché le due categorie non possono essere separabili. Per realizzare questo obiettivo avremmo bisogno di specifiche tutele più ampie in materia di privacy e di protezione dei dati che possano essere applicate anche a un livello più elevato e cronologicamente antecedente: la nostra attività neurale.
62Un’ulteriore specificazione deve riguardare gli aspetti biometrici dei segnali neurali. Dal momento che i segnali cerebrali permettono di distinguere o tracciare l’identità di un individuo e sono potenzialmente collegabili a quell’individuo, essi richiedono particolare protezione. Alcune registrazioni cerebrali (ad esempio i segnali registrati tramite EEG) possono essere utilizzati come identificatore biometrico unico, analogamente alle impronte digitali o al DNA. Nel 2007, degli informatici britannici hanno sviluppato un quadro biometrico basato sull’EEG per la verifica automatica dell’identità (Palaniappan e Mandic 2007). Da allora, un gran numero di sistemi biometrici non intrusivi basati su EEG sono stati sviluppati per il riconoscimento individuale, l’autenticazione e l’identificazione delle persone. Tuttavia, a differenza di altre informazioni identificabili, le onde cerebrali possono essere potenzialmente registrate per fini biometrici senza la consapevolezza dell’individuo (ad esempio come attività collaterale in uno studio di neuromarketing), e quindi in assenza di una reale capacità della persona di acconsentire alla raccolta e all’uso di tali informazioni. Con il crescente mercato dei dispositivi portatili a base EEG e in assenza di una reale possibilità di ottenere il consenso informato per l’elaborazione dei dati da esse generati, è necessario stabilire nuove risposte protettive al trattamento dei dati cerebrali.
63Altri gruppi di ricercatori hanno iniziato a esplorare la possibilità – tecnica e giuridica – di applicare un filtro al flusso di informazioni cerebrali con lo scopo di distinguere le informazioni che intendiamo consapevolmente tenere private da quelle che vogliamo divulgare pubblicamente. Nell’attuale società dell’informazione ci viene costantemente richiesto di operare una distinzione tra informazione privata e pubblica: ad esempio, quando creiamo la pagina dei contatti sul nostro profilo social o quando decidiamo con chi condividere il nostro numero di telefono cellulare. L’assunto psicologico di base che sta alla base di questo fenomeno è che adulti competenti hanno la capacità cognitiva di filtrare consapevolmente il flusso di informazioni e di identificare ragionevolmente le informazioni che devono essere tenute riservate. La privacy, infatti, è sia un diritto che una capacità. Come capacità, consente a individui o gruppi di isolarsi, o isolare informazioni su sé stessi, e quindi di esprimersi in modo selettivo. Questa idea è stata ampiamente importata nell’ambito dell’informatica, dove la privacy è spesso descritta come la capacità (o capacità percepita) di controllare le informazioni personali generate. Per esercitare questa capacità in modo significativo abbiamo bisogno di un mezzo razionale che sia in grado di filtrare il flusso di informazioni e decidere cosa rivelare. Questo mezzo è pensato, così come catturato dal famoso adagio ripetuto a mo’ di mantra tra gli esperti di sicurezza informatica: «il miglior software antivirus è il cervello». Con questa battuta, si intende dire che il modo migliore per evitare il furto o la compromissione di dati personali è la riflessione razionale. La migliore misura preventiva, infatti, non è andare muniti di antivirus su siti poco sicuri o affidabili. Bensì scegliere consciamente e razionalmente di non visitare quei siti o, perlomeno, non usarli per condividere informazioni. Ma se è il nostro cervello cosciente a proteggerci dai rischi e dalle insidie della società digitale, chi proteggerà il nostro cervello sub-cosciente?
64Il diritto alla privacy mentale, quindi, mira a proteggere qualsiasi bit o insieme di informazioni mentali su un individuo registrate da un neurodispositivo e condivise in tutto l’ecosistema digitale. Questo diritto proteggerebbe le onde cerebrali non solo come dati, ma anche come generatori di dati o fonti di informazione. Inoltre, esso riguarderebbe non solo i dati cerebrali coscienti, ma anche i dati che non sono (o sono solo parzialmente) sotto controllo volontario e consapevole. Infine, esso garantirebbe la protezione delle informazioni sul cervello in assenza di uno strumento esterno per identificare e filtrare tali informazioni. In breve, il diritto alla privacy mentale mira a proteggere le persone dall’accesso illegittimo alle informazioni sulla propria dimensione mentale e sul proprio cervello prevenendo la fuga indiscriminata di dati cerebrali attraverso l’infosfera. È opportuno ricordare che le violazioni della privacy mentale possono verificarsi anche in assenza di intrusione diretta nell’attività neurale della vittima. Ad esempio, i dati cerebrali raccolti a scopo di ricerca sono solitamente conservati per l’analisi in banche dati e archivi esterni. Analogamente, i dati cerebrali generati da interfacce cervello-computer di tipo commerciale sono inviati a un’applicazione collegata e possono essere memorizzati sul cloud o in altri punti finali dell’archivio dati. In entrambi i casi, questi dati sono accessibili anche in assenza della persona che li ha generati e senza intervenire nuovamente nella segnalazione cerebrale della persona. Un attacco hacker a queste banche dati non richiede alcuna difficoltà aggiuntiva rispetto a un attacco convenzionale a qualunque altra banca dati. Ciononostante, esso potrebbe compromettere irrimediabilmente la privacy mentale di una persona e rivelare predisposizioni a malattie neurologiche, preferenze o orientamenti politici e sessuali. Questo rischio, in realtà, vale anche per le banche dati ospedaliere o di ricerca. Nel maggio del 2017, un gruppo hacker noto col nome di The Shadow Brokers diffuse un’epidemia su larga scala su computer con Microsoft Windows, tra questi numerosi sistemi informatici ospedalieri in Gran Bretagna e altre parti del mondo. L’attacco, chiamato WannaCry, era in grado di criptare i file presenti sul computer (ad esempio, le cartelle cliniche dei pazienti) e prevedeva un riscatto di alcune centinaia di dollari per decriptarli.
65Più difficile da dirimere è la questione se il diritto alla privacy mentale debba essere considerato un diritto relativo o assoluto. Da un lato, è stato osservato che solo pochissimi diritti, come la libertà di pensiero, la libertà dalla schiavitù, la tortura e le pene o trattamenti inumani o degradanti siano considerati dal diritto internazionale dei diritti umani come non soggetti ad alcuna eccezione e, quindi, come diritti assoluti. Dall’altro, esperti quali il capo bioeticista della NASA Paul Root Wolpe hanno suggerito che dovremmo tracciare una linea di demarcazione senza eccezioni:
Il cranio dovrebbe essere designato come un dominio di privacy assoluta. Nessuno dovrebbe essere in grado di sondare la mente di un individuo contro la sua volontà. Non dovremmo permetterlo con un’ordinanza del tribunale. Non dovremmo permetterlo per la sicurezza militare o nazionale. Dovremmo rinunciare all’uso della tecnologia in circostanze coercitive, anche se il suo uso può essere utile al bene pubblico (Wolpe 2009).
Purtroppo, è estremamente difficile dare una risposta chiara a questo dilemma. A nostro avviso, la questione deve essere oggetto di discussione pubblica al fine di trovare un adeguato equilibrio tra gli interessi privati e pubblici in gioco. Il dilemma è particolarmente arduo perché, da un lato, si potrebbe sostenere che acquisire informazioni dal cervello di un criminale pericoloso sia legittimo per garantire la sicurezza pubblica. Si pensi, ad esempio, alla possibilità di acquisire informazioni cerebrali da un terrorista coinvolto nella pianificazione di un attentato nel centro di Roma. La registrazione e decodifica di tali segnali celebrali potrebbe essere utile per individuare il grado di conoscenza da parte del soggetto di altre cellule terroristiche e cercare di ricostruire la rete terroristica di cui fa parte. Tuttavia, si potrebbe argomentare ― come fa Wolpe ― che i pensieri e le memorie di un essere umano siano operazioni puramente private e intime che di per sé non possono essere forzate in alcun caso. Inoltre, nel momento in cui alcune eccezioni alla privacy mentale vengono consentite, ad esempio nei procedimenti penali, c’è il rischio a lungo termine di violare per effetto valanga anche altri diritti come, ad esempio, quello a non autoincriminarsi.
66Le intrusioni nel cervello delle persone non possono solo portare a una violazione della loro privacy mentale, ma possono anche avere un impatto diretto sulla loro computazione neurale e causare pertanto un danno diretto al sistema cervello. Il concetto di “hackeraggio del cervello” (in inglese brain hacking) è stato sviluppato per riferirsi ad attività neurocriminali che influenzano direttamente l’attività neurale negli utenti di neurodispositivi in un modo che assomiglia a come i computer vengono hackerati nella criminalità informatica (Ienca e Haselager 2016). Concentrandosi sull’interfaccia cervello-computer, quattro tipi di hackeraggio sono distinguibili in base ai vari livelli del ciclo BCI in cui l’attacco può verificarsi. Tre di questi tipi, cioè quando l’attacco si verifica a livello della misurazione, della decodifica e del feedback, possono comportare la manipolazione diretta del calcolo neurale di una persona. Nell’era dell’Intelligenza2, hacker malintenzionati possono aggiungere rumore o sovrascrivere il segnale elettrico inviato al dispositivo con lo scopo di diminuire o annullare il controllo dell’utente sull’applicazione, o addirittura dirottare il controllo volontario della vittima. Ad esempio, un attore criminale può intercettare e sovrascrivere il segnale inviato dagli utenti per dirottare un dispositivo controllato tramite BCI (ad esempio, uno smartphone o una sedia a rotelle elettronica) senza il permesso dell’utente. In questo tipo di casi, la privacy mentale degli utenti e la protezione dei loro dati cerebrali non sono gli unici diritti a rischio. Al contrario, sono in gioco anche l’integrità fisica e mentale della vittima. Infatti, l’intrusione forzata e l’alterazione dei processi neurali di una persona rappresentano una minaccia senza precedenti per l’integrità mentale di quella persona.
67Il diritto all’integrità fisica e mentale della persona è tutelato in Europa da un altro documento ispirato dalla Dichiarazione Universale dei Diritti dell’Uomo: la Carta dei diritti fondamentali dell’Unione Europea, secondo cui «ogni individuo ha diritto al rispetto della sua integrità fisica e mentale» (articolo 3). La Carta sottolinea comprensibilmente l’importanza di questo diritto nel campo della medicina e della biologia, a causa dell’impatto diretto che le tecnologie biomediche possono avere sull’integrità fisica e mentale delle persone. La disposizione si concentra in particolare su quattro requisiti: il consenso libero e informato, la non commercializzazione di elementi del corpo, e il divieto di pratiche eugenetiche e di clonazione riproduttiva umana. Non viene fatto alcun riferimento esplicito alle pratiche legate alla neurotecnologia. Questo silenzio è comprensibile se si considera che la Carta è stata adottata nel 2000, quando la discussione sulle implicazioni etiche e giuridiche delle neuroscienze era in una fase iniziale. Oggi, tuttavia, le potenziali applicazioni della neurotecnologia aprono la prospettiva di un impatto sull’integrità personale in un modo perlomeno paragonabile a quello della genetica e di altre pratiche biomediche. Per questo motivo, il quadro normativo dovrebbe tenere il passo con i progressi della neurotecnologia ed estendere la protezione dell’integrità delle persone a questo nuovo settore.
68Anche in questo caso delle specificazioni calibrate sul contesto tecnologico dell’Intelligenza2 sono state sviluppate. Il giurista Roberto Andorno e il sottoscritto, ad esempio, hanno sostenuto che l’integrità mentale vada intesa in senso più ampio al fine di garantire non solo il diritto degli individui con condizioni neuro-psichiatriche ad accedere ai programmi di salute mentale e ricevere cure o sostegno psichiatrico laddove necessario. In aggiunta a ciò, esso dovrebbe anche garantire il diritto di tutti gli individui a proteggere la loro dimensione neurocognitiva da perturbazioni esogene dirette. Queste perturbazioni includono interventi neurotecnologici che comportino un’alterazione non autorizzata dell’attività cerebrale di una persona e che le possano recare un danno diretto. Un’azione, per qualificarsi come una minaccia all’integrità mentale, deve: (i) implicare l’accesso diretto e la manipolazione della segnalazione neurale; (ii) essere non autorizzata – cioè deve avvenire in assenza del consenso informato del generatore di segnale; (iii) provocare danni fisici e/o psicologici. Poiché nell’era dell’Intelligenza2 l’attività cerebrale entra a far parte dell’infosfera digitale, l’integrità mentale degli individui sarà sempre più minacciata se non vengono attuate misure di protezione specifiche.
69Alterazioni non autorizzate dell’attività neurale di una persona potrebbero anche emergere dalle applicazioni militari della tecnologia BCI per il potenziamento dei soldati. Dei neuroingegneri statunitensi hanno dimostrato che una protesi controllata neurologicamente potrebbe inviare informazioni tattili al cervello in tempo quasi reale utilizzando la microstimolazione intracorticale, creando essenzialmente un’«interfaccia cervello-macchina-cervello» (Lebedev et al. 2011). Tali interventi possono modificare direttamente l’attività neurologica e possono essere utilizzati per esercitare un certo grado di controllo sui soldati delle truppe di terra. Ad esempio, il Committee on Opportunities in Neuroscience for Future Army Applications del consiglio nazionale delle ricerche statunitense ha studiato l’uso di tecnologie portatili come la spettroscopia nel vicino infrarosso (fNIRS) per rilevare carenze nei processi neurologici di un soldato e poi utilizzato la stimolazione magnetica transcranica (TMS) per sopprimere o migliorare i singoli processi cerebrali. Allo stesso modo, i diritti all’integrità mentale dovrebbero essere inclusi tra i diritti dei prigionieri di guerra per prevenire l’uso di interventi invasivi di lavaggio del cervello.
70La stimolazione cerebrale è un ulteriore ambito in cui il diritto all’integrità mentale può svolgere un ruolo. Con il crescente numero di neurostimolatori portatili disponibili sul mercato o di dispositivi “fai da te” assemblati da neuroscienziati amatoriali, si dovrebbe evitare il rischio che le persone possano abusare di questi dispositivi con conseguente impatto negativo sul loro funzionamento neurale. Ad esempio, mentre la stimolazione transcranica in corrente continua (tDCS) è progettata per funzionare in modo sicuro in una determinata banda di frequenza, poche salvaguardie impediscono agli utenti o a terzi di manipolare la frequenza del dispositivo recando danni all’attività cerebrale.
71Il settore medico non è esente dall’eventuale applicazione del diritto all’integrità mentale. Come scritto in precedenza, interventi invasivi di neurotecnologia come la DBS comportano l’alterazione dell’elaborazione neurale del paziente mediante impulsi elettrici trasmessi per elettrodo. Mentre questa procedura fornisce benefici terapeutici per i pazienti neurologici altrimenti resistenti al trattamento, vi è anche un potenziale rischio di effetti neuropsichiatrici avversi, tra cui apatia, comportamento compulsivo e allucinazioni (Mackenzie 2011). Inoltre, trattandosi di una procedura chirurgica, c’è il rischio di infezione, emorragia e rigetto del neurostimolatore impiantato. Pertanto, anche se in tale procedura medica il consenso informato è sempre ottenuto sulla base di requisiti etici medici minimi, c’è ancora il rischio che l’alterazione del calcolo neurale consentito dalla DBS possa causare un danno sproporzionato rispetto al beneficio terapeutico.
72Infine, il crescente campo dell’ingegneria della memoria rappresenterà una sfida fondamentale per il diritto all’integrità mentale. Sono state sviluppate diverse tecniche per ingegnerizzare (ad esempio, aumentare o cancellare selettivamente) i ricordi dalla mente di una persona. Ad esempio, dei neuroscienziati dell’università di San Diego hanno utilizzato una tecnica optogenetica per cancellare e successivamente ripristinare ricordi selettivamente applicando uno stimolo tramite laser ottico che rafforza o indebolisce selettivamente le connessioni sinaptiche (Nabavi et al. 2014). Anche se non hanno ancora raggiunto il livello di sperimentazione umana (lo studio riguardava un gruppo di ratti), questi risultati possono avere un grande potenziale per il trattamento di malattie come l’Alzheimer e il disturbo post-traumatico da stress (PTSD). Allo stesso tempo, tuttavia, l’uso improprio di queste tecniche da parte di attori malevoli può generare opportunità senza precedenti per la manipolazione mentale e il lavaggio del cervello. Ad esempio, gli attori a sfondo criminale potrebbero cancellare selettivamente i ricordi dal cervello delle loro vittime per evitare di essere identificati da loro in seguito o semplicemente per causare loro un danno. In uno scenario a lungo termine, potrebbero essere usati dalle agenzie di sorveglianza e di sicurezza con lo scopo di cancellare selettivamente dal cervello memorie delle persone scomode o indesiderate, come descritto nel film Man in Black con il cosiddetto “neuralyzer” o, in maniera più poetica, in Eternal Sunshine of the Spotless Mind (orribilmente tradotto in italiano con Se mi lasci ti cancello).
73Come il diritto alla privacy mentale, anche il diritto all’integrità mentale potrebbe non essere assoluto. Ad esempio, per motivi utilitaristici si potrebbe sostenere che le violazioni controllate e temporanee del diritto all’integrità mentale dovrebbero essere consentite come una forma di miglioramento morale per gli autori di reati violenti persistenti. Per esempio, i filosofi e bioeticisti di Oxford Ingmar Persson e Julian Savulescu hanno sostenuto che se fossero sviluppati miglioramenti biomedici sicuri ed efficaci per rendere le persone “più morali”, questi interventi dovrebbero essere obbligatori (Persson e Savulescu 2011/2019). In un contesto meno astratto, altri esperti hanno sostenuto che non solo è moralmente ammissibile, ma anche moralmente necessario di obbligare gli autori di reati violenti persistenti a sottoporsi a trattamenti di miglioramento morale, a condizione che sia dimostrata l’efficacia di tali interventi. Queste possibili eccezioni al diritto all’integrità mentale richiederebbero ovviamente un’ampia discussione sociale per determinare se – e quando – tali manipolazioni obbligatorie della dimensione più profonda del sé potrebbero essere giustificate per il maggior beneficio della società.
74Ma cosa ne facciamo dell’identità personale? Per produrre delle specificazioni a riguardo è innanzitutto necessario trovare una definizione psico-cognitivamente meno ambigua di questa capacità. Basandoci sul lavoro del filosofo Derek Parfit che ha descritto l’identità personale in termini di continuità psicologica, Andorno e il sottoscritto hanno provato a delineare un diritto alla continuità psicologica. L’idea di questa specificazione è quella di guidare l’integrazione responsabile dell’intelligenza artificiale nell’intelligenza umana in modo da preservare il senso di identità personale – definito come la continuità della propria vita mentale – ed evitare una manipolazione incosciente. Si tratta pertanto del diritto di ciascuno di mantenere un certo grado di controllo sul proprio comportamento e sulla propria esperienza soggettiva, senza provare i sentimenti di perdita di controllo” o persino di “rottura” dell’identità personale descritti da alcuni pazienti neurologici che hanno ricevuto la DBS (Gilbert et al. 2017). Allo stesso tempo, il diritto alla continuità psicologica è finalizzato a proteggere da interventi non autorizzati da parte di terzi nell’attività neurale degli utenti di BCI. Ad esempio, tale diritto potrebbe proteggere gli individui dalla neuromodulazione non autorizzata, anche qualora tali interventi non causino lesioni o traumi all’utente (i quali sarebbero protetti dal diritto all’integrità mentale) ma comunque generino modificazioni significative nella sfera psicologica dell’individuo. Ad esempio, modifiche arbitrarie delle preferenze politiche o religiose, degli stati emotivi e delle memorie senza l’esplicito consenso di quest’ultima/o. Questo principio potrebbe diventare particolarmente importante nel contesto della sicurezza nazionale e della ricerca militare, dove le neuroapplicazioni in grado di modulare tratti della personalità (ad esempio tramite tecniche di neurostimolazione) sono attualmente testate per il potenziamento dei combattenti e altri scopi strategici. Ad esempio, al fine di incrementare la capacità di soldati e altri operatori militari di operare con motivazione e determinazione anche sotto stress o in assenza di sonno (Tennison e Moreno 2012). Tali tecnologie di neuromodulazione sono spesso implementate tramite dispositivi ibridi in grado di leggere segni di abbassamento dell’attenzione tramite EEG e poi modificare tali processi tramite stimolazione.
75I cambiamenti nella funzione cerebrale causati dalla stimolazione cerebrale possono in determinate circostanze causare alterazioni indesiderate negli stati mentali critici per la personalità, e possono quindi influenzare l’identità personale di un individuo. Diversi casi sono stati riportati nella letteratura scientifica in cui la DBS ha portato a cambiamenti comportamentali come l’aumento dell’impulsività e dell’aggressività (Frank, Samanta, Moustafa e Sherman 2007; Sensi et al. 2004) o cambiamenti nel comportamento sessuale (Houeto et al. 2002). A volte questi cambiamenti possono essere molto selettivi. In un caso, la stimolazione ha fatto sì che un paziente olandese sviluppasse una improvvisa e irrefrenabile passione per la musica del cantautore Johnny Cash, passione mai presente prima della stimolazione (Mantione, Figee e Denys 2014).
76Uno studio sui pazienti trattati con la DBS ha dimostrato che più della metà di essi esprimeva una sensazione di stranezza e scarsa familiarità con sé stessi dopo l’intervento arrivando ad affermare frasi come «non mi sento più me stesso»; «mi sento come un robot» o «non mi sono ritrovato dopo l’intervento» (Schüpbach et al. 2006). Studi più recenti hanno evidenziato cambiamenti di personalità nella direzione di una maggiore impulsività (Lewis et al. 2015; Pham et al. 2015). Parallelamente, le tecnologie di ingegneria della memoria possono avere un impatto sull’identità di una persona rimuovendo, alterando, aggiungendo o sostituendo selettivamente memorie individuali che sono rilevanti per il loro auto-riconoscimento come persone.
77Sicuramente è una questione empirica determinare la frequenza e l’entità di questi cambiamenti psico-comportamentali e è una questione di diritto penale e di responsabilità civile valutare l’impatto di questi cambiamenti sulla responsabilità. Ma la domanda che ci riguarda tutti è stabilire se tali cambiamenti di personalità indotti dalla neurostimolazione o dalla tecnologia di manipolazione della memoria possano costituire in alcune circostanze una violazione di un diritto umano fondamentale. Questo potrebbe essere teoricamente il caso, per esempio, se il paziente è legalmente incompetente (per esempio, un bambino) e il cambiamento di personalità risulta essere psicologicamente disturbante per lui o per lei. In tali circostanze, se i rappresentanti legali del paziente rifiutano di acconsentire alla rimozione dell’apparecchio per il fatto che ha ridotto i sintomi del disturbo neurologico, potrebbero essere considerati in contrasto con il diritto dell’individuo alla continuità psicologica.
78Le nuove conoscenze e tecnologie nel campo delle neuroscienze offrono chiaramente nuove e più efficienti possibilità di realizzare cambiamenti di personalità non autorizzati. Ad esempio, dei neurochirughi dell’Università di Cambridge hanno recentemente segnalato la preoccupazione che gli impianti cerebrali come il DBS siano anch’essi vulnerabili agli attacchi di terzi che vogliono esercitare un controllo maligno sull’attività cerebrale di altre persone. Hanno chiamato questo rischio di modificazione dell’attività cerebrale di una persona attraverso l’uso non autorizzato di neurodispositivi da parte di terzi “brainjacking”, dalla parola inglese “hijacking” che vuol dire letteralmente “dirottamento” (Pycroft et al. 2016). Le conseguenze negative del brainjacking includono (i) il furto di informazioni, che comporterebbe una violazione del diritto alla privacy mentale; (ii) la cessazione della stimolazione, lo svuotamento delle batterie degli impianti, l’induzione di danni ai tessuti e la compromissione della funzione motoria, che si tradurrebbero in violazioni del diritto all’integrità mentale. Tuttavia, alcune possibili conseguenze del brainjacking come l’alterazione del controllo degli impulsi, la modifica degli stati emotivi, l’induzione del dolore e la modulazione del sistema di ricompensa potrebbero essere ottenute anche in assenza di qualsiasi violazione della privacy e dell’integrità mentale. In quelle circostanze di modificazione non autorizzata della dimensione cognitivo-emotiva sembra essere in gioco un altro tipo di violazione dei diritti umani: la violazione del diritto alla continuità psicologica.
79Riassumendo, il diritto alla continuità psicologica tende in definitiva a preservare l’identità personale e la coerenza del comportamento dell’individuo da modifiche non autorizzate da parte di terzi. Protegge la continuità tra i pensieri abituali, le preferenze e le scelte di una persona, proteggendo il funzionamento neurale sottostante. Per dirla con il giurista tedesco Paul Tiedemann, comprendiamo noi stessi come unità personali e come soggetti e fonti di atteggiamenti, purché questi atteggiamenti abbiano un livello minimo di coerenza. Ecco perché una grave mancanza di coerenza rende impossibile comprendere sé stessi (Tiedemann 2016). Il diritto alla continuità psicologica può essere visto come una particolare istanza neurofocalizzata del diritto a sviluppare una personalità, stabilito dalla Dichiarazione Universale dell’ONU all’articolo dove si dice che: «Ogni individuo ha diritto alla realizzazione dei diritti necessari per la propria dignità e per il libero sviluppo della propria personalità». Inoltre, l’articolo 29 recita: «Ogni individuo ha diritto alla realizzazione dei diritti necessari per la propria dignità e per il libero sviluppo della personalità». Il diritto alla continuità psicologica è strettamente correlato al diritto all’integrità mentale, e può di fatto sovrapporsi a esso. Entrambi i diritti sono intesi a proteggere le persone da alterazioni abusive e non autorizzate della loro dimensione mentale. Tuttavia, essi differiscono nella misura in cui il diritto alla continuità psicologica si applica anche a scenari emergenti che non implicano direttamente un danno neurale o mentale.
80Per apprezzare questa differenza, è importante considerare che la continuità psicologica potrebbe essere minacciata non solo da un uso improprio della stimolazione cerebrale, ma anche da interventi meno invasivi, anche impercettibili. Un buon esempio è la pubblicità neurale inconscia attraverso il neuromarketing. Come abbiamo visto precedentemente, le aziende di neuromarketing stanno testando tecniche subliminali come l’incorporazione di stimoli subliminali con lo scopo di suscitare risposte (ad esempio, preferendo l’elemento A invece di B) che le persone non possono consapevolmente registrare. Questo ha sollevato critiche tra le organizzazioni di difesa dei consumatori, come il Center for Digital Democracy, che hanno messo in guardia contro il carattere potenzialmente invasivo di queste tecnologie. Jeff Chester, direttore esecutivo dell’organizzazione, ha sostenuto che «sebbene non ci sia stata storicamente una regolamentazione sulla pubblicità per adulti in virtù del fatto che gli adulti hanno meccanismi di difesa per discernere ciò che è vero e falso», ora c’è bisogno di nuove regole per gestire tecnologie pubblicitarie «appositamente progettate per aggirare quelle difese razionali» (Singer 2010).
81Un altro tipo di cambiamento della personalità reso possibile dall’era dell’Intelligenza2 ha a che fare con le preferenze politiche o religiose. Holbrook et al. (2016) hanno utilizzato la stimolazione magnetica transcranica (TMS) per neuromodulare le regioni cerebrali responsabili dei pregiudizi sociali e delle convinzioni politiche e religiose. I loro risultati mostrano che spegnendo temporaneamente la corteccia frontale mediale posteriore tramite TMS è stato possibile rendere i partecipanti più positivi nei confronti delle critiche al proprio paese, rispetto ai partecipanti il cui cervello non è stato influenzato. Utilizzando la stessa tecnica, hanno potuto aumentare la fiducia dei partecipanti nell’aldilà. Mentre il loro esperimento è stato progettato per mappare i meccanismi neurali precisi di atteggiamenti e credenze di alto livello, i loro risultati mostrano che la stessa tecnica potrebbe essere utilizzata per innescare un ampio spettro di alterazioni degli atteggiamenti e delle credenze di una persona.
82È bene notare che l’espansione delle attuali specificazioni dei diritti umani per rispondere adattivamente alle sfide della neurotecnologie e dell’intelligenza artificiale non sarebbe né un unicum né un primum nella storia del diritto. Più volte tale framework è stato esteso in risposta a nuovi progressi in ambito biomedico e biotecnologico. Si pensi, ad esempio, alla tecnologia genetica. Dalla fine degli anni ‘90, la comunità internazionale ha compiuto sforzi significativi per affrontare una grande varietà di problemi derivanti dal crescente accesso ai dati genetici umani. Quegli sforzi sono culminati, nel 1997, nella Dichiarazione Universale sul Genoma Umano e i Diritti Umani (in inglese Universal Declaration on the Human Genome and Human Rights, abbreviato UDHGHR) la quale è stata adottata per impedire che le informazioni genetiche siano raccolte e utilizzate in modi che sono incompatibili con il rispetto dei diritti umani e per proteggere il genoma umano da manipolazioni improprie che potrebbero danneggiare le generazioni future. Esattamente come la UDHGHR è stata una risposta etico-regolativa ai rapidi progressi tecnologici nel sequenziamento del DNA e nell’ingegneria genetica, così una “Dichiarazione Universale sulla Cognizione Umana e i Diritti Umani” potrebbe essere l’adeguata risposta etico-regolativa ai progressi nelle tecnologie dell’Intelligenza2. Nel momento in cui è stato redatto questo libro, la comunità internazionale sta ponendo le basi di questo progetto. Se avremo successo o meno, sarà il tempo a dircelo.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Complottisti vulnerabili
Le ragioni profonde del cospirazionismo
Emiliano Loria, Stefano Iacone et Cristina Meini (dir.)
2023
Disincanto del mondo e scienze della vita
Nuovi elementi di cosmologia filosofica
Gabriele Aleandri
2024
L’emozione entro i limiti della ragione
La coltivazione delle emozioni in Martha Nussbaum
Giulio Sacco
2023
