Version classiqueVersion mobile
OpenEdition Books

Desideri decisi di democrazia in Europa

 | 
Rosa Elena Manzetti

Parte seconda. Democrazia e singolarità

La luce interiore della macchina umana: libertà di scelta nell’era dell’intelligenza artificiale

Arianna Montorsi

Texte intégral

1Vorrei provare a chiarire come e se i recenti sviluppi nell’ambito dell’intelligenza artificiale possano cambiare la pratica della democrazia. Per arrivarci spiegherò a grandi linee in cosa consistano in particolare le cosiddette macchine a apprendimento profondo, cioè la forma di intelligenza artificiale su cui si sono fatti i progressi più significativi; e come tutti noi siamo, in parte, assimilabili ad esse. Concluderò con alcune considerazioni.

2L’attuale visione della scienza immagina le specie viventi e specificamente quella umana come algoritmi biologici per l’elaborazione della realtà esterna. A partire da materiale biologico differente e attraverso l’evoluzione, una foglia, una formica e un umano hanno sviluppato algoritmi diversi per analizzare i dati che li circondano e rispondere alla stessa esigenza di sopravvivenza. In una realtà esterna di dati diversi e complessi anche lo stesso tipo di elaboratore sviluppa strategie differenti: dunque ogni creatura vivente è una “macchina” dotata di individualità. Come vedremo, nel caso dell’uomo è anche cosciente della propria unicità. A prima vista questa descrizione conferma la fiducia riposta dall’umanesimo nell’autonomia del soggetto, che è alla base per esempio di molte forme di governo democratico: le scelte della maggioranza di individui liberi sono le più efficienti a tutelare gli interessi di tutti. Un’analisi rigorosa delle implicazioni della visione “datista” evidenzia però i possibili limiti di tale affermazione.

3Si può notare come già nel secolo scorso la teoria dei giochi, pur in una descrizione algoritmica elementare degli individui, avesse identificato un limite strutturale della democrazia diretta, provando che un sistema complesso, nel quale ciascun giocatore sceglie le mosse per massimizzare il proprio vantaggio, tipicamente non è in grado di raggiungere la condizione migliore per il sistema stesso. Anche se raggiunge uno stato di equilibrio (equilibrio di Nash), può rimanere per sempre lontano dall’equilibrio più vantaggioso per tutti. Applicando al suffragio universale questo risultato, ne deduciamo che esso favorisce forme di governo che avvantaggiano la maggioranza dei cittadini, a scapito della società nel suo insieme.

4Al di là di questo limite specifico, un aspetto più problematico delle moderne democrazie, sul quale mi vorrei soffermare, sta emergendo con la realizzazione delle prime forme di intelligenza artificiale in grado di superare le prestazioni umane in problemi “difficili”. Si è trattato di una scoperta entusiasmante, che non era ritenuta possibile fino a pochi anni fa e sta consentendo balzi in avanti sorprendenti in moltissimi campi, primo fra tutti quello della diagnosi e cura delle malattie con la medicina personalizzata. L’ostacolo stava nel fatto che i problemi difficili non possono essere risolti esattamente, perché dipendono in maniera complicata da troppe variabili: esplorare tutte le possibilità per identificare le soluzioni corrette richiederebbe un tempo pressoché infinito anche per i computer più potenti. La via di uscita si è trovata dotando le macchine ad apprendimento profondo di una sorta di intuito: non esplorano tutte le possibilità, ma un numero sufficiente di casi da poterne trarre conclusioni statisticamente valide. Così abbiamo inventato macchine più intelligenti di noi nell’imparare dai dati: come noi possono sbagliare, ma sbagliano molto meno. Anche in questo mondo artificiale l’uomo si distingue per capacità di riflessione, ma è ormai chiaro che tale capacità non gli consente di operare in singoli problemi analisi migliori delle macchine che ha progettato. La “macchina umana”, infatti, lavora in assenza di informazione completa e con poca potenza di calcolo: non conosciamo con esattezza tutto ciò che ci circonda e possiamo fare un numero limitato di operazioni al secondo. Alla nostra macchina è dunque connaturato un margine di errore elevato. Grazie a un’intelligenza artificiale allenata a conoscerci si può per esempio sfruttare questo limite per indurci a sbagliare.

  • 1 S. Weil, Manifesto per la soppressione dei partiti politici [1943], in Diario, anno IV, Pi (...)

5Cerchiamo ora di capire meglio come funziona la macchina umana per comprendere cosa significhi dare a essa la libertà di orientarsi seguendo la luce interiore dell’evidenza1, secondo l’immagine ripresa dal manifesto di questo incontro. Schematizzando, nell’uomo l’elaborazione dei dati avviene attraverso la rete di connessioni cerebrali, che in una prima fase identifica e registra le caratteristiche fisiche e qualitative principali della realtà che lo circonda, ricostruendone rappresentazioni interne semplificate. In un secondo momento la rete impara a associare alle rappresentazioni interne delle etichette, che le consentiranno di riconoscerne altri esempi che si ripresentino in futuro. Mentre nelle attuali macchine a apprendimento automatico la seconda fase, detta di supervisione, ha luogo per lo più esternamente – è l’uomo che allena le macchine mostrando loro un numero di esempi sufficienti a non sbagliare nel riconoscimento di esempi successivi – si pensa che nella specie umana la supervisione si svolga soprattutto internamente attraverso processi di natura biochimica, che generano sensazioni di diverso tipo. Per esempio, se mi pestano un piede, dopo avere riprodotto internamente l’atto, vi assocerò la sensazione di dolore provata che mi consentirà di riconoscere e evitare un’occasione simile la volta successiva. Allo stesso modo le sensazioni di piacere ci aiutano a classificare e ricordare esperienze positive: la natura biochimica dei nostri algoritmi facilita il processo di riconoscimento. Volendo ricorrere a similitudini in altri contesti, quanto avviene in queste prime fasi potrebbe essere assimilabile alla luce interiore di cui sopra, o all’inconscio lacaniano in cui circola godimento. Nella data science è invece un esempio di intelligenza artificiale non supervisionata: l’inconscio impara a riconoscere e reagire alla realtà, pur senza comprenderla.

  • 2 Y. N. Harari, Homo deus: breve storia del futuro [2015], Milano, Bompiani, 2017.

6La descrizione precedente vale, con le necessarie differenze, anche per organismi biologici meno evoluti di quello umano. L’ulteriore scarto che anche storicamente2 ha consentito alla specie umana di prevalere sulle altre è l’elevato grado di autocoscienza (o consapevolezza), intesa come capacità di riflettere sulle rappresentazioni interne della realtà create dal proprio elaboratore, per esempio attraverso l’uso del linguaggio. Quest’ultimo è utile anche a condividere e scambiare informazioni e rappresentazioni della realtà con altri umani. Così il singolo può prendere decisioni diverse e più consapevoli di quelle dettate dal proprio inconscio, sulla base di un insieme molto più ampio di rappresentazioni condivise. Potremmo dire che l’autocoscienza permette all’uomo di ottimizzare l’uso degli stimoli ricevuti dal proprio elaboratore, non immune da errori. Ma è davvero necessaria per fare scelte più intelligenti, o è invece un prodotto dell’evoluzione inutile quando si abbiano capacità di elaborazione infinitamente maggiori di quelle di un individuo?

7Nella ricostruzione appena delineata una cosa appare evidente: gli enormi progressi fatti nel campo dell’intelligenza artificiale e nella comprensione della biologia dell’uomo hanno come protagonista l’uomo cosciente. È corretto sottolineare che non c’è all’orizzonte una macchina in grado di riprodurne la consapevolezza, riflettendo e prendendo decisioni diverse da quelle che l’uomo le consentirà di prendere: le intelligenze artificiali basate sull’apprendimento profondo mancano infatti di autocoscienza e in questo si distinguono profondamente dagli umani. Non sono macchine più intelligenti nel decidere, ma nell’apprendere e riconoscere: è l’uomo che le usa che può fare scelte molto più intelligenti e consapevoli grazie a loro. Proprio per questo bisogna considerare con attenzione il fatto che questi elaboratori di grandissima capacità di calcolo, nonché le conoscenze necessarie a utilizzarli, sono gestibili da un numero molto ridotto di persone e con finalità poco condivise o non note ai più. Anche se l’umanità è un insieme di algoritmi dotati di individualità e autocoscienza, già in passato ciò non ci ha protetto dall’essere manipolabili come specie: le nostre paure e i nostri desideri sono statisticamente prevedibili ed è stato inevitabile farne uso. Ora però siamo diventati prevedibili singolarmente: condividiamo fatalmente una grande quantità di dati sulle nostre storie personali che, una volta rielaborati da macchine che imparano da essi, ci rendono individualmente trasparenti e orientabili nelle scelte future. Possiamo rimanere ignoti a noi stessi, non a una intelligenza artificiale molto più potente e adeguatamente allenata. È già cronaca che alle vittorie di forze populiste, sia in occasione della Brexit che dell’elezione dell’attuale presidente americano, ha contribuito anche una società privata di intelligenza artificiale, Cambridge Analytica, che si pubblicizza con lo slogan: «Usiamo i dati per cambiare il comportamento del pubblico». Eppure continuiamo a esprimerci attraverso voti, opinioni e consumi con la convinzione che ci appartengano.

8Si può osservare che gli stessi strumenti di apprendimento automatico possono anche aumentare la consapevolezza degli elettori: per esempio vi sono software in grado di segnalare notizie false, o di identificare i profili dei candidati che più si avvicinano alle nostre idee. Rimane urgente interrogarsi sulle possibilità di democrazia nello scenario che si prefigura, in cui pochi potranno avere il controllo dei dati di molti: il paradiso di moderne forme di dittatura ma anche una sfida per la psicoanalisi, con la possibilità di utilizzare nuovi strumenti per leggere l’inconscio. Volendo mantenere l’ideale di democrazia, è importante adeguare la sua pratica alle nuove conoscenze.

Notes

1 S. Weil, Manifesto per la soppressione dei partiti politici [1943], in Diario, anno IV, Piacenza, Ed. Vicolo del Pavone, 1988.

2 Y. N. Harari, Homo deus: breve storia del futuro [2015], Milano, Bompiani, 2017.

Auteur

Professore associato di Fisica della materia al Politecnico di Torino. Membro del Coordinamento Biennale Democrazia incontro internazionale a Torino

Acheter

Volume papier

Rosenberg & Sellier