Version classiqueVersion mobile

Società delle tecnologie esponenziali e General Data Protection Regulation

 | 
Simone Bonavita

L’incidenza dei big data e del machine learning sui principi alla base del Regolamento Europeo per la tutela dei dati personali (2016/679/UE) e proposte per una nuova normativa in tema di privacy

Tommaso Tani

Texte intégral

Si ringrazia il prof. Stefano Zanero, Politecnico di Milano, per il supporto offerto nella redazione del saggio

Introduzione: scopo e metodologia della ricerca

Una grande attenzione dobbiamo rivolgere alle applicazioni dell’intelligenza artificiale che effettuano valutazioni o assumono decisioni supportate soltanto da algoritmi, con un intervento umano reso via via più marginale, fino ad annullarsi, con effetti dirompenti sul modo di vivere e articolare esistenze e relazioni, in termini individuali ma anche sociali e politici. Le Autorità europee di protezione dati avvertono il bisogno di accompagnare questi fenomeni attraverso un più rigoroso approccio etico e di generale responsabilità.

1Con queste parole il Presidente dell’Autorità Garante per la Protezione dei Dati Personali Antonello Soro, durante il convegno organizzato in occasione della Giornata Europea della protezione dei dati personali a Roma il 30 gennaio 2017, individuava nelle nuove tecnologie di raccolta e analisi delle informazioni la nuova sfida per i legislatori europei e nazionali. Considerando la velocità di evoluzione delle tecnologie digitali e i tempi necessari alla redazione di nuove norme (la prima proposta per il GDPR è stata fatta nel 2012; il testo approvato nel 2016 viene applicato da maggio 2018), il rischio concreto è di avere in forza un testo già obsoleto al momento della sua entrata in vigore.

  • 1 Schermer, B.W., Custers B., van der Hof, S. (2014) The Crisis of Consent: How Stronger Legal Prote (...)

2Come primo elemento, il consenso, e la sua relativi crisi, costituiscono tema già dibattuto; vari studiosi si sono occupati di dimostrare come, nella pratica, il consenso non sia così libero e informato come richiesto, bensì automatico e quasi obbligato: “Gli interessati non prendono una decisione conscia e informata davanti a una richiesta di consenso, proprio per una sovrabbondanza di tali richieste e di informazioni, nonché per il fatto che spesso non hanno effettivamente scelta”.1 A questa già affermata situazione, ulteriori criticità si aggiungono nell’era dei big data: per la stessa intrinseca natura di questi, il consenso degli interessati sarà espresso su ciascuna delle molteplici raccolte di piccoli e insignificanti dati, rendendo difficile avere una percezione d’insieme sull’invasività dell’elaborazione di queste singole informazioni nel momento in cui queste, successivamente, sono messe in relazione tra loro da un algoritmo. Il “problema dell’aggregazione”, comporta per l’individuo una virtuale impossibilità di esprimere un giudizio ragionato su costi e benefici del rivelare alcuni dati personali. Allo stesso modo sfugge dal controllo il principio di limitazione delle finalità: quando, per esempio, un algoritmo utilizza dati raccolti durante la navigazione su internet per profilare un utente e offrire prezzi differenti e mirati per una assicurazione sanitaria, è facile immaginare che, se questa attività fosse stata anche solamente ipotizzata dall’interessato, questi non avrebbe acconsentito. In aggiunta, va considerato anche quanto espresso dall’opinione del Article 29 Working Party sulla limitazione della finalità (2/04/2013): la relazione tra le finalità, il contesto della raccolta dati e la natura degli stessi, sono elementi fondamentali con cui valutare la liceità del trattamento.

  • 2 Crf. il considerando 30 del GDPR.
  • 3 Per comprendere quanto sia complessa una completa anonimizzazione delle informazioni, è possibile (...)
  • 4 Mayer-Schonberger, V., Cukier, K., (2013) Big Data. Datenschutz und Datensicherheit – DuD, 37(5): (...)

3Altri punti cardine possono risultare perlomeno indeboliti. In primis, il concetto chiave di dato personale basato sulla identificabilità o meno del soggetto interessato (Art. 4, n. 1 del GDPR); di fatto, con l’adozione di nuove tecnologie, è drammaticamente diminuito il grado di identificabilità di ogni singolo dato necessario per poter essere collegato a uno specifico soggetto, dal momento che è possibile utilizzare facilmente altre informazioni per raggiungerne l’identificazione. Per esempio, al considerando numero 30 del GDPR vengono già inclusi in questa categoria di dati gli indirizzi IP, i cookies e i tag RFID, che “in particolare se combinate con identificativi univoci e altre informazioni ricevute dai server, possono essere utilizzate per creare profili delle persone fisiche e identificarle”.2 Allo stesso modo, una delle tecniche suggerite dal Regolamento per aumentare il grado di sicurezza delle informazioni, ossia la pseudonimizzazione, non è a sua volta sufficiente per garantire l’anonimità del dato – e quindi la disapplicazione delle norme in questione: è sempre possibile, infatti, l’attribuzione al soggetto interessato tramite l’utilizzo di altre informazioni. Ciò detto, è naturale – e parzialmente tra gli obiettivi del legislatore europeo – che il campo di applicazione materiale del Regolamento si allarghi notevolmente, considerando l’attuale capacità tecnologica nell’assemblare dati di per sé non significativi.3 Se da un punto di vista degli utenti può essere un vantaggio, dall’altro potrebbe rappresentare un grande ostacolo per lo sviluppo economico. Allo stesso modo, la natura stessa dei big data occupa una posizione diametralmente opposta rispetto ad un altro principio espresso all’art. 5, lettera c) del GDPR, quello della “minimizzazione dei dati”; secondo il testo infatti, questi debbono essere “pertinenti e limitati” alle finalità per cui sono trattati. Al contrario, le nuove tecnologie si basano sulla raccolta a tappeto di ogni tipo di dato, anche se ininfluente e non necessario, perché solo a posteriori tale raccolta potrà essere interpretata e correlata con altre informazioni, per derivarne un nuovo valore e significato, ribaltando di fatto il proseguire tipico del metodo scientifico, che prevede la raccolta delle informazioni solamente dopo, e a conferma, dell’elaborazione teorica. A titolo esemplificativo, in uno dei primi testi completi sul tema “Big Data: A Revolution That Will Transform How We Live, Work, and Think” di Viktor Mayer-Schönberger, Kenneth e Cukier, questo approccio viene descritto tramite la formula “N=all”, che sta a indicare come il campione ideale delle analisi di questo tipo sia ogni dato esistente.4

4Quando poi vengono utilizzate intelligenze artificiali e algoritmi ad autoapprendimento, il controllo umano sul procedimento di analisi dei dati viene ridotto al minimo, se non completamente, limitando fortemente perfino le fasi di input e di utilizzo degli stessi dati. Conseguentemente, le operazioni svolte, le correlazioni e anche le stesse informazioni che vengono utilizzate nel trattamento, rimangono materia oscura al titolare; gli stessi sviluppatori dell’algoritmo non sono a conoscenza di quali passi siano stati compiuti con esattezza e quale sia stato il “ragionamento” del software. Davanti a tale oscurità, è evidente l’impossibilità di garantire i principi previsti dal preambolo 39 del GDPR, secondo cui “dovrebbero essere trasparenti per le persone fisiche le modalità con cui sono raccolti, utilizzati, consultati o altrimenti trattati dati personali che li riguardano nonché la misura in cui i dati personali sono o saranno trattati.” Come è possibile conciliare quindi questa necessità di trasparenza con uno strumento tecnologico che è imperscrutabile, non solo per l’interessato, ma anche per il suo stesso titolare?

5Questo articolo si pone l’obiettivo di fare luce sui contrasti fino ad ora evidenziati – e altri in via di definizione – tra le tecnologie moderne e i principi su cui si fonda la tutela della privacy offerta dal GDPR. Successivamente, si esaminano le direzioni che il legislatore dovrebbe perseguire per sviluppare una nuova regolamentazione. In primis, bisognerà ripensare dal principio l’approccio verso questa tematica: le norme esistenti fino ad ora fanno leva sull’espressione di un consenso iniziale, frammentato e svuotato di significato. Considerando invece quanto detto sopra e l’evidente crescita del fenomeno del cosiddetto secondary use, per il quale dati raccolti per uno scopo vengono reinterpretati infinite volte per altrettanti e diversi trattamenti, non si può non prendere in considerazione l’idea di slittare la tutela della privacy ad un momento successivo rispetto a quello della collezione dei dati, ipotizzando uno strumento che consenta all’interessato di avere coscienza di quali sue informazioni siano presenti e in quali database, chi siano i titolari e quali sono gli utilizzi che in ogni momento ne vengono fatti.

6Di conseguenza, la normativa potrebbe spostare la propria attenzione dal soggetto interessato alle informazioni stesse e seguire un approccio datacentrico, introducendo dinamicità nella tutela con una nuova architettura basata sui metadati. Non da ultimo, è d’obbligo considerare anche il contributo che le nuove tecnologie possono offrire alla tutela della privacy, per primo il meccanismo della blockchain, attualmente utilizzato solo nell’ambito delle criptovalute ma che, secondo alcuni studiosi, potrebbe rappresentare un efficace sistema di gestione delle identità digitali e dei dati personali.

Parte I: incidenza dei big data e del machine learning sui principi alla base del Regolamento Europeo per la tutela dei dati personali (2016/679/UE)

Big data

  • 5 Miller, R. (2017) The Battle for Control of Data Could Be Just Starting. Tech Crunch [Online] Cons (...)

7Prima di procedere alla analisi vera e propria di come le nuove tecnologie influiscano pesantemente sui principi fondanti del GDPR, è necessario definire, seppur brevemente e con le difficoltà del caso, cosa si intende per big data. Anche se il termine è presente in circolazione sin dagli ultimi anni ‘90,5 è nel corso del primo decennio del ventunesimo secolo che la definizione ha acquisito un significato specifico, anche alla luce dei problemi – e delle relative soluzioni – che questo nuovo tipo di set di dati ha sollevato. Prima di illustrare la definizione più comunemente accettata, è utile sottolineare come il vero valore aggiunto dei big data sia nell’analisi aggregata degli stessi: le singole informazioni, infatti, non sono qualitativamente diverse rispetto a quanto già raccolto e studiato in precedenza (o almeno in parte, vedi infra “Definizione di dato personale”). Ciò che ha portato a una vera e propria rivoluzione del mercato dell’informazione è stata la possibilità, mediante nuove e potenziate tecnologie, di svolgere analisi su una enorme disponibilità di dati, prima ritenuti inutili o troppo numerosi da processare, alla ricerca di nuove correlazioni, schemi e significati.

  • 6 Jackson, S. (2016) Big Data in Big Numbers - It’s Time to Forget the Three Vs’ and Look at Real-Wo (...)
  • 7 Laney, D. (2001) 3-D Data Management: Controlling Data Volume, Velocity and Variety. META Group Re (...)
  • 8 Big Data in Gartner IT glossary Consultabile su https://www.gartner.com/it-glossary/big-data.
  • 9 Questo tema non verrà affrontato all’interno di questo articolo, ma al momento sta impegnando un v (...)

8Come accennato, esiste una definizione quasi universalmente accettata di big data – seppur recentemente messa in discussione poiché probabilmente obsoleta:6 introdotta nel 2001 da Doug Laney7 e inserita poi nel glossario Gartner IT8, identifica i big data come un set di informazioni caratterizzato dall’alto tasso di volume, varietà e velocità (le c.d. “3 V”). Queste tre caratteristiche hanno spinto verso l’introduzione di nuovi metodi e tecnologie che potessero garantirne l’utilizzo. Per grande volume ci si riferisce alla quantità di informazioni che sono prodotte costantemente, ogni secondo, da una moltitudine di sorgenti, sia software come navigazione internet, acquisti online, sia hardware, come gli innumerevoli sensori presenti nei sempre più diffusi smart objects (una ricerca condotta da Voucher Cloud prevede che nel 2018 saranno creati 50.000 GB ogni secondo). Per alta varietà, si intende invece l’incredibile differenziazione nella tipologia e pertinenza dei dati raccolti. In ultimo, l’alta velocità rappresenta il ritmo al quale questa enorme mole di informazioni viene costantemente generata – e allo stesso tempo, però, “decade” o diventa obsoleta. Quest’ultimo problema pone l’interrogativo del vero significato di diritto all’oblio e data retention quando si ha a che fare con dati informatizzati, precari nel loro significato e, allo stesso tempo, incredibilmente persistenti.9

Definizione di dato personale come ‘identificabile’

  • 10 Miller, R. (2017) The Battle for Control of Data Could Be Just Starting. Tech Crunch [Online] Cons (...)

9L’incidenza di questa nuova categoria di dati – che sembra assumere un ruolo sempre più fondamentale, se non quasi unico, nel business delle nuove tecnologie10 – ha effetti fin dai principi cardine del nuovo Regolamento europeo, ossia dalla definizione di dato personale, che è uno dei fattori chiave da cui discernere l’applicazione o meno del GDPR stesso. Infatti, l’articolo 4 punto 1, identifica con dato personale

qualsiasi informazione riguardante una persona fisica identificata o identificabile («interessato»); si considera identificabile la persona fisica che può essere identificata, direttamente o indirettamente, con particolare riferimento a un identificativo come il nome, un numero di identificazione, dati relativi all’ubicazione, un identificativo online o a uno o più elementi caratteristici della sua identità fisica, fisiologica, genetica, psichica, economica, culturale o sociale.

  • 11 Considerando n. 30, Regolamento (UE) 2016/679 del Parlamento Europeo e del Consiglio del 27 aprile (...)

10L’identificabilità di un individuo diventa fattore discriminante: se è possibile in qualche modo risalire alla persona fisica, il dato è personale e la nuova regolamentazione va applicata. Al contrario, ove si trattino dati anonimi, c’è libertà totale di azione dal momento che non ci sono individui i cui diritti vadano tutelati. Se nei preamboli al testo del GDPR11 sono stati presi in considerazione identificativi informatici (quali cookie e indirizzi IP), quando si guarda ai risultati portati dai big data, si entra in una zona grigia, a cavallo tra identificabilità e anonimità.

  • 12 Solove, D. J. (2013) Privacy self-management and the consent dilemma.
  • 13 Custers, B., Calders, T., Schermer, B., Zarsky, T. (2013) Studies in Applied Philosophy, Epistemol (...)

11Facendo un passo indietro, è possibile affermare che il valore “atomico” di ogni singola informazione presente in questi nuovi enormi set di dati, è decresciuto significativamente. Infatti, un aspetto caratteristico dei big data è appunto quello di essere singolarmente inutili e di acquistare valore solo ove correlati con molte altre piccole, insignificanti informazioni. Le potenzialità, così come i lati negativi, di questa aggregazione sono molteplici, ma il primo elemento da prendere in considerazione è la possibilità di identificare un soggetto a partire da un (relativamente) alto numero di piccoli dati anonimi.12 Due sono gli sbocchi di questo tipo di analisi che, a mio avviso, mettono in crisi la natura dualistica dell’applicabilità del GDPR:13 la profilazione e il singling out.

  • 14 Article 29 Data Protection Working Party, Opinion 4/2007 on the concept of personal data, 01248/07 (...)

12Con profilazione ci si riferisce al processo che permette di determinare l’appartenenza di un soggetto a un gruppo, più o meno esteso, o una categoria. Basti pensare alle implicazioni commerciali del poter categorizzare un individuo come propenso a uno specifico tipo di acquisto, sensibile a un certo argomento o soggetto ad una particolare condizione clinica. Queste operazioni non necessitano di individuare la persona specifica né tanto meno di distinguerla dalle altre presenti del gruppo. Ora, se da un lato la profilazione è stata presa in considerazione sia all’interno del testo del GDPR che nel precedente parere del Working Party 29,14 è mia opinione che questa non venga correttamente affrontata. In primis, la stessa definizione data all’articolo 4, punto 4, parla di “forme automatizzate di trattamento di dati personali […]”, presupponendo, perciò, che si tratti già di informazioni la cui identificabilità è tale da farli ricadere nell’ambito del GDPR. In aggiunta, quanto previsto nella definizione di dato personale, anche se riferita all’individuazione di uno o più elementi caratteristici (sociali, economici, culturali etc.), non è a mio avviso sufficiente a includere nell’ambito di applicabilità anche le profilazioni ottenute tramite utilizzo di big data, pur se anonimi. Con singling out infine, ci si riferisce alla possibilità di utilizzare le premenzionate tecniche al fine di identificare un soggetto tramite un ampio numero di informazioni di per sé irrilevanti ma che, una volta combinate insieme, possono arrivare, per esclusione e per raffinamento dei dettagli, a un preciso individuo.

13Tuttavia, per le attività di singling out, e in parte anche per le profilazioni, è possibile, da parte delle istituzioni europee, porre rimedio: utilizzando infatti il testo del preambolo, il quale lascia margine interpretativo in ordine ai mezzi e alle tecnologie disponibili sui quali stabilire se si tratti di dato personale o meno, e del preambolo 72, che dà all’European Data Protecion Board la possibilità di pubblicare linee guida sulla profilazione, è a mio avviso possibile, nonché auspicabile, che anche il più estremo e fantasioso uso dei big data ricada nell’ambito del GDPR. Non per questo tutti i problemi possono ritenersi risolti; al contrario, nei paragrafi che seguono illustrerò come alla base dell’incompatibilità di alcuni principi del Regolamento ci siano attriti insanabili.

Consenso

  • 15 Una pratica diffusa ed errata è per esempio, l’utilizzo del consenso per il trattamento dei dati d (...)
  • 16 Solove, D. J. (2013) Privacy Self-Management and the Consent Dilemma.
  • 17 La prima comparsa di questo speciale diritto è da ricondurre a una sentenza della Corte Costituzio (...)

14Il consenso è solamente una delle condizioni per la liceità del trattamento elencate dall’articolo 6 del GDPR. Allo stesso tempo però, è probabilmente quella su cui – impropriamente15 – si basano la maggior parte degli attuali trattamenti dei dati. In ogni caso, è dietro il consenso che si cela la maggior parte della dottrina internazionale sul significato stesso e sugli obiettivi del diritto alla privacy; la grande maggioranza degli autori, infatti, si è occupata di studiare la dinamica per cui il soggetto autorizza l’utilizzo dei propri dati personali in cambio di un servizio o per qualsiasi altro beneficio; di analizzare, in pratica, come questo effettui il bilanciamento dei propri interessi e diritti. Il filo conduttore delle principali dottrine e delle principali legislazioni sulla protezione dei dati personali (almeno per la parte riguardante il consenso, come appena visto per il GDPR), è stato perfettamente analizzato e riassunto dal celebre studioso Daniel Solove, che ha definito questo approccio come “privacy self-management”, ossia autogestione della privacy,16 e successivamente incluso e articolato in Europa nel concetto più ampio di autodeterminazione informativa.17 Secondo questa affermata teoria, le informazioni e gli strumenti forniti al soggetto sono sufficienti a far sì che questo, analizzando costi e benefici, sia in grado di decidere se consentire o meno l’utilizzo dei propri dati. Oggi, a seguito dell’estrema diffusione di servizi online che presentano informative sulla privacy estremamente lunghe e complesse e dell’avvento dei big data, il consenso così come conosciuto finora mostra due fondamentali punti di rottura: da una parte, la ben nota crisi del consenso; dall’altra, il problema dell’aggregazione.

  • 18 Schermer, B. W., Custers B., van der Hof, S. (2014) The Crisis of Consent: How Stronger Legal Prot (...)
  • 19 McDonald, A. M, Cranor L. F. (2008) The Cost of Reading Privacy Policies. A Journal of Law and Pol (...)
  • 20 In lingua originale, i tre problemi del consenso sono così formulati: consent transaction overload (...)
  • 21 Article 29 Data Protection Working Party (2017) Opinion 17/2017 Guidelines on Consent under Regula (...)
  • 22 Consultabile su https://www.easyjet.com/en/policy/privacy-promise.

15Per quanto riguarda la prima criticità, c’è poco altro da aggiungere a quanto già lungamente studiato dalla dottrina internazionale. Lo scollamento tra il punto di vista legale e la realtà in questa situazione è massimo: gli utenti raramente leggono le informative a loro fornite e non le comprendono appieno, ma ugualmente acconsentono al trattamento dei dati. Uno studio ha correttamente riassunto le precedenti analisi in tre grandi problemi del consenso.18 In primis, il sovraccarico di richieste di consenso: l’utente riceve talmente tanti inviti ad acconsentire all’utilizzo dei propri dati che queste perdono completamente importanza agli occhi del soggetto. Successivamente si riscontra un sovraccarico informativo: studi hanno dimostrato19 come la lunghezza e complessità delle informative spingano gli utenti – e spesso anche gli addetti del settore – a ignorarne completamente il testo, limitandosi a prestare un consenso “al buio”. Non servono certo studi per dimostrare quanto la pratica quotidiana, a qualsiasi livello, confermi questa tendenza. In ultimo, l’assenza di una possibilità di scelta: molto spesso i servizi online richiedono il consenso al trattamento dei dati in cambio di un servizio, senza margine di negoziazione. Ne consegue evidentemente che la scelta non è più libera da parte del soggetto, contrariamente a quanto richiesto sia dalla teoria che dalle norme che ne regolano il meccanismo.20 Le linee guida fornite dal Working Party 29 a proposito del consenso21 sicuramente non aiutano ad affrontare quanto appena illustrato; appare piuttosto che, per risolvere specifici problemi che possono nascere dall’utilizzo dei big data – quale la mancanza di limitazione della finalità e il problema dell’aggregazione (cfr. sezioni successive) –, tali indicazioni comportino un significativo aumento della complessità dell’informativa da fornire, rendendo sempre più labile la possibilità che un normale utente la legga comprendendola appieno. Tra le caratteristiche che una richiesta di consenso deve presentare, spicca la necessità di granularità e specificazione; il WP29 giustamente osserva che per poter essere davvero libero, il consenso dev’essere prestato specificatamente per ciascun trattamento dati, con un’unica finalità. Più scopi comportano più consensi; solo così l’utente potrà distinguere quando sia necessario autorizzare un trattamento per raggiungere l’obiettivo desiderato (ad es. l’utilizzo di uno specifico servizio) e quando invece si possa rifiutare di concedere i propri dati per la profilazione pubblicitara, per riprendere i casi illustrati dalla stessa autorità europea. Se teniamo conto delle altre numerose informazioni che una corretta e conforme informativa dovrà contenere a partire da maggio 2018 è difficile sostenere che queste possano davvero raggiungere lo scopo di informare il soggetto interessato. Nonostante la possibilità di adottare informative stratificate (“layered”) con l’obiettivo di aumentarne la comprensibilità, per esempio tramite icone, sono estremamente rari i casi in cui i titolari del trattamento hanno prodotto risultati accettabili dal punto di vista della user experience – tra i pochi, vale la pena citare l’informativa fornita sotto forma di video, con animazioni e descrizioni audio, della compagnia aerea easyJet.22

  • 23 Solove, D. J. (2013) Privacy Self-Management and the Consent Dilemma.

16Appare evidente che la c.d. “crisi del consenso” sia frutto diretto della crescita esponenziale dei servizi digitali di cui facciamo utilizzo quotidianamente e che, in un modo o nell’altro, trattano dati personali. La seconda criticità che ho introdotto, ossia il problema dell’aggregazione, invece vede nei big data il terreno più fertile. Come ho già illustrato, la tendenza per questo nuovo tipo di dati è di aumentarne drasticamente sia la quantità che la fonte, a fronte di una notevole diminuzione del valore intrinseco di ciascuna informazione singolarmente considerata. Per questo, la tanto apprezzata qualità dei big data sta nel valore aggregato, nelle indicazioni frutto della correlazione di molteplici elementi. Come scrive Solove, “la difficoltà dell’aggregazione sta nel fatto che rende praticamente impossibile gestire i dati”.23 Le informazioni che l’aggregazione è in grado di fornire e le conseguenze a cui questo meccanismo può portare sono decisamente ardue da prevedere per il soggetto coinvolto – e, per una certa misura, anche per lo stesso titolare del trattamento (vedi infra “Limitazione della finalità”); al punto da rendere impossibile analizzare se l’autorizzazione a trattare quello specifico set di dati possa rivelare successivamente, ove correlato con altri set, dettagli sensibili o comunque non voluti. Il principio alla base della dottrina del consenso è che il soggetto abbia elementi sufficienti a condurre una personale valutazione dei pro e dei contro di un singolo trattamento e, in base alle conclusioni raggiunte, decidere se autorizzarlo o meno. In sintesi, se si prendono in considerazione la moltitudine di servizi a cui giornalmente si concede l’utilizzo dei dati personali, la quantità dei dati raccolti da software e sensori e la facilità con cui essi sono condivisi e correlati, si può facilmente intuire come ogni singola autorizzazione al trattamento sia in gran misura priva di efficacia. A tal punto è d’obbligo una riflessione sul significato e sul valore del consenso che, così come inteso dal GDPR, rischia di trovarsi in una situazione di parziale incompatibità con la realtà dei fatti ancor prima di entrare in vigore.

Limitazione della finalità

17Proseguendo nell’analisi delle incompatibilità del nuovo GDPR con l’attuale stato di fatto della tecnologia, è necessaria una precisazione: per comodità e facilità di elaborazione, ho cercato di suddividere le problematiche e trattarle singolarmente. La realtà indica però che ciascuno dei principi esaminati influenza profondamente gli altri: risulta impossibile, per esempio, parlare di consenso separatamente dai principi di limitazione della finalità e minimizzazione dei dati. Con questa premessa, ritengo sia agevole per il lettore identificare i punti di contatto e sovrapposizione, procedendo comunque alla trattazione punto per punto.

  • 24 Anderson, C. (2008) The End of Theory: The Data Deluge Makes the Scientific Method Obsolete. Wired (...)

18Ciò detto, è possibile procedere con il secondo punto di rottura del Regolamento, ossia la limitazione della finalità, principio espresso all’articolo 5, punto 1, lettera b. Questo è composto da due fasi principali: la prima, presente al momento della collezione dei dati, in cui la finalità del trattamento deve essere determinata, esplicita e legittima; la seconda prevede un test di compatibilità con quanto originariamente determinato nel caso in cui i dati vengano riutilizzati per un altro scopo. Ora, per comprendere in pieno quanto i big data siano naturalmente in contrasto con questo principio, occorre ripercorrere brevemente come sia mutato l’approccio analitico con l’introduzione di questa tecnologia. Finora, il modo “tradizionale” di studiare i dati ricalcava in parte il c.d. metodo scientifico: per prima cosa veniva formulata un’ipotesi, elaborata una teoria e successivamente collezionati, analizzati e messi in correlazione i dati a riprova (o smentita) di quanto ipotizzato. Oggi invece lo studio dell’enorme quantità di informazioni disponibili segue il percorso contrario: si parte avendo più set di dati senza alcuna connessione tra loro e si cercano possibili collegamenti, pattern e quindi correlazioni, sia tramite l’analisi manuale, ma sempre di più attraverso algoritmi e procedimenti automatizzati. Le implicazioni scientifiche, etiche, politiche e legali di questo nuovo approccio sono estremamente importanti ma ricadono al di fuori dello scopo dell’articolo 5; parzialmente tornerò su questo punto nella sezione dedicata a machine learning e AI. In sintesi, è importante capire il carattere “esplorativo” del nuovo approccio emergente dall’utilizzo dei big data, tanto estremo da portare alcuni commentatori a decretare la “fine dell’era della teoria”.24

  • 25 Lowrance, W. (2003) Learning from Experience: Privacy and the Secondary Use of Data in Health Rese (...)
  • 26 Varian, H. R. (2014) Big Data: New Tricks for Econometrics. The Journal of Economic Perspectives, (...)
  • 27 Article 29 Data Protection Working Party Opinion 03/2013 on purpose limitation, 00569/13/EN WP 203 (...)
  • 28 Ibid. pag. 46.
  • 29 Ebnet, N. J. (2012) It Can Do More than Protect Your Credit Score: Regulating Social Media Pre-Emp (...)

19Ora, se guardiamo questo nuovo metodo con la lente del GDPR, ne possiamo ricavare una completa e radicale incompatibilità con il principio di limitazione della finalità. Al momento della raccolta originaria dei dati, infatti, sarà possibile informare il soggetto solo sulle finalità perseguite in quel momento, con quel trattamento. Rimane impossibile identificare, in questa prima fase, come molto spesso un software interagirà con quelle informazioni e con quali conseguenze. L’utilizzo di nuovi algoritmi può portare – e di fatto è lo scopo delle nuove tecniche di big data analytics – alla scoperta di correlazioni inaspettate e quindi all’utilizzo dei dati per scopi diversi da quelli originariamente stabiliti. Il problema si è posto in primis nel riutilizzo (c.d. secondary use) delle informazioni per la ricerca medica,25 ma oggi possiamo trovarne esempi applicati a ogni settore commerciale, come per esempio il calcolo della solvibilità di un mutuatario o del premio assicurativo, basati solamente su dati raccolti per altre finalità, come la banale navigazione su Internet.26 Il Article 29 Working Party ha pubblicato un’opinione relativa alla limitazione di finalità che, seppur antecedente al GDPR, può essere considerata tutt’ora valida.27 All’interno del testo, l’Autorità analizza due scenari possibili: nel primo, il titolare del trattamento riutilizza i dati raccolti per ricavarne tendenze e correlazioni generiche. In questo caso, vi è solo la necessità di garantire, oltre la sicurezza e accuratezza dei dati, una separazione funzionale, ossia che le informazioni utilizzate per statistica non abbiano ricadute sui soggetti. Il secondo caso invece è quello che sta vedendo il maggiore sviluppo grazie ai big data: ossia quando “una organizzazione vuole specificatamente analizzare o prevedere le preferenze personali, i comportamenti e le abitudini di clienti individuali”.28 Due casi esemplari sono l’adattamento del prezzo di un servizio o prodotto in base al sistema operativo utilizzato per la navigazione sul sito Internet della compagnia o il calcolo del rischio creditizio in base ai contenuti condivisi sui social network. Per queste situazioni, sempre più all’ordine del giorno,29 è richiesto il consenso (opt-in) del soggetto cui i dati si riferiscono. Alla luce di quanto visto finora, non è errato assumere che l’applicazione pratica del principio di limitazione della finalità muove in direzione totalmente opposta rispetto a quella perseguita dal legislatore europeo con il GDPR.

Minimizzazione dei dati

  • 30 D’Acquisto, G. et al. (2015) Privacy by Design in Big Data: An Overview of Privacy Enhancing Techn (...)

20Intrinsecamente connesso con il principio della limitazione della finalità è quello della minimizzazione dei dati, già presente nella vecchia direttiva e che ricopre un ruolo decisamente più importante all’interno del GDPR rispetto al precedente testo normativo. L’articolo 5, punto 1, lettera 5 infatti richiama la necessità che i dati siano “adeguati, pertinenti e limitati a quanto necessario rispetto alle finalità”; è già possibile immediatamente cogliere come un ecosistema di informazioni in cui queste vengono raccolte a priori, senza aver precedentemente fissato un obiettivo o uno scopo, sia in contrasto con la lettera del testo normativo. Il GDPR, inoltre, introduce un nuovo approccio per la protezione dei dati personali, a partire dalla progettazione per impostazione predefinita (privacy by design e by default, articolo 25 GDPR); questo comporta un cambiamento di prospettiva, rendendo la privacy una priorità da prendere in considerazione sin dallo stadio di progettazione del prodotto, del processo, del trattamento.30 In questo passaggio, è più volte sottolineato l’obbligo di raccogliere esclusivamente quanto strettamente necessario per la finalità prevista. Da quanto detto finora invece, il mondo del big data analytics tende a raccogliere ogni informazione disponibile, senza alcuna selezione né controllo di pertinenza: ogni dato viene collezionato, seguendo la logica del “just in case”. Come abbiamo già visto, l’inversione del procedere nell’analisi dei big data è intrinseco a questa nuova tecnologia: dal momento che le correlazioni sono scoperte successivamente al trattamento dei dati, l’unica soluzione è raccoglierne la maggior quantità possibile per poi esplorare ogni possibile collegamento. I rischi connessi sono relativi alla pertinenza delle informazioni ovviamente, ma anche alla accuratezza e sicurezza: più numerose sono, più difficile diventa garantire gli standard richiesti dalla nuova normativa. Anche in questo caso, la pratica diffusa riguardo la minimizzazione dei dati sembra a tutti gli effetti muovere in una direzione diametralmente opposta rispetto a quella del GDPR, evidenziando un conflitto insito nella natura stessa delle nuove tecnologie che difficilmente può essere sanato. Discorso analogo può essere fatto riguardo alla permanenza in memoria dei dati: questi dovrebbero essere eliminati o resi anonimi nel momento in cui cessano di essere necessari. Al contrario, l’industria dei big data tende a mantenere qualsiasi informazione per un lasso di tempo indefinito, sempre nell’ottica di una potenziale utilità futura.

Machine learning e AI

21Se volessimo, con il beneficio della sintesi, ricercare i due concetti chiave su cui il GDPR è imperniato, questi sarebbero molto probabilmente trasparenza e responsabilizzazione (del titolare del trattamento); questi sono i due pilastri su cui sono costruiti, sul primo, i diritti per il soggetto interessato e, sul secondo, gli obblighi per il titolare del trattamento. La trasparenza è perseguita tramite una completa e corretta informazione da fornire al soggetto interessato: informandolo sulle caratteristiche, modalità e finalità del trattamento e illustrandone i diritti esercitabili relativamente a esso. Accesso, opposizione, cancellazione, rettifica, etc: tutti strumenti messi a disposizione di chi ha concesso l’utilizzo dei dati personali, in modo da fargli avere piena coscienza di quanto sta accadendo e fornirgli i mezzi adatti a correggere il tiro ove necessario, o di interrompere le operazioni. In una parola, appunto, trasparenza. A questa fa specchio una maggiore responsabilizzazione in capo al titolare rispetto alla precedente Direttiva: il legislatore europeo ha scelto di abbandonare il suggerimento di standard tecnici (come per esempio faceva l’Allegato B al Codice privacy italiano in tema di misure minime di sicurezza) per lasciare spazio a ciascuna organizzazione di valutare indipendentemente e caso per caso quali siano i livelli da raggiungere; livello di protezione e di sicurezza basati su una precisa valutazione del rischio. Obiettivo: garantire i diritti e le libertà dei soggetti coinvolti; in caso di violazione, quando l’organizzazione non è in grado di dimostrare di aver preso le misure adatte, il GDPR interviene con sanzioni molto pesanti.

  • 31 Silver, D. et al. (2016) Mastering the Game of Go with Deep Neural Networks and Tree Search. Natur (...)

22Sul versante del progresso tecnologico invece, ci troviamo nuovamente davanti all’impiego su larga scala di strumenti estremamente avanzati, frutto di teorie e ricerche che vanno indietro negli anni. Ci troviamo in una nuova età dell’oro dell’intelligenza artificiale, o AI, e le più grandi compagnie nel mercato digitale affidano i propri servizi ad algoritmi di autoapprendimento (c.d. machine learning). Questi sono particolari programmi che attraverso lo studio di set di dati (come abbiamo visto oggi sempre più grandi e numerosi) cercano di ricavare pattern, apprendere tendenze ed effettuare previsioni; questi algoritmi hanno spesso portato a brillanti soluzioni in tutti quei campi in cui non è possibile sviluppare un software tradizionale, che segua passo dopo passo un insieme di istruzioni. Semplificando molto per una migliore comprensione, si tratta di programmi che apprendono durante la loro esecuzione e imparano nel tempo, senza alcun intervento umano: gli sviluppatori non disegnano i passi successivi tipici di un algoritmo ma elaborano la struttura che da sola imparerà come eseguire determinate operazioni e quale sia il miglior percorso per farlo. Questo nuovo approccio, spinto ai suoi estremi, comporta la (intenzionale) perdita di controllo, più o meno parziale, da parte del creatore del software sul suo stesso prodotto. Caso emblematico è quello di AlphaGo, programma sviluppato da un team di Google che nel corso del 2015 e 2016 ha battuto i più grandi campioni mondiali del gioco Go. Il software non conteneva istruzioni su come battere un giocatore esperto, bensì è stato addestrato a imparare a giocare: sfidando sé stesso un numero molto alto di volte, tramite l’applicazione di modelli matematici e statistici, è stato in grado di prevedere quale potesse essere la mossa migliore per ogni situazione di gioco. Gli stessi ideatori del programma non hanno immediatamente avuto idea di come AlphaGo fosse arrivato alla strategia vincente, se non analizzando a posteriori le mosse compiute e ricostruendo il percorso logico a ritroso.31

  • 32 O’Beirne, J. (2017) Google Maps’s Moat - How Far ahead of Apple Maps Is Google Maps? [Online] Cons (...)
  • 33 Lewis-kraus, G. (2016) The Great A.I. Awakening. The New York Times [Online] Consultabile su https (...)

23Se la sfida a Go ha rappresentato più un caso di studio che un’applicazione pratica, così non è nella realtà odierna: le più grandi compagnie che fanno business nel digitale – Google in primis – utilizzano ormai intelligenze artificiali e machine learning per i propri servizi, dalle mappe32 alle traduzioni;33 importante anche l’apporto nel campo della diagnosi medica. Non sorprende quindi che i nuovi algoritmi siano anche incaricati di effettuare analisi, correlazioni e previsioni su dati personali: è nell’unione dei big data e del machine learning che si esprime il massimo potenziale della tecnologia digitale odierna. Allo stesso tempo, però, si realizza lo scollamento tra la legislazione e la realtà dei fatti. Poco sopra abbiamo infatti illustrato i due principi – trasparenza e responsabilizzazione – su cui è imperniato il GDPR; questi, purtroppo, viaggiano in direzione contraria rispetto all’odierna tecnologia. La tendenza è infatti quella di creare algoritmi ad autoapprendimento che risultino imperscrutabili, sia dagli utilizzatori che dagli sviluppatori – c.d. black boxes. Per tornare sul piano della privacy, siamo di fronte a trattamenti di dati personali le cui modalità sono nascoste agli stessi titolari. In che modo le informazioni vengono collegate? Quali di esse vengono utilizzate? Sono domande a cui non è tecnicamente possibile dare una risposta – almeno a priori: ne consegue immediatamente che, non potendo informare il soggetto coinvolto, il requisito della trasparenza non può essere soddisfatto. Altrettanto indebolita ne esce la responsabilizzazione del titolare del trattamento: non avendo non solo possibilità di intervenire, ma addirittura di essere a conoscenza delle modalità del trattamento, si rischia di ritenere un’organizzazione responsabile per qualcosa che non dipende da essa o, in maniera opposta, di svuotare la responsabilità descritta dal GDPR. Brevemente, è d’obbligo analizzare due possibili soluzioni spesso indicate per questo problema: in primis, una maggiore trasparenza degli algoritmi. Questa è sicuramente un buon strumento, ma dalla dubbia efficacia. Il parallelo può essere fatto con il software open source: si tende a pensare che se il codice sorgente di un sistema operativo è disponibile per la consultazione, si è automaticamente al riparo da eventuali inserzioni malevoli, come backdoor. Nella realtà però, l’intero sorgente può essere costituito da milioni di righe di comandi, nullificando nella pratica l’effetto benevolo della trasparenza. Allo stesso modo, rendere visibile il cuore di un algoritmo, non aiuta a capire – o lo fa molto limitatamente, e non certo per i soggetti interessati spesso non esperti – come i propri dati personali siano processati. La seconda possibilità per arginare questo problema è messa in campo dall’articolo 22 del GDPR: in caso vengano prese delle decisioni produttive di effetti giuridici sui soggetti interessati esclusivamente sulla base di un “processo decisionale automatizzato”, c’è la possibilità per questi di opporsi a esse e richiedere l’intervento umano. In questo modo si vuole inserire un controllo a posteriori sulle conclusioni tratte esclusivamente da un algoritmo, ma siamo di nuovo di fronte a due criticità; per prima cosa, nel caso pratico può rappresentare un mero trasferimento di responsabilità dalla macchina all’uomo, che difficilmente rivedrà e correggerà quanto svolto dalla prima. Successivamente, abbiamo visto come le operazioni svolte da un algoritmo particolarmente avanzato di autoapprendimento sono per lo più imperscrutabili: non c’è modo quindi per la persona fisica intervenuta successivamente di ricostruire con esattezza il processo decisionale, né, probabilmente, di svolgerlo autonomamente. In conclusione, l’utilizzo sempre più diffuso delle nuove tecnologie di analisi applicate a set di dati personali mostra ampi tratti di incompatibilità con il nuovo Regolamento europeo.

Parte II: proposte per una nuova normativa in tema di privacy

  • 34 Lessig, L. (2006). Code 2.0. New York.

24Nella prima parte ho mostrato come big data e machine learning abbiano di fatto creato una realtà in conflitto con il nuovo GDPR. L’obiettivo dell’accademia e dei legislatori dovrebbe essere quello di sanare questi attriti, cercando una soluzione che tuteli al massimo i diritti e le libertà dei cittadini ma che allo stesso momento non ostacoli il progresso tecnologico e gli investimenti delle compagnie nel digitale. A mio avviso, una nuova via per la protezione dei dati personali non può prescindere dal corrente sviluppo nel mondo IT e, in un futuro relativamente più lontano, dall’utilizzo stesso di nuove tecnologie; la legge può non bastare: per un risultato davvero efficace si rende necessario introdurre nuovi strumenti, “regolamentare a base di software”.34

  • 35 Nissenbaum, H. (2004) Privacy as Contextual Integrity. Wash. L. Rev., 79: 119.
  • 36 Custers, B., Calders, T., Schermer, B. & Zarsky, T. (2013) Studies in Applied Philosophy, Epistemo (...)

25Pur non potendo in questa sede delineare in completo un nuovo strumento tecnico-legislativo, è tuttavia possibile fornire alcune indicazioni delle principali caratteristiche su cui costruire il futuro sistema per la tutela dei dati personali; la strada è duplice e prevede aggiustamenti di tipo concettuale e l’adozione, come detto, di nuove tecnologie. Partendo dalla prima parte, si pone come necessario un cambiamento radicale della prospettiva della protezione della privacy. Focalizzare la maggior parte dell’interazione informativa con il soggetto al momento della raccolta dei dati è limitante e non al passo con la tecnologia; vi è la necessità di apportare più dinamicità nel processo di tutela e più momenti decisionali e di contatto. Il nuovo approccio deve vedere i dati personali come un bene in costante evoluzione e relativo alla situazione in cui ci si trova; è quanto espresso da Helen Nissenbaum con il concetto di integrità contestuale (contextual integrity).35 Il significato che un medesimo set di informazioni ha presenta una differenza di valore a seconda del contesto in cui viene utilizzato: un concetto simile alla limitazione di finalità, ma che riesce a esprimere la dinamicità del dato. Secondo l’autrice infatti, in ogni contesto un’informazione riguardante un individuo porta con sé due set di norme, oltre al dato in sé: una regola di appropriatezza, che indica se l’informazione è adatta, pertinente e conoscibile in quel determinato ambiente; e una regola di distribuzione, che indica se quel dato, in quel contesto, può essere condiviso, con chi e per quali fini. Ciò comporta che ai dati personali, oltre al puro contenuto, debba essere per forza associato un altro tipo di informazione riguardante le regole che questi devono seguire con il mutare del contesto: in altre parole, protezione dei dati personali basata su una architettura dei metadati.36 Questo approccio permette di garantire elasticità ai dati personali, che “reagiranno” allargando o restringendo le possibilità di utilizzo a seconda del contesto in cui si vengono a trovare.

  • 37 Schwartz, P. M, Solove D. J. (2011) Pii Problem: Privacy and a New Concept of Personally Identifia (...)
  • 38 Custers, B, Calders, T. Schermer B., e Zarsky T. (2013) Studies in Applied Philosophy, Epistemolog (...)

26Altri accorgimenti di sistema possono comportare notevoli miglioramenti in relazione alla compatibilità con i big data: in primis, è necessario il superamento del concetto dualistico “identificabilità - dato personale” contro “non identificabilità – dato non personale”. Come abbiamo visto, il dato è plasmato dal contesto in cui si trova e, pertanto, può assumere diverse gradazioni. Per esempio, Schwarz e Solove hanno proposto di adottare tre differenti regimi di tutela a seconda della situazione in cui ci si trova: soggetto identificato, identificabile o non identificabile, graduando la protezione in base al livello di rischio.37 Successivamente, muovendosi dal momento della raccolta dei dati a quello del loro utilizzo contestualizzato, è possibile parlare nuovamente di trasparenza; si abbandona la ricerca di questa per quanto riguarda gli algoritmi e i procedimenti decisionali e la si focalizza sugli obiettivi e i risultati. I soggetti coinvolti ne beneficeranno in modo decisamente maggiore sapendo di essere stati coinvolti in determinati trattamenti e che questi hanno portato a una specifica conclusione, piuttosto che leggendo nell’informativa, comunicata al momento della raccolta, di come certe correlazioni possono essere fatte. Un approccio datacentrico come quello descritto può permettere, ad esempio, di variare il momento di tutela in base all’informazione coinvolta: un regime leggero ed ex post per dati che non portano alla facile identificazione del soggetto, contro un intervento più pesante ed ex ante per informazioni direttamente ricollegabili e particolarmente sensibili.38

  • 39 Baars, D. (2016) Towards Self-Sovereign Identity Using Blockchain Technology. University of Twente
  • 40 Zyskind, G., Nathan, O., Pentland, A. S. (2015) Decentralizing Privacy: Using Blockchain to Protec (...)

27Per integrare un’architettura basata sui metadati così descritta, non basta evidentemente una modifica legislativa, bensì occorre l’intervento della stessa tecnologia che ha messo in crisi il giovane ma rodato approccio del GDPR. Per questo motivo, numerosi studi hanno rivolto il loro interesse all’utilizzo di blockchain, la tecnologia sviluppata per la costruzione della criptovaluta Bitcoin, utilizzando la sua caratteristica di sistema decentrato per ulteriori funzioni rispetto a quella prettamente monetaria. Una di queste, è la gestione di una identità elettronica. L’idea, avanzata da più di un autore ma comunque ancora in uno stadio solamente teorico ed embrionale, prevede un’unica entità per ogni individuo che utilizzi la peculiare struttura di blockchain per creare un gestore di accesso automatizzato ai dati personali. Questo sistema, provvisoriamente battezzato Decentralized Identity Management System (DIMS),39 presenta tre caratteristiche principali che muovono verso la soluzione dei problemi elencati nella prima parte di questo articolo. Per prima cosa, controllo (o addirittura, proprietà dei dati): il sistema mette al centro il soggetto che è in pieno possesso delle sue informazioni; i servizi che intendono utilizzarle sono visti come “ospiti” con speciali permessi autorizzati dall’utente. Successivamente, grazie alla natura stessa di blockchain, il soggetto ha piena trasparenza, controllo e potere di revisione, anche ex post, di come i suoi dati vengono raccolti e acceduti. In ultimo, la possibilità di un controllo estremamente granulare su ogni permesso accordato, in ogni momento: le informazioni riguardo i servizi autorizzati sono custodite nella blockchain, sotto il controllo diretto del soggetto che può, in ogni momento, regolarle o revocarle.40

Conclusioni

28Nella prima parte di questo articolo ho illustrato le principali conseguenze che l’utilizzo sempre più intenso e diffuso dei big data e nuovi algoritmi ad autoapprendimento stanno avendo sul GDPR. Alcune di queste rischiano di creare una situazione di incompatibilità strutturale, in particolare in relazione ai principi di limitazione della finalità e minimizzazione dei dati, fino a minare la definizione stessa di dato personale; tra le ulteriori conseguenze di questi radicali cambiamenti è possibile osservare il progressivo svuotamento del significato del consenso al trattamento. Aggiuntive ripercussioni sono riscontrate con particolare riferimento all’utilizzo di algoritmi ad autoapprendimento (c.d. machine learning) per nuove operazioni effettuate sui dati personali. Questi programmi infatti sfuggono al controllo sia dei loro sviluppatori che dei titolari del trattamento, rendendo vuote le definizioni di trasparenza e di responsabilizzazione.

29Nella seconda parte dell’articolo, ho brevemente indicato due possibili strade per risolvere il conflitto esistente: in primis, un cambio di approccio nella tutela dei dati personali, orientato verso un’architettura basata sui metadati e sul controllo continuo e granulare delle informazioni, ponendo la massima enfasi sul contesto di utilizzazione. Successivamente, l’introduzione di nuove tecnologie, specificatamente di blockchain, per permettere la creazione di una identità digitale decentrata (DIMS): ciascun servizio che intende utilizzare i dati personali del soggetto deve ottenere specifici e unici permessi dall’utente, che in ogni momento è in grado di modificarli o revocarli.

Bibliographie

Anderson, C. (2008) The end of theory: The data deluge makes the scientific method obsolete. Wired Magazine, 16(7), 7–16.

Baars, D. (2016) Towards Self-Sovereign Identity using Blockchain Technology. University of Twente.

Custers, B., Calders, T., Schermer, B., & Zarsky, T. (2013) Discrimination and Privacy in the Information Society. Studies in Applied Philosophy, Epistemology and Rational Ethics. Springer.

D’Acquisto, G., Domingo-Ferrer, J., Kikiras, P., Torra, V., de Montjoye, Y.-A., & Bourka, A. (2015) Privacy by design in big data: An overview of privacy enhancing technologies in the era of big data analytics. arXiv Preprint arXiv:1512.06000.

Danezis, G., Domingo-Ferrer, J., Hansen, M., Hoepman, J.-H., Metayer, D. Le, Tirtea, R., & Schiffner, S. (2015) Privacy and Data Protection by Design-from policy to engineering. arXiv Preprint arXiv:1501.03726.

Ebnet, N. J. (2012) It can do more than protect your credit score: Regulating social media pre-employment screening with the fair credit reporting act. Minn. L. Rev., 97, 306.

Jackson, S. (2016) Big data in big numbers - it’s time to forget the “three Vs” and look at real-world figures [Online] Consultabile su https://www.computing.co.uk/ctg/opinion/2447523/big-data-in-big-numbers-its-time-to-forget-the-three-vs-and-look-at-real-world-figures [20/11/2017].

Jiang, X., & Landay, J. A. (2002) Modeling privacy control in context-aware systems. IEEE Pervasive Computing, 1(3), 59–63.

Laney, D. (2001) 3-D Data Management:Controlling Data Volume, Velocity and Variety. META Group Research Note, 6 (February), 1-4.

Lessig, L. (2006) Code 2.0. New York.

Lewis-kraus, G. (2016) The Great A.I. Awakening. The New York Times [Online] Consultabile su https://doi.org/10.2146/ajhp150367.

Lowrance, W. (2003) Learning from experience: privacy and the secondary use of data in health research. Journal of Health Services Research & Policy, 8(1_suppl), 2–7 [Online] Consultabile su https://doi.org/10.1258/135581903766468800

Mayer-Schonberger, V., & Cukier, K. (2013) Big Data. Datenschutz Und Datensicherheit - DuD, 37(5), 256 [Online] Consultabile su https://doi.org/10.1109/MCSE.2011.99

McDonald, A. M., & Cranor, L. F. (2008) The Cost of Reading Privacy Policies. A Journal of Law and Policy for the Information Society, 4(3), 543–568.

Miller, R. (2017) The battle for control of data could be just starting [Online] Consultabile su https://techcrunch.com/2017/11/19/the-battle-for-control-of-data-could-be-just-starting/ [ultimo accesso: 20/11/2017].

Nissenbaum, H. (2004) Privacy as contextual integrity. Wash. L. Rev., 79, 119.

O’Beirne, J. (2017) Google Maps’s Moat - How far ahead of Apple Maps is Google Maps? [Online] Consultabile su https://www.justinobeirne.com/ [ultimo accesso: 22/12/2017].

Ohm, P. (2010) Broken Promises of Privacy: Responding to the Surprising Failure of Anonymization. UCLA Law Review, 57(6), 1701–1777 [Online] Consultabile su https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1450006.

Schermer, B. W., Custers, B., & van der Hof, S. (2014) The crisis of consent: How stronger legal protection may lead to weaker consent in data protection. Ethics and Information Technology, 16(2), 171–182.

Schwartz, P. M., & Solove, D. J. (2011) Pii problem: Privacy and a new concept of personally identifiable information, the. NYUL Rev., 86, 1814.

Silver, D., Huang, A., Maddison, C. J., Guez, A., Sifre, L., van Den Driessche, G., others. (2016) Mastering the game of Go with deep neural networks and tree search. Nature, 529(7587), 484–489.

Solove, D. J. (2013) Privacy self-management and the consent dilemma.

Varian, H. R. (2014) Big data: New tricks for econometrics. The Journal of Economic Perspectives, 28(2), 3–27.

Yasin, A., & Liu, L. (2016) An Online Identity and Smart Contract Management System. In Proceedings - International Computer Software and Applications Conference (Vol. 2, pp. 192–198) [Online] Consultabile su https://doi.org/10.1109/COMPSAC.2016.2.

Notes

1 Schermer, B.W., Custers B., van der Hof, S. (2014) The Crisis of Consent: How Stronger Legal Protection May Lead to Weaker Consent in Data Protection. Ethics and Information Technology 16(2): 171–82.

2 Crf. il considerando 30 del GDPR.

3 Per comprendere quanto sia complessa una completa anonimizzazione delle informazioni, è possibile consultare l’apposito codice deontologico redatto dall’autorità del Regno Unito (ICO), basato sulla precedente normativa del 1998 ma tutt’ora in buona parte valido [Online] Consultabile su

4 Mayer-Schonberger, V., Cukier, K., (2013) Big Data. Datenschutz und Datensicherheit – DuD, 37(5): 256 [Online] Consultabile su http://book.douban.com/.

5 Miller, R. (2017) The Battle for Control of Data Could Be Just Starting. Tech Crunch [Online] Consultabile su https://techcrunch.com/2017/11/19/the-battle-for-control-of-data-could-be-just-starting/ [ultimo accesso: 20/11/2017].

6 Jackson, S. (2016) Big Data in Big Numbers - It’s Time to Forget the Three Vs’ and Look at Real-World Figures [Online] Consultabile su http://www.computing.co.uk/ctg/opinion/2447523/big-data-in-big-numbers-its-time-to-forget-the-three-vs-and-look-at-real-world-figures [ultimo accesso: 20/11/2017]. Laney, D. (2001) 3-D Data Management: Controlling Data Volume, Velocity and Variety. META Group Research Note: 1–4.

7 Laney, D. (2001) 3-D Data Management: Controlling Data Volume, Velocity and Variety. META Group Research Note 6(February), 1–4.

8 Big Data in Gartner IT glossary Consultabile su https://www.gartner.com/it-glossary/big-data.

9 Questo tema non verrà affrontato all’interno di questo articolo, ma al momento sta impegnando un vasto numero di autori e rappresenta una delle principali preoccupazioni nell’utilizzo di queste nuove tecnologie.

10 Miller, R. (2017) The Battle for Control of Data Could Be Just Starting. Tech Crunch [Online] Consultabile su https://techcrunch.com/2017/11/19/the-battle-for-control-of-data-could-be-just-starting/ [ultimo accesso: 20/11/2017].

11 Considerando n. 30, Regolamento (UE) 2016/679 del Parlamento Europeo e del Consiglio del 27 aprile 2016 relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati e che abroga la direttiva 95/46/CE (regolamento generale sulla protezione dei dati).

12 Solove, D. J. (2013) Privacy self-management and the consent dilemma.

13 Custers, B., Calders, T., Schermer, B., Zarsky, T. (2013) Studies in Applied Philosophy, Epistemology and Rational Ethics. Discrimination and Privacy in the Information Society. New York: Springer.

14 Article 29 Data Protection Working Party, Opinion 4/2007 on the concept of personal data, 01248/07/EN WP 136. Seppur precedente al GDPR, questa opinion del WP29 rimane un valido punto di riferimento in quanto non ci sono stati significativi cambiamenti rispetto al precedente testo della Direttiva 95/46/EC.

15 Una pratica diffusa ed errata è per esempio, l’utilizzo del consenso per il trattamento dei dati degli impiegati da parte del datore di lavoro. Come già illustrato anche dal Working Party 29, vista la necessità di ottenere tali dati per il corretto adempimento delle obbligazioni del contratto lavorativo (es. il pagamento dello stipendio), tale consenso non potrà mai essere libero. Senza di esso infatti, il contratto di lavoro non può essere correttamente adempiuto; inoltre, lo stesso problema si verrebbe a creare nel momento in cui il consenso venga ritirato.

16 Solove, D. J. (2013) Privacy Self-Management and the Consent Dilemma.

17 La prima comparsa di questo speciale diritto è da ricondurre a una sentenza della Corte Costituzionale tedesca risalente al 1983, che per prima ne ha sancito il riconoscimento. BVerfG · Urteil vom 15. Dezember 1983 · Az. 1 BvR 209/83, 1 BvR 484/83, 1 BvR 420/83, 1 BvR 362/83, 1 BvR 269/83, 1 BvR 440/83 (Volkszählungsurteil).

18 Schermer, B. W., Custers B., van der Hof, S. (2014) The Crisis of Consent: How Stronger Legal Protection May Lead to Weaker Consent in Data Protection. Ethics and Information Technology, 16(2): 171–82.

19 McDonald, A. M, Cranor L. F. (2008) The Cost of Reading Privacy Policies. A Journal of Law and Policy for the Information Society 4(3): 543–68.

20 In lingua originale, i tre problemi del consenso sono così formulati: consent transaction overload, information overload e absence of meaningful choice. La traduzione è dell’autore.

21 Article 29 Data Protection Working Party (2017) Opinion 17/2017 Guidelines on Consent under Regulation 2016/679, 17/EN WP259.

22 Consultabile su https://www.easyjet.com/en/policy/privacy-promise.

23 Solove, D. J. (2013) Privacy Self-Management and the Consent Dilemma.

24 Anderson, C. (2008) The End of Theory: The Data Deluge Makes the Scientific Method Obsolete. Wired magazine, 16(7): 7-16.

25 Lowrance, W. (2003) Learning from Experience: Privacy and the Secondary Use of Data in Health Research. Journal of Health Services Research & Policy, 8(1_suppl): 2-7 [Online] Consultabile su https://journals.sagepub.com/doi/10.1258/135581903766468800.

26 Varian, H. R. (2014) Big Data: New Tricks for Econometrics. The Journal of Economic Perspectives, 28(2): 3–27.

27 Article 29 Data Protection Working Party Opinion 03/2013 on purpose limitation, 00569/13/EN WP 203 [Online] Consultabile su http://ec.europa.eu/justice/data-protection/article-29/ [ultimo accesso 18/12/2017]. Nonostante l’opinione sia stata rilasciata sul testo della precedente Direttiva 95/46/CE, il principio della limitazione della finalità è stato riproposto invariato nel GDPR e pertanto può ritenersi valida.

28 Ibid. pag. 46.

29 Ebnet, N. J. (2012) It Can Do More than Protect Your Credit Score: Regulating Social Media Pre-Employment Screening with the Fair Credit Reporting Act. Minn. L. Rev., 97: 306.

30 D’Acquisto, G. et al. (2015) Privacy by Design in Big Data: An Overview of Privacy Enhancing Technologies in the Era of Big Data Analytics. arXiv preprint arXiv:1512.06000.

31 Silver, D. et al. (2016) Mastering the Game of Go with Deep Neural Networks and Tree Search. Nature, 529(7587): 484–89. Nel documentario “ALPHAGO” diretto da Greg Kohs, che ha seguito l’avventura del team di AlphaGo nella sfida al campione del mondo di Go, il coreano Lee Sedol, è possibile osservare gli stessi sviluppatori del software seguire passo passo le sue mosse e tentare di dare una plausibile spiegazione sul perché il programma da loro creato abbia perseguito una tattica di gioco piuttosto che un’altra. Interessante come gli esperti osservatori delle cinque partite disputate abbiamo riconosciuto in AlphaGo alcune strategie “umane” e altre invece inusuali e inaspettate anche per un esperto campione del gioco.

32 O’Beirne, J. (2017) Google Maps’s Moat - How Far ahead of Apple Maps Is Google Maps? [Online] Consultabile su https://www.justinobeirne.com/google-maps-moat [ ultimo accesso 22/1272017].

33 Lewis-kraus, G. (2016) The Great A.I. Awakening. The New York Times [Online] Consultabile su https://www.nytimes.com/2016/12/14/magazine/the-great-ai-awakening.html.

34 Lessig, L. (2006). Code 2.0. New York.

35 Nissenbaum, H. (2004) Privacy as Contextual Integrity. Wash. L. Rev., 79: 119.

36 Custers, B., Calders, T., Schermer, B. & Zarsky, T. (2013) Studies in Applied Philosophy, Epistemology and Rational Ethics. Discrimination and Privacy in the Information Society. New York: Springer.

37 Schwartz, P. M, Solove D. J. (2011) Pii Problem: Privacy and a New Concept of Personally Identifiable Information, the. NYUL Rev., 86: 1814.

38 Custers, B, Calders, T. Schermer B., e Zarsky T. (2013) Studies in Applied Philosophy, Epistemology and Rational Ethics. Discrimination and Privacy in the Information Society. New York: Springer.

39 Baars, D. (2016) Towards Self-Sovereign Identity Using Blockchain Technology. University of Twente.

40 Zyskind, G., Nathan, O., Pentland, A. S. (2015) Decentralizing Privacy: Using Blockchain to Protect Personal Data. In Proceedings - 2015 IEEE Security and Privacy Workshops, SPW 2015, 180–84.

Auteur

Consulente e Ricercatore Privacy e Media; LL.M. Law and Digital Technologies, eLaw, Center for Law and Digital Technologies, Leiden, The Netherlands.

© Ledizioni, 2018

Conditions d’utilisation : http://www.openedition.org/6540

Acheter

Volume papier

amazon.fr
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search