Il soggetto algoritmico: profilazione algoritmica, identità predittiva e il diritto a non essere ridotti a un modello statistico

di Giuseppe Motta

 

 

 

 

1. Premessa

Nei precedenti saggi ho esaminato il diritto all’oblio come problema retrospettivo: come impedire che il passato digitale di una persona, ciò che ha fatto, detto, subito, continui a emergere nella sfera pubblica contro la sua volontà, incorporato in sistemi parametrici che non sanno o non possono dimenticare¹. Nel secondo ho esaminato il problema del presente nel senso di come proteggere l’autonomia cognitiva dell’individuo mentre usa le piattaforme, mentre il suo ambiente informativo viene selezionato, amplificato e orientato da algoritmi che non rispondono a nessun mandato democratico².

Questo breve saggio si occupa del futuro.

La profilazione algoritmica comportamentale non archivia ciò che siamo stati né condiziona soltanto ciò che pensiamo adesso. Costruisce una proiezione di ciò che saremo, una stima probabilistica del nostro comportamento futuro generata prima ancora che quel comportamento sia avvenuto, e utilizzata per prendere decisioni che ci riguardano. Se il diritto all’oblio chiedeva di cancellare il passato e l’habeas mentem chiede di proteggere il presente, il problema del soggetto algoritmico è più radicale, perchè chiede di difendere qualcosa che ancora non esiste da una narrazione già costruita su di essa da altri. Gli “indizi” per ciascuno di noi sono migliaia, le pagine che abbiamo visitato, il tempo che trascorriamo su un’immagine, la velocità con cui si scorre un testo, gli orari in cui ti svegliamo e in cui ci addormentiamo, i pattern di acquisto e di navigazione accumulati in anni. Partendo da questi e altri dati ricavabili dal Web, i sistemi di profilazione generano un modello predittivo della nostra persona, un doppio digitale che pur non conoscendoci direttamente, nel senso classico del termine, sa anticiparci. Questo doppio però non vive in un archivio che possiamo consultare, modificare o cancellare ma abita negli algoritmi di raccomandazione che decidono cosa vedremo, nei motori di scoring che determinano a quale tasso di interesse si può accedere, nei sistemi di selezione del personale che stabiliscono se meritiamo un colloquio di lavoro, nelle piattaforme che calcolano quale messaggio politico è in grado di renderci più vulnerabili alla persuasione.

L’individuo, in questo schema, non è più il soggetto della propria narrazione ma è l’oggetto di una narrazione costruita da altri, su di lui, prima ancora che agisca.

Il diritto europeo ha riconosciuto formalmente il problema. L’articolo 22 del GDPR vieta le decisioni basate esclusivamente su trattamenti automatizzati quando producono effetti significativi sulla persona. L’AI Act classifica come ad alto rischio i sistemi di profilazione in contesti sensibili. Eppure tra la norma e la realtà si è aperta una distanza che si può e si deve misurare. Il divieto dell’articolo 22 è diventato lettera quasi morta grazie a un meccanismo che viene chiamato human rubber-stamping: basta inserire un essere umano nella catena decisionale, ad esempio un operatore che in pochi secondi “convalida” l’output algoritmico senza le competenze né il tempo per contestarlo, perché la decisione cessi formalmente di essere esclusivamente automatizzata e il divieto non si applichi. Il problema, quindi, non è tecnico, è una scelta progettuale deliberata che trasforma la garanzia normativa in una procedura di facciata.

Spostando l’asse del discorso, non si tratta più soltanto di difendere il diritto all’oblio ma di affermare un diritto che il dibattito giuridico non ha ancora elaborato con sufficiente precisione: il diritto a non essere predetti. In altri termini, non più e non solo “cancella ciò che sai di me”, ma “non voglio si costruisca un modello di ciò che farò”. La distinzione non è semantica perché riguarda il momento dell’intervento, prima che l’identità predittiva venga generata e utilizzata, non dopo e il soggetto dell’obbligo che non deve essere chi archivia dati, ma chi li trasforma in proiezioni sul futuro di una persona.

Il potere di definire anticipatamente l’identità altrui rientra in ciò che Bourdieu chiamava potere simbolico, il potere di imporre categorie di percezione e di giudizio facendole apparire legittime e naturali³. La profilazione algoritmica ne è una forma inedita, le categorie non vengono imposte da un’istituzione visibile, ma emergono da un processo statistico che non ha volto né responsabile identificabile. Una società che delega questo potere agli algoritmi senza vincoli democratici effettivi non ha semplicemente un problema di privacy. Ha un problema di libertà.

2. Il concetto di soggetto algoritmico

Nel 1890 Samuel Warren e Louis Brandeis pubblicarono un saggio destinato a diventare uno dei testi fondanti del diritto moderno alla riservatezza⁴. Il progresso tecnologico, che allora era rappresentato dalla fotografia istantanea e dal giornalismo di massa, aveva reso necessario riconoscere un diritto nuovo, il diritto ad essere lasciati in pace. La tecnologia aveva modificato la struttura del danno: non era più necessario toccare fisicamente una persona per violarla, bastava riprodurne l’immagine o diffonderne le parole senza un suo consenso. Più di un secolo dopo, quella struttura è cambiata di nuovo, in modo ancora più radicale. Non si tratta soltanto di riprodurre ciò che una persona ha fatto o detto, ma di costruire ciò che farà, vorrà, temerà, comprerà e voterà. La profilazione algoritmica non archivia il passato di un individuo semmai genera una proiezione del suo futuro che produce effetti giuridici, economici e politici reali sulla persona da cui è stata estratta, spesso prima che quella persona abbia compiuto qualsiasi atto nella direzione della previsione.

Con l’espressione “soggetto algoritmico” si intende l’entità costruita dai sistemi di profilazione a partire dai dati comportamentali di un individuo; una sorta di doppio digitale che non coincide con la persona reale, non è controllato da essa, e tuttavia la rappresenta agli occhi delle istituzioni, delle piattaforme e dei sistemi decisionali automatizzati che con essa interagiscono. Non è una categoria astratta ma quel profilo virtuale che ottiene o non ottiene un mutuo, che viene selezionato o scartato da un sistema di selezione del personale, che riceve un determinato messaggio politico perché classificato come influenzabile su quel tema, che paga una tariffa assicurativa calcolata su inferenze comportamentali che non ha mai convalidato né contestato.

La distinzione tra persona reale e soggetto algoritmico è dunque il nodo attorno al quale ruota l’intera questione. Per comprenderla nella sua profondità conviene tornare a un’intuizione che Erving Goffman aveva formulato molto prima che il problema diventasse tecnologicamente rilevante. Il sociologo, nel 1959, descrisse l’esistenza sociale come una messa in scena in cui ogni individuo gestisce attivamente la propria immagine pubblica attraverso un lavoro continuo di presentazione di sé. L’identità non è una caratteristica fissa ma è il risultato instabile e negoziabile di un’interazione, un progetto narrativo che si costruisce e si ricostruisce in ogni scambio. L’individuo seleziona, enfatizza, oscura, rielabora gli elementi della propria presentazione a seconda del contesto e dell’interlocutore. Questa capacità di gestione attiva dell’immagine non è manipolazione ma una competenza ordinaria e necessaria della vita sociale⁵.

Ciò che la profilazione algoritmica fa, parafrasando Goffman, è sottrarre all’individuo il controllo di quel palcoscenico sostituendolo con una rappresentazione costruita da altri, senza il suo contributo e spesso a sua insaputa. Il soggetto algoritmico è il risultato di questo “furto di regia”, una versione della persona che non è stata negoziata nell’interazione, che non corrisponde necessariamente alla sua auto-percezione né a quella che egli sceglierebbe di offrire in quel contesto. Eppure è proprio quella la versione che i sistemi decisionali automatizzati vedono e su cui agiscono. L’aggiornamento che dobbiamo apportare a Goffman è strutturale: nel suo modello la percezione degli altri era contestabile nell’interazione stessa, correggibile nel tempo. Il soggetto algoritmico, al contrario, è costruito da un sistema che non interagisce con la persona: non c’è scambio, non c’è negoziazione, non c’è possibilità di correzione in tempo reale. Il profilo viene generato, aggiornato e utilizzato in un processo che la persona non percepisce, non comprende e difficilmente riesce a contestare.

Per capire la portata di questa trasformazione occorre distinguere tre livelli di elaborazione dei dati che nel dibattito pubblico, e talvolta in quello giuridico, vengono spesso sovrapposti.

Il primo è quello della “raccolta”; i dati comportamentali vengono acquisiti (clic, tempi di permanenza, geolocalizzazione, abitudini di acquisto, interazioni sulle reti sociali). A questo livello il dato è ancora, nei termini del Regolamento europeo sulla protezione dei dati⁶, un’informazione riferibile a una persona identificata o identificabile.

Il secondo livello è invece quello “dell’aggregazione”; i dati vengono combinati tra loro e con archivi di terze parti per costruire profili compositi ed è qui che avviene il primo salto qualitativo; il fatto (che per l’IA è un dato) che una persona abbia guardato per sette secondi la fotografia di un paesaggio montano non dice nulla di rilevante preso da solo; combinato con migliaia di altri segnali, contribuisce a un’inferenza sul suo stato emotivo, sulle sue preferenze, sulla sua apertura a certi messaggi. Il profilo aggregato contiene informazioni che il soggetto non ha mai esplicitamente comunicato e che spesso non sa di rivelare.

Il terzo livello è quello “della predizione”; il profilo viene utilizzato per generare proiezioni sul comportamento futuro: ad esempio la probabilità che restituisca un prestito, che risponda a un’offerta, che muti orientamento politico se esposto a un determinato contenuto, che si assenti per ragioni di salute. In questo livello si consuma la rottura fondamentale. Il sistema non descrive più chi siamo stati né chi siamo adesso, elabora una stima probabilistica di chi saremo, ed è qui che la distinzione tra descrizione e produzione della realtà smette di essere astratta. Il profilo nasce come rappresentazione computazionale, una verità probabilistica funzionale a decisioni di targeting e diventa produzione di realtà nel momento in cui le decisioni che lo usano modificano le condizioni oggettive entro cui la persona agisce. Chi viene classificato come cattivo pagatore ottiene condizioni di credito peggiori che aumentano la probabilità di diventarlo. La profilazione, in altri termini, inizia come fotografia e finisce come profezia che lavora attivamente per autoavverarsi.

Questa distinzione ha implicazioni giuridiche dirette che il Regolamento europeo, nella sua formulazione attuale, non ha pienamente incorporato. Il diritto alla protezione dei dati personali è stato costruito attorno al primo livello e cioè sul dato raccolto, con qualche estensione al secondo attraverso i principi di minimizzazione e limitazione delle finalità. Il terzo livello, quello della predizione, rimane in larga parte fuori dalla portata effettiva degli strumenti normativi disponibili, non perché il legislatore europeo non ne sia consapevole, ma perché le categorie tradizionali del consenso, delle finalità e della proporzionalità si applicano con difficoltà crescente man mano che ci si allontana dal dato originario e ci si avvicina all’inferenza predittiva.

La nozione di soggetto algoritmico non è priva di precedenti. Roger Clarke aveva introdotto nel 1994 il termine “ombra digitale” per descrivere la proiezione dell’individuo nei sistemi informativi⁷. Nel dibattito giuridico europeo, il Gruppo di lavoro istituito dall’articolo 29 della direttiva previgente – oggi Comitato europeo per la protezione dei dati – aveva già nel 2017 segnalato il rischio che la profilazione predittiva producesse effetti discriminatori strutturali non riducibili alle categorie tradizionali del diritto antidiscriminatorio. Ciò che ancora manca è una sistemazione giuridica organica della figura. Il soggetto algoritmico non è il titolare di un diritto alla cancellazione, perché non si tratta di eliminare un dato archiviato ma di contestare una proiezione costruita. Non è il destinatario di una decisione automatizzata nel senso dell’articolo 22, perché nella maggior parte dei casi la profilazione non produce una singola decisione formalmente identificabile ma un condizionamento diffuso delle opportunità che gli vengono offerte. Non è nemmeno, semplicemente, la vittima di una violazione della riservatezza nel senso classico. Il danno non deriva dalla divulgazione di informazioni riservate ma dalla costruzione di un’identità predittiva che lo rappresenta senza rappresentarlo davvero.

3. Come funziona la profilazione? dall’azione all’inferenza.

La profilazione algoritmica rappresenta una mutazione strutturale dell’identità digitale, dovuta all’intreccio sempre più profondo tra pratiche sociali e sistemi informatici di raccolta e inferenza. Le grandi piattaforme non si limitano a registrare attributi dichiarati dagli utenti quali nome, età, interessi espliciti, ma raccolgono e processano segnali comportamentali che consentono di costruire modelli probabilistici capaci di predire preferenze, comportamenti e vulnerabilità. Il fulcro dell’attenzione si sposta dunque da ciò che l’utente comunica a ciò che il sistema deduce.

Ogni interazione digitale lascia tracce: clickstream, tempi di permanenza su una pagina, movimenti del cursore, cronologie di acquisto, dati di geolocalizzazione, like, pause durante la visione di video, frequenza d’uso delle applicazioni. Singolarmente questi indicatori possono sembrare poco significativi, ma se aggregati e analizzati con tecniche di data mining e machine learning, diventano invece caratteristiche informative che alimentano modelli predittivi. In termini pratici, i segnali osservabili sono trasformati in variabili che consentono al sistema di stimare la probabilità che un individuo manifesti determinati stati o comportamenti.

Di conseguenza non interessa più solo cosa una persona fa, ma quale significato statistico il sistema attribuisce a quel comportamento. Le inferenze latenti – cioè le deduzioni che emergono dall’elaborazione dei dati – possono riguardare attributi che l’individuo non ha mai dichiarato e talvolta non riconosce in sé. Dal punto di vista socio‑informatico, le inferenze latenti funzionano come meta‑dati semantici generati dai modelli che reinterpretano l’azione umana in termini predittivi.

È utile separare due classi informative. Da una parte i dati espliciti: informazioni volontariamente fornite dall’utente, come i dati anagrafici o le preferenze dichiarate. Dall’altra le inferenze quegli attributi stimati a partire da correlazioni tra segnali osservati. Il rischio giuridico ed etico è particolarmente rilevante nelle inferenze, perché esse possono investire categorie sensibili senza consenso esplicito. Esempi empirici includono pattern di navigazione notturna usati come proxy per problemi del sonno o stati depressivi; geolocalizzazioni frequenti in certi luoghi interpretate come indicatori di appartenenza religiosa o orientamento sessuale; analisi del linguaggio sui social impiegata per dedurre orientamento politico, livello culturale o stabilità emotiva.

Importante è sottolineare che la profilazione non pretende di stabilire una verità ontologica sull’individuo; produce invece una verità probabilistica operativa, funzionale a decisioni di targeting commerciale, personalizzazione dei contenuti o strategie politiche. Il profilo risultante è quindi una rappresentazione computazionale finalizzata alla previsione e all’ottimizzazione delle decisioni di sistema, è una rappresentazione che non riflette una realtà preesistente ma, come si vedrà, tende a produrla attraverso le decisioni che da essa dipendono.

Questa dinamica genera un’asimmetria cognitiva strutturale: i sistemi accumulano informazioni e costruiscono inferenze tramite il tracciamento dettagliato e la correlazione di dataset, mentre gli individui restano spesso ignari delle caratteristiche raccolte, delle trasformazioni applicate ai dati e degli usi a cui sono destinate le inferenze. L’opacità algoritmica apre uno squilibrio informativo in cui il sistema conosce e predice il soggetto più di quanto il soggetto conosca il sistema.

Dal punto di vista sociale, la capacità delle piattaforme di prevedere vulnerabilità emotive o inclinazioni ideologiche non è solo descrittiva ma anche prescrittiva. Mediante stimoli mirati come ad esempio microtargeting pubblicitario o ranking personalizzati, i sistemi possono orientare scelte e comportamenti, trasformando la profilazione in uno strumento di intervento sul vissuto individuale.

La profilazione digitale ridefinisce dunque il modo in cui l’identità viene costituita: oltre ai processi narrativi e relazionali visibili (comunicazione, istituzioni, reti sociali), l’identità è mediata da classificazioni computazionali invisibili. L’individuo viene rappresentato come un insieme di probabilità comportamentali e diventa il “soggetto algoritmico” che è l’entità risultante dalla trasformazione dei dati in un profilo predittivo. Tale soggetto non coincide necessariamente con l’identità percepita dall’individuo; è una proiezione utilizzata dai sistemi per ottimizzare decisioni come raccomandazioni, advertising o moderazione dei contenuti.

Le implicazioni sono molteplici e operative. Sul piano normativo, emergono necessità di trasparenza sui modelli usati, diritti specifici sulle inferenze ricavate dai dati, e regole per il trattamento di inferenze sensibili. Sul piano tecnico, servono pratiche di data governance orientate alla minimizzazione dei dati, valutazioni d’impatto algoritmico e misure di spiegabilità che permettano di comprendere e contestare le decisioni automatizzate. Sul piano epistemologico, occorre interrogarsi su quale tipo di conoscenza si ritenga valida quando si parla di “conoscere” una persona attraverso correlazioni statistiche.

La profilazione algoritmica in definitiva segna il passaggio dall’identità narrativa all’identità predittiva; un mutamento che richiede risposte interdisciplinari, integrate tra diritto, ingegneria informatica, scienze sociali ed etica, per assicurare che le tecnologie predittive non intacchino diritti fondamentali né riducano la persona a un mero output predittivo.

4. Il paradosso del consenso.

Come si è accennato in premessa, il quadro normativo europeo affronta il problema delle decisioni automatizzate attraverso l’art. 22 del GDPR, che riconosce all’interessato il diritto di non essere sottoposto a una decisione fondata unicamente su trattamento automatizzato, inclusa la profilazione, quando produca effetti giuridici o incida in modo significativo sulla sua sfera. La norma, nella sua architettura formale, sembra presidiare efficacemente il confine tra valutazione algoritmica e autonomia individuale. Nella sua applicazione sostanziale, tuttavia, rivela tre linee di cedimento strutturali che ne svuotano progressivamente il contenuto prescrittivo.

La prima frattura si annida nell’avverbio “unicamente”.S’è già chiarito che la norma si attiva soltanto quando nessun essere umano partecipa al processo decisionale; pertanto è sufficiente inserire un operatore nominale nella catena, un soggetto che visualizza il profilo elaborato dall’algoritmo e ne conferma l’esito, per fuoriuscire dall’ambito applicativo del divieto. La dottrina giuridica definisce questa figura human rubber-stamping: un attore che strutturalmente non dispone né del tempo, né degli strumenti cognitivi, né dell’incentivo istituzionale per contraddire la raccomandazione del sistema. Il fenomeno è documentato nello scoring creditizio, nella selezione automatica dei curriculum e nella modulazione tariffaria assicurativa. In tutti questi contesti la catena è formalmente mista ma sostanzialmente automatizzata. L’uomo si limita a ratificare quanto deciso dall’algoritmo.

Questa prima frattura è strettamente collegata ad una seconda frattura, che riguarda il modello stesso del consenso. Il GDPR presuppone un soggetto informato, capace di prestare consenso consapevole a trattamenti determinati. Occorre però distinguere due ordini di critiche al presupposto del consenso consapevole, perché hanno implicazioni normative radicalmente diverse. Il primo ordine si può correggere: dark patterns, interfacce ingannevoli, moduli progettati per spingere all’accettazione, opzioni pre-selezionate. Questi sono problemi regolabili con obblighi più stringenti di progettazione trasparente. Il secondo ordine è strutturale e non riformabile restando dentro il paradigma del consenso, chi acconsente alla condivisione della propria cronologia di navigazione non può sapere che da essa verrà inferita una vulnerabilità psicologica, un orientamento politico o una condizione clinica non dichiarata, non per malafede di chi progetta i moduli, ma perché nemmeno chi raccoglie i dati sa in anticipo quali inferenze emergeranno. Il consenso copre l’oggetto esplicito della cessione, non l’oggetto emergente del trattamento. Consentire oggi significa firmare in bianco per ciò che il sistema scoprirà domani. È questa seconda critica, come si vedrà, che rende il diritto a non essere profilati una categoria giuridicamente distinta dal diritto alla cancellazione.

Da questa seconda frattura emerge direttamente la terza, relativa all’opacità algormica. Gli artt. 13-14 e 22 co. 3 GDPR prevedono il diritto a ricevere “informazioni significative sulla logica utilizzata”: una formulazione che la Corte di Giustizia dell’UE, ha interpretato nel senso di imporre obblighi sostanziali di trasparenza sul calcolo degli scoring predittivi⁸. Tuttavia, tale obbligo viene spesso assolto tramite spiegazioni approssimative fornite a posteriori mediante descrizioni del funzionamento statistico del modello che non consentono di comprenderne realmente il meccanismo causale interno.

Un sistema basato su reti neurali profonde o su modelli di apprendimento automatico complessi non è spiegabile nello stesso modo in cui lo è una decisione umana. La spiegazione fornita non coincide con il processo decisionale effettivo del sistema, ma ne rappresenta soltanto una ricostruzione successiva e semplificata. Il diritto alla spiegazione rischia così di produrre una trasparenza puramente dichiarativa. Il cittadino ha solamente una descrizione del processo, ma non acquista alcuna capacità reale di comprenderlo, contestarlo o anticiparne gli effetti sulla propria vita. È la differenza tra sapere che un algoritmo ha negato un prestito e capire perché, una distanza che nessun documento informativo può colmare in modo realistico.

Le tre fratture descritte non sono anomalie separabili, ma facce di uno stesso problema. Il GDPR è stato costruito sull’idea che il consenso possa funzionare come contratto: oggetto definito, parti informate, accordo verificabile. La profilazione predittiva funziona su un principio opposto, parte da dati apparentemente neutri e ne ricava inferenze che nessuno, né chi cede i dati né chi li raccoglie, poteva specificare al momento della firma. Consentire oggi significa firmare in bianco per ciò che il sistema scoprirà domani. In questo senso il consenso non tutela l’interessato semmai lo espone maggiormente anche se con una sua firma in calce. Finché questa contraddizione di fondo non sarà affrontata, l’art. 22 resterà una guardia posta davanti a una porta già aperta.

5. Il profilo come arma politica: dalla pubblicità al persuasion targeting.

Se il saggio sull’habeas mentem ha esaminato il condizionamento cognitivo come problema del presente adesso ci occuperemo di qualcosa di antecedente e più fondamentale: come il soggetto algoritmico diventa il presupposto tecnico senza il quale nessuna di quelle operazioni di condizionamento sarebbe possibile nella sua forma attuale.

La differenza tra la propaganda tradizionale e il persuasion targeting non è di intensità o di intenzione: è strutturale. La propaganda tradizionale si rivolge a categorie demografiche – gli indecisi, i giovani, gli elettori di una certa regione – e deve contenere al suo interno la variabilità delle risposte possibili. Il persuasion targeting si rivolge a individui specifici nel momento in cui sono statisticamente più vulnerabili a un messaggio determinato. Questa specificità non è possibile senza un soggetto algoritmico già costruito: senza, cioè, una proiezione del comportamento futuro dell’individuo che includa una mappa delle sue fragilità, dei temi emotivamente carichi per lui, della sua apertura alla persuasione su argomenti precisi.

Il caso Cambridge Analytica – già esaminato nel dibattito pubblico e richiamato nella letteratura sul condizionamento cognitivo – è rilevante qui non come storia di manipolazione elettorale, ma come caso limite che ha reso visibile una struttura ordinaria. La profilazione psicografica classificava gli elettori non per reddito o istruzione, ma per tratti di personalità e insicurezze latenti, e quella classificazione che abbiamo definito il “soggetto algoritmico” era il prerequisito senza il quale nessun targeting sarebbe stato possibile. La notizia, vera o falsa, è irrilevante se non c’è un profilo che indichi a quale notizia quel soggetto è vulnerabile. L’infrastruttura è la profilazione; la disinformazione ne è un uso, non la causa.

Questo sposta l’urgenza normativa. Non basta intervenire sui contenuti – fact-checking, moderazione, obblighi di trasparenza delle inserzioni politiche – se la profilazione che li rende efficaci rimane non regolata. Chi è profilabile è manipolabile non perché sia ingenuo, ma perché nessun soggetto, indipendentemente dal livello di istruzione o consapevolezza digitale, può difendersi da un messaggio costruito sulla propria mappa psicologica individuale, veicolato nel momento di maggiore ricettività, attraverso un canale che non segnala la propria natura persuasiva. La manipolazione non aggira la ragione attraverso la menzogna dichiarata, ma attraverso la selezione di verità parziali calibrate sull’interlocutore specifico.

La connessione con la disinformazione è conseguente, ma nel senso opposto a come viene di solito presentata, non è la disinformazione a richiedere la profilazione, è la profilazione a rendere la disinformazione irresistibile. Un ambiente informativo personalizzato in cui alcune informazioni sono sistematicamente invisibili e altre sistematicamente ampliate non produce necessariamente contenuti falsi ma produce un soggetto la cui mappa del reale è stata costruita da un sistema che conosce le sue fragilità meglio di quanto le conosca lui stesso. Non vi è un cittadino ingannato da notizie false, ma un cittadino che forma la propria opinione su una selezione di fatti reali costruita a partire dal suo soggetto algoritmico.

In definitiva, la profilazione elettorale non è solo una violazione della privacy, è una forma di interferenza con la formazione autonoma della volontà politica, ciò che la teoria democratica considera il presupposto irriducibile del voto. E quell’interferenza inizia non quando il messaggio viene inviato, ma quando il profilo viene costruito.

La questione di chi possa rivendicare il diritto a narrare rimane aperta, e non è una domanda retorica. Non si tratta di restituire all’individuo una sovranità assoluta sulla propria rappresentazione, nessuna teoria sociale seria ha mai sostenuto che l’identità sia una costruzione puramente individuale e volontaria. Si tratta di garantire che il processo attraverso cui quella rappresentazione viene formata resti aperto alla contestazione, alla negoziazione, alla correzione. Goffman ci aveva insegnato che l’identità è sempre il risultato di un’interazione, ciò che invece i sistemi algoritmici sottraggono non è la purezza di un’identità autentica preesistente, ma la possibilità stessa di quella interazione attraverso cui l’identità si forma e si trasforma.

Ed è proprio qui, in questa sottrazione della possibilità, che si rivela il paradosso più profondo, quello che la discussione giuridica e sociologica ha finora mancato di tematizzare nella sua radicalità. Tutti i sistemi di profilazione algoritmica si fondano su un’assunzione implicita che non viene quasi mai esplicitata e cioè che il comportamento passato di un individuo contenga informazioni affidabili sul suo comportamento futuro. È questa assunzione e non la tecnologia che la implementa, il vero nucleo del problema. Perché essa non è soltanto epistemicamente discutibile ma è antropologicamente falsa.

L’essere umano è l’unico animale che può decidere di contraddire sistematicamente se stesso. Può scegliere di smettere di fumare, di cambiare idea su una questione politica, di abbandonare un’abitudine consolidata, di diventare una persona diversa da quella che è stata. Questa capacità – che la tradizione filosofica chiama libertà, e che la psicologia contemporanea studia sotto il nome di plasticità identitaria – è precisamente ciò che i modelli predittivi non possono incorporare senza contraddirsi. Un sistema che prevede il comportamento futuro a partire dal comportamento passato funziona correttamente solo nella misura in cui il soggetto non cambia. Ma un soggetto che non cambia non è un soggetto umano nel senso pieno del termine: è un meccanismo.

La profilazione algoritmica, in altri termini, non si limita a descrivere l’individuo, tende a vincolarlo, ma non nel senso giuridico diretto perché nessuna norma impedisce formalmente a una persona di contraddire il proprio profilo, ma nel senso pratico e strutturale. Chi viene classificato come cattivo pagatore ottiene condizioni di credito peggiori che aumentano la probabilità di diventarlo. Chi viene profilato come politicamente indifferente riceve meno informazioni politiche, il che consolida quella indifferenza. Chi viene identificato come soggetto a rischio di abbandono scolastico viene indirizzato verso percorsi formativi meno esigenti, riducendo le probabilità che quella previsione venga smentita. Il profilo non fotografa una realtàma tende a produrla. È una profezia che lavora attivamente per autoavverarsi.

Recuperare la possibilità del cambiamento – giuridicamente, tecnicamente, politicamente – è dunque la posta in gioco reale, più profonda della protezione dei dati e più urgente della trasparenza degli algoritmi. Una società che delega la gestione delle opportunità individuali a sistemi fondati sulla continuità statistica del comportamento ha incorporato nella propria infrastruttura tecnica un pregiudizio conservativo, non nel senso politico del termine, ma nel senso letterale: un sistema che conserva, che tende a riprodurre ciò che è già stato, che penalizza strutturalmente la discontinuità. Non si tratta di proteggere i dati, si tratta di proteggere qualcosa di più fondamentale: la possibilità strutturale di diventare altro da ciò che si è stati. E la discontinuità, la capacità di sorprendere se stessi e gli altri è forse la cosa più umana che esista.