Un sistema non deve necessariamente comprenderci per costruire un profilo capace di prevedere comportamenti, preferenze e decisioni. Ogni giorno lasciamo d
Un sistema non deve necessariamente comprenderci per costruire un profilo capace di prevedere comportamenti, preferenze e decisioni.
Ogni giorno lasciamo dietro di noi una quantità di tracce che, prese singolarmente, sembrano avere poco significato. Una ricerca, un acquisto, il tempo trascorso davanti a un contenuto, uno spostamento, un clic ignorato, una sequenza di interazioni. Nessuna di queste informazioni racconta davvero una persona. Eppure, quando vengono raccolte, correlate e analizzate, possono produrre qualcosa che le assomiglia abbastanza da essere utilizzato al suo posto.
È qui che avviene un passaggio importante: i dati smettono di descrivere semplicemente ciò che abbiamo fatto e iniziano a costruire una rappresentazione di ciò che potremmo fare.
La profilazione non è un concetto astratto. Il Comitato europeo per la protezione dei dati la definisce come l’analisi automatizzata di dati personali finalizzata a valutare aspetti di una persona, tra cui comportamento, preferenze, interessi e situazione economica. Il tracciamento online, attraverso visite, clic e altre interazioni, contribuisce alla produzione di questo patrimonio informativo.
Ma il profilo che emerge non coincide con l’individuo.
È una costruzione probabilistica.
Un sistema può non conoscere le ragioni per cui una persona legge determinati articoli, visita alcuni luoghi o acquista un prodotto. Può tuttavia individuare correlazioni tra quei comportamenti e quelli di migliaia o milioni di altri utenti. Da queste correlazioni può stimare interessi, propensioni e comportamenti futuri.
Ed è proprio questa distanza tra identità e rappresentazione a meritare attenzione.
Per molto tempo il dibattito sulla privacy si è concentrato soprattutto sui dati che forniamo: nome, indirizzo, fotografia, numero di telefono, posizione. Ma una parte crescente del valore informativo deriva da ciò che può essere inferito. Informazioni che non abbiamo necessariamente dichiarato possono emergere dall’analisi di altri dati. L’EDPB riconosce, per esempio, che anche categorie particolarmente sensibili di informazioni possono essere derivate o inferite attraverso attività di profilazione.
La conseguenza riguarda qualcosa di più profondo della riservatezza.
Quando una rappresentazione algoritmica viene utilizzata per selezionare ciò che vediamo, ordinare contenuti, proporre prodotti o valutare determinate caratteristiche, quella rappresentazione comincia a modificare l’ambiente nel quale prendiamo decisioni.
L’Unione europea ha riconosciuto questa dimensione anche nel Digital Services Act. Le piattaforme devono fornire informazioni comprensibili sui principali parametri utilizzati dai sistemi di raccomandazione e sul modo in cui influenzano ciò che viene mostrato agli utenti.
Qui emerge una contraddizione interessante.
Possiamo essere rappresentati digitalmente con crescente precisione senza essere realmente compresi.
Un modello può prevedere con sufficiente accuratezza una scelta senza conoscere la storia personale, le esitazioni, le motivazioni o le contraddizioni che hanno portato a quella decisione. Per il sistema, però, questa distinzione può essere irrilevante: se la rappresentazione funziona abbastanza bene da produrre una previsione utile, ha già raggiunto il proprio obiettivo.
Per l’essere umano la differenza è enorme.
Una previsione su di noi non è ancora noi.
Confondere le due cose significa rischiare di trasformare probabilità statistiche in identità. E quando quelle probabilità entrano nei sistemi che organizzano informazioni, opportunità e decisioni, possono contribuire anche a consolidare ciò che presumono di osservare.
La questione dei dati, quindi, non riguarda soltanto quanto sappiano di noi le piattaforme. Riguarda quanto spazio siamo disposti a concedere alle rappresentazioni costruite dai sistemi nel definire ciò che vediamo, ciò che ci viene proposto e, progressivamente, il modo in cui veniamo interpretati.
Forse una delle competenze digitali più importanti dei prossimi anni sarà proprio questa: ricordare che tra una persona e il suo profilo rimane sempre una distanza.
E difendere quella distanza potrebbe diventare una forma di autonomia.
