Ci troviamo sotto una dittatura dell’algoritmo.
Questo l’avvertimento dato da Antonello Soro, il Garante della Privacy, nel suo discorso tenuto in occasione della presentazione della Relazione annuale dell’Authority, relativa all’attività svolta nel 2017; quest’anno particolarmente al centro dell’attenzione in seguito all’entrata in vigore, lo scorso 25 maggio, del Regolamento europeo sulla protezione dei dati personali, che si è mosso nella direzione di garantire una maggiore tutela imponendo agli operatori l’obbligo di denuncia di attacchi hacker, nonché sanzioni considerevoli che raggiungono fino al 4 per cento del fatturato annuo.
Tuttavia nonostante queste nuove e più severe misure, dall’entrata in vigore del suddetto Regolamento le violazioni dei database in Italia sono aumentate del 500 per cento.
Di tale situazione il garante Soro, nel suo discorso, considera responsabili i governi e la loro ingenuità nel non essersi prefigurati conseguenze tanto importanti in un sistema privo di regolamentazione a fronte, invece, di un’economia in enorme espansione.
È questa lacuna ad aver permesso ai grandi gestori delle piattaforme del web di acquisire un predominio sconfinato, diventando oligopoli tanto forti da avere essi stessi il potere di orientare i comportamenti degli utenti, su scala mondiale.
Una prima conseguenza è senz’altro il fatto per cui in un sistema del genere la concorrenza sparisce, soffocata dalla predominanza delle varie e numerosissime piattaforme virtuali, prime fra tutte le quattro del così chiamato GAFA: Google, Amazon, Facebook ed Apple.
Ma non si riduce tutto al problema della concorrenza; secondo il Garante della Privacy infatti una questione attualissima, che poi non è nient’altro che la base del primo problema è: l’algocrazia.
La dominanza degli algoritmi.
Queste piattaforme digitali sono in grado di analizzare tutti i cittadini del mondo e, in base ai profili che ottengono, a porsi come intermediari fra produttori e consumatori, ma soprattutto ciò che qui più rileva, riescono così a sorvegliare ogni persona in qualunque parte del mondo.
In uno scenario del genere, il pensiero comune di avere il web nelle proprie mani, quale strumento al servizio dell’uomo, di cui ciascuno di noi è padrone, è in realtà solo un’illusione.
Tutto ciò che avviene on-line, a partire dalle più semplici ricerche su un qualunque motore di ricerca, è filtrato attraverso algoritmi, che elaborando dati e statistiche per rilevare le preferenze di ciascun utente, gli presentano solo i contenuti più affini ai propri interessi, anziché la più vasta gamma di risultati correlata alla ricerca che ci si aspetterebbe.
Si è così in realtà, come lo stesso Garante sottolinea, “soggetti ad una sorveglianza digitale, prevalentemente a fini commerciali”; così nessun annuncio pubblicitario, nessuna informazione che compare in una qualunque pagina web o scorrendo la homepage di un social network è messa lì per caso, ma è stata programmata per quel singolo utente.
Di questa attività di profilazione, si occupano i cosiddetti “broker di dati”, società che raccolgono informazioni di ogni genere sulle abitudini e i consumi delle persone.
Caso emblematico e attualissimo, a questo proposito, è quello della Cambridge Analytica; lo scorso 16 marzo il New York Times ha rivelato l’utilizzo scorretto che questa società di consulenza britannica, che si è anche occupata spesso di analisi di dati per campagne elettorali, aveva fatto di dati strettamente personali raccolti da Facebook su circa 50 milioni di ignari utenti statunitensi, ottenuti senza autorizzazione violando i termini d’uso del social network. Il tutto finalizzato alla creazione di profili psicologici degli utenti da usare in campagne di marketing super mirate; la tecnica utilizzata è stata quello dello sviluppo di un sistema di “microtargeting comportamentale”, cioè di pubblicità altamente personalizzata su ogni singola persona, attraverso un algoritmo appositamente studiato per prevedere e anticipare le risposte degli individui, tanto da riuscire a far leva non solo sui gusti ma, a detta del suo sviluppatore Michal Kosinski, anche sulle emozioni degli utenti.
Un altro aspetto di questo ruolo sempre maggiore che la tecnologia sta acquisendo è quello che Antonello Soro definisce, la “robotizzazione dell’uomo-lavoratore”, una problematica che sarà sempre più facilmente riscontrabile in futuro, in vista del progredire della tecnologia verso forme di intelligenza sempre più autosufficienti e in grado di autodeterminarsi rispetto all’azione dell’uomo, ma di cui cominciano ad osservarsi sue manifestazioni già al giorno d’oggi.
Infatti l’idea di accrescere i livelli di automazione nei processi di lavoro è una tendenza che si sta affermando sempre di più; un esempio molto attuale è quello dei “rider”, i lavoratori che si occupano di consegne a domicilio. Essi, in certi casi, si ritrovano ad essere indirizzati verso le loro destinazioni direttamente da un sistema telematico, senza alcuna interazione umana con un collega, ma anzi il tutto è gestito da un software che indirizza i vari dipendenti. Viene a delinearsi così una situazione del tutto inaspettata, quella in cui gli uomini si ritrovano ad essere dipendenti di una macchina, al servizio di un algoritmo.
I classici ruoli si ribaltano; l’essere umano non è più il datore di lavoro, ma un lavoratore subordinato di un’entità immateriale. E così le macchine diventano esse stesse agenti di primo piano nel mondo.
Senza dilungarsi troppo però nell’immaginare scenari futuri, ma restando al momento presente, il Garante della Privacy suggerisce come necessaria l’adozione di “un’etica dell’algoritmo”, andando così a riempire le lacune del sistema lasciato privo di regolamentazione, così da governare il progresso della tecnologia; nello specifico, misure che vadano in direzione della salvaguardia dell’autodeterminazione informativa, dell’autonomia e della responsabilità delle scelte al fine di mantenere il governo dei propri dati in formato digitale.
Ilaria Medda