Una nuova era – l’AI è il nuovo nucleare

Siamo nel periodo di massimo sviluppo dell’AI (intelligenza artificiale). Sviluppo che ruota attorno alla disponibilità di dati. Incidentalmente, il 10 aprile Mark Zuckerberg si è presentato al Senato per rendere conto del trattamento dei dati da parte di Facebook.
La seduta si è rivelata noiosa nel complesso; ciononostante, è molto importante analizzare alcuni aspetti che l’hanno caratterizzata. Importante perché con la seduta si è chiusa l’età d’oro della tecnologia, in cui il grande pubblico vedeva ogni trovata tecnologica come una rosa senza spine. A fungere da spartiacque sono stati il noto caso di Cambridge Analytica, unitamente alle prime morti legate agli Automated Vehicles (AVs). La conseguente perdita di fiducia nella tecnologia presenta pro e contro che andremo a sviscerare in questo articolo.

Corsa agli armamenti

La seduta di Zuckerberg è emblematica in particolare per tre motivi. In primo luogo, l’AI è stata citata come panacea dei problemi che flagellano Facebook: il cosiddetto hate speech, profili automatizzati (bots) dediti a spargere notizie con un fine ben preciso e più in generale il tentativo di sfruttare gli effetti di rete per permettere l’ingerenza estera nel processo politico degli Stati Uniti e dichiaratamente, di tutti gli altri stati del mondo. In secondo luogo, si è palesata la visibile (e comprensibile) difficoltà dei senatori a comprendere il potenziale e le problematiche della piattaforma. Difficoltà che ha generato parallelamente molta ironia e molta preoccupazione online. Infine, una frase significativa pronunciata da Zuckerberg: «It’s an arms’ race», una corsa agli armamenti per fare in modo che le risorse di Facebook nel difendersi da tentativi da abuso da parte di hacker russi. Volendo, è però possibile darne una lettura molto più profonda: i poteri che derivano dal controllo e sviluppo dei software di intelligenza artificiale sono tali che siamo già in una corsa agli armamenti.

Analizziamo la prima affermazione. Dire che l’AI sia il principale mezzo per risolvere i problemi di Facebook è completamente giustificato: con l’aiuto di software impieganti machine learning il compito apparentemente impossibile di trovare l’ago in un pagliaio diventa banale. Nel caso di Facebook ciò si traduce nella possibilità di controllare in tempo reale e in modo capillare tutto ciò che viene pubblicato sul social network. Esercitare tale controllo permette di proteggere la rete sociale da attacchi da parte dei bots o dalla diffusione di fake news. Discriminare però cosa sia fake news o hate speech e cosa sia contenuto politico – fortemente polarizzato – non è un compito facile. Questo è uno dei problemi che è stato colto e sentito particolarmente dai senatori che hanno interrogato Mr. Facebook, specialmente i senatori repubblicani. L’ex candidato repubblicano Ted Cruz si è premurato di assicurarsi che l’operazione di regolamentazione dei contenuti su Facebook non avesse un colore politico. Sorge perciò una domanda.
Cosa succede se una parte politica è particolarmente dedita a seminare odio come parte della propria strategia comunicativa? Da quale parte si schiererebbe Facebook? I senatori americani si sono premurati di chiedere se i cittadini americani schierati contro l’aborto possano un giorno vedere le proprie voci soffocate, malgrado l’esistenza del primo emendamento che garantisce la libertà di parola e pensiero.

Questo però non è l’unico problema di Facebook strettamente legato all’AI. Gli algoritmi che regolano il feed di Facebook sanno quanto tempo ogni utente passa su ogni singolo post, e sono programmati per massimizzare il tempo passato su Facebook. Ciò si ottiene tramite algoritmi di Reinforcement Learning, tecnica ultimamente testata per creare intelligenze che imparino a battere l’intelligenza artificiale dei videogiochi: l’idea si basa sul fatto che l’algoritmo cerchi costantemente di ottimizzare una quantità misurabile. Ciò può consistere nel minimizzare il numero di morti in un videogioco come oppure massimizzare il tempo passato da un particolare utente sul newsfeed di Facebook o sui video di YouTube. Numerosi esperti hanno espresso forte preoccupazione, sia riguardo alle implicazioni sociali di questa politica, sia alla possibilità che il potere derivante dal possesso di una piattaforma in cui avvengono interazioni sociali assieme al possesso dei dati derivanti degeneri in mezzi di controllo di massa delle popolazioni. Un social network si può facilmente trasformare in un’arma: di uno stato estero per influenzare opinione pubblica e elezioni, ma anche di uno stato come mezzo di controllo della propria popolazione. Ciò evoca scenari degni di romanzi di fantascienza o serie TV distopiche, ma non bisogna mai dimenticare che sebbene tutti questi siano prodotti di fantasia, uscirebbero dal mondo della finzione se la tecnologia necessaria fosse sviluppata.

Passiamo ora ai senatori americani che hanno interrogato Zuckerberg. Alcuni hanno colto in parte il potenziale della piattaforma mentre altri hanno dimostrato di non avere la più pallida idea del funzionamento di Facebook: è stato domandato addirittura da dove arrivassero i proventi dell’azienda se i suoi servizi sono gratuiti. Eppure, se anche ignorassimo le domande più scandalose, dobbiamo chiederci: come possiamo biasimarli? Buona parte di loro proviene dall’era precedente alla digitalizzazione: sovente il modo in cui Zuckerberg spiegava loro fatti banali ricorda l’esperienza comune di dover spiegare ai propri genitori o nonni il funzionamento di Facebook stesso. Inoltre la conoscenza della tecnologia non è un requisito per entrare a far parte del potere legislativo di uno stato democratico. La rapidità dello sviluppo tecnologico però impone molte domande sul concetto stesso di democrazia: sia a mero livello strutturale, sia riguardo alla sua capacità di adattarsi ai cambiamenti tecnologici. In un mondo in cui il progresso tecnologico accelera sempre più velocemente e penetra sempre più pervasivamente nella vita di tutti i giorni, come può la lenta democrazia seguire e regolamentare la tecnologia se non riesce a tenere il passo? Inoltre, come può una classe dirigente che non ne riconosce il valore dare l’adeguata attenzione a meriti e rischi dello sviluppo tecnologico?

Tutto ciò è ancora più importante alla luce dei piani della Cina di porsi come leader mondiale nel campo dell’intelligenza artificiale. Ciò riflette l’interesse della leadership cinese che mira a unire investimento pubblico e privato per raggiungere tale primato. Tutto ciò in opposizione agli Stati Uniti, caratterizzati dal solo investimento privato e dall’Europa, caratterizzata dalla mancanza di entrambi i tipi di investimento su scale rilevanti. Ciò ci porta al terzo punto, ovvero al fatto che ci troviamo dentro una corsa agli armamenti. Corsa in cui gli USA rischiano di arrancare se la fiducia nella tecnologia porta via le risorse del mercato dalle aziende che investono in AI. Corsa in cui l’Europa è indietro dappertutto se non nell’ambito etico e dei diritti legati ai dati.

L’approccio europeo è certamente molto nobile. Lo sforzo etico può però solo avere valore se l’Europa riesce a imporsi nell’ambito, cosa impossibile senza un investimento pesante nell’ambito. A tutto ciò si aggiunge il fatto che sia USA che Cina hanno totale sovranità dei propri dati, mentre l’EU si appoggia agli USA per questo, ponendosi in una chiara posizione subordinata. Con quella che potremmo chiamare grande lungimiranza, la Cina ha bloccato i social network esteri il prima possibile sul proprio terreno. Politica probabilmente inizialmente intrapresa per poter esercitare controllo diretto sui social network, ma che ha rivelato la propria utilità ora che le aziende e il governo cinesi hanno a disposizione una quantità virtualmente infinita di dati da dedicare alla ricerca per l’AI, senza doversi preoccupare del possesso estero dei dati stessi. La Cina non è nuova a simili forme di protezionismo tecnologico: alcune aziende, come Google e Facebook, non hanno mai potuto installarsi sul suolo cinese. Altre aziende ad alto contenuto tecnologico si sono installate in Cina solo per vedersi rubare la proprietà intellettuale e poi vedersi sfavorite nella competizione contro aziende autoctone.

Intelligenza nucleare

Se teniamo in conto tutto ciò che si può ottenere – nel bene e nel male – tramite l’intelligenza artificiale, affermare che l’AI sia l’energia nucleare del ventunesimo secolo non sembra così oltraggioso. Ciò che risulta sconvolgente è il parziale disinteresse della classe dirigente occidentale in vista di un concorrente ambizioso e, soprattutto, non democratico. Un disinteresse del genere è paragonabile all’ipotesi degli Americani che negli anni Quaranta e durante la Guerra Fredda si disinteressino della bomba atomica. Un’idea impensabile e, per molti, raccapricciante.