Si può fermare il progresso?

Come sa chi mi segue da un po’ di tempo, con le AI generative (in particolare GPT di OpenAI) ho un rapporto di lunga data. Ho iniziato a usare le prime AI ormai diversi anni fa, e quando OpenAI rese disponibile per gli sviluppatori GPT-2 non ho perso l’occasione di integrarlo all’interno del software con il quale catalogo i miei libri e utilizzarlo per fare i primi esperimenti di scrittura “a quattro mani” (se così si può dire).

Ci ho giocato, ovviamente, ma ci ho anche riflettuto a lungo. Scrivere con le AI è un processo molto stimolante , e fermo restando che sta a noi la scelta di quali spunti seguire e quali no, fin dall’inizio questo processo mi ha aiutato a creare nuove connessioni tra gli argomenti dei quali scrivevo. Con l’uscita di Chat-GPT poi, il gioco è passato a un livello successivo e come migliaia di italiani mi sono trovato a utilizzare quotidianamente la nuova versione del software di OpenAI, al pari di quanto usassi Google o Amazon.

Tutto questo fino a pochi giorni fa, quando il Garante della privacy ha imposto il blocco temporaneo di Chat-GPT viste le inadempienze del servizio rispetto al GDPR , il regolamento europeo per la privacy. E siccome il rapporto che c’è tra le nostre società e la tecnologia è uno dei temi che mi appassiona di più, oggi la newsletter non poteva che parlare di questo!

Partiamo dalle basi, che forse ci siamo persi in mezzo a una discussione così polarizzata. Il Garante ha firmato un documento in cui si blocca l’uso di Chat-GPT poiché non garantirebbe la sicurezza nel trattamento dei dati degli utenti. In altre parole, il servizio di OpenAI secondo il Garante non rispetta le norme necessarie , e quindi deve essere temporaneamente bloccato.

Però da qui è nata una discussione pubblica sul futuro delle intelligenze artificiali, che forse c’entra poco ma in realtà è molto utile, anche perché parte da lontano.

Già nel 2014 infatti Nick Bostrom pubblicò un libro dal titolo Superintelligenza. Tendenze, pericoli, strategie , che nonostante abbia quasi dieci anni è ancora oggi uno strumento utilissimo e assai completo sui temi dell’intelligenza artificiale e dei suoi rischi. Bostrom è molto consapevole delle enormi opportunità legate all’avvento dell’AI, ad esempio in ambito medico, scientifico o anche solo per la nostra vita quotidiana. Eppure sa anche che c’è un rischio enorme : quello che le macchine, potendo apprendere in modo indipendente dai propri programmatori, possano superare gli umani e prendere in qualche modo il sopravvento.

Nel gennaio del 2015 Bostrom firmò anche una lettera pubblica insieme ad altri scienziati illustri come Stephen Hawking in cui venivano avvisati i decisori pubblici sui rischi intrinseci all’AI. Del resto anche lo stesso Stephen Hawking prima di morire ha detto che la sua più grande preoccupazione rispetto alla sopravvivenza della razza umana fosse proprio lo sviluppo di un’intelligenza artificiale completa.

Un po’ come oggi se ne preoccupano personaggi come Elon Musk, che da anni si è espresso sullo stesso tema e proprio in questi giorni ha lanciato una petizione per chiedere una moratoria temporanea per la ricerca e lo sviluppo dell’intelligenza artificiale di cui si è parlato moltissimo a livello globale.

L’aumentare del numero di parametri di Chat GPT nel giro di pochissimi anni rappresenta in maniera evidente il modo esponenziale in cui si sviluppa la tecnologia. GPT-1, la prima versione di GPT, è stata rilasciata nel 2018 ed era composta da 117 milioni di parametri. Questa versione aveva un’efficacia limitata, ma è stata comunque in grado di generare testo coerente e di alta qualità, come ad esempio una descrizione di un oggetto o una risposta a una domanda semplice. Per mettere in prospettiva il numero di parametri contenuti nella prima versione di GPT era circa lo stesso numero di sinapsi che si trovano nel cervello di un insetto. GPT-2, la versione successiva e la prima che ha avuto applicazioni commerciali (è stata utilizzata per scrivere i primi articoli di giornale, ed è anche la prima che ho iniziato ad utilizzare io!), è stata rilasciata nel 2019 ed era composta da 1,5 miliardi di parametri , che per avere un’idea è il numero di persone che vivono in Cina. GPT-3, la terza versione di GPT e quella che di fatto ha aperto il mercato consumer, è stata rilasciata nel 2020 ed è composta da 175 miliardi di parametri. Questa versione ha portato a un notevole aumento della potenza di GPT, consentendo al modello di eseguire una vasta gamma di compiti di elaborazione del linguaggio naturale, come la traduzione automatica, la generazione di testo creativo e la creazione di codice informatico funzionante. Sempre per avere un’idea di grandezza, il numero di parametri di GPT-3 è superiore di circa 10 volte al numero di stelle nella Via Lattea. Per quanto riguarda GPT-4, la cui uscita è prevista per quest’anno, non ci sono ancora comunicati ufficiali da parte di OpenAI ma seguendo il trend di crescita delle precedenti versioni si prevede che il numero di parametri possa essere in un range tra 1.000 miliardi e 10.000 miliardi, forse addirittura 20.000 miliardi. Per provare a immaginare quanto siano grandi questi numero, considera che 1.000 miliardi è simile al numero di atomi nel corpo umano , mentre 20.000 miliardi è pari circa a 935 volte il numero di monete da un dollaro necessarie per raggiungere il PIL degli Stati Uniti , oppure oltre 133mila volte la distanza tra la Terra e il Sole!

Chi invece non è d’accordo con Bostrom, Hawking e altre voci pubbliche, sostiene generalmente che non è possibile fermare il progresso o vietarlo per legge. Si sostiene che un atteggiamento del genere sia paragonabile a quello dell’uomo che anziché prendere il controllo del carretto che sta scivolando lungo la discesa prova a mettervisi davanti nel tentativo improbabile di bloccarlo.

Di base sarei d’accordo, e proprio in questa newsletter ho raccontato molte volte che l’essenza del pensiero complesso sta proprio nello sviluppare una forma mentis che ci aiuti a domare e regolare il mondo che abbiamo intorno anziché subirlo. Però pensare in modo complesso significa anche sapere dove sono i limiti dell’essere umano.

Quindi sottolinerei due cose. La prima – molto banalmente – è che il Garante non è il Parlamento e la tecnologia non è stata fermata per legge. Semplicemente, quel servizio non rispettava alcune norme e quindi è stato bloccato temporaneamente, così come viene temporaneamente chiuso un ristorante che non rispetta le norme igieniche o un veicolo che non ha fatto la revisione. Non riesco quindi a capire quali sarebbero le motivazioni per cui il Garante avrebbe dovuto consentire ad OpenAI di continuare a lavorare infrangendo la normativa esistente , e come mai avrebbe dovuto fare un’eccezione per OpenAI e non per le migliaia di imprese europee che ogni giorno spendono soldi per rispettare quello stesso regolamento.

E poi c’è un secondo punto, fondamentale: pensare che la tecnologia non si possa fermare è solo un mito capitalista del tutto falso. Ce lo dimostra la storia recente di due settori essenziali: lo sviluppo bellico e le biotecnologie.

Dopo il primo utilizzo della bomba atomica sul Giappone l’umanità avviò una discussione ampia e tutto sommato abbastanza unanime sul fatto che a Hiroshima e Nagasaki si fosse superata la linea dell’accettabilità e che l’impiego degli ordigni nucleari dovesse essere limitato. E infatti così fu, attraverso il patto di non proliferazione nucleare e ad altri accordi internazionali con cui gli Stati si sono impegnati a non usare questo tipo di armi, che pure oggi esistono e il cui uso viene di tanto in tanto minacciato, ma che comunque non sono mai più state usate dopo il 1945.

Sempre in ambito bellico vorrei sottolineare che una sorte simile è toccata alle armi chimiche, alle mine antiuomo e all’impiego di intelligenza artificiale per la costruzione delle armi autonome letali (le cosiddetta “LAWS”). Tutti settori a cui sono stati posti dei freni dalla comunità internazionale.

E poi c’è la questione della clonazione. Sono passati quasi trent’anni dalla nascita della pecora Dolly, ovvero dal momento in cui ci siamo resi conto di disporre della tecnologia per clonare con successo gli esseri viventi. A suo tempo – come specie – abbiamo deciso che avremmo limitato fortemente l’utilizzo di questa tecnologia , e a distanza di anni ad oggi non ci sono evidenze di alcun tentativo di clonare un essere umano e in generale il dibattito sull’ingegneria genetica continua ad essere fortemente controllato dal punto di vista etico.

Se non abbiamo superato certe linee è perché – semplicemente – come comunità umana abbiamo deciso che, alcune cose, sebbene tecnicamente possibili, non erano accettabili. Ci siamo fermati non una, ma più volte: per questo dire che il progresso non può essere fermato è un falso mito.

ASCOLTA IL PODCAST

Tra i motivi per cui non ho dubbi non solo sull’operato del Garante ma anche sulla direzione che la discussione pubblica dovrebbe adottare in materia di futuro dell’AI c’è il fatto di aver conversato abbastanza a lungo con Guido Scorza , che è proprio uno dei membri del comitato del Garante della privacy.

Nella chiacchierata che abbiamo fatto per il podcast di Mondo Complesso c’è un punto veramente essenziale in cui discutiamo di come la tecnologia non sia pericolosa di per sé, ma lo diventa quando non abbiamo la cultura per comprenderla e controllarla.

Esistono tecnologie oggi diffusissime che non riusciamo a mettere a frutto o che usiamo correndo molti rischi perché abbiamo un forte deficit culturale. Guido propone dunque da anni l’inserimento dell’educazione digitale nelle scuole come materia obbligatoria. Ma credo che nel caso dell’AI il rischio non sia solo culturale – cioè che molti di noi ancora non hanno gli strumenti per capirla – ma sia anche ontologico.

Stiamo ancora discutendo sulla capacità che avremo di controllare l’AI, e quindi ad oggi non abbiamo ancora la certezza che alcune applicazioni di questa tecnologia non possano produrre risultati disastrosi. E questo – come umanità – non possiamo permettercelo.

Buona domenica e a presto,