Intelligenza artificiale: tra estinzione e trame geopolitiche

Negli ultimi tre anni il gioco degli scacchi ha avuto un boom. Mai così tante persone hanno mosso le loro pedine su scacchiere virtuali. La rinascita del gioco è partita con la pandemia e i lockdown nel 2020, è diventato una moda con l’uscita su Netflix della seria “La Regina degli Scacchi”, è stato protagonista del post più popolare del 2022 dove Lionel Messi e Cristiano Ronaldo giocano insieme ed  è stato sulla bocca di tutti per la polemica sul giovane Hans Niemann accusato di aver barato. Chess.com, l’applicazione più famosa per giocare, ha registrato talmente tanti accessi che durante il mese di gennaio 2023 i suoi server sono stati spesso “down” e molte partite sono state interrotte per motivi tecnici. 

Stupirà sapere che a fronte di un così grande numero di appassionati il miglior giocatore al mondo non sia un essere umano, ma un computer.

Gli scacchi al computer hanno fatto molta strada negli ultimi vent’anni. ll programma di scacchi di Ibm, Deep Blue, nel 1997, riuscì a battere il campione mondiale umano in carica  Garry Kasparov, fino ad arrivare Stockfish, il computer che ha sbaragliato tutti i competitor. Almeno fino al 5 dicembre 2017.  Quel giorno fece il giro del mondo l’annuncio della creazione di AlphaZero, un algoritmo di apprendimento automatico creato dai ricercatori di DeepMind, l’azienda di intelligenza artificiale di proprietà di Google. 

ALPHAZERO

Gli antenati di AlphaZero avevano a disposizione decenni di esperienza umana dei grandi maestri, programmati nei motori sotto forma di complesse funzioni di valutazione che indicavano cosa cercare in una posizione e cosa evitare, ma comunque erano privi di intuito e giocavano come vere e proprie macchine: tremendamente veloci e forti. 

AlphaZero ha compiuto una rivoluzione. Ha giocato contro se stesso per quattro brevi ore, aggiornando la sua rete neurale man mano che imparava dall’esperienza. Ha scoperto da solo i principi degli scacchi ed è diventato rapidamente il miglior giocatore di sempre. Non solo avrebbe potuto sconfiggere facilmente tutti i più forti maestri umani, ma ha distrutto il povero Stockfish, il computer campione del mondo di scacchi in carica. In cento partite contro, AlphaZero ha ottenuto ventotto vittorie e settantadue pareggi. Non ha perso nemmeno una partita.

Intanto che la mente torna un giovane David J. Lightman, nei panni del teenager nerd che in “War Games“, del 1983, insegna al computer l’inevitabilità della distruzione di massa attraverso una partita di tris, non si può non cominciare a temere il rischio che l’Ai ci sorpassi e che la nostra specie si estingua. 

IL BOOM DELL’IA

Con il lancio di nuove intelligenze artificiali, una su tutte ChatGpt, ma anche Bard, Ernie e Bing, il tema si ripropone e di fronte alla fatidica domanda di un cinico caporedattore “Ma secondo te, al bar si parla di questo?”, la risposta è affermativa. L’Ai è sulla bocca di tutti, anche per le recenti dichiarazioni firmate da 350 esperti, compreso Sam Altan, padre di ChatGpt. In una lettera hanno esplicitato che: “Mitigare il rischio di estinzione causato dall’IA dovrebbe essere una priorità globale, insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”.

Altman è tra i fondatori e il Ceo di OpenAi, società produttrice di ChatGpt. Come altri visionari prima di lui (Zuckemberg o Musk per citarne un paio) si professa interessato a seguire il benessere dell’umanità, invece che pensare al guadagno. Nel manifesto della società scrive: “La nostra missione è garantire che l’intelligenza artificiale generale – sistemi di intelligenza artificiale generalmente più intelligenti degli esseri umani – porti benefici a tutta l’umanità. Se l’intelligenza artificiale generale verrà creata con successo, questa tecnologia potrebbe aiutarci a elevare l’umanità aumentando l’abbondanza, mettendo il turbo all’economia globale e favorendo la scoperta di nuove conoscenze scientifiche che cambiano i limiti delle possibilità. L’IA ha il potenziale per dare a tutti nuove incredibili capacità; possiamo immaginare un mondo in cui tutti noi abbiamo accesso all’aiuto per quasi tutti i compiti cognitivi, fornendo una grande forza moltiplicatrice per l’ingegno e la creatività umana”. 

ATLMAN E OPENAI 

Altman sembra credibile, anche nel professarsi disinteressato al mero guadagno economico. OpenAi è nata infatti come un ente no profit, seguendo l’ideale di salvare il mondo con la tecnologia. La realtà però bussa alla porta dei più illustri visionari, perciò nel 2019, per far fronte agli sviluppi del futuro prossimo è stata creata OpenAi LP, un ibrido tra una società a scopo di lucro e una no-profit, che chiamano capped-profit. La nuova società raccoglie molti più soldi, snaturandosi un po’, ovvero divulgando poche informazioni sui propri modelli. 

A differenza di OpenAI, la nuova OpenAI LP può fare profitto e i soci possono goderne fino a 100 volte l’investimento iniziale. Dopo quella cifra i profitti vanno all’organizzazione non profit, che li utilizzerà per programmi educativi e attività di advocacy.

Cosa consola rispetto alla tentazione di miliardi in entrata per quella che potrebbe essere una delle armi più pericolose dell’uomo?

Il Ceo e founder non può arricchirsi più di tanto, poiché non è azionista, e questo sembra un buon segno affinché il progetto rimanga integro.

I continui richiami di Altman alla pericolosità dell’Ai, presenti anche nel manifesto, lo dipingono come molto consapevole di ciò che ha per le mani.

“D’altra parte” scrive l’amministratore delegato “l’Ai comporterebbe anche un serio rischio di uso improprio, di incidenti drastici e di disordini sociali. Poiché i vantaggi dell’AGI sono così grandi, non crediamo che sia possibile o auspicabile che la società fermi per sempre il suo sviluppo; al contrario, la società e gli sviluppatori dell’Ai devono trovare il modo di farlo correttamente”.

Questo correttamente porta con sé dei benefici, ma anche dei rischi esistenziali che comunque restano. Da Stanford in un interessante paper, il professor Charles Jones evidenzia, tra le altre conclusioni, per esempio che “un modo in cui può essere ottimale intrattenere maggiori quantità di rischio esistenziale è se l’A.I. porta a nuove innovazioni che migliorano l’aspettativa di vita. Il miglioramento della mortalità e il rischio esistenziale sono misurati nelle stesse unità e non si scontrano con l’utilità marginale decrescente del consumo”.

APOCALISSE E MERCATO

Il rischio è commisurato all’utilizzo, ma una costante negli interventi di Altman e in altri esperti del settore dell’Ai: evocare l’Apocalisse. Stefano Feltri, nella sua newsletter Appunti, ha dato un interessante rappresentazione di tutto ciò, che porta la questione a un livello di più ampio respiro, intrecciandosi con le trame geopolitiche. “Quando aziende molto potenti chiedono più regole di solito è perché vogliono che la politica consolidi la loro posizione dominante e alzi barriere inaccessibili a nuovi, potenziali, concorrenti. Se l’intelligenza artificiale diventerà una questione di sicurezza nazionale, o addirittura di sicurezza globale, Altman e i suoi emuli avranno il massimo della protezione possibile dalle minacce che arrivano dal mercato (concorrenza e disaffezione del pubblico). Fermare la ricerca non è un’opzione, altrimenti, semplicemente, i cinesi arriverebbero prima a controllare una tecnologia che può generare l’estinzione della specie umana, è uno dei messaggi contenuti in quella breve dichiarazione. Dunque, l’unica soluzione è che le imprese attive in un campo tanto delicato lavorino insieme ai decisori politici e ai regolatori”. 

I cinesi hanno già a disposizione quello che viene considerato il diretto competitor di ChatGpt, Ernie Bot. Se inserito nel più ampio contesto di aperta ostilità tra Stati Uniti e la Repubblica popolare, fare pressioni affinché il governo americano protegga il proprio mercato potrebbe diventare una solida realtà.