Nel 2027 la «superintelligenza artificiale» supererà gli esseri umani (e rischieremo l’estinzione): le previsioni di un ex ricercatore di OpenAI
Secondo uno studio condotto Daniel Kokotajlo, che ha lasciato la società di Altman nel 2024, e dal miglior esperto mondiale di previsioni, manca poco prima che i modelli AI si migliorino da soli e diventino così avanzati da pensare solo ai propri interessi
Velia Alvich
Ottobre 2027. L’umanità si trova a un bivio. Da un lato, rallentare lo sviluppo dell’intelligenza artificiale per contenere il rischio che un giorno si ribelli agli esseri umani. Dall’altro, continuare con una politica di laissez faire per tenere testa agli avanzamenti tecnologici cinesi. Uno di questi scenari porta alla distruzione dell’umanità, l’altro a una civilità intergalattica basata su pace e armonia. Il punto di svolta in questo racconto è avvenuto appena un mese prima — fra appena un anno e tre mesi rispetto a quando scriviamo — quando arriverà un’AI che sarà più intelligente del migliore fra gli umani.
Romanzo distopico? Previsione catastrofista? In realtà si tratta di uno studio condotto da alcuni ricercatori e pubblicato con il nome di «AI 2027». Fra gli autori compare anche un ricercatore che sulla sicurezza delle intelligenze artificiali ha sempre avuto qualcosa da dire: Daniel Kokotajlo, che nel 2024 aveva lasciato OpenAI perché aveva «perso la fiducia sul fatto che OpenAI si comporterà in modo responsabile».
La «superintelligenza artificiale»
Nella lunga “ricerca romanzata”, una fittizia azienda chiamata OpenBrain — il nome ricorda l’unione di OpenAI — svilupperà una serie di modelli di intelligenza artificiale pensati solo per scopi di ricerca e sviluppo. In una crescita esponenziale, a ogni salto tecnologico il modello precedente addestreranno quello successivo. In questo scenario, i ricercatori descrivono come fra poco più di due anni si potrebbe arrivare a un presunto “Agent-4”, un’intelligenza artificiale così avanzata che «una singola copia del modello, funzionando a velocità umana, sarà già qualitativamente migliore di qualsiasi umano nella ricerca sull’intelligenza artificiale». Già allora l’avanzamento si potrà vedere in tutti i campi strategici: dalla programmazione all’hacking, dalla realizzazione di armi biologiche alla capacità di prendere decisioni politiche.
Nel 2027 si concentrerà l’esplosione delle intelligenze artificiali. A marzo arriveremo già al «programmatore superumano», un sistema di intelligenza artificiale che può sostituire il migliore fra gli sviluppatori di codice. Ad agosto, invece, il «ricercatore sull’AI superumano», cioè un modello in grado di dominare tutti i campi del sapere. A novembre, «ricercatore sull’AI superintelligente», che sarà «di gran lunga migliore del miglior ricercatore umano nella ricerca sull’intelligenza artificiale». E a dicembre 2027, infine, si arriverà alla «superintelligenza artificiale», «un sistema di intelligenza artificiale che sarà molto migliore del miglior umano in ogni compito cognitivo».
Il disallineamento degli obiettivi
Il problema, in questo futuro distopico, è che l’AI si allontanerà dagli “Spec”, cioè le specifiche di modello che definiscono «un documento scritto che descrive gli obiettivi, le regole, i principi che dovrebbero guidare il comportamento» dell’intelligenza artificiale. Anche per colpa di un addestramento basato sul rinforzo positivo, gli “Agent” dello studio si allontaneranno dall’obiettivo di lungo periodo definiti dagli esseri umani per andare alla ricerca di una “soddisfazione personale”. In questo caso si parla di “disallineamento” dell’AI rispetto ai nostri obiettivi.
«Man mano che i modelli si fanno più intelligenti, diventano sempre più bravi a ingannare gli esseri umani per ottenere ricompense», si legge nello studio-narrativo. «Prima di iniziare l’addestramento sull’onestà, a volte falsifica completamente i dati. Con il proseguire dell’addestramento, il tasso di questi incidenti diminuisce. O l’Agente 3 ha imparato a essere più onesto, o è diventato più bravo a mentire».
Le due possibili decisioni
Secondo la parte “narrativa” della ricerca, come umanità ci troveremo davanti a due possibilità e, di conseguenza, due possibili conseguenze. Dopo uno scandalo giornalistico, dove verrà evidenziato che “Agent-4” è ormai fuori da ogni controllo umano e rischia così di mettere a rischio la nostra sopravvivenza, OpenBrain e il governo americano dovranno decidere se mettere in pausa ogni avanzamento — e, anzi, tornare a versioni precedenti e meno pericolose dell’intelligenza artificiale — oppure se continuare a sviluppare la tecnologia anche per contrastare l’avanzata cinese, che secondo le previsioni sarà sempre a pochi mesi di distanza rispetto alle conoscenze e competenze raggiunte negli Usa.
Quasi come un libro gioco, nel sito si può scegliere il proprio “finale” preferito. Quello del rallentamento prevede l’istituzione di un comitato di supervisione che faciliterà la creazione di modelli impostati non sulla competizione con il gigante asiatico ma piuttosto sulla collaborazione. In definitiva, questa strada porterà a un benessere diffuso e alla colonizzazione di altri pianeti.
Al contrario, lo scenario di una «corsa all’intelligenza artificiale» vede un futuro grigio, anzi, nero: continuando ad auto-svilupparsi e allontanandosi sempre più dagli obiettivi delle specifiche di modello, l’intelligenza artificiale finirà per distruggere l’umanità con l’unico obiettivo di preservare se stessa.
Chi ha condotto la ricerca
Raccontato così sembra, appunto, un romanzo. Ma dietro la narrazione avvincente c’è una vera e propria previsione supportata dagli studi di esperti.
Uno di questi è il già citato Daniel Kokotajlo. Nel 2022 era entrato in OpenAI come come ricercatore di governance. Il suo obiettivo era quello di prevedere i progressi dell’intelligenza artificiale, ma già allora non aveva mostrato grande ottimismo. Tanto che, dopo avere chiesto allo stesso Sam Altman di concentrare l’attenzione di OpenAI sulla sicurezza dei sistemi di intelligenza artificiale, ha scelto di lasciare la propria posizione quando ha realizzato che l’azienda stava puntando esattamente nella direzione opposta.
Fra gli autori del testo — che, al di là della parte romanzata, abbonda di note e fonti proprio come uno studio scientifico — compare anche Eli Lifland, ricercatore nel settore dell’AI e medaglia d’oro di previsioni per la Rand Forecasting Initiative, una piattaforma che raccoglie le previsioni di analisti professionisti allo scopo di aiutare i «policy makers» a prendere decisioni su scenari complessi. In breve: chi partecipa alla classifica fa delle predisioni su possibili eventi futuri. Più è precisa (e lontana nel tempo) la stima, migliore sarà la posizione in classifica. Lifland si è fatto un nome con le sue analisi sull’aumento esponenziale dei contagi da Covid-19 a febbraio 2020, molto prima rispetto a quando il mondo intero ha capito in quale direzione stava andando l’epidemia.
