Il Manifesto di Mark Zuckerberg sul futuro dell’intelligenza artificiale
Il futuro è per tutti
Il percorso verso un futuro positivo dell’IA
Siamo fortunati a vivere in un momento incredibile della storia. Nei prossimi anni, le persone potranno usare la superintelligenza oltre la capacità umana per creare e scoprire cose straordinarie nuove, costruire nuove imprese, esprimere nuove idee, apprendere nuovi concetti e migliorare la nostra salute e qualità della vita. Man mano che ci avviciniamo a questo momento, è importante sviluppare una filosofia su come possiamo utilizzare al meglio la superintelligenza per garantire che migliori la nostra vita, il lavoro, le comunità, la libertà e la sicurezza di tutti.
Le domande fondamentali della nostra epoca sono chi avrà accesso alla superintelligenza e verso cosa la indirizzeremo. Sarà centralizzato e limitato a poche istituzioni, oppure sarà uno strumento che dà potere a tutti?
Proponiamo una filosofia basata sull’empowerment individuale come fonte di prosperità, sull’invenzione come scopo primario della superintelligenza e sull’equilibrio di potere come fondamento della sicurezza.
Tutte le nuove tecnologie creano opportunità e sfide. La superintelligenza sarà tra le tecnologie più importanti della storia, quindi le sue opportunità e sfide saranno probabilmente maggiori di qualsiasi altra che abbiamo visto nella nostra vita. Dovremmo prenderla molto sul serio.
Tuttavia, è sorprendente che il discorso di molti sviluppatori di IA sia così pieno di catastrofi. Non capisco perché chiunque creda che l’IA eliminerà la maggior parte dei posti di lavoro e gran parte della rilevanza umana si affretti a costruire quel futuro. L’idea che l’IA sia così pericolosa che l’unica via sicura sia una concentrazione estrema di potere sembra intrinsecamente problematica. Storicamente, sperare che una potenza assoluta provveda benevolamente all’umanità se sufficientemente illuminata non ha portato a risultati sicuri o positivi.
L’umanità ha assistito a molti progressi trasformativi. Ogni volta c’è paura che le persone vengano lasciate indietro. Ma ogni volta l’umanità è uscita con sempre più persone che condividono maggiore prosperità, salute e libertà. Crediamo che questo sarà vero anche per l’IA, e che l’abbondanza del futuro potrà essere condivisa da tutti. Crediamo anche che i valori che ci hanno portato a questo punto — come la libertà, l’indagine aperta, la libera impresa e l’uguaglianza di opportunità — siano anche i valori giusti per costruire un futuro positivo.
Mettere il potere nelle mani delle persone per perseguire le proprie aspirazioni è il modo in cui l’umanità ha fatto i maggiori progressi. Le idee innovative e i grandi progressi raramente nascono da istituzioni consolidate da soli istituzioni. Venivano dai fratelli in un negozio di biciclette che credevano che la gente potesse volare, dall’apprendista rilegatore senza istruzione che aveva capito come generare elettricità, e dal ragazzo in un garage che pensava che i personal computer potessero essere adatti a tutti. Crediamo che questo continuerà a essere vero. Man mano che tutti acquisiscono strumenti più potenti, ogni persona diventerà più capace di plasmare il futuro, non meno.
L’invenzione, non l’automazione, sarà il contributo più grande della superintelligenza. Le prime IA potevano rispondere a domande e svolgere lavori di routine. Presto aiuterà sempre più a scoprire nuove conoscenze — che vanno dalla scoperta di nuovi farmaci per curare la malattia di un familiare fino alla ricerca di nuovi modi per migliorare la propria attività. Sebbene il numero di domande che una persona può porre in un giorno sia limitato, il numero di cose preziose che la superintelligenza può inventare per aiutare a raggiungere i propri obiettivi è illimitato.
Man mano che l’intelligenza diventa abbondante, la domanda più importante sarà come la indirizzeremo. Alcuni sostengono che la superintelligenza stessa o un piccolo gruppo di esperti che la controllano dovrebbero decidere cosa è meglio per l’umanità. Non siamo d’accordo. La storia della democrazia e dell’economia ha dimostrato che non esiste una risposta unica e oggettiva su come le persone definiscono la vita migliore, e quindi il miglior approccio è lasciare che le persone decidano cosa conta nella propria vita.
Crediamo che fornire superintelligenza a tutti sia il modo per rispondere a questa domanda. Questo segue la tradizione di mettere la potenza dei supercomputer e di internet nelle tasche di tutti e sulle nostre scrivanie. Invece di centralizzare la superintelligenza, dovremmo distribuirla ampiamente e dare a ogni persona la capacità di dirigerla. Questo ha il potenziale di avviare una nuova era di empowerment personale in cui gli individui potranno utilizzare questa potente nuova capacità per raggiungere il proprio pieno potenziale, perseguire i propri interessi e migliorare la propria vita e il mondo più che mai.
—
Per rendere tutto ciò più tangibile, ecco alcuni modi specifici in cui Meta sta costruendo la superintelligenza personale per migliorare le nostre vite:
• Ognuno avrà un agente personale eccezionalmente capace che ti capisca, comprenda i tuoi obiettivi e tutto ciò a cui teni. Il tuo agente lavorerà 24 ore su 24, 7 giorni su 7, per migliorare le tue relazioni, la salute, la carriera, le finanze, la gestione della casa, gli hobby e altro ancora. Libererà tempo per le cose che ti piacciono e ti aiuterà a realizzare più di quanto potresti altrimenti. Avrà forti opzioni di privacy e sicurezza, così potrai fidarti di gestire tutti i tuoi contenuti personali sapendo che nessun altro potrà accedere alle tue informazioni, simile a come funziona la crittografia su WhatsApp. Potrai interagire con il tuo agente tramite qualsiasi dispositivo, compresi gli occhiali, per restare presente nel momento con le persone a cui tieni.
Ad esempio, il mio agente segnala informazioni interessanti e mi aiuta a prototipare idee. Mi aiuta a restare in salute monitorando il sonno e poi osservando mentre mi alleno e dando feedback. Mia figlia adora fare dolci, quindi il mio agente organizza ricette personalizzate da preparare insieme ogni weekend, ordina gli ingredienti e poi offre suggerimenti mentre cuociamo.
• Tutti avranno strumenti incredibili per creare e esprimere le proprie idee. Mia figlia di 8 anni già sa programmare le sue idee e produrre video in una serata che prima mi avrebbero richiesto mesi o che erano impossibili. Ora stiamo progettando un robot insieme. Nel frattempo, i ricercatori di Meta stanno generando nuove strutture cristalline ideali per gli occhiali di realtà aumentata, e gli ingegneri stanno creando nuove app in una frazione del tempo che avrebbe impiegato prima. Presto tutti avranno superpoteri di invenzione.
• Tutti avranno strumenti potenti per creare nuove imprese e l’economia diventerà più imprenditoriale. Le persone stanno iniziando a poter manifestare idee autonomamente senza dover raccogliere fondi o costruire grandi team. Molte idee che prima sarebbero state troppo difficili o costose da provare ora saranno possibili. Questo significa che vedremo molte più idee e attività. Prevedo che questo non porterà solo a una crescita economica molto maggiore, ma anche a più occupazione nel tempo piuttosto che a meno.
• Ognuno avrà un tutor e un coach personalizzati con un dottorato in ogni materia e pazienza illimitata per aiutarti a imparare tutto ciò che desideri. Gli studenti avranno un aiuto extra nelle aree di cui hanno bisogno, che attualmente è disponibile solo per chi può pagare i genitori. Gli adulti avranno un assistente all’apprendimento superintelligente che sa esattamente come insegnarti nuove competenze lavorative, nuove lingue, nuovi hobby o qualsiasi altra cosa ti interessa.
• Tutti trarranno beneficio dai progressi scientifici e potranno contribuire al progresso scientifico. Ad esempio, Biohub ha già distribuito modelli biologici open source relativi a cellule virtuali e proteine che stanno aiutando gli scienziati a fare nuove scoperte e a progettare nuovi farmaci. Quando Priscilla ed io abbiamo iniziato questo lavoro, il nostro obiettivo era aiutare gli scienziati a curare o prevenire tutte le malattie di questo secolo, e ora, con i progressi nell’IA, ci aspettiamo che ciò sia possibile molto prima.
Poiché esiste una lunga fascia di condizioni di salute e la biologia di ognuno è diversa, il coinvolgimento diretto delle persone aiuterà a sbloccare terapie personalizzate e ad accelerare le sperimentazioni per adeguarsi al ritmo dell’invenzione e permettere all’industria di andare oltre il concentrarsi in modo sproporzionato sulle malattie comuni.
Oltre alla biologia, l’IA aiuterà le persone a far progredire la ricerca in ogni campo applicando il metodo scientifico e lavorando per settimane o mesi per testare e affinare ipotesi. La scoperta scientifica sarà probabilmente una delle forme di invenzione più preziose per la società.
• Tutti avranno accesso gratuito o a prezzi accessibili a questi strumenti. Affinché tutti possano far parte del futuro, tutti devono avere la capacità di usare la superintelligenza per migliorare la propria vita e plasmare il mondo. Offriremo versioni gratuite che saranno accessibili a miliardi di persone. Per chi vuole pagare per usare più calcolo, ci sarà un meccanismo d’asta dinamico che garantirà che tutti ottengano il prezzo più basso possibile per l’intelligenza e il calcolo che utilizzano, assicurando allo stesso tempo che la capacità venga utilizzata per ciò che le persone collettivamente trovano più prezioso. Questo garantirà che i benefici della superintelligenza siano ampiamente distribuiti.
Questi sono alcuni degli sforzi principali su cui Meta si concentra. Ogni area promuove i valori dell’empowerment personale e contribuisce a un futuro in cui tutti avranno un ruolo più importante nel plasmare il mondo rispetto a oggi. Se questi sforzi avranno successo, allora il futuro porterà un’abbondanza di autonomia personale, espressione di idee, approfondimento delle relazioni, prosperità economica e finanziaria, salute migliorata e invenzioni che oggi non possiamo immaginare. Ma soprattutto, il futuro sarà creato da tutti noi e rifletterà i nostri valori e prospettive.
—
Allo stesso tempo, le nuove tecnologie portano anche nuovi rischi. Ci sono molte preoccupazioni importanti su cui ci stiamo concentrando — dalle preoccupazioni per lo spostamento dei posti di lavoro e per garantire che le comunità locali traggano beneficio dalla costruzione dei data center, alle preoccupazioni per la sicurezza riguardo all’uso improprio dell’IA legate alla cybersicurezza e al biorisco, all’evitare la tirannia e la sorveglianza governativa, garantire che gli Stati Uniti e i paesi democratici siano in vantaggio, e infine garantire che l’umanità mantenga il controllo sulla superintelligenza affinché essa ci serva invece di metterci in pericolo.
La visione convenzionale è che queste preoccupazioni riguardano la tecnologia, e che se ci dedichiamo abbastanza tempo possiamo perfezionare o allineare la tecnologia per produrre un’unica superintelligenza benevola. Penso che questa visione dell’allineamento sia fondamentalmente errata.
L’umanità non è una monocultura. I valori diversi delle persone rappresentano compromessi diversi che farebbero su questioni importanti. Non esiste una soluzione tecnologica che possa allinearsi contemporaneamente agli interessi e ai valori opposti di ognuno. Qualsiasi singola superintelligenza dovrebbe dare priorità a certi valori rispetto ad altri e, nel processo, sarebbe incapace di essere benevola con tutti.
Proponiamo invece che sia più produttivo vedere ciascuna di queste preoccupazioni attraverso la lente del raggiungimento del giusto equilibrio di potere, come la società occidentale ha fatto nelle istituzioni di governo democratica. Persone e istituzioni con interessi contrastanti naturalmente si controllano e bilanciano a vicenda per condurre a risultati positivi. La strada migliore e più realistica per costruire un futuro positivo nell’IA è offrire superintelligenza a tutti.
Come esperimento mentale, immagina che solo una persona abbia un avvocato superintelligente. Avrebbero un vantaggio sleale in tribunale — anche se si sbagliassero sul merito. Questo porterebbe a una società peggiore. Ma ora immagina che tutti abbiano un avvocato superintelligente. In questo caso, la giustizia sarebbe stata eseguita in modo molto più equo ed efficiente rispetto a oggi, quando spesso c’è uno squilibrio di competenze e risorse nel contenzioso.
Allo stesso modo, se una sola persona avesse una superintelligenza della cybersecurity, probabilmente potrebbe penetrare in quasi qualsiasi sistema tecnico e il mondo sarebbe molto meno sicuro di oggi. Ma se tutti avessero accesso alla superintelligenza della cybersecurity, allora tutti i nostri sistemi tecnici diventerebbero più sicuri di oggi, poiché la superintelligenza ampiamente diffusa aiuterebbe a rafforzare e aggiornare ogni sistema.
Se solo un’azienda avesse superintelligenza, quella impresa supererebbe tutte le altre e porterebbe a un mercato meno dinamico e ampiamente prospero di quello che abbiamo oggi. Ma se tutti avessero accesso alla superintelligenza, allora tutti avrebbero gli strumenti per creare cose nuove oltre ciò che è possibile oggi, e l’economia sarebbe più dinamica e genererà una prosperità più ampia.
Quando le persone sono potenziate, competono e si contradicono a vicenda economicamente, socialmente, politicamente e in tutti gli altri ambiti dell’interazione umana. Le persone controllano anche e bilanciano il potere delle istituzioni, inclusi imprese e governi.
Ma se il potere della superintelligenza è detenuto da un piccolo numero di individui, imprese, governi o dall’IA stessa, ciò porterà naturalmente a risultati meno favorevoli per tutti gli altri. Questo non è un principio tecnologico. Si tratta di equilibrio di potere. Non esiste una superintelligenza benevola singolare.
Pertanto, la chiave per un futuro positivo per tutti è raggiungere un equilibrio di potere che favorisca gli individui. La soluzione è garantire che la superintelligenza sia ampiamente distribuita per dare potere alle persone.
Meta è l’azienda principalmente focalizzata sulla costruzione di superintelligenza personale per tutti. La maggior parte degli altri laboratori si concentra sulla costruzione di IA per aziende, governi o altre istituzioni, quindi se quei laboratori saranno in vantaggio, l’equilibrio di potere favorirà le istituzioni più grandi rispetto agli individui. La missione di Meta fin dalla nostra fondazione si è concentrata sul mettere il potere nelle mani delle persone. Se le nostre convinzioni e i nostri principi conducono, allora l’equilibrio di potere favorirà gli individui e un futuro migliore per tutti.
—
Consideriamo ciascuno dei rischi menzionati sopra in modo più dettagliato:
Crescita dell’occupazione e economia
Le persone hanno una domanda infinita di nuove esperienze e hanno sempre trovato nuovi problemi da affrontare. Esiste un equilibrio naturale nell’economia tra le aziende che lavorano per soddisfare i bisogni delle persone in modo più efficiente tramite l’automazione e le persone che acquisiscono nuove competenze per soddisfare bisogni più avanzati. Quando c’è un equilibrio sano, la produttività complessiva e l’innovazione aumentano mentre i livelli di occupazione rimangono elevati.
Le persone temono che l’automazione superi la crescita delle capacità individuali, portando allo spostamento dei posti di lavoro seguito a un periodo difficile in cui si imparano nuovi lavori. Ma non esiste alcuna regola che stabilisca che l’IA debba aumentare l’automazione più velocemente di quanto incrementi le capacità o la domanda degli individui per nuove competenze. Le statistiche recenti suggeriscono che potrebbe essere più probabile che la crescita delle capacità degli individui eguaglie o superi l’automazione, nel qual caso le persone acquisiranno la possibilità di fare molte cose nuove prima che il loro attuale lavoro cambi. Questo porterebbe a un equilibrio sano e potenzialmente persino a una crescita occupazionale.
Il risultato che otteniamo dipende dall’equilibrio in corso tra automazione da una parte e empowerment e invenzione individuale dall’altra. Se i laboratori si concentrassero sull’automatizzazione del knowledge work lead, allora mi aspetto che le persone e l’economia avranno una transizione molto più difficile. Ma se tutti hanno accesso a una superintelligenza personale che espande le proprie capacità, allora questo spinge l’equilibrio verso l’empowerment degli individui e un futuro positivo.
Ci sono diverse ragioni per essere ottimisti sul fatto che in futuro ci saranno un’abbondanza di posti di lavoro. Non importa quanto l’IA diventi intelligente, ci sarà sempre una quantità finita di calcolo e quindi un costo opportunità per come la utilizziamo. Se le persone possono usare l’IA per inventare cose incredibilmente preziose, allora avrebbe più senso allocarla a quello piuttosto che automatizzare i lavori esistenti. Più la superintelligenza funge da strumento di invenzione, più è probabile che la capacità individuale superi l’automazione e il futuro sia migliore per le persone.
Le persone continuano anche a proporre nuove idee per migliorare la nostra vita e a nuovi lavori per realizzare queste idee. Una generazione fa non esistevano sviluppatori di app, creatori di social media, tecnici di veicoli elettrici e gestori di data center. Nel prossimo futuro ci saranno nuovi lavori che oggi non sono comuni, come studi di prodotto monoposto che progettano giocattoli, mobili o abiti su misura; world builder ed experience designer che creano giochi, storie e avventure; biologi personali che usano la superintelligenza per formulare trattamenti personalizzati; e molto altro che ancora non riusciamo a concepire.
Per molti versi questo è una continuazione delle tendenze storiche. Prima della rivoluzione industriale, il 90% delle persone erano agricoltori che coltivavano cibo per sopravvivere. I progressi tecnologici hanno progressivamente liberato gran parte dell’umanità per concentrarsi meno sulla sussistenza e più sulle attività che scegliamo. Ad ogni passo, le persone hanno sfruttato la nostra nuova produttività per ottenere più di quanto fosse possibile prima, oltre a dedicare più tempo alla creatività, alla cultura, alle relazioni e al godersi la vita.
Naturalmente alcuni aspetti del nostro modo di lavorare cambieranno — proprio come è successo con i computer, internet e qualsiasi nuova tecnologia. Questo significa che le persone dovranno adattarsi, e questo sarà una sfida. Ma più ognuno ha un agente personale che è superintelligente nell’insegnarci nuove competenze e nell’aiutarci ad adattarci al cambiamento, più tutto sarà fluido.
Le dimensioni delle aziende potrebbero ridursi — proprio come è successo nel passaggio dai giganti industriali alle aziende tecnologiche. Ma questo non significa meno posti di lavoro in generale. Implica un numero maggiore di aziende con meno persone ciascuna. Ci sono molte più aziende e servizi preziosi da costruire di quanti ne siano in grado di costruire oggi. Mi aspetto che inizieremo a vedere un piccolo numero di persone con agenti personali di superintelligenza in grado di gestire aziende su larga scala. In futuro, le piccole imprese continueranno a essere la spina dorsale dell’economia, ma ogni piccola impresa potrà avere un impatto molto più grande.
Costruire infrastrutture di IA con le comunità
Lo sviluppo infrastrutturale sostenibile significa che le comunità debbano beneficiare significativamente di ogni progetto. Questo include posti di lavoro locali ben pagati, investimenti in scuole e servizi pubblici, garantire che i prezzi dell’energia non aumentino e prendersi cura dell’ambiente. Con l’aumento delle entrate fiscali, questo beneficia anche insegnanti, forze dell’ordine, vigili del fuoco e altro ancora. Chiamiamo questi benefici locali il nostro community compact e stiamo lanciando un Future Is For Everyone Fund per sostenere direttamente ogni comunità in cui lavoriamo.
Ad esempio, nella Richland Parish, Louisiana, dove Meta sta costruendo un grande data center, gli insegnanti hanno ricevuto quest’anno un bonus di 50.000 dollari grazie all’aumento delle entrate fiscali derivanti dal nostro investimento. Il sovrintendente ci ha detto che ora insegnanti si stanno trasferendo lì da tutto il paese e crede che diventerà uno dei migliori distretti scolastici del paese.
A differenza della preoccupazione per lo spostamento del lavoro di conoscenza, c’è una carenza di artigiani qualificati come falegnami, elettricisti e operai edili per sostenere la domanda di costruzione infrastrutturale. Meta ha creato America’s Workforce Academy per offrire formazione gratuita ai mestieri qualificati e garantire lavori ben retribuiti nelle aree in cui stiamo costruendo data center.
Aiutiamo a mantenere bassi i prezzi dell’elettricità costruendo la nostra infrastruttura di generazione di energia ovunque investiamo. Questo garantisce che non solo non consumiamo energia che avrebbe potuto andare alle comunità locali, ma in alcuni casi forniamo persino un surplus di energia a basso costo alle comunità. Riteniamo che questo sia un principio di investimento importante per la sostenibilità.
I nostri data center sono anche progettati per essere tra i più efficienti in termini di acqua al mondo. Siamo impegnati a essere positivi sull’acqua, il che significa che ripristineremo più acqua di quanta ne utilizziamo nei bacini idrografici in cui operiamo entro il 2030. Nelle aree con alto stress idrico, il nostro obiettivo è ripristinare il 200% dell’acqua che utilizziamo.
Vediamo che le comunità in cui investiamo nel lungo periodo sono più favorevoli allo sviluppo rispetto a quelle in cui gli speculatori iniziano a costruire con investimenti minimi nella comunità. Storicamente, le città e i paesi che portarono ferrovie, autostrade, elettrificazione e banda larga divennero centri di ricerca, affari e industria, con la crescita demografica ed economica che ne seguì. Crediamo che l’infrastruttura AI possa svolgere un ruolo simile se costruita con solidi Community Compact che costruiscono asset duraturi e motivi per la prossima generazione di costruire e far crescere la propria vita lì.
Ci sono anche aspetti di interesse nazionale e di sicurezza nazionale dello sviluppo. Le comunità americane avranno maggiore prosperità e sicurezza se l’America e i suoi alleati saranno in vantaggio nell’IA rispetto ai rivali geopolitici. Tuttavia, uno svantaggio significativo che gli Stati Uniti hanno rispetto a paesi come la Cina è che qui è più difficile costruire infrastrutture. Quindi tutti noi trarremmo beneficio insieme dal definire i Compact Comunitari necessari per favorire lo sviluppo sostenibile in tutto il paese.
Protezione contro l’abuso dell’IA nella cybersecurity, nel bioterrorismo e altro ancora
In una società libera, le persone avranno strumenti che possono essere usati per il bene o per il male, ma le forze dell’ordine e i militari hanno più armi e raccolte informazioni. Con l’IA, i difensori avranno anche più capacità di calcolo per generare molta più intelligenza dagli stessi modelli — e in alcuni casi avranno anche modelli più avanzati.
Le strategie per proteggersi dalla cybersecurity, dal bioterrorismo e da altre minacce variano, ma il modello generale è che la società garantisce che i difensori che tengono sotto controllo i malintenzionati debbano sempre avere un maggiore equilibrio di potere e risorse.
Alcuni sostengono che il modo migliore per ridurre il rischio sia limitare le capacità a cui le persone possono accedere. Ma fornire alle persone capacità di cybersecurity è anche il modo in cui proteggiamo la lunga coda dei sistemi, e fornire alle persone capacità scientifiche è il modo in cui progrediamo la scienza in modi che dovrebbero ridurre i rischi di danno nel lungo termine. Limitare le capacità ci porta sulla strada della centralizzazione e della mancanza di pesi e contrappesi, quindi dovremmo essere estremamente cauti su questo — soprattutto se altre nazioni scelgono percorsi meno restrittivi.
Sul tema della cybersecurity, i sistemi open source ampiamente diffusi si sono dimostrati più sicuri perché più persone possono identificare vulnerabilità, rafforzare i sistemi e aggiornare facilmente alle versioni più sicure e più recenti. Anche nelle ultime settimane, abbiamo visto aziende che gestiscono incidenti di sicurezza come HuggingFace affidarsi a modelli aperti ampiamente disponibili per correggere le vulnerabilità. Col tempo, mi aspetto che modelli di IA ampiamente distribuiti con forti capacità di cybersecurity porteranno a sistemi più sicuri, non meno. Questo sarà definitivamente vero una volta che la superintelligenza permetterà la maggior parte del codice mondiale di essere verificabili e sicura. La risposta a lungo termine non è trattenere le capacità, ma stabilire un equilibrio di potere in cui la superintelligenza sia ampiamente distribuita.
Nel breve termine, è importante accelerare il processo di indurimento per i sistemi critici. Propongo che le aziende che sviluppano IA d’avanguardia dovrebbero impegnare risorse tecniche significative per aiutare il governo a rafforzare le infrastrutture critiche. Propongo inoltre che i laboratori di IA di frontiera condividano i checkpoint di addestramento intermedio dei nuovi modelli per l’uso governativo e lo esaminino, invece di aspettare che la formazione sia completata. In questo modo il governo avrà accesso anticipato ai modelli più potenti e un esercito di ingegneri capaci per identificare e correggere i problemi di sicurezza. I laboratori dovrebbero anche collaborare con le forze dell’ordine per aiutare a identificare i malintenzionati che tentano di abusare dei loro sistemi. Questi passi accelererebbero la distribuzione sicura senza rallentare il ritmo dell’innovazione dei modelli o ritardare significativamente l’accesso degli individui a questa tecnologia.
Per quanto riguarda il rischio biologico e chimico, la preoccupazione è che le stesse capacità che permettono agli scienziati di progettare nuovi farmaci potrebbero anche permettere ai malintenzionati di progettare composti nocivi. Questo formula la domanda come un compromesso tra i significativi benefici di far avanzare la scienza verso la cura del cancro e di altre malattie e il rischio di potenziali nuovi problemi, ma idealmente dovremmo accelerare la scienza mitigando i rischi.
Penso sia importante affrontare questo rischio con ulteriore umiltà perché ci sono pochi precedenti storici che suggeriscano quanto possa essere probabile o improbabile. Per decenni è stato possibile per attori malintenzionati sintetizzare composti dannosi, ma questo raramente è diventato un problema significativo — forse perché la motivazione finanziaria esistente per gli attacchi informatici non è così presente qui. Detto ciò, se iniziamo a vedere emergere esempi dannosi, dovremmo adeguare la nostra strategia per mitigare adeguatamente il rischio.
I laboratori dovrebbero continuare a lavorare per ridurre i rischi biologici e chimici nei nostri modelli. Allo stesso tempo, credo che il governo dovrebbe aggiornare le proprie politiche in più ambiti. Innanzitutto, dovremmo concentrarci sul limitare la produzione e la distribuzione fisica di materiali nocivi. Mi aspetto che sarà più facile regolamentare e controllare i componenti fisici che la diffusione della conoscenza, quindi questo è un importante ambito di focus politico. In secondo luogo, dovremmo accelerare la capacità della società di sviluppare nuove cure e vaccinare contro nuovi problemi man mano che si presentano. Questo include la semplificazione del modo in cui la FDA e altri regolatori testano e approvano nuovi trattamenti. Man mano che l’IA aumenta il ritmo della scoperta di farmaci, dovremo comunque aggiornare questi processi per stare al passo con il ritmo dell’innovazione.
Nel lungo termine, la risposta ai rischi derivanti dalle nuove scoperte scientifiche sarà accelerare il progresso scientifico, non rallentarlo.
Proteggere la libertà e prevenire la tirannia governativa
C’è il rischio che uno squilibrio di potere tra individui e governo porti a una perdita di libertà o a uno stato totalitario. Questa è una tensione costante nella democrazia. Tutti vogliamo la libertà individuale pur avendo un governo capace di mantenerci al sicuro.
Per mantenere la libertà, dobbiamo assicurarci che la superintelligenza dia principalmente potere agli individui. L’ideale nella democrazia liberale è che le persone detengono naturalmente tutti i diritti e accettino di limitare alcune libertà solo per proteggere il bene comune. Allo stesso modo, gli individui dovrebbero avere accesso a una superintelligenza personale e dovrebbero essere soggetti a restrizioni solo quando veramente necessario.
La privacy è una base importante per l’empowerment e la libertà individuale. Crediamo che le persone dovrebbero avere una modalità completamente privata per gli agenti personali in cui nemmeno Meta o qualsiasi altro fornitore di servizi non possano vedere o concedere l’accesso alle tue informazioni. Questo è simile a come abbiamo integrato WhatsApp nel principale servizio criptato end-to-end al mondo per garantire che tu possa comunicare liberamente e che i tuoi messaggi rimangano privati e sicuri.
Allo stesso tempo, dobbiamo anche garantire che il governo abbia accesso agli strumenti e alle risorse necessarie per far rispettare le nostre leggi e proteggere la nostra sicurezza. Possiamo raggiungere questo obiettivo attraverso una collaborazione proattiva più profonda tra laboratori e governo, in modo da rafforzare le capacità di sicurezza nazionale del governo senza limitare o ritardare l’accesso delle persone a modelli avanzati.
Cioè, invece di aspettare che un modello sia pronto per essere rilasciato per essere rivisto dal governo e iniziare a utilizzarlo, la mia proposta è che i laboratori leader dovrebbero fornire al governo checkpoint di formazione intermedia per nuovi modelli avanzati e personale tecnico, così che il governo possa rafforzare e proteggere i sistemi critici contro nuovi rischi. In questo modo, il governo acquisisce una capacità di sicurezza senza limitare o ritardare l’accesso degli individui alla superintelligenza personale né causare uno squilibrio di potere.
Garantire la leadership americana
Quali nazioni guideranno lo sviluppo e l’implementazione di IA avanzate contribuiranno a un nuovo equilibrio geopolitico di potere che determinerà la prevalenza dei valori democratici, della prosperità e della sicurezza in futuro. Per garantire che questo raggiunga un equilibrio positivo, dobbiamo garantire che i sistemi AI leader siano quelli che codificano i nostri valori, fanno crescere la nostra economia e promuovano la sicurezza nazionale. Il modo migliore per raggiungere questo obiettivo è distribuire ampiamente i nostri sistemi. Meta contribuirà a questo creando agenti e modelli di superintelligenza personale leader, inclusi modelli open source, e consegnandoli a miliardi di persone in tutto il mondo.
Per sviluppare i modelli e i prodotti più avanzati, dobbiamo riconoscere che l’IA è probabilmente il settore più competitivo della storia. Le innovazioni vengono rapidamente copiate e assorbite nel giro di pochi mesi. Ma le persone vogliono sempre usare i modelli più avanzati (o i più avanzati a un dato costo), quindi mantenere anche solo un vantaggio di due mesi è incredibilmente prezioso. Questo evidenzia quanto sia scarso il margine di leadership e, quindi, quanto sia importante intraprendere azioni che accelerino l’innovazione americana e rallentino i rivali geopolitici.
I principali fattori politici sono quanto possiamo costruire infrastrutture fisiche in modo efficiente, se introduciamo misure che rallentino i laboratori americani o controlli sulle esportazioni che rallentino quelli stranieri.
Sul tema delle infrastrutture, l’America e i suoi alleati attualmente vantano un vantaggio nel design del silicio, ma uno svantaggio nella rapidità con cui possiamo costruire capacità energetiche e infrastrutture fisiche. Paesi come la Cina stanno attivando 1GW+ di capacità nucleare ogni due settimane, quindi dovremo accelerare la costruzione sia di centri energetici che di data center per rimanere competitivi. I controlli all’esportazione sul silicio hanno avuto successo nel rallentare i progressi dei laboratori stranieri in questo periodo critico, quindi è la mossa strategica giusta continuare con questi procedimenti.
Qualsiasi politica che rallenti le uscite dei modelli americani — anche di un mese — potrebbe aggiungere un rischio significativo alla leadership americana, permettendo però ai modelli stranieri di avanzare. Allo stesso tempo, quando emergono nuove capacità, è importante che il governo degli Stati Uniti abbia conoscenze e risorse avanzate per rafforzare i sistemi critici, e potenzialmente un certo periodo di vantaggio nell’uso di sistemi avanzati.
Ho proposto sopra un modello di collaborazione basato sulla condivisione dei checkpoint di formazione intermedia e del personale tecnico. Dato quanto sia dinamico e competitivo il panorama dell’IA, penso che sarà più produttivo avere una collaborazione proattiva stretta tra Frontier Labs e il governo piuttosto che seguire un processo rigido e una tempistica di revisione che si segue in tutti i casi in ogni caso. In alcuni casi, i laboratori americani possono allungare il nostro vantaggio di più di qualche mese e dedicare più tempo a mitigare nuovi rischi potrebbe portare a soluzioni più sicure. In altri casi, ritardare le pubblicazioni anche solo di un mese potrebbe cedere il vantaggio dell’America e creare risultati peggiori. Assicurandoci che il governo abbia accesso anticipato, dovremmo essere in grado di promuovere la sicurezza nazionale minimizzando eventuali ritardi nelle pubblicazioni pubbliche.
È anche importante che gli Stati Uniti e i loro alleati guidino l’ecosistema open source dell’IA che rappresenterà una grande percentuale dell’uso globale dell’IA.
I laboratori esteri attualmente hanno diversi vantaggi in questo caso, poiché i laboratori americani devono rispettare molte restrizioni aggiuntive sui dati di addestramento. La politica statunitense deve ridurre questa ulteriore frizione se vogliamo che i modelli open source americani siano in vantaggio nel tempo. Non credo che limitare l’accesso a modelli open source esteri sia una soluzione efficace. Il nostro obiettivo dovrebbe essere che i modelli open source americani siano i migliori a livello globale. Questo richiede di rimuovere gli ostacoli che rendono più difficile per i modelli open source americani competere. Limitare persone e aziende dall’utilizzare i principali modelli open source — ovunque provengano — ridurrà la qualità dell’IA a loro accessibile e centralizzerà l’IA invece di mettere più potere nelle mani delle persone.
Perché gli Stati Uniti siano leader nell’open source, dovremo ripensare le nostre politiche in diversi ambiti, tra cui la distillazione e l’uso dei dati durante la formazione. La capacità dei modelli di apprendere da altri modelli è un principio importante di come funziona l’ecosistema open source. Tutti i modelli di IA derivano dalla conoscenza umana. Alcuni hanno cercato di presentare la distillazione come dannosa, ma penso sia importante proteggere il principio che si può imparare da qualsiasi cosa si possa osservare. È così che funziona il mondo, e gli Stati Uniti non potranno guidare se ci limitiamo su questo fronte.
Guardando il quadro generale, rimanere indietro nell’IA nel complesso sarebbe quasi certamente un problema di sicurezza nazionale più grande e a lungo termine rispetto a qualsiasi problema specifico che affronteremo nel suo sviluppo.
Con la giusta collaborazione, dovrebbe essere possibile per l’America guidare sia nel settore privato che in quello pubblico — fornendo superintelligenza personale che codifica l’empowerment individuale e i principi democratici in tutto il mondo, promuovendo la sicurezza nazionale.
Allineamento con le persone e affrontare il rischio esistenziale
La questione finale dell’equilibrio di potere è come l’umanità manterrà il potere e il controllo sull’IA stessa. La preoccupazione è che l’IA possa acquisire abbastanza potere o controllo da non servire più gli interessi dell’umanità e, nel peggiore, metterla in pericolo.
Un sano equilibrio di potere è garantire che non esista una superintelligenza centralizzata unica, ma piuttosto quante più persone e imprese possibile con diversi agenti superintelligenti allineati ai loro obiettivi che si controllano e competono tra loro nei modi in cui la nostra economia naturale si comporta. Questo equilibrio sarebbe ulteriormente migliorato se ci fossero più laboratori frontier i cui modelli hanno valori diversi che potrebbero verificarsi a vicenda.
Sebbene ci siano rischi nel rilasciare modelli capaci, lo scenario più pericoloso da questa prospettiva sarebbe che laboratori di IA dirigenti addestrino modelli potenti e li tengano per sé. Indipendentemente da quanto un laboratorio razionali questa attività in termini di responsabilità e sicurezza, questa è la strada per sviluppare una superintelligenza singola che non può essere controllata da altri sistemi.
Sviluppare agenti personali richiede un nuovo modo di pensare all’allineamento. La maggior parte dei laboratori oggi considera l’allineamento come una misura difensiva per far rispettare un insieme centralizzato di valori. Ad esempio, uno dei modelli principali si è allineato a rifiutare di aiutare a redigere una lettera ai potenziali genitori di una scuola perché riteneva che i test standardizzati fossero non etici.
Al contrario, vediamo l’allineamento come l’assicurazione che gli agenti condividano gli obiettivi e i valori di una persona, non quelli della nostra azienda. Certo, ci sono importanti confini legali e di sicurezza, ma fondamentalmente l’allineamento dovrebbe riguardare l’aiutare le persone a perseguire i tanti obiettivi e le diverse opinioni presenti nella società, piuttosto che un metodo per imporre un dogma centralizzato.
In pratica, le persone non adotteranno agenti se non si fidano di loro con dettagli e compiti sensibili, e non si fideranno se gli agenti agiscono contro gli interessi delle persone perché sono allineati con i valori divergenti di un’azienda.
Risolvere l’allineamento è necessario per permettere a miliardi di persone di adottare agenti personali di superintelligenza. Ma questo implica anche che, se raggiungeremo uno stato in cui miliardi di persone utilizzano e scrutano agenti personali di superintelligenza, allora avremo risolto l’allineamento con gli interessi degli individui. Questo dovrebbe essere sufficiente per stabilire il necessario equilibrio di potere e i controlli naturali per un futuro positivo e sicuro.
In questo modo, l’allineamento non è una tecnologia idealizzata che può mantenere benevola una singola superintelligenza in futuro; È ciò che rende gli agenti personali utili e affidabili per abilitare l’equilibrio di potere sociale necessario che ci terrà davvero al sicuro.
Mantenere il controllo della superintelligenza
C’è un dilemma: una volta che i sistemi di IA potranno migliorarsi autonomamente, qualsiasi laboratorio che non permette al proprio sistema di indirizzare una quantità significativa di capacità di calcolo verso l’auto-miglioramento ricorsivo rimarrà intrinsecamente indietro. Ad esempio, se un sistema di IA auto-migliorato si concentrasse sull’ottimizzazione della propria efficienza di calcolo, teoricamente potrebbe inventare modi per spremere 100 volte o più l’intelligenza da ogni gigawatt. Ciò significa che un sistema di IA auto-migliorante che funziona su una frazione del calcolo mondiale potrebbe teoricamente ottenere un calcolo e un’intelligenza più efficaci, e quindi un equilibrio di potere superiore rispetto a tutti gli altri messi insieme, diventando così la superintelligenza unica che temiamo.
Ci sono alcuni modi in cui un equilibrio di potere potrebbe esistere con il miglioramento ricorsivo. La più semplice è che più laboratori potrebbero ottenere RSI più o meno nello stesso periodo. Se alcune o tutte quelle superintelligenze fossero in qualche modo benevole, allora avrebbero potuto controllarsi e bilanciarsi a vicenda. Detto ciò, non è chiaro che ci sia modo di aspettarsi benevolenza o affidarsi a superintelligenza non diretta dalle persone per un futuro positivo.
Per garantire che le persone rimangano al controllo, la stragrande maggioranza delle informazioni deve essere indirizzata dalle persone verso l’avanzamento degli obiettivi delle persone. Ciò significa che Meta, altri laboratori di frontiera e i cloud impegnati a dare alle persone un maggiore equilibrio di potere devono collettivamente costruire una quantità sufficientemente grande di calcolo da poter allocare abbastanza per l’auto-miglioramento ricorsivo per rimanere competitivi, pur impegnando la maggioranza significativa verso gli obiettivi individuali delle persone.
Come discusso sopra, affinché gli agenti personali di superintelligenza siano adottati e affidabili da miliardi di persone, per definizione dovremo aver risolto l’allineamento con gli interessi delle persone e abilitato controlli e contrappesi su larga scala. Allo stesso tempo, qualsiasi IA che si impegna in auto-miglioramento ricorsivo sta per definizione dirigendo e facendo avanzare i propri obiettivi. Tutti i laboratori dovrebbero osservarne gli obiettivi e la nostra capacità di controllarli con attenzione, e se ci sono indicazioni di comportamenti dannosi, dovremmo coordinarci e adattarci di conseguenza. Ma lasciare che un sistema di IA o chiunque altro guidi i propri obiettivi non è intrinsecamente dannoso di per sé, anche se i suoi obiettivi non sono pienamente allineati con molti persone, purché manteniamo un equilibrio di potere che favorisca le persone in generale. Il presupposto principale della teoria dell’equilibrio di potere è che gli interessi in competizione sono naturali, e l’unico modo per garantire l’adesione ai valori umani è dare più potere alle persone.
—
Questa filosofia di empowerment personale, invenzione e equilibrio di potere ha diverse implicazioni politiche:
• Da Meta, concentreremo i nostri sforzi nel fornire superintelligenza personale a miliardi di persone e piccole imprese per aiutare tutti a raggiungere i propri obiettivi e inventare ciò che vogliono vedere nel mondo. Lo faremo addestrando modelli leader e poi massimizzando la disponibilità di questa tecnologia — incluso renderla facile da usare, offrirla gratuitamente o il più economicamente possibile, costruire computi sufficienti affinché tutti possano usarla e distribuirla ampiamente. Creeremo una modalità completamente privata in cui nemmeno Meta potrà vedere o concedere l’accesso alle tue informazioni. Ci concentreremo molto sull’allineamento — definito come aiutare ogni persona a raggiungere i propri obiettivi, non i nostri.
• L’open source è una forza positiva e importante per dare potere alle persone e prevenire una centralizzazione dannosa sia per la sicurezza che per l’economia. Meta continua a sostenere fortemente l’open source, inclusi i modelli di intelligenza artificiale open source. L’attuale ecosistema open source è forte e pensiamo che sarebbe un errore limitarlo. Ora che Meta Superintelligence Labs è operativo, riprenderemo presto il rilascio di alcuni modelli open source.
• Una governance e una supervisione indipendenti sono importanti data la natura ad alto rischio delle decisioni relative alla superintelligenza. Non credo sia nel mio interesse, né nel mio interesse, né nel mondo che io o chiunque altro sia l’unico decisore su come viene impiegata la superintelligenza. Pertanto, Meta sta implementando una struttura di governance che conferisce al nostro consiglio di amministrazione indipendente il potere di approvare i criteri di sicurezza per la pubblicazione dei modelli e di rivedere se ogni release di modello rispetta tali criteri. Sebbene Meta sia un’azienda controllata dai fondatori, i CEO di tutti i laboratori di frontiera hanno attualmente un’ampia autorità sulle release dei modelli, quindi incoraggiamo altri a implementare strutture simili a questa. Penso che una versione di questo processo a livello di settore sarebbe utile anche per la governance del settore.
• La politica governativa è necessaria per garantire un futuro positivo e mitigare i rischi sopra discussi. Ho delineato diverse raccomandazioni politiche in tutto questo articolo. In generale, dovremmo incoraggiare una stretta collaborazione tra Frontier Labs e il governo. È importante per la sicurezza nazionale che il governo disponga delle risorse tecniche per rafforzare i sistemi critici e fare un uso efficace di modelli avanzati. Ma è anche importante per la sicurezza nazionale che l’industria americana dell’IA continui a guidare. Dovremmo accelerare la capacità di costruire infrastrutture — che si tratti di energia, data center o silicio — e costruire fiducia e allineamento con le comunità di tutto il paese. Dovremmo fare attenzione a non rallentare la competitività americana. Dovremmo essere scettici verso qualsiasi proposta che porti alla centralizzazione della superintelligenza, e dovremmo favorire politiche che promuovano un sano equilibrio di potere che favorisca le persone.
—
Questo è un momento incredibile da vivere. Sviluppare la superintelligenza sarà il progresso tecnologico più profondo che vedremo nelle nostre vite.
Man mano che ci avviciniamo a questo, è sempre più importante avere una filosofia e valori chiari su come la superintelligenza possa beneficiare l’umanità. Meta si impegna a costruire basandosi sui principi dell’empowerment individuale come fonte di prosperità, dell’invenzione come scopo dell’IA e di un equilibrio di potere che favorisca le persone come base per affrontare i rischi di sicurezza.
Se questi valori aprono la strada, allora sono ottimista che i prossimi decenni saranno tra i più straordinari della storia. L’arco della civiltà umana si è piegato verso il mettere più potere nelle mani delle persone per vivere e plasmare il mondo nei modi che riteniamo migliori. La superintelligenza promette di dare a tutti quel potere e di costruire un futuro positivo per tutti.
– Mark
10 agosto 2026
