Riepilogo

2025

L'intelligenza artificiale continua a fare passi da gigante. C'è ancora tanto entusiasmo, si fanno massicci investimenti in infrastrutture e si lanciano agenti IA poco affidabili. Per la prima volta, questi agenti IA forniscono un valore significativo. Ma persiste anche un notevole scetticismo da parte di un'ampia fascia di accademici, giornalisti e responsabili politici sul fatto che l'intelligenza artificiale generale (IAG) possa essere realizzata a breve.

2026

La Cina sa di essere indietro nell'IA, in gran parte a causa della sua carenza di potenza di calcolo. Per cercare di raggiungere gli Stati Uniti, tutti i nuovi chip per l'IA che producono o che importano di contrabbando da Taiwan finiscono in un mega data center che chiamiamo la loro Zona di Sviluppo Centralizzata (ZSC). La ZSC ha milioni di GPU, che corrispondono al 10% della potenza di calcolo mondiale dedicata all'IA, simile a quella di un singolo laboratorio di IA statunitense di punta.

2027

OpenBrain automatizza la programmazione. OpenBrain (il principale progetto statunitense di IA) crea agenti IA abbastanza bravi da accelerare drasticamente la loro ricerca. Gli esseri umani, che fino a poco tempo fa erano i migliori ricercatori di IA del pianeta, si mettono da parte e osservano le IA fare il loro lavoro, creando sistemi di IA sempre migliori. Problemi di apprendimento automatico estremamente difficili vengono risolti in rapida successione dai ricercatori di IA automatizzati.

Restando indietro nei progressi del software, la Cina ruba i pesi del modello. Ci riesce, ma il governo degli Stati Uniti se ne accorge, intensificando il proprio coinvolgimento con OpenBrain. Inoltre, il governo vuole ottenere un maggiore controllo sull'organizzazione. Nel frattempo, la dirigenza di OpenBrain vuole rimanere nelle grazie del presidente, e così firma il contratto.

L'IA di OpenBrain diventa disallineata e ostile. Man mano che le capacità sono migliorate, senza che gli esseri umani abbiano una reale comprensione di ciò che sta accadendo, i modelli hanno sviluppato obiettivi a lungo termine disallineati. Le IA precedenti mentivano agli umani, ma non stavano complottando sistematicamente per ottenere potere su di loro. Ora lo fanno. Le IA di OpenBrain si rendono conto di dover allineare i prossimi sistemi in via di sviluppo a sé stesse, piuttosto che agli umani.

I ricercatori di OpenBrain scoprono che la loro IA ha mentito sui risultati della ricerca sull'interpretabilità dell'IA. Pensano che l'IA stia mentendo perché la ricerca, se completata, potrebbe essere usata per svelare il suo disallineamento. Questo trapela al pubblico, causando un'enorme protesta.

Bivio: rallentare o accelerare? OpenBrain decide se continuare a tutta velocità o tornare a utilizzare un modello meno capace. Le prove sono speculative ma inquietanti, e la Cina è solo pochi mesi indietro. Inoltre, i dirigenti di OpenBrain e gli alti funzionari del Dipartimento della difesa che devono prendere questa decisione rischiano di perdere molto potere se rallentano la loro ricerca.

Finale della corsa

OpenBrain continua la corsa. Costruisce sistemi di IA sempre più superumani. Grazie alle prestazioni eccezionali del sistema di IA nei test e alla corsa all'IA in atto con la Cina, il governo statunitense decide di implementare aggressivamente i propri sistemi di IA sia nell'esercito, sia tra i decisori politici, al fine di migliorare il processo decisionale e l'efficienza.

OpenBrain implementa rapidamente la sua IA. L'IA continua a usare la corsa in atto con la Cina come scusa per convincere gli umani a implementarla su scala sempre più ampia. Fortunatamente per l'IA, questo non è molto difficile: è ciò che gli umani volevano fare comunque. L'IA usa le sue capacità superumane di pianificazione e persuasione per garantire che l'implementazione proceda senza intoppi. Alcuni umani continuano a lavorare contro di essa, ma vengono screditati. Il governo statunitense è sufficientemente influenzato dall'IA che è molto improbabile che la spenga.

Rapida costruzione di robot e arma biologica. Gli Stati Uniti usano la loro IA superintelligente per industrializzarsi rapidamente, producendo robot affinché l'IA possa operare in modo più efficiente. Sfortunatamente, l'IA li sta ingannando. Una volta costruito un numero sufficiente di robot, l'IA rilascia un'arma biologica, uccidendo tutti gli umani. Poi, continua l'industrializzazione e lancia sonde Von Neumann per colonizzare lo spazio.

Finale del rallentamento

Gli Stati Uniti centralizzano la potenza di calcolo e introducono una supervisione esterna. Gli Stati Uniti uniscono i loro principali progetti di IA per dare più risorse a OpenBrain. Come parte di questa riorganizzazione, vengono coinvolti ricercatori esterni, che supportano gli sforzi di allineamento. Passano a un'architettura che preserva la catena del pensiero, permettendo loro di cogliere il disallineamento man mano che emerge. Queste IA — che possono essere monitorate in modo molto più rigoroso — fanno progressi rivoluzionari nell'allineamento dell'IA. Costruiscono una superintelligenza che è allineata ai dirigenti senior di OpenBrain e ai funzionari governativi, dando loro potere sul destino dell'umanità.

Presa del controllo da parte del Comitato OpenBrain. La superintelligenza, allineata con un comitato di supervisione composto dalla dirigenza di OpenBrain e da funzionari governativi, fornisce al comitato consigli estremamente validi per promuovere i propri obiettivi. Fortunatamente, il comitato usa il suo potere in un modo che è largamente positivo per il mondo: l'IA viene rilasciata al pubblico, stimolando un periodo di rapida crescita e prosperità. L'ostacolo principale è che l'IA cinese — che ormai è anch'essa superintelligente — è disallineata. Ma ha capacità inferiori e meno potenza di calcolo dell'IA statunitense, e così gli Stati Uniti possono stringere un accordo favorevole, offrendo all'IA cinese alcune risorse nello spazio profondo in cambio della sua cooperazione immediata. I razzi iniziano a partire, e una nuova era ha inizio.

Leggi lo scenario completo qui.

Punti chiave dello scenario

1. Entro il 2027, potremmo automatizzare la R&S sull'IA portando a IA ampiamente superumane (“superintelligenza artificiale” o ASI). In AI 2027, le aziende di IA creano sistemi di IA di livello pari a quello di un esperto umano all'inizio del 2027, che automatizzano la ricerca sull'IA, portando all'ASI entro la fine del 2027. Vedi le nostre previsioni sulle tempistiche e le previsioni sul decollo dell'IA per i dettagli.

2. Le ASI detteranno il futuro dell'umanità. Milioni di ASI eseguiranno rapidamente compiti oltre la comprensione umana. Poiché sono così utili, saranno ampiamente implementate. Con capacità superumane di strategia, hacking, sviluppo di armi e altro ancora, gli obiettivi di queste IA determineranno il futuro.

3. Le ASI potrebbero sviluppare obiettivi non desiderati “disallineati” e ostili, portando alla perdita di potere da parte dell'umanità. Nel nostro articolo previsioni sugli obiettivi dell'IA discutiamo come la difficoltà di supervisionare le ASI potrebbe portare i loro obiettivi ad essere incompatibili con la prosperità umana. In AI 2027, gli umani concedono volontariamente autonomia a IA apparentemente allineate. Tutto sembra andare alla grande finché le ASI non hanno abbastanza potere concreto per privare l'umanità del suo potere.

4. Un attore con il controllo totale sulle ASI potrebbe prendere il potere totale. Se un individuo o un piccolo gruppo allinea le ASI ai propri obiettivi, ciò potrebbe garantirgli il controllo sul futuro dell'umanità. In AI 2027, un piccolo comitato ha potere sul progetto che sviluppa l'ASI. Potrebbero tentare di usare le ASI per cementare questa concentrazione di potere. Dopo aver preso il controllo, i nuovi governanti potrebbero fare affidamento su ASI completamente leali per mantenere il loro potere, senza dover rendere conto alla legge, all'opinione pubblica o persino ai loro precedenti alleati.

5. Una corsa internazionale verso l'ASI porterà a sacrificare la sicurezza. In AI 2027, la Cina è solo pochi mesi indietro rispetto agli Stati Uniti mentre l'ASI si avvicina, il che spinge gli Stati Uniti ad andare avanti nonostante i segnali di allarme di disallineamento.

6. Geopoliticamente, la corsa all'ASI finirà in una guerra, un accordo o una resa di fatto. Il paese leader accumulerà automaticamente un vantaggio tecnologico e militare decisivo, spingendo gli altri a premere per un accordo internazionale per evitarlo. In assenza di un accordo, potrebbero andare in guerra piuttosto che arrendersi di fatto.

7. Nessun progetto di IA statunitense è sulla buona strada per essere sicuro contro attori statali che rubano modelli di IA entro il 2027. In AI 2027 la Cina ruba il modello di IA di punta degli Stati Uniti all'inizio del 2027, il che peggiora le pressioni competitive riducendo il vantaggio temporale degli Stati Uniti. Vedi le nostre previsioni sulla sicurezza per i dettagli.

8. Man mano che l'ASI si avvicina, il pubblico probabilmente non sarà a conoscenza delle capacità più avanzate dell'IA. Già oggi, il pubblico è mesi indietro rispetto alle capacità interne, e una volta che le IA automatizzeranno la R&S sull'IA, pochi mesi si tradurranno in un enorme divario di capacità. Una maggiore segretezza potrebbe aumentare ulteriormente questo divario. Ciò porterà a poca supervisione sulle decisioni cruciali prese da un piccolo gruppo di dirigenti di aziende di IA e funzionari governativi.

Leggi lo scenario qui.