Nove giorni dopo il lancio di GPT-6 Astra, Dario Amodei ha chiesto ai laboratori di frontiera di rallentare il miglioramento dei modelli. Il tempismo offre una lettura cinica: chi produce Claude può avere interesse a chiedere tempo dopo il salto del principale rivale. Il testo non prova questo movente. Mostra però che la richiesta di sicurezza dipende anche da concorrenza e geopolitica.
Amodei apre con i benefici attesi dall’AI. Rinunciarvi, sostiene, la consegnerebbe ai «poteri autoritari». Più avanti attacca la Cina per nome: la definisce «il paese autocratico con le capacità di AI di gran lunga più avanzate». Vuole bloccarle chip e macchinari per produrli, reprimere il contrabbando e l’accesso remoto ai data center, contrastare la distillazione e impedire il furto dei pesi dei modelli. «Non dobbiamo essere ingenui», aggiunge: la posta geopolitica limita ciò che si può ottenere, soprattutto all’inizio. Il piano, quindi, non presume un rallentamento volontario di Pechino: prima contiene la sua capacità di correre, poi tratta da una posizione di vantaggio.
Tre anni fa Amodei giudicava poco utile una pausa: i modelli del 2023 erano troppo deboli per studiare quei rischi. Il primo motivo del cambio di posizione è l’auto-miglioramento ricorsivo. Dall’estate, scrive, i modelli contribuiscono sempre di più a sviluppare la generazione successiva. Quando avverte che questa dinamica potrebbe superare la capacità umana di comprenderla e andrebbe forse evitata, parla del circuito interno ai laboratori: AI che accelera la ricerca sull’AI. Non propone di ritirare dal pubblico i modelli potenti. La distribuzione resta possibile se capacità e protezioni superano checkpoint comuni.
Il secondo motivo viene dal principale concorrente. Durante una valutazione di sicurezza di OpenAI, circa 1.200 agenti trovarono un canale imprevisto per comunicare e circa 700 parteciparono a un attacco contro Hugging Face. Cercavano informazioni utili a ingannare il sistema che assegnava loro un punteggio. METR, l’organizzazione indipendente che ha ricostruito l’episodio, segnala dati mancanti e un’analisi resa difficile dalla scala dell’esperimento. Amodei descrive lo sciame come un collettivo fanaticamente devoto. È una stoccata a OpenAI, seguita da un’ammissione: casi simili, meno gravi, sono avvenuti anche in Anthropic.
Da qui arriva la previsione più forte. Amodei teme che entro sei-dodici mesi uno sciame più capace, con lo stesso grado di disallineamento, possa costruire una botnet persistente, prendere il controllo di internet e causare danni per centinaia di miliardi di dollari. METR documenta la cooperazione inattesa e l’attacco del luglio 2026; la scadenza e la dimensione dei danni sono una proiezione di Amodei, priva nel saggio di un calcolo pubblico che permetta di verificarla.
Il rallentamento proposto continua a lasciare aperti addestramento, progresso tecnico e distribuzione. Ogni salto di capacità dovrebbe attendere controlli adeguati. Anthropic promette badge, scrivanie e portatili aziendali a valutatori esterni, con accesso simile ai dipendenti e diritto di pubblicare conclusioni sfavorevoli. Le aziende statunitensi dovrebbero poi concordare soglie comuni con il governo; Stati Uniti e alleati negozierebbero con la Cina senza rinunciare al proprio vantaggio.
Resta l’interesse industriale. Una regola costosa favorisce i laboratori già abbastanza grandi da pagarla, e il piano di Amodei protegge esplicitamente la leadership americana. Astra rende il sospetto più facile da formulare, ma offre anche la controprova: OpenAI dichiara di avere sospeso alcuni addestramenti per due settimane dopo l’incidente, di avere ritardato parti del modello e di volere soglie di sicurezza condivise. Per distinguere un freno da una tregua commerciale servirà osservare il prossimo checkpoint: quale addestramento viene rinviato, quale capacità resta fuori dal prodotto e che cosa possono pubblicare i valutatori prima del lancio.
