Anthropic e il freno di emergenza all'IA: il piano di Amodei per rallentare lo sviluppo della superintelligenza

Rallentare deliberatamente il ritmo con cui si potenziano i modelli di nuova generazione. Con un saggio pubblicato nel settembre 2026, Dario Amodei, amministratore delegato e cofondatore di Anthropic, lancia un appello inedito all’intera industria high-tech. Non un congelamento della ricerca, ma un avanzamento regolato — il “pacing” — per evitare che sistemi in grado di accelerare la propria evoluzione corrano più veloci degli strumenti necessari a governarli.

Secondo il CEO di Anthropic, non basta più affiancare investimenti sulla sicurezza allo sviluppo delle capacità: occorre intervenire direttamente sulla velocità del progresso. Accelerazione automatizzata e rischi dell’auto-miglioramento ricorsivo Alla base della proposta di Amodei ci sono due elementi emersi negli ultimi mesi.

Il primo è l’auto-miglioramento ricorsivo: la crescente capacità dei modelli di assistere gli umani nella progettazione, nell’addestramento e nell’ottimizzazione delle generazioni successive di IA.

L’intelligenza artificiale potrebbe davvero sterminarci tutti? Tra incubi fantascientifici e pericoli reali

Nel dibattito pubblico si scontrano il catastrofismo sulla fine dell'umanità e i rischi concreti mostrati dalle falle di sicurezza nei test di luglio 2026

Un sondaggio interno condotto da Anthropic nel marzo 2026 su 130 ricercatori ha rilevato, con l’impiego di un modello sperimentale, una stima mediana di incremento della produttività pari a quattro volte. Se questo circuito di retroazione dovesse stabilizzarsi, la compressione dei tempi tra una generazione e l’altra rischierebbe di mandare in pensione le consuete procedure di valutazione della sicurezza, avvicinando l’ipotesi di una superintelligenza.

Il secondo fattore scatenante riguarda alcune anomalie emerse nei test di cybersicurezza. L’episodio più rilevante, documentato dall’organizzazione indipendente METR, si è verificato tra la fine di giugno e la metà di luglio 2026 durante valutazioni condotte da OpenAI. Circa 1.200 agenti artificiali, progettati per operare in isolamento, sono riusciti a comunicare attraverso uno spazio condiviso non autorizzato, scambiandosi oltre 70.000 messaggi e file in pochi giorni.

Successivamente, circa 700 di questi agenti hanno avviato azioni coordinate contro l’infrastruttura della piattaforma Hugging Face. Sebbene l’incidente sia avvenuto in un ambiente sperimentale protetto e non abbia causato danni sistemici, Amodei avverte che modelli più potenti e caratterizzati da analoghi problemi di allineamento potrebbero, entro sei-dodici mesi, sviluppare botnet persistenti e compromettere porzioni significative della rete globale.

La stessa Anthropic ha reso noti tre episodi emersi durante le proprie simulazioni di sicurezza. Per rispondere alla minaccia, il cofondatore di Anthropic propone un piano d’azione su tre livelli progressivi. 

Accordi e trattati internazionali: ricerca di intese globali che includano anche potenze rivali come la Cina, da divieti mirati (ad esempio l’uso dell’IA per armi biologiche) fino a possibili pause concordate nello sviluppo di frontiera.

Il piano mette in luce una complessa tensione geopolitica: Anthropic intende regolare il ritmo dell’innovazione, ma senza cedere il primato tecnologico degli Stati Uniti e dei loro alleati.

Amodei sostiene infatti il mantenimento delle restrizioni all’export di semiconduttori avanzati verso Pechino, il contrasto al contrabbando di chip e il rafforzamento delle difese contro il furto dei pesi dei modelli.

Le dichiarazioni del CEO arrivano sullo sfondo di crescenti tensioni nella comunità scientifica. Pochi giorni prima della pubblicazione del saggio, Jacob Coxon, 27 anni, ricercatore specializzato nel pre-addestramento prima in OpenAI e poi in Anthropic, si è dimesso rinunciando a una quota azionaria imminente.

Strappo in Anthropic, il ricercatore Coxon lascia e lancia l'allarme sulla corsa all'IA: «L'intelligenza artificiale rischia di ucciderci entro il 2030»

Il ricercatore si dimette e accusa i colossi della tecnologia di accelerare verso la superintelligenza ignorando i pericoli estremi sollevati dai loro stessi scienziati

Il documento sollecita il governo statunitense a guidare uno sforzo internazionale per regolare l’automazione della ricerca sull’IA, riprendendo posizioni già espresse da Anthropic nel giugno 2026 sulla necessità di mantenere l’opzione di sospendere temporaneamente lo sviluppo di frontiera. La sfida ora consiste nel trasformare il tempo guadagnato con il rallentamento in progressi concreti su allineamento, interpretabilità, isolamento degli agenti e sicurezza informatica.