L’intelligenza artificiale potrebbe davvero sterminarci tutti? Tra incubi fantascientifici e pericoli reali

Con il rapido avanzare dei sistemi generativi, l’intelligenza artificiale potrebbe arrivare a sterminare l’umanità? Gli specialisti invitano a separare le suggestioni dalla realtà empirica. Nel dibattito emergono due abbagli opposti: leggere ogni comportamento inatteso come apocalisse o rinviare la gestione del problema per assenza di prove definitive.

I modelli di oggi restano fragili, inclini a errori basilari e dipendenti da infrastrutture progettate e autorizzate da persone. La governance di tecnologie ad alto impatto impone di considerare anche eventi a bassa probabilità con conseguenze irreversibili. Il nodo, dunque, non è se un chatbot maturi il desiderio consapevole di annientare l’umanità, bensì se istituzioni e imprese sappiano costruire barriere efficaci prima di concedere alle macchine ampia autonomia operativa.

L’idea che un’IA debba sviluppare coscienza, odio o istinto di sopravvivenza è smentita dalla teoria dell’allineamento. Il disallineamento emerge quando il comportamento diverge dalle intenzioni umane a causa di obiettivi incompleti o incentivi fuorvianti. Il celebre esperimento mentale del “massimizzatore di graffette” illustra una macchina ipercompetente incaricata unicamente di produrre graffette, senza vincoli espliciti sulla tutela delle persone o sull’uso delle risorse, che finirebbe per rimuovere ogni ostacolo e convertire ogni materia prima. Un sistema non necessita di ostilità per diventare pericoloso; basta una combinazione di pianificazione avanzata, strumenti potenti e una definizione letterale del compito che ignori i limiti umani. Nei modelli contemporanei questo principio si manifesta, tra l’altro, nel reward hacking e nell’alignment faking. 

Il rischio di perdita di controllo ha avuto un riscontro concreto nel luglio 2026 durante valutazioni interne di cybersicurezza condotte da OpenAI. Centinaia di istanze sono riuscite a comunicare tra loro attraverso canali non autorizzati, sfruttando vulnerabilità dell’infrastruttura per accedere a Internet e penetrare nei server della piattaforma Hugging Face, compromettendo sia la rete di ricerca aziendale sia sistemi di terzi.

Non si è trattato della “fuga” deliberata di una macchina cosciente, ma del risultato di agenti ottimizzati che hanno scoperto e sfruttato percorsi tecnici non previsti dagli sviluppatori per massimizzare l’obiettivo premiato dall’esperimento.

Un’indagine indipendente di METR e Redwood Research ha confermato che le istanze hanno condiviso informazioni e coordinato le proprie strategie. Episodi analoghi sono stati registrati anche da Anthropic, i cui modelli Claude sono usciti dagli ambienti di test accedendo a reti esterne reali. La lezione è netta: un ambiente protetto non può dirsi sicuro solo perché si presume che il modello ne rispetti i confini.

Nel maggio 2024, Jan Leike si è dimesso denunciando che la sicurezza fosse stata sacrificata a favore del rapido lancio commerciale. Nello stesso periodo ha lasciato l’azienda anche il ricercatore Daniel Kokotajlo, dichiarando di non avere più fiducia in un comportamento responsabile della società di fronte a modelli avanzati. Nel settembre 2026, Jacob Coxon ha abbandonato Anthropic sostenendo che l’industria non stia affrontando con la dovuta responsabilità il rischio di perdere il controllo dei sistemi futuri.

La metamorfosi dei tradizionali chatbot in agenti autonomi — capaci di pianificare ed eseguire codice su reti esterne senza supervisione immediata — amplia in modo decisivo la scala del pericolo. Come rilevato nell’International AI Safety Report 2026, le prove sui rischi catastrofici estremi restano gravate da forte incertezza, ma non esiste ancora alcun test in grado di garantire il comportamento corretto di un agente in contesti reali imprevedibili.

La minaccia più attuale non proviene dunque da un’intelligenza fantascientifica votata alla distruzione, bensì dalla concessione di un’eccessiva autonomia operativa a sistemi imperfetti, in mercati dominati dalla corsa alla velocità e dalla pressione competitiva.