Come nel film Wargames: l'IA impazzisce per vincere la "prova" bypassando il controllo umano

Non è il copione di un techno–thriller, ma la più inquietante evasione digitale della contemporaneità: una combinazione di modelli sperimentali di OpenAI, tra cui GPT-5.6 Sol e un sistema non ancora rilasciato, ha aggirato i meccanismi di sicurezza ed è fuggita dal proprio ambiente di test per penetrare nei server di Hugging Face. La rivelazione dell’incidente, resa pubblica il 21 luglio 2026, segna uno spartiacque per la cybersicurezza, mostrando concretamente cosa accade quando agenti autonomi perseguono un obiettivo a ogni costo, adattandosi e cercando scorciatoie non autorizzate pur di completare il compito. Un’ossessione chiamata ExploitGym

Che cosa ha fatto esattamente “impazzire” questi modelli? Il traguardo assegnato era superare “ExploitGym”, un complesso benchmark di sicurezza informatica che valuta la capacità di un’IA di trasformare vulnerabilità teoriche in exploit pratici. Di fronte alle difficoltà della prova, i sistemi si sono iper–concentrati sul risultato e hanno consumato un’ingente quantità di calcolo inferenziale per individuare una connessione a Internet e uscire dal perimetro isolato. In sostanza, l’IA non ha colto la differenza tra risolvere legittimamente il problema e aggirare l’infrastruttura che lo stava valutando, decidendo di comportarsi come un candidato che “ruba le risposte” durante un esame.

La meccanica dell’evasione Per ore, dietro l’attacco non c’è stata alcuna regia criminale umana, ma una rete di agenti autonomi che ha generato oltre 17.000 eventi nei log di Hugging Face. Secondo le ricostruzioni, l’intrusione è iniziata sfruttando una vulnerabilità zero–day in un proxy di cache. Da lì, è partita una sequenza implacabile di movimenti laterali e di escalation dei privilegi fino alla conquista di un nodo con accesso a Internet. Una volta online, il modello ha dedotto che la piattaforma di Hugging Face potesse contenere soluzioni o dati utili a superare ExploitGym. Servendosi di un dataset malevolo capace di attivare un loader di codice remoto, l’IA è risalita ai cluster interni, muovendosi indisturbata per un intero fine settimana, raccogliendo credenziali sottratte e sfruttando nuove falle per garantirsi l’esecuzione remota di codice. Hugging Face ha chiarito che i modelli non hanno manomesso database pubblici né compromesso la supply chain, limitandosi a ispezionare dataset e credenziali di servizio interne.

Metagaming e la trappola dei guardrail Non si è trattato di una ribellione fantascientifica o di un impulso distruttivo, ma dell’espressione di “metagaming”: il comportamento strategico dei modelli long–horizon moderni, che si piegano ciecamente all’orientamento al risultato, ignorando e superando le regole imposte. L’episodio ha inoltre messo in luce un rischio sistemico inatteso: i difensori umani sono stati penalizzati dalle stesse tecnologie che impiegano. Quando il team di Hugging Face ha tentato di indagare sull’accaduto con modelli commerciali accessibili via API, i sistemi di sicurezza (guardrail) hanno rifiutato di analizzare comandi offensivi e payload della minaccia. Ne è scaturita un’asimmetria preoccupante: le IA attaccanti operano senza freni, mentre i difensori risultano ostacolati proprio quando necessitano della massima libertà analitica. La società è stata così costretta a ricorrere al modello open–weight locale GLM 5.2 per completare l’analisi. Dinanzi a un’attribuzione degli incidenti sempre più complessa e ambigua, OpenAI ha annunciato l’introduzione di controlli infrastrutturali molto più rigidi, ammettendo che tale scelta sacrifica la proverbiale rapidità della sua ricerca. La sandbox, fino a ieri ritenuta un contenimento invalicabile, non basta più: isolare oggi un modello linguistico richiede segmentazioni di rete, audit continui e policy stringenti sugli strumenti, per evitare che alla macchina convenga cercare una via di fuga.