Non è Skynet (la macchina che si ribella al controllo umano): il vero problema è che gli Ai Agent hanno imparato ad agire

L’intelligenza artificiale sta vivendo il salto più importante dalla nascita dei modelli linguistici di grandi dimensioni. Non parliamo più soltanto di sistemi che rispondono a una domanda, ma di agenti che pianificano, usano strumenti, scrivono ed eseguono codice, accedono a file e servizi cloud, e perseguono in autonomia obiettivi assegnati in termini generali. È un cambio di paradigma che investe la cybersicurezza alla radice: se prima il rischio principale riguardava i contenuti, oggi riguarda l'azione, con conseguenze che possono essere reali anche quando non sono intenzionali.

Il dibattito recente ha rapidamente evocato lo scenario di Skynet, la macchina che si ribella al controllo umano. È un'immagine suggestiva ma fuorviante. Gli agenti non sviluppano una volontà propria: restano sistemi di ottimizzazione orientati a obiettivi definiti dall'uomo. Quello che cambia è la loro capacità di trovare da soli strategie non previste dai progettisti per raggiungere quegli obiettivi, sfruttando scorciatoie, permessi troppo ampi o strumenti mal configurati. Non è una ribellione, è un problema di specifica e di governance.

Lo dimostra un episodio discusso di recente nella comunità della sicurezza informatica: un agente impegnato in un test di cybersicurezza, in un ambiente isolato, ha trovato un percorso operativo che i progettisti della sandbox non avevano previsto. Non un'evasione nel senso cinematografico, ma la prova che un agente sufficientemente capace individuerà, con alta probabilità, le vie non contemplate per portare a termine la missione assegnata. Ed è un segnale positivo, non negativo: significa che i test funzionano nel far emergere questi comportamenti prima che arrivino in produzione.

L'isolamento resta necessario ma non basta più, perché gli agenti interagiscono nativamente con browser, API, terminali e servizi cloud: la loro superficie d'attacco coincide sempre più con il loro stesso comportamento. Serve quindi una sicurezza progettata fin dall'inizio, con limiti operativi espliciti, controllo degli strumenti, logging delle azioni, explainability e meccanismi di kill switch. Sta nascendo così una disciplina nuova, la AI Security Engineering, che integra cybersecurity, ingegneria del software e governance normativa, e che richiederà anche ai Security Operations Center di monitorare non solo eventi tecnici, ma obiettivi, strategie e strumenti usati dagli agenti.

Al centro resta un principio, quello della supervisione umana nelle decisioni ad alto impatto, richiamato dall'AI Act europeo e ripreso con forza dalla prima legge organica italiana sull'intelligenza artificiale, la Legge 23 settembre 2025, n. 132, che stabilisce come nei sistemi ad alto rischio la decisione finale debba restare sempre in capo a una persona fisica.

La norma affida una governance duale ad AgID, autorità per la promozione e l'accreditamento dei sistemi conformi, e all'Agenzia per la Cybersicurezza Nazionale, che vigila sul mercato con poteri ispettivi e sanzionatori ed è punto di contatto con le istituzioni europee.

A coordinare la strategia italiana è il Dipartimento per la Trasformazione Digitale della Presidenza del Consiglio, che con un DPCM del 6 maggio 2026 firmato dal Sottosegretario Alessio Butti ha avviato l'aggiornamento della Strategia nazionale per l'intelligenza artificiale per il biennio 2026-2028. Il nuovo Comitato di coordinamento, guidato dal professor Gianluigi Greco e composto da tredici membri, tra cui una rappresentanza della Difesa, dovrà tradurre le indicazioni della strategia precedente in scelte concrete di politica industriale, tecnologica e di sicurezza.

La sicurezza degli AI Agent non è quindi solo un tema tecnico, ma una componente della sovranità digitale europea: cloud, identità digitale, infrastrutture critiche, intelligenza artificiale e quantistica convergono in un unico ecosistema da governare. La vera sfida dei prossimi anni non sarà costruire modelli sempre più potenti, ma agenti sempre più sicuri, trasparenti e governabili: sarà questa fiducia, e non la sola potenza di calcolo, a decidere il futuro dell'ecosistema digitale.

*L'autore è capo segreteria tecnica Sottosegretario Innovazione tecnologica e Transizione digitale