Asimov non è più fantascienza: così la California "sperimenta" l'IA kill switch

Il governatore della California, Gavin Newsom, ha firmato un ordine esecutivo che accelera l’attuazione delle norme statali sulla supervisione indipendente dell’intelligenza artificiale e avvia formalmente la progettazione di un meccanismo di arresto d’emergenza per i modelli più avanzati.

Il provvedimento affida alla California Government Operations Agency, in coordinamento con l’ufficio statale per la gestione delle emergenze, il compito di convocare esperti nazionali e presentare entro due mesi linee guida per rafforzare il quadro legislativo esistente. Tra le ipotesi allo studio figurano la presenza stabile di verificatori indipendenti nei laboratori, audit esterni sui piani di sicurezza e test periodici sull’efficacia delle procedure di spegnimento.

E' come se il futuro raccontato dallo scienziato scrittore Isaac Asimov fosse diventato realtà con le leggi della robotica che dovevano "regolare" il comportamento dei robot nei confronti degli umani.

Non si tratta, tuttavia, dell’installazione immediata di un “interruttore” governativo, bensì della definizione di requisiti tecnici e regolatori verificabili. La necessità di un intervento strutturale discende dalla crescente complessità dei sistemi autonomi. Quando un modello agisce per mezzo di agenti in grado di utilizzare strumenti esterni, aprire sessioni, scrivere codice, interrogare database o pianificare attività successive, la semplice disattivazione del modello centrale non basta a interrompere processi già avviati. Per ottenere un arresto realmente efficace occorre operare in modo coordinato su molteplici componenti: credenziali, code di lavoro, memoria operativa, permessi, collegamenti di rete e risorse cloud.

In quest’ottica, il kill switch è meglio inteso come un insieme integrato di procedure di contenimento, più che come un singolo dispositivo o pulsante. Come rilevato da diversi specialisti interpellati da Scientific American, i possibili livelli d’intervento includono l’interruzione fisica o di rete, l’isolamento crittografico, controlli di cybersicurezza e segnali hardware periodici, in assenza dei quali i chip cesserebbero di funzionare. Gli esperti avvertono però che ridurre un ecosistema complesso alla metafora dell’interruttore rischia di oscurare l’importanza del monitoraggio continuo, delle procedure organizzative e della catena di autorizzazioni umane.

Se a livello locale il contenimento può risultare gestibile, su scala globale — soprattutto dopo la diffusione pubblica dei pesi dei modelli — l’operazione si complica notevolmente, poiché non esiste un comando universale capace di eliminare dalla rete un sistema già distribuito. L’evoluzione del quadro regolatorio richiede dunque una governance articolata, dotata di una chiara catena di responsabilità, registrazione delle motivazioni, limiti temporali, revisione indipendente e controlli parlamentari o giudiziari compatibili con la gestione delle emergenze.

In questa prospettiva si colloca la risposta graduata prevista dall’AI Kill Switch Act, concepita per limitare inizialmente singole funzionalità o specifiche classi di utenti, evitando di ricorrere subito alla misura più drastica. Mentre il Congresso degli Stati Uniti valuta l’introduzione di un potere federale d’emergenza — al momento fermo in commissione — il dibattito si concentra sulla domanda operativa cruciale: come intervenire quando le misure preventive falliscono? La risposta passa dalla progettazione di sistemi più governabili, caratterizzati da accessi revocabili, componenti separabili, registri forensi ed esercitazioni obbligatorie, così da garantire che, nei momenti di crisi, il potere decisionale effettivo resti saldamente nelle mani degli esseri umani.