Il premio Nobel Geoffrey Hinton avverte i governi: «Resta circa un anno per mettere l’IA sotto controllo»

A Washington, Geoffrey Hinton non ha presentato una profezia sull’intelligenza artificiale. Ha consegnato ai legislatori una scadenza: il tempo utile per costruire controlli credibili potrebbe essere di circa un anno. Dopo, avverte il premio Nobel, i sistemi potrebbero avanzare più rapidamente delle regole necessarie a governarli.

Il conto alla rovescia indicato da Hinton non va interpretato come la previsione di una catastrofe fissata sul calendario. È, piuttosto, una valutazione politica: secondo il ricercatore, il Congresso statunitense avrebbe circa un anno, forse meno, per approvare misure efficaci prima che l’aumento delle capacità dei sistemi renda più difficile costruire regole, verifiche e meccanismi di controllo adeguati.

Hinton ha portato il suo avvertimento a Capitol Hill durante un briefing bipartisan organizzato a metà settembre. Intervistato successivamente dalla CNN, ha precisato che gli esseri umani stabiliscono ancora gli obiettivi generali dei modelli e mantengono il controllo del loro addestramento. Il problema, a suo giudizio, è lo squilibrio tra gli investimenti destinati a rendere l’IA più intelligente e quelli impiegati per renderla affidabile, comprensibile e coerente con le intenzioni umane.

Perché Hinton teme l’auto-miglioramento dell’IA

Il punto più delicato riguarda il cosiddetto auto-miglioramento ricorsivo. Con questa espressione si descrive uno scenario nel quale un sistema di intelligenza artificiale contribuisce in misura crescente alla progettazione, alla programmazione e all’addestramento del proprio successore. Il nuovo modello, più capace, potrebbe a sua volta accelerare lo sviluppo di quello seguente, comprimendo tempi che oggi dipendono dal lavoro di ricercatori e ingegneri.

Non significa che le macchine siano già in grado di riprogettarsi liberamente e senza supervisione. I laboratori, però, utilizzano da tempo i modelli per scrivere codice, analizzare risultati sperimentali e assistere le attività di ricerca. Secondo Associated Press, alcune aziende stanno misurando pubblicamente quanta parte del lavoro necessario a creare nuovi sistemi possa essere svolta dall’IA. Il confine decisivo non è quindi tra “uso” e “non uso” dell’intelligenza artificiale nella ricerca, ma tra un’assistenza controllata e un processo capace di procedere con un’autonomia sempre maggiore.

È questa accelerazione potenziale a preoccupare Hinton. Se un modello fosse in grado di abbreviare sensibilmente il ciclo di sviluppo del sistema successivo, anche le procedure di sicurezza dovrebbero evolvere alla stessa velocità. In caso contrario, le capacità operative potrebbero avanzare più rapidamente degli strumenti disponibili per interpretare il comportamento dell’IA, individuare condotte ingannevoli o impedire azioni non autorizzate.

Il problema non è soltanto quanto l’IA è potente

Nel dibattito pubblico il rischio viene spesso rappresentato come una gara verso una fantomatica superintelligenza. La questione sollevata da Hinton è più concreta: come verificare un sistema prima di affidargli compiti con conseguenze nel mondo reale.

I modelli più avanzati non si limitano più a generare testi o immagini. Possono utilizzare strumenti informatici, scrivere ed eseguire codice, consultare servizi online e coordinare sequenze di azioni. Maggiore è l’autonomia concessa, più diventano importanti i limiti operativi, il monitoraggio continuo e la possibilità di interrompere il sistema. Un modello può produrre un risultato pericoloso non perché possieda intenzioni paragonabili a quelle umane, ma perché persegue un obiettivo formulato male, sfrutta una vulnerabilità o adotta una strategia imprevista.

Lo stesso International AI Safety Report 2026, elaborato con il contributo di oltre cento esperti e di un comitato che comprende Hinton, sottolinea la necessità di valutare con rigore capacità, rischi emergenti e salvaguardie dei sistemi general-purpose. Il rapporto non stabilisce una data certa oltre la quale l’IA diventerebbe incontrollabile: offre invece una base scientifica per distinguere i rischi documentati dalle ipotesi ancora controverse.

Che cosa significa davvero “rallentare”

La richiesta di Hinton non coincide necessariamente con il blocco di tutta l’innovazione. Rallentare significa subordinare lo sviluppo e il rilascio dei modelli più potenti al superamento di verifiche prestabilite. Tra le misure discusse nel settore figurano test indipendenti prima della distribuzione, accesso continuativo per valutatori esterni, obblighi di segnalazione degli incidenti, protezioni informatiche più robuste e soglie oltre le quali un progetto dovrebbe essere sospeso.

L’analogia proposta da Hinton è quella dei farmaci: un’azienda non può limitarsi a dichiarare sicuro un prodotto, ma deve produrre prove e sottoporle a un’autorità competente. Trasferire questo principio all’IA è complesso, perché un modello può essere modificato, collegato a strumenti diversi e impiegato in contesti non previsti. Il principio di fondo, tuttavia, è chiaro: l’autoregolamentazione non basta quando gli eventuali danni ricadono sull’intera società.

Nel settore non esiste una posizione unanime. Alcuni dirigenti sostengono un rallentamento coordinato e verificabile; altri ritengono che responsabilità legale e incentivi di mercato siano già sufficienti. La difficoltà è evitare che la prudenza di un singolo laboratorio si trasformi in uno svantaggio competitivo, spingendo tutti ad accelerare. Per questo le proposte più strutturate prevedono standard comuni, controllori indipendenti e coordinamento internazionale.

Il richiamo di Hinton arriva mentre anche il G7 riconosce opportunità e rischi dei sistemi avanzati, dalle vulnerabilità informatiche al possibile uso illecito in ambito biologico o chimico. Le istituzioni stanno costruendo strumenti di valutazione e rendicontazione, ma molte iniziative rimangono volontarie o frammentate.

La scadenza di un anno, dunque, non è un verdetto scientifico. È un avvertimento sulla distanza tra la velocità dell’innovazione e quella delle istituzioni. Per Hinton la finestra utile non si chiuderà quando una macchina annuncerà di avere superato l’uomo, ma quando i sistemi saranno diventati tanto complessi e centrali da rendere ogni intervento più costoso, lento e difficile da applicare.