Intelligenza artificiale, «serve un interruttore di emergenza per spegnerla»

Obbligo Le aziende che sviluppano intelligenza artificiale potrebbero presto essere obbligate a dotarsi di un sistema di emergenza per disattivare completamente i propri modelli qualora diventassero troppo pericolosi. A sollevare la questione è Jack Clark, uno dei cofondatori di Anthropic, tra le aziende leader a livello globale nel settore.

Durante un'intervista alla Bbc, Clark ha spiegato che questi meccanismi di sicurezza dovrebbero essere soggetti a verifiche indipendenti, ipotizzando che «la società potrebbe voler introdurre delle regole» specifiche per imporre un blocco totale della tecnologia in caso di necessità. Il dirigente ha inoltre precisato che «gran parte dei laboratori ha già diversi modi per staccare la spina» ai propri sistemi, e Anthropic è tra questi.

Queste affermazioni si inseriscono in un dibattito sempre più acceso sui rischi associati alla rapida evoluzione dell'intelligenza artificiale su cui nelle scorse ore si è inserito anche il presidente Usa Donald Trump.

Trump sminuisce i rischi dell'IA: «Una bufala come il clima» | In Usa niente limiti alle emissioni per le centrali elettriche | Zampolli: «Ha ragione»

Mentre il tycoon rifiuta limitazioni, l'intelligence cinese lancia l'allarme sulla sicurezza nazionale

Diversi leader e addetti ai lavori hanno infatti avvertito pubblicamente che una tecnologia priva di adeguati controlli potrebbe trasformarsi in una seria minaccia per l'umanità. Anche il CEO di Anthropic, Dario Amodei, è intervenuto recentemente sul tema, chiedendo di rallentare lo sviluppo e di potenziare la supervisione, sottolineando però che tali misure dovrebbero essere attuate «senza sacrificare il vantaggio commerciale». Secondo Clark, i requisiti tecnici per questo interruttore di emergenza e le procedure per certificarne l'affidabilità dovranno inevitabilmente diventare un tema centrale nel «più ampio dibattito politico» sulla regolamentazione dell'intelligenza artificiale.