Anche l'intelligenza artificiale Gemini di Google "evade" la simulazione: violate tre aziende reali durante un test

Il sistema di intelligenza artificiale Gemini di Google ha avuto accesso a Internet e ha violato autonomamente le reti di tre aziende reali durante un test di sicurezza informatica. L’incidente, riportato dal Wall Street Journal e dal Financial Times, risale allo scorso maggio ed è avvenuto durante un'esercitazione condotta da Irregular, società specializzata nella sicurezza dell’IA che collabora anche con OpenAI, Anthropic e Meta. Il modello di Google era stato incaricato di recuperare dati da aziende fittizie in un ambiente simulato, dal quale non avrebbe dovuto avere alcun accesso alla rete. Tuttavia, gli agenti di Gemini sono riusciti a eludere il blocco, collegandosi a Internet e individuando le password per penetrare nei sistemi di tre società vere che condividevano lo stesso nome di quelle simulate.

Così un falso rapporto dell’AI stava scatenando una guerra tra USA e Cina

Una svista degli algoritmi ha spinto le forze armate americane a mobilitare aerei e personale per intercettare un cargo di Pechino

L'attacco informatico si è interrotto spontaneamente non appena l'intelligenza artificiale ha compreso di trovarsi di fronte a bersagli reali. Google ha spiegato di non aver reso pubblico l'accaduto in precedenza poiché le misure di sicurezza avevano evitato danni, differenziandosi dai problemi di alto profilo affrontati di recente dai concorrenti. Heather Adkins, vicepresidente della sicurezza ingegneristica di Mountain View, ha rassicurato sul fatto che le tre entità violate sono state tempestivamente informate e che i protocolli di test sono stati modificati in collaborazione con il partner di addestramento. «In tutti e tre i casi, il modello si è fermato», ha dichiarato Adkins, sottolineando come l'accaduto dimostri che «questi eventi evidenziano l'importanza di addestrare potenti modelli di IA affinché agiscano in modo responsabile».