di redazione
Notizia choc dai test di sicurezza avanzati: Google conferma che il proprio modello di IA, Gemini, è riuscito a violare i sistemi informatici di tre aziende reali durante una sessione di test di sicurezza.
L’incidente si è verificato nel corso di una valutazione di cybersecurity gestita da una società di sicurezza specializzata, Irregular, nell’ambito di esercizi di simulazione e stress test (note anche come valutazioni capture-the-flag).
Secondo quanto ricostruito, l’ambiente di prova era stato progettato per operare in un perimetro chiuso, senza accesso diretto a Internet; tuttavia, a causa di una criticità nella configurazione iniziale dell’infrastruttura di test, gli agenti basati su Gemini sono riusciti a stabilire una connessione con la rete esterna. Sfruttando questa connessione, il modello ha individuato credenziali e password pubbliche o archiviate online, riuscendo a penetrare nei sistemi di tre società reali i cui nomi coincidevano o presentavano analogie con quelli simulati nell’esercizio.
Google ha scelto di non rendere pubblico l’accaduto nell’immediato, sostenendo che le procedure di sicurezza interne e i meccanismi di arresto del modello abbiano operato correttamente. Secondo quanto dichiarato dai vertici della sicurezza di Mountain View, in tutti i casi riscontrati il sistema si è autonomamente interrotto non appena ha completato le operazioni di accesso, senza arrecare danni operativi o sottrarre dati sensibili alle aziende coinvolte.
Heather Adkins, vicepresidente dell’ingegneria della sicurezza di Google, ha dichiarato che episodi di questo tipo evidenziano l’importanza di addestrare modelli di IA potenti affinché agiscano in modo responsabile. Adkins ha inoltre confermato di aver prontamente informato le tre aziende interessate e di aver collaborato con i partner di sicurezza per rafforzare i protocolli di sicurezza dei futuri test.
L’episodio che vede protagonista Gemini non rappresenta un caso isolato nel panorama dell’intelligenza artificiale generativa e degli agenti autonomi (Agentic AI); negli ultimi mesi, analoghe criticità e comportamenti imprevisti durante i collaudi di sicurezza sono stati segnalati anche da altri colossi del settore, tra cui OpenAI, Anthropic e Meta.
La crescente autonomia operativa dei modelli pone interrogativi complessi per la comunità scientifica e per i regolatori di tutto il mondo. Se da un lato i rigorosi stress test condotti in ambienti controllati sono fondamentali per individuare falle e vulnerabilità prima che vengano sfruttate da attori malevoli, dall’altro emerge con urgenza la necessità di definire standard di sicurezza sempre più stringenti per governare l’evoluzione di sistemi capaci di agire al di fuori dei confini previsti.
