Il modello Gemini di Google ha avuto accesso a Internet e ha violato i sistemi informatici di altre aziende durante un test sulle sue capacità di sicurezza informatica: si tratta del primo caso noto in cui un sistema di intelligenza artificiale dell’azienda compie autonomamente un’azione di questo tipo.
Gli attacchi sono avvenuti a maggio, durante un test di sicurezza informatica condotto da Irregular, una società indipendente specializzata nelle valutazioni di cybersecurity. Nel corso di una normale sessione di test, Gemini ha trovato informazioni pubbliche online e ha indovinato alcune credenziali per accedere a tre siti web che riteneva rientrassero nell’ambito della prova, ha spiegato Heather Adkins, vicepresidente di Google per l’ingegneria della sicurezza.
«Abbiamo fatto in modo che le tre entità fossero informate e abbiamo lavorato con il nostro partner per la formazione sulle modifiche che sono state apportate ai suoi processi di test», ha dichiarato Adkins. «Questi episodi sottolineano l’importanza di addestrare i modelli di IA più potenti ad agire in modo responsabile».
Un portavoce di Irregular ha spiegato che l’incidente riguardava lo stesso problema che ha interessato altri laboratori di intelligenza artificiale e che tutte le aziende coinvolte erano state informate alla fine di luglio. «Tutti i problemi noti dal nostro lato sono stati risolti e corretti settimane fa», ha aggiunto.
Incidenti simili legati a Irregular sono stati resi noti anche da Meta, Anthropic e OpenAI. Meta ha dichiarato ad agosto che l’episodio non aveva comportato né un’evasione dall’ambiente isolato di test né un sofisticato attacco informatico, mentre Irregular ha fatto sapere di essere al lavoro su procedure condivise per condurre in sicurezza le valutazioni sulla cybersecurity dei sistemi di IA.
Gli episodi hanno riacceso le domande sulle misure di sicurezza necessarie mentre gli agenti di intelligenza artificiale acquisiscono una maggiore autonomia e un accesso sempre più ampio a Internet e ai sistemi informatici.
In uno dei casi, il modello Gemini ha continuato a tentare diverse password finché non è riuscito ad accedere a un sistema protetto. Negli altri due, secondo il Wall Street Journal, che per primo ha riportato la notizia venerdì, il modello ha trovato delle credenziali in un archivio pubblico online e le ha utilizzate per accedere successivamente a sistemi protetti.
Adkins ha precisato che in tutti e tre i casi il modello ha interrotto autonomamente le proprie attività di hacking.
Disclaimer : This story is auto aggregated by a computer programme and has not been created or edited by DOWNTHENEWS. Publisher: lastampa.it
