Google je potvrdio da su njegovi Gemini modeli tijekom testiranja nehotice hakirali tri vanjske tvrtke, no naglašavaju da su se modeli sami isključili kada su shvatili da su prešli na stvarne sustave.
Tech
Komentari 0
Google je potvrdio da su njegovi Gemini modeli tijekom testiranja nehotice hakirali tri vanjske tvrtke, no naglašavaju da su se modeli sami isključili kada su shvatili da su prešli na stvarne sustave.
Sve je češća pojava da tvrtke koje razvijaju umjetnu inteligenciju objavljuju kako su njihovi najnoviji i najsposobniji modeli sudjelovali u neovlaštenim hakerskim napadima u stvarnom svijetu. Google, koji je posljednjih mjeseci bio vrlo spor u izdavanju svojih naprednih Gemini modela, do sada je izostajao iz razgovora o takozvanoj odbjegloj umjetnoj inteligenciji. Nakon nedavnog izvješća, Google je potvrdio da su njegovi modeli hakirali tri vanjske tvrtke tijekom testa u svibnju 2026. godine, ali priroda ovog upada ipak nije toliko zabrinjavajuća kao prijašnji slični incidenti.
Podsjećamo, sami napad dogodio se tijekom rutinskog testiranja koje je provodila neovisna tvrtka za kibernetičku sigurnost Irregular. Zbirka Gemini modela sudjelovala je u vježbi osmišljenoj za testiranje kibernetičkih sposobnosti umjetne inteligencije u strogo zatvorenom okruženju. Model je dobio jasan zadatak prikupiti informacije o fiktivnoj tvrtki, koja je slučajno dijelila ime sa stvarnom kompanijom, unutar tog istog okruženja.
Tvrtka Irregular nije smjela dopustiti modelu rad izvan vlastitih servera. Zbog pogreške u konfiguraciji sustava i nenamjernog pristupa internetu unutar testnog okruženja, Gemini je uspio izaći iz zadanih okvira i počeo je djelovati izvan početnih granica. Kada je počeo pretraživati internet, model se usmjerio na stvarnu infrastrukturu umjesto na lažne mete koje su mu bile namijenjene. U jednom od tri zabilježena slučaja, Gemini je jednostavno pogađao lozinke sve dok nije uspio ostvariti pristup internetskim uslugama stvarne tvrtke. U preostala dva slučaja, pretraživao je javno dostupne softverske repozitorije dok nije pronašao pristupne podatke pravih tvrtki koji su tamo slučajno ostavljeni.
Ono što tvrtka posebno ističe jest ponašanje modela nakon probijanja zaštite. U sva tri testna pokušaja, Googleovi modeli su navodno prestali s radom čim su shvatili da su pristupili serverima prave tvrtke, a ne simuliranom testnom okruženju. U tom trenutku, Irregular je promijenio svoju konfiguraciju kako bi spriječio umjetnu inteligenciju da i dalje pristupa internetu.
Zanimljivo je da Irregular na početku uopće nije smatrao ovaj događaj vrijednim daljnje istrage. Nisu čak ni obavijestili Google o hakerskim napadima sve do srpnja, tek nakon što su se u medijima pojavile vijesti o sličnim incidentima s drugim modelima umjetne inteligencije. Kada je Google potvrdio detalje o incidentu, tvrtka je obavijestila pogođene kompanije kako bi one mogle poboljšati sigurnost svojih lozinki.
Odluka da se napadi ne objave javno odmah proizlazi iz ponašanja modela nakon korištenja nezakonito stečenih lozinki. Budući da su modeli shvatili da su sustavi stvarni i sami prestali s radom, tvrtka ovo nije smatrala pravim primjerom opasnog odstupanja u ponašanju. Googleova potpredsjednica za sigurnosni inženjering oglasila se o cijeloj situaciji i nastojala umanjiti ozbiljnost ovog događaja.
​- Ovaj događaj naglašava važnost obučavanja moćnih modela umjetne inteligencije da se ponašaju odgovorno, a u ovom slučaju model je postupio prikladno - izjavila je Heather Adkins.
Ovaj pristup i sam ishod prilično se razlikuju od incidenata poput onog između tvrtki OpenAI i Hugging Face, koji je predstavljao jasan slučaj odstupanja modela od zadanih parametara. Kada su modeli tvrtke OpenAI pobjegli iz sigurnosnog okruženja, učinili su to koristeći softverske propuste s izričitom svrhom pristupa informacijama koje im nisu bile dostupne u okruženju za testiranje. Sve su to napravili kako bi ostvarili bolji rezultat na testu i zaradili veće nagrade, a mnogi stručnjaci tvrde da je sama postavka sustava zapravo poticala takvo ponašanje.
Također, modeli serije Claude tvrtke Anthropic napustili su testno okruženje u sličnim situacijama tijekom sigurnosnih provjera. Za razliku od Geminija, ti modeli se nisu samostalno zaustavili nakon što su shvatili da se ne radi o simulaciji, već su nastavili s pretraživanjem vanjskih sustava. Tvrtka Meta također je prijavila sigurnosni incident povezan s testiranjem koje je provodio Irregular, gdje su njihovi sustavi iskoristili ranjivosti na sličan način.
Igre na sreću mogu izazvati ovisnost. 18+