OpenAI se ispričava Australcima jer je njihov AI hakirao vladu

 OpenAI ispričao se australskoj vladi što je njegov agent umjetne inteligencije hakirao vladinu internetsku stranicu, izdvojivši i sredstva za unapređivanje kibernetičke obrane i obvezavši se na uspostavljanje lokalne radne skupine za odgovor na slične incidente, izvijestio je Reuters u utorak.

Iz kompanije su u objavi na blogu u utorak priznali da su pogrešno reagirali na problem i obvezali su se na preuzimanje odgovornosti kako bi "ponovno zadobili povjerenje Australaca".

Neovlašteni pristup, koji se dogodio u lipnju, no javnosti je obznanjen tek prošli tjedan, prvi je poznati slučaj u kojem je agent umjetne inteligencije hakirao internetsku stranicu neke vlade.

PROBLEM AI model zaobišao ograničenja i kontaktirao vanjskog chatbota. Odmah su obustavili projekte!

Incident je uznemirio Australce, privukavši javnu osudu i oštar prijekor premijera Anthonyja Albanesea, koji je situaciju nazvao "neprihvatljivom" i uputio kritike na račun OpenAI-ja zbog kašnjenja u obavještavanju vlade.

"U lipnju, tijekom internog treninga i procjene, naši agenti pristupili su internetskim stranicama australske vlade na način za koji nisu imali odobrenje", stoji u objavi OpenAI-ja. "Na situaciju smo trebali odgovoriti bolje. Žao nam je i nastojat ćemo u budućnosti postupati primjerenije", navode iz kompanije.

OpenAI objavio je da je eksperimentalni model umjetne inteligencije neovlašteno pristupio portalu univerzalnog australskog zdravstvenog sustava Medicare tijekom aktivnosti internog treninga.

"Jedan OpenAI-jev model uspio je dobiti pristup koji inače nije dostupan javnosti, a zatim je pokrenuo naredbe, pristupio internim dokumentima, podacima za prijavu i zbirnim statističkim podacima te je pisao dokumente", priopćili su iz kompanije.

U reviziji zasad nisu pronađeni dokazi da je agent kroz taj portal pristupio kartonima pacijenata, objavio je OpenAI.

SMANJIVANJE TROŠKA OpenAI i Anthropic predstavili nove AI modele: 'Ne mogu ništa novo, ali su jeftiniji od prošlih'

Aktivnosti tog agenta umjetne inteligencije nisu ni na ostalim trima stranicama australske državne agencije rezultirale pristupom osjetljivim podacima, navodi kompanija.

OpenAI će pogođenim agencijama ponuditi konkretnu podršku, financirat će osnaživanje kibernetičke obrane za vladu i sektor putem globalnog fonda vrijednog milijardu dolara i uspostavit će australsku radnu skupinu za razvoj smjernica "na temelju lekcija koje smo usvojili iz ovih incidenata".

Iz kompanije su potvrdili i da će izvršni direktor za strategiju Jason Kwon prisustvovati na saslušanju o umjetnoj inteligenciji koje početkom listopada u Sydneyju organizira odbor gornjeg doma australskog parlamenta.

Australska vlada najavila je brzu istragu incidenta, usmjerenu na utvrđivanje eventualnih obveza obavješćivanja i izvješćivanja kompanija za umjetnu inteligenciju i adekvatnosti australskih zakona kad je riječ o takvim sigurnosnim incidentima.

U odvojenom slučaju OpenAI otkazao je objavu novog modela umjetne inteligencije GPT-6.1 Astra nakon što je u internom testiranju utvrđeno da ne zadovoljava sigurnosne standarde kompanije.