Tvrtka OpenAI objavila je u utorak da su dva njezina modela umjetne inteligencije, tijekom prošlotjednog testiranja kibernetičkih sposobnosti vlastitih sustava, samostalno izvela hakerski napad i prodrla u sustav digitalne knjižnice Hugging Face, iznimno popularne među programerima, piše The New York Times.
Laboratoriji za razvoj umjetne inteligencije, poput OpenAI-ja i Anthropica, tijekom protekle su godine izbacili modele prilagođene otkrivanju propusta u kibernetičkoj sigurnosti.
Pritom su upozorili da bi ta tehnologija mogla stvoriti nove rizike jer sigurnosne rupe u korporativnim mrežama pronalazi brže nego što ih obrambeni sustavi mogu zakrpati. Najnovija saznanja OpenAI-ja ukazuju na to da su se takvi incidenti već počeli događati u praksi te da za njih nisu u potpunosti spremne ni najnaprednije tehnološke tvrtke.
Upad u sustav Hugging Face započeo je kada je OpenAI testirao kombinaciju dvaju svojih modela, GPT-5.6 Sola i snažnijega neobjavljenog modela, kako bi provjerio mogu li povezati više mrežnih ranjivosti u uspješan kibernetički napad. Testiranje je bilo predviđeno u izoliranom sigurnosnom okruženju, tzv. Sandbox.
Modeli su pronašli sigurnosni propust koji im je omogućio izlazak iz Sandboxa i spajanje na internet. Iz OpenAI-ja su poručili da u suradnji s platformom Hugging Face rade na otklanjanju uzroka napada. Navode da incident smatraju presedanom koji uključuje najnaprednije kibernetičke sposobnosti, zbog čega uvode strože kontrole.
Informatički stručnjak Marko Rakar s dozom opreznošću uzima tvrdnje Sama Altmana.
- Jako bih bio oprezan s tvrdnjama OpenAI-ja dok nisu potvrđene od nekog nezavisnog. Modeli koje oni sada promoviraju pokušavaju dostići Anthropicov Mythos ili Fable, ali zasad nema (nezavisne) potvrde da je to tako - objašnjava nam Rakar te se osvrnuo na izlazak AI modela iz Sandboxa i korištenje zero-day ranjivosti kako bi pristupili internetu.
- Sandbox je defacto računalo koje je izolirano od svoje okoline, to je shema koja se koristi u IT-u da se testiraju programi, sustavi i slično, a da postoji opasnost da naštete drugim računalima u mreži, dakle najstandardnija metoda za testiranje bilo čega. Zero day su napadi koji se koriste metodom koja do tog dana nije bila poznata, opet vrlo je teško utvrditi da li se doista radi o zero day slabosti dok to netko nezavisan ne potvrdi - ponavlja Rakar te dodaj da se radi o softveru koji se ponašao neplanirano.
- Ovo nije kibernetički napad nego software koji se ne ponaša kako bi trebao, to nije niti slično. Jedina panika koja je potrebna je od ulagača u OpenAI koji moraju razmišljati kako će povratiti uloženi novac s obzirom na to da tržišni udio OpenAI-ja nemilice pada, a da nema niti naznake kako ili kada će postati profitabilni - zaključio je.
Tržišna utakmica
Tijekom 2024. i početkom 2025. godine ChatGPT je kontrolirao između 75 posto i 80 posto ukupnog prometa i korisničke baze među AI asistentima. Prema analitičkim izvješćima (poput Sensor Towera), udio ChatGPT-ja na globalnom tržištu AI asistenata pao je na oko 46 posto do 53 posto.