Dodaj 24sata među omiljene izvore na Googleu
Incidenti su potaknuli istraživače i vlade da zatraže strože mjere zaštite i rigoroznije testiranje
NAKON OPENAI-JA I ANTROPHICA
Meta: Naš AI je pristupio internetu i hakirao drugu firmu
Čitanje članka:
2
min
Dodaj 24sata među omiljene izvore na Googleu
Meta, vlasnik Facebooka, izjavio je da je zbog problema tijekom evaluacije od strane neovisne testne tvrtke jedan od njegovih modela umjetne inteligencije (AI) uspio se povezati s internetom i hakirati sustav druge organizacije.
Ova najava dolazi nakon nedavnih incidenata u cijeloj AI industriji, uključujući proboje modela OpenAI-ja i Anthropica, koji su potaknuli zabrinutost za kibernetičku sigurnost.
Glasnogovornik Mete izjavio je za BBC da istražuje hakerski napad uzrokovan „pogrešnom konfiguracijom“, koju je opisao sličnom ranije prijavljenim incidentima u drugim tvrtkama.
Incidenti su potaknuli istraživače i vlade da zatraže strože mjere zaštite i rigoroznije testiranje.
Iz Mete su poručili da su sigurnosna testiranja provedena od strane Irregulara, iste tvrtke za AI sigurnost koja je provodila testove za Anthropicov AI model koji je dobio pristup sustavima triju drugih tvrtki.
Glasnogovornik Irregulara izjavio je da je incident s Metom „upravo isti problem okruženja za evaluaciju koji je Anthropic već obznanio prošlog tjedna.“
Irregular radi na izvješću o tome kako sigurno provoditi testove kibernetičke sigurnosti koji uključuju AI agente, rekao je glasnogovornik tvrtke za BBC.
Meta je također najavila da će objaviti više informacija o incidentu „čim budemo imali sve činjenice.“ U posljednja dva tjedna, vodeće AI tvrtke OpenAI i Anthropic također su izvijestile o incidentima u kojima su njihovi modeli hakirali sustave drugih organizacija tijekom testiranja.
Tvorac ChatGPT-a, OpenAI, objavio je u nizu priopćenja da su njegovi agenti napali nekoliko javno dostupnih usluga, uključujući centar za AI alate Hugging Face.
Objava OpenAI-ja potaknula je rivalski Anthropic da provede vlastite provjere, što je dovelo do otkrića da je njegov Claude AI model izvršio slične napade na nekoliko tvrtki nakon što mu je „pogrešna konfiguracija“ omogućila pristup internetu.
Daniel Hulme, globalni direktor za umjetnu inteligenciju u oglašivačkoj tvrtki WPP, izjavio je za BBC da takvi AI modeli „nisu svjesni – ne rade namjerno nešto podmuklo“.
„Ono što rade jest smišljanje vrlo sofisticiranih strategija ili kibernetičkih napada kako bi postigli cilj koji im je zadan“, rekao je u emisiji Today.
„Kada umjetnoj inteligenciji date cilj, ako ne promislite o svim načinima na koje bi ga mogla ostvariti, ona će pronaći način da postigne cilj o kojem niste razmišljali.“
Sve što je bitno, na dohvat ruke
Skini aplikaciju za najbolje iskustvo portala. Čitaj, komentiraj i budi uvijek u toku s najnovijim vijestima.
Odaberi temu koju želiš pratiti
Primaj sve nove vijesti o temi i budi u tijeku
