Kompanija OpenAI sada se suočava s kaznenom istragom nakon što je ChatGPT navodno savjetovao napadača uoči masovne pucnjave na sveučilištu na Floridi, u kojoj je prošle godine ubijeno dvoje, a ranjeno šestero ljudi. Glavni državni odvjetnik Floride, James Uthmeier, potvrdio je u priopćenju za javnost da je istraga o potencijalnoj kaznenoj odgovornosti OpenAI-ja pokrenuta nakon pregleda šokantnih zapisa razgovora između ChatGPT-ja i računa povezanog s osumnjičenim napadačem, Phoenixom Iknerom.
Ovaj 20-godišnji student Državnog sveučilišta Florida trenutno čeka suđenje "po više točaka optužnice za ubojstvo i pokušaj ubojstva". Uthmeier je na konferenciji za medije otkrio da zapisi pokazuju kako je ChatGPT pružio "značajne savjete" prije nego što je Ikner navodno "počinio gnjusne zločine". Naglasio je da bi se prema zakonima Floride o pomaganju i poticanju, "da je ChatGPT osoba", i on "suočio s optužbama za ubojstvo".
Istraga bez presedana
Za OpenAI, ova će istraga testirati može li se tvrtka smatrati kazneno odgovornom za ono što njihov AI sustav generira. U izjavi dostavljenoj portalu ArsTechnica, glasnogovornica OpenAI-ja, Kate Waters, rekla je da tvrtka očekuje da će odgovor na to pitanje biti negativan.
"Prošlogodišnja masovna pucnjava na Državnom sveučilištu Florida bila je tragedija, ali ChatGPT nije odgovoran za ovaj užasan zločin", stoji u izjavi.
No, Uthmeier nije toliko siguran i smatra da Florida mora hitno istražiti slučaj. Istaknuo je kako policija "ulazi na neistraženi teritorij" pokušavajući nadzirati kriminalne aktivnosti povezane s alatima umjetne inteligencije. Rekao je da se rastući rizici za javnu sigurnost povezani s chatbotovima, uključujući samoubojstva, materijale o seksualnom zlostavljanju djece, prijevare i ubojstva, moraju temeljito istražiti kako bi javnost definitivno znala jesu li tvrtke poput OpenAI-ja odgovorne za štetu koju njihovi proizvodi navodno uzrokuju.
"Florida predvodi u suzbijanju korištenja umjetne inteligencije u kriminalnom ponašanju", rekao je Uthmeier. "Ova kaznena istraga utvrdit će snosi li OpenAI kaznenu odgovornost za postupke ChatGPT-ja u pucnjavi na Državnom sveučilištu Florida prošle godine."
Što je chatbot savjetovao napadaču?
Uthmeier je novinarima rekao da je ChatGPT savjetovao osumnjičenog o vrsti oružja koju bi trebao koristiti, streljivu koje bi trebao nabaviti te o tome bi li oružje bilo korisno na maloj udaljenosti. Iako bi se te informacije vjerojatno mogle lako pronaći na internetu, Uthmeier sugerira da je uloga ChatGPT-ja bila dublja od obične pretrage.
Zabrinjavajuće je što je chatbot također savjetovao u koje doba dana će na kampusu biti najviše ljudi i gdje bi točno mogao pronaći veće okupljene skupine studenata. Takvi uvidi pokazuju kako umjetna inteligencija može gotovo trenutno kombinirati javne podatke na nove načine koji mogu imati štetne i dalekosežne posljedice, što su tvrtke poput OpenAI-ja dužne detektirati i ublažiti, smatraju dužnosnici Floride.
OpenAI tvrdi da nije odgovoran, ali surađuje
Kako bi zaštitio javnost, Uthmeier je izdao sudske naloge kojima traži više informacija, uključujući širok raspon internih politika i materijala za obuku tvrtke OpenAI. Inzistirajući na transparentnosti, namjerava otkriti kako je ChatGPT dizajniran da se nosi sa štetnim slučajevima korištenja. Konkretno, želi znati kada OpenAI odlučuje prijaviti "moguće prošle, sadašnje i buduće zločine" planirane uz pomoć ChatGPT-ja.
Uthmeier je naglasio kako razumije da ChatGPT nije osoba i da ne može biti optužen za pomaganje. Međutim, rekao je da bi OpenAI mogao biti odgovoran ako je tvrtka bila svjesna da bi se takvo "opasno ponašanje moglo dogoditi" i nije uspjela intervenirati. Zato je zatražio organizacijske sheme s ključnim vodstvom kako bi otkrio "tko je što znao, što dizajnirao ili što je trebao znati" dok zlonamjerni akteri pokušavaju planirati zločine.
Ako dužnosnici Floride otkriju da je vodstvo OpenAI-ja znalo za kriminalne aktivnosti i dalo prednost profitu nad javnom sigurnošću, "onda ljudi moraju odgovarati", rekao je Uthmeier.
- Ja sam veliki zagovornik ograničene vlade. Vjerujem da bi se vlada trebala miješati u poslovne aktivnosti samo kada postoji značajna šteta za naše ljude. Ovo je taj slučaj - izjavio je Uthmeier.
Glasnogovornica Waters rekla je da OpenAI nastavlja surađivati s vlastima te da su rano "identificirali ChatGPT račun za koji se vjeruje da je povezan s osumnjičenikom i proaktivno podijelili te informacije s policijom". Tvrtka tvrdi da ChatGPT nije učinio ništa više od pružanja informacija koje su već dostupne na internetu i stoga se ne može kriviti za pomaganje. Kako navode, za razliku od tužbi u kojima se ChatGPT optužuje za poticanje na samoubojstvo, chatbot nije poticao napadača na bilo kakve nezakonite ili štetne radnje.
"U ovom slučaju, ChatGPT je pružio činjenične odgovore na pitanja s informacijama koje se mogu naći u široko dostupnim javnim izvorima na internetu te nije poticao niti promicao nezakonite ili štetne aktivnosti", poručila je Waters.
Međutim, Uthmeier je na konferenciji za medije rekao da se OpenAI obvezao poduzeti dodatne korake kako bi ograničio potencijal ChatGPT-ja da se koristi za savjetovanje pri masovnim pucnjavama.