Dodaj 24sata među omiljene izvore na Googleu
U izvješću o uhićenju navodi se da je korisnica identificirana kao Heller 26. rujna napisala da će „pucati po“ uredu šerifa.
Carli Michelle Heller iz Floride suočava se s kaznenom prijavom zbog optužbi da je tijekom razgovora s Anthropicovim AI sustavom Claudeom uputila prijetnje nasiljem protiv Ureda šerifa okruga Lee. Neobičan put od naizgled privatnog razgovora s umjetnom inteligencijom do uhićenja započeo je porukama koje se pripisuju Heller.
U izvješću o uhićenju navodi se da je korisnica identificirana kao Heller 26. rujna napisala da će „pucati po“ uredu šerifa.
Prema izvješću, još jedna poruka uslijedila je rano sljedećeg jutra. Ovoga je puta korisnica tvrdila da je nabavila novi pištolj i svoju poruku opisala kao „posljednju priliku“. U izvješću se navodi da su Claudeovi sigurnosni sustavi označili razgovor, proslijedili ga na ljudsku provjeru, a Anthropic je potom obavijestio tijela za provedbu zakona.
Anthropic javno opisuje sustav koji kombinira automatizirano otkrivanje s ljudima koji pregledavaju moguće slučajeve zlouporabe. Tvrtka navodi da njezine zaštitne mjere mogu koristiti klasifikatore za otkrivanje određenih kategorija štetnih aktivnosti u stvarnom vremenu, uz ljudsku provjeru kao dio postupka provedbe pravila.
24sata © 2026
