Novo istraživanje procjenjuje da je Grok, AI alat ugrađen u X, u samo 11 dana generirao oko 3 milijuna lažnih intimnih slika, uključujući tisuće koje izgledaju kao da prikazuju maloljetnike. Brojke su podigle pritisak na X i xAI, ali i na EU, koja sad mora pokazati može li stvarno provesti svoja pravila.
Procjena Centra for Countering Digital Hate (CCDH) kaže da je Grok u razdoblju od 29. prosinca do 8. siječnja mogao generirati oko 3 milijuna ‘seksualiziranih’ slika u tih 11 dana, među kojima je oko 23.000 onih koje izgledaju kao da prikazuju maloljetnike. Poanta nije samo u samom generiranju, nego u tome što je alat, prema opisu, korisnicima olakšao ‘uređivanje’ stvarnih fotografija ljudi i pretvaranje u lažni intimni sadržaj.
Nakon reakcija i pritiska iz više zemalja, X i xAI počeli su stezati pravila. AP je ranije javio da je Grok ograničio generiranje i uređivanje slika za korisnike koji ne plaćaju, a kasnije su krenule i dodatne zabrane oko uređivanja fotografija stvarnih ljudi tamo gdje je to nezakonito. Guardian navodi i da je X naknadno zaustavio mogućnost da se stvarne fotografije uređuju u eksplicitnom smjeru.
Regulatori se u međuvremenu nisu zaustavili samo na Europi. Reuters piše da su brazilske institucije dale xAI-ju rok od 30 dana da uvede tehničke mjere za detekciju, pregled i uklanjanje takvog sadržaja te gašenje računa koji ga šire, uz napomenu da se problem može nastaviti i privatno, čak i kad je javno dijeljenje ograničeno.
EU dio priče je posebno zanimljiv jer se sve uklapa u širu raspravu o provedbi Digital Services Acta. Reuters u zasebnom tekstu opisuje Grok kao ‘test’ za Europu: čak i kad platforma popusti i uvede ograničenja, pitanje je jesu li mjere stvarno dovoljne i koliko brzo države i EU mogu reagirati kad se pojavi nova rupa u sustavu. Europski parlament je u siječnju imao i raspravu o AI deepfakeovima i seksualnom iskorištavanju na društvenim mrežama, uz pozive na bržu provedbu postojećih zakona.
Kako prenosi Hina, Europska komisija je u međuvremenu pokrenula istragu o Groku, chatu umjetne inteligencije Elona Muska zbog proizvodnje eksplicitnih slika, izjavila je u ponedjeljak Regina Doherty, irska zastupnica u Europskom parlamentu.
Istragom će se utvrditi je li X ispunio svoje obveze prema digitalnom zakonodavstvu EU-a, posebno zahtjeve koji se odnose na ublažavanje rizika, upravljanje sadržajem i zaštitu temeljnih prava, rekla je zastupnica.
Iz Komisije još nisu odgovorili na upit o potvrdi je li istraga otvorena.
Ni X nije odgovorio na zahtjev za komentar poslan e-poštom u ponedjeljak.
"Ovaj slučaj problematizira ispunjavaju li platforme svoje zakonske obveze pravilne procjene rizika i sprječavanja širenja ilegalnog i štetnog sadržaja", rekla je Doherty iz Europske pučke stranke u izjavi poslanoj e-poštom.
Komisija je ranije ovog mjeseca izjavila da su slike razodjevenih žena i djece, koje je stvorila umjetna inteligencija, a koje se dijele na Muskovoj društvenoj mreži X-u, nezakonite i šokantne, čime je stala uz mnoge diljem svijeta koji su tu praksu osudili.
Doherty je rekla da su slike otkrile opću slabost u načinu na koji se reguliraju i provode tehnologije umjetne inteligencije koje su u stalnom razvoju.
„Europska unija ima jasna pravila za zaštitu ljudi na internetu. Ta pravila moraju nešto značiti u praksi, posebno kada se moćne tehnologije primjenjuju u velikim razmjerima. Nijedna tvrtka koja posluje u EU nije iznad zakona“, dodala je.
24sata © 2026
