Pažnja! Bezazlena fotografija s rođendana ili s putovanja može postati AI pornografija
Dramatičan porast AI materijala dječjeg zlostavljanja dokazuje da tradicionalni sustavi zaštite više nisu dovoljni. O tome kako zaustaviti ovaj val i zaštititi najranjivije raspravljat će se na konferenciji A1 CyberGuard 2026
Živimo u vremenu u kojem tehnološki napredak prestaje biti isključivo fascinantan i postaje ozbiljno upozorenje. Umjetna inteligencija u samo je nekoliko godina iz visoko tehnoloških laboratorija i specijaliziranih računalnih sustava stigla u svakodnevni život. Danas može pomoći učeniku razumjeti složenu lekciju, liječniku brže analizirati podatke, programeru napisati dio koda ili kreativcu pretvoriti ideju u sliku. Ali ista tehnologija mijenja i drugu, mračniju stranu interneta.
Najnoviji podaci Internet Watch Foundationa, neprofitne organizacije sa sjedištem u Ujedinjenom Kraljevstvu, koja se bavi otkrivanjem, prijavljivanjem, uklanjanjem i sprečavanjem širenja materijala seksualnog zlostavljanja djece na internetu, pokazuju koliko se brzo situacija mijenja. Naime, od 1. siječnja do 30. lipnja 2026. IWF je identificirao 6310 slika generiranih AI-jem koje zadovoljavaju pravnu definiciju materijala seksualnog zlostavljanja djece (CSAM). Tijekom cijele 2025. godine bilo ih je 4512. To znači da je za samo šest mjeseci ove godine identificirano 40% više takvih slika nego tijekom svih 12 mjeseci prethodne godine. I to nije jedini broj koji bi trebao zaustaviti svaku raspravu o tome je li riječ o "novom problemu" ili tek o još jednom obliku internetskoga kriminala.
Među identificiranim slikama generiranim AI-jem za koje su bili dostupni podaci o spolu i dobi, 98% prikazivalo je djevojčice, a djeca u dobi od 7 do 13 godina činila su čak 79% slučajeva. IWF je pronašao i sadržaj koji prikazuje vrlo malu djecu, uključujući bebe i djecu mlađu od dvije godine. Ovi podaci nisu samo pokazatelj razmjera, oni govore o brzini kojom se prijetnja razvija.
Više nije potrebno imati ni stvarnu fotografiju
Digitalno zlostavljanje djece nekoć se velikim dijelom temeljilo na sadržaju koji je morao fizički nastati prije nego što je mogao biti distribuiran. Umjetna inteligencija dramatično mijenja taj proces. Dovoljna je postojeća fotografija djeteta koju je obitelj objavila na internetu, bezazlena fotografija s rođendana, iz školskog života ili s društvenih mreža. Takvom se fotografijom može manipulirati i pretvoriti je u novi oblik zlostavljačkog materijala. Za dijete i njegovu obitelj pritom je gotovo nevažno raspravljamo li o stvarnoj ili umjetno izmijenjenoj slici. Jer trauma koju ona donosi itekako je stvarna. Jednako kao strah i posljedice s kojima se suočavaju.
Ngaire Alexander, voditeljica Hotlinea u IWF-u, upozorava da organizacija izravno vidi kako se priroda problema mijenja i postaje sve složenija.
- Bilježimo rast količine štetnog i nezakonitog sadržaja, ali i zabrinjavajuću komercijalizaciju seksualnog zlostavljanja djece. Poseban izazov danas predstavljaju sintetički i sadržaji generirani umjetnom inteligencijom, koji dodatno otežavaju prepoznavanje, uklanjanje i sprečavanje takvih sadržaja - ističe Alexander.
U tome i jest srž problema. AI ne samo da može olakšati stvaranje novog sadržaja, on istodobno povećava količinu sadržaja koji sigurnosni sustavi moraju pronaći, prepoznati i ukloniti. A protiv takvog vala nije dovoljno samo tražiti kopije poznatih materijala. Novi sadržaj generiran AI-jem može biti jedinstven, zbog čega tradicionalni sustavi koji se oslanjaju na prepoznavanje već identificiranih datoteka imaju dodatno teži zadatak. Drugim riječima, pravila igre su se promijenila. Više nije dovoljno biti dovoljno brz pa ukloniti ono što je poznato. Potrebno je biti dovoljno brz da prepoznate ono što još nije viđeno.
Brojevi mogu zavarati - posebno kad govore o dječacima
Ako pogledamo samo prijavljene slučajeve, mogli bismo lako zaključiti da je seksualno zlostavljanje djece gotovo isključivo problem djevojčica. INHOPE, globalna mreža organizacija koje djeluju na području prijave i uklanjanja materijala seksualnog zlostavljanja djece, u svom izvješću za 2025. navodi da su djevojčice činile 98% prijavljenih slučajeva, a dječaka je bilo samo jedan posto. No taj podatak ne smije se tumačiti kao stvarni omjer zlostavljanja. Razlozi podzastupljenosti dječaka u ovom kontekstu uključuju društvenu stigmu, specifične taktike vrbovanja i činjenicu da dječaci rjeđe sami prijavljuju zlostavljanje. Zato je jedan posto prije svega podatak o onome što je prepoznato i prijavljeno, a ne nužno o onome što se stvarno događa. A to je važno razumjeti i kod kuće. Dijete koje šuti nije nužno dijete kojemu se ništa ne događa. Sram, strah, osjećaj krivnje, prijetnja, uvjerenje da mu nitko neće vjerovati - sve to može stajati između djeteta i njegovog otvaranja o problemu.
A problem počinje mnogo ranije nego što mnogi odrasli misle. Prema INHOPEU, 91% žrtava u prijavljenim slučajevima CSAM-a tijekom 2025. bilo je u dobi od 3 do 13 godina. To znači da razgovor o sigurnosti na internetu ne može početi tek kada dijete dobije prvi mobitel, otvori prvi profil ili počne samostalno koristiti društvene mreže. Digitalna sigurnost mora postati dio odrastanja prije nego što dijete uopće postane svjesno koliko digitalni svijet može biti moćan i koliko može biti opasan.
Digitalni sadržaj može trajati i dijeliti se
Postoji još jedna razlika zbog koje je digitalno seksualno zlostavljanje posebno traumatično. Za razliku od fizičkog zlostavljanja, koje ima svoje mjesto i vrijeme, digitalni sadržaj ga nema.
Katariina Leivo, viša stručna suradnica i terapeutkinja u finskoj organizaciji Protect Children, upozorava upravo na tu dodatnu dimenziju:
- Kod seksualnog zlostavljanja pomognutog tehnologijom dodatni je problem to što sadržaj može ostati na internetu, ponovno se dijeliti i tako iznova viktimizirati osobu koja je zlostavljanje preživjela - kaže Leivo.
Posljedice pritom ne pogađaju samo dijete. Pogađaju cijelu obitelj. I upravo zato, upozorava Leivo, sustav podrške mora gledati dalje od samog uklanjanja sadržaja. Potrebna je dugoročna pomoć osobi koja je preživjela zlostavljanje, ali i njoj bliskim ljudima koji joj pokušavaju pomoći.
Istraživanje organizacije Protect Children, provedeno među 24.912 osoba koje su preživjele seksualno zlostavljanje u djetinjstvu i prikupljeno na 36 jezika, dodatno pokazuje koliko posljedice mogu biti duboke i dugotrajne. Zato pitanje više nije samo kako izbrisati sadržaj nego je potrebno fokusirati se na sprečavanje njegova nastajanja, na njegovo otkrivanje prije nego što se proširi, na napore da ga se ukloni što je brže moguće te, na kraju, na pomoć osobi čiji je život njime pogođen.
Zajednički i holistički pristup je ključan
Ovo je problem s tisuću pitanja i ni na jedno od njih ne postoji jednostavan odgovor. I upravo ga zato nitko ne može riješiti sam. Policija mora razumjeti nove načine na koje se tehnologija koristi za počinjenje kaznenih djela. Pravosuđe mora moći pratiti nove vrste digitalnih dokaza. Tehnološke kompanije moraju ulagati u sustave koji mogu prepoznati i zaustaviti nezakonit sadržaj. Platforme moraju reagirati brzo kad prime prijavu. Stručnjaci za mentalno zdravlje moraju biti uključeni kada dijete i obitelj trebaju pomoć. A međunarodne organizacije moraju moći dijeliti informacije preko granica jer internet ne poznaje granice.
Koliko je razmjer problema velik, pokazuje i podatak INHOPEA: njegova je globalna mreža tijekom 2025. razmijenila više od 4,78 milijuna sumnjivih online zapisa povezanih s CSAM-om, a više od 3,23 milijuna zapisa potvrđeno je kao ilegalno. Ovi brojevi pokazuju da se više ne borimo protiv nekoliko izoliranih slučajeva nego protiv globalnog sustava proizvodnje, distribucije i ponovne distribucije sadržaja koji djecu pretvara u žrtve čak i onda kad se sadržaj seli s jedne platforme na drugu. Zato je brzina presudna. Svaka minuta može značiti novu distribuciju. Svako kašnjenje može značiti novu kopiju. Svaki novi kanal može značiti još jednu priliku da sadržaj dođe do novih ljudi.
Sigurniji internet više nije samo tehnološko pitanje
Upravo kako bi se ovoj problematici dalo na važnosti, A1 Hrvatska i Centar za sigurniji internet organiziraju konferenciju CyberGuard 2026, koja će 15. listopada u Zagrebu okupiti stručnjake iz područja kibernetičke sigurnosti, policije, tehnologije, obrazovanja, zaštite djece i mentalnog zdravlja. I upravo taj spoj možda najbolje pokazuje kako treba izgledati odgovor na novu prijetnju.
O novim opasnostima koje AI donosi u području kriminala nad djecom govorit će Mark Bevan, voditelj Interpolove jedinice za zločine nad djecom. Ngaire Alexander iz IWF-a donijet će perspektivu organizacije koja svakodnevno prima i analizira prijave stvarnog sadržaja. Samantha Woolfe iz INHOPEA govorit će o putu od prijave do uklanjanja, a Davor Kristek iz Europola predstavit će perspektivu međunarodne policijske suradnje. Katariina Leivo pritom će otvoriti pitanje koje se u raspravama o tehnologiji često izgubi: što se događa s djetetom nakon što se ugasi ekran?
I možda je upravo to najvažnija poruka cijele priče. Umjetna inteligencija nije sama po sebi ni dobra ni loša. Ona je alat. Ali alati mijenjaju razmjere problema kada dođu u ruke onih koji ih žele zlouporabiti. Zato odgovor mora biti brži od prijetnje: bolja tehnologija za detekciju, jasniji procesi prijave, učinkovitija međunarodna suradnja, odgovornije platforme, osposobljena policija i pravosuđe te sustav psihološke podrške koji žrtvu ne ostavlja samu. Jer iza svakog broja nalazi se dijete. A na internetu, za razliku od stvarnog života, ono što je jedanput otišlo u svijet vrlo se često iznova vraća.
Upravo zato sigurnost djece na internetu više nije samo pitanje roditeljske kontrole, postavki privatnosti ili toga koliko vremena dijete provodi pred ekranom. To je pitanje zajedničke odgovornosti svih koji stvaraju, koriste, reguliraju i štite digitalni svijet.
