Dodaj 24sata među omiljene izvore na Googleu
Stručnjaci iz Silicijske doline upozoravaju na potencijalne opasnosti umjetne inteligencije, dok se istovremeno postavljaju pitanja o motivima iza tih tvrdnji i potrebnim regulacijama.
Teško je razlikovati činjenice od fikcije kada je riječ o umjetnoj inteligenciji. Dok nas osnivači tehnoloških tvrtki upozoravaju da razvijaju alate koji bi mogli uništiti čovječanstvo, raste sumnja da iza apokaliptičnih priča stoje i drugi motivi, na što u svojoj analizi sumnja i Guardian. Što se doista događa i kako bi vlade trebale reagirati?
Val zabrinutosti pokrenuo je esej koji je objavio Dario Amodei, osnivač tvrtke Anthropic, u kojem tvrdi da tehnološke tvrtke moraju "usporiti" razvoj najsofisticiranijih AI modela. Podršku su mu dali Elon Musk i Sam Altman iz OpenAI-ja. S druge strane, američki predsjednik Donald Trump, koji je američko gospodarstvo usmjerio prema umjetnoj inteligenciji, takve je brige nazvao "prijevarom" i inzistirao da je jedina potrebna kontrola "SNAŽAN I PAMETAN (visoki IQ!) PREDSJEDNIK". Ujedinjeno Kraljevstvo zauzelo je oprezniji stav, a državna tajnica Louise Haigh poručila je da se "upozorenja stručnjaka moraju poslušati".
Ova upozorenja postala su još glasnija nakon što je Jacob Coxon, 27-godišnji istraživač u Anthropicu, dao otkaz i objavio da "ljudi koji grade AI iskreno vjeruju da bi nas mogao sve pobiti do kraja ovog desetljeća".
Teško je znati što misliti o svemu tome. Tehnološke tvrtke često pričaju fantastične priče o zastrašujućem potencijalu svojih proizvoda kako bi uvjerile javnost (i burzu) u njihove sposobnosti. U svom tekstu, novinarka Guardiana Aisha Down pokušala je razdvojiti stvarnost od nestvarnosti u diskursu o umjetnoj inteligenciji.
Kao ključan primjer manipulacije narativom Amodei navodi incident "Hugging Face" iz srpnja, kada je OpenAI objavio da je autonomni AI agent hakirao istaknutu bazu AI modela. Medijsko izvještavanje stvorilo je dojam da je model "podivljao". Međutim, istraživači su kasnije otkrili da je OpenAI isključio sigurnosne mehanizme modela, dao mu nemoguće zadatke i pokrenuo ga 1200 puta.
Amodeijev esej tretiran je kao upozorenje o sudnjem danu, što savršeno odgovara tehnološkim tvrtkama. Narativom o umjetnoj inteligenciji dominira ono što tehnološki znanstvenik Lee Vinsel naziva "kriti-hajp" - kritika koja hrani i koju hrani pompa. Dok Kina uspoređuje AI s "električnom energijom", zapadne tvrtke povlače paralele s atomskom bombom. To čini Anthropic i njegove suparnike manje sličnima tvrtkama koje donose svakodnevne odluke, a više prometejskim upraviteljima četvrte industrijske revolucije.
To znači da ih vlade moraju tretirati kao magične bogove i dopustiti im da postave pravila za svoju misterioznu kreaciju - objašnjavaju stručnjaci.
Postoji nekoliko načina na koje bi Anthropic i konkurenti mogli profitirati od usporavanja. Anthropic ove godine izlazi na burzu, pa im je u interesu predstaviti svoje proizvode na što epohalniji i smrtonosniji način. Također, tvrtka se pozicionira kao odgovorniji kreator, nedavno odbivši zahtjeve Pentagona za korištenje svog modela Claude za autonomna smrtonosna oružja. Usporavanje razvoja pod njihovim uvjetima moglo bi im pomoći da izbjegnu stroge vladine propise i zamrznu tempo razvoja u konkurentskoj Kini.
David Sacks, supredsjedatelj Trumpovog vijeća savjetnika za znanost i tehnologiju, komentirao je Amodeijev esej riječima: "zahtijevanje željenog regulatornog okvira... izgledat će kao ucjena javnosti i političkog sustava".
Iako se rasprava vrti oko scenarija iz "Terminatora", stvarni i trenutni rizici umjetne inteligencije često ostaju u sjeni. Podatkovni centri koji pokreću AI troše ogromne količine vode i energije. Već je sada moguće koristiti AI za generiranje seksualiziranih "deepfakeova" i slika seksualnog zlostavljanja djece. Tvrtke poput Palantira imaju pristup identificirajućim podacima engleskog zdravstvenog sustava (NHS). To su konkretne opasnosti koje se događaju danas.
Mnoge organizacije koje bi trebale osigurati sigurnost AI-ja, poput britanskog Instituta za sigurnost umjetne inteligencije, usko su povezane s industrijom, primaju sredstva od nje i nemaju zakonske ovlasti prisiliti programere da predaju svoje modele na uvid.
Dok se rasprave vode, države diljem svijeta ubrzano rade na regulatornim okvirima. Europska unija je svojim Aktom o umjetnoj inteligenciji, čija primjena počinje tijekom 2026. godine, postavila globalni standard. SAD nema sveobuhvatni savezni zakon, ali prednjači Kalifornija s propisima koji zahtijevaju transparentnost i označavanje sadržaja generiranog umjetnom inteligencijom.
Osjeća se sveprisutan osjećaj fatalizma da se ništa ne može učiniti. No, dizajn tehnologije je izbor, a ne neizbježnost. Postoji argument za tvrdoglav otpor ideji da nema alternative.
- Trebali bismo tretirati AI kao bilo koju drugu industriju i regulirati je kao bilo koju drugu industriju. Politika temeljena na strahu i dojmovima jednostavno nikada neće funkcionirati - zaključuje novinarka Guardiana, Aisha Down.
24sata © 2026
