Dodaj 24sata među omiljene izvore na Googleu
Američka vojska bila je na rubu pokretanja vojne operacije protiv Kine zbog pogrešne analize umjetne inteligencije koja je netočno identificirala kineski brod kao prijetnju nuklearnim naoružanjem.
Američka vojska umalo je pokrenula operaciju protiv kineskog broda nakon što je umjetna inteligencija pogrešno protumačila obavještajne podatke i zaključila da brod prevozi dijelove povezane s kineskim programom nuklearnog naoružanja, piše CNN. Obavještajni izvještaj pojavio se ovog proljeća, usred rata s Iranom, i odmah izazvao uzbunu unutar američke vojske. Prema četvero izvora upoznatih sa slučajem, pokrenute su pripreme za presretanje broda. Dvojica izvora navode da su se pripremali i naoružani pripadnici američke vojske za ukrcavanje, dok su vojni zrakoplovi već bili u zraku.
No, neposredno prije planirane operacije američki dužnosnici detaljnije su provjerili izvještaj koji je sastavio analitičar zapovjedništva za specijalne operacije. Tada su otkrili da je u njegovoj izradi korišten AI chatbot te da je upravo taj alat pogrešno identificirao materijal koji se nalazio na brodu.
CNN nije uspio doznati o kakvom se teretu zapravo radilo.
Jedan od izvora izvještaj je opisao kao "potpuno netočan", ali upozorio da je mogao imati dramatične posljedice.
- Gotovo je započeo rat - rekao je izvor.
Američka operacija protiv kineskog broda mogla je, naime, eskalirati u izravan oružani sukob između SAD-a i Kine.
Slučaj je otvorio ozbiljna pitanja o sve široj upotrebi umjetne inteligencije u američkoj vojsci i obavještajnoj zajednici. AI se sve više koristi za analizu golemih količina podataka, odabir ciljeva za napade, premještanje vojne opreme, ali i za logistiku, proračune i upravljanje opskrbnim lancima.
U ovom slučaju analitičar je chatbotu postavio upit o obavještajnim podacima vezanima uz teret kineskog broda. Alat je kombinirao javno dostupne informacije s tajnim obavještajnim podacima i došao do pogrešnog zaključka.
Analitičar je potom ponovno koristio AI kako bi rezultate pretvorio u standardni obavještajni izvještaj koji je zatim proslijeđen vojnim dužnosnicima.
SAD ubrzano uvodi umjetnu inteligenciju u vojni sustav jer želi brže donositi odluke na bojištu i ne zaostati za potencijalnim protivnicima, prije svega Kinom.
Američki ministar obrane Pete Hegseth u siječnju je predstavio strategiju ubrzane primjene umjetne inteligencije u vojsci. Cilj je omogućiti korištenje AI alata milijunima pripadnika vojske i civilnog osoblja.
Problem je, međutim, što različiti dijelovi američke vojske koriste različite AI sustave, uz različite standarde i razine sigurnosne provjere. Ne postoji jedinstveni sustav kojim bi se provjeravala točnost informacija koje ti alati generiraju.
Upravo zato slučaj kineskog broda pokazuje neposredan rizik: nije nužno riječ o tome da će AI samostalno donijeti odluku, nego da bi ljudi mogli donijeti katastrofalnu odluku vjerujući pogrešnim informacijama koje je proizvela umjetna inteligencija.
- AI omogućuje da se do loše ideje dođe brže - rekao je jedan od izvora upoznatih s korištenjem tehnologije u vojsci.
Poseban problem predstavlja korištenje AI-ja pri određivanju vojnih ciljeva. Jedan izvor upoznat s aktualnim pravilima američke vojske rekao je da se takva primjena ubrzano širi, dok još nema dovoljno jasnih smjernica o tome kako osigurati da ljudski nadzor spriječi pogrešne napade ili stradavanje civila.
Prema izvorima CNN-a, slične pogreške AI sustava već su se događale unutar obavještajne zajednice. Dio iskusnijih analitičara zbog toga je zabrinut da pritisak na bržu proizvodnju obavještajnih podataka povećava mogućnost pogrešaka, dok su mlađi analitičari skloniji nekritički vjerovati alatima koje svakodnevno koriste.
24sata © 2026
