U današnjem digitaliziranom svijetu umjetna inteligencija (AI) postaje nezaobilazan dio svakodnevice. Ne samo da mijenja način poslovanja, nego snažno utječe i na tržište rada, otvarajući niz novih prilika, ali i izazova. U središtu svih tih promjena i dalje je čovjek. IT stručnjaci već su neko vrijeme među najtraženijim i najplaćenijim profesionalcima, ali uz velik utjecaj dolazi i velika odgovornost.

Tehnologije koje razvijamo oblikuju društvo, utječu na život ljudi i mijenjaju način donošenja odluka. Zato je važno da oni koji rade s umjetnom inteligencijom razumiju ne samo tehničke aspekte, nego i etičke implikacije svojeg rada.

Aco Momčilović, mag. psych., MBA, suosnivač International Project Management Association (IPMA) i Global AI Ethics Institut | vanjski suradnik u nastavi na Veleučilištu Baltazar Zaprešić |

O toj važnoj temi razgovaramo s Acom Momčilovićem, suosnivačem International Project Management Associationa (IPMA) i Global AI Ethics Institutea.

- AI je postao nevidljivi, ali sveprisutni sloj društva: od medicine i prometa do financija i obrazovanja. Više ne govorimo o eksperimentima, nego o svakodnevnim procesima koji koriste algoritme za optimizaciju odluka, automatizaciju zadataka i analizu podataka u stvarnom vremenu - objašnjava Momčilović.

- No, ključno je razumjeti da AI nije samo tehnološki alat nego transformativna sila koja mijenja način na koji radimo, učimo i donosimo odluke.

Foto: shutterstock

Etika nije 'dodatna' opcija

Kako primjena AI sustava postaje sve rasprostranjenija, raste i važnost etičke pismenosti stručnjaka koji ih razvijaju. Momčilović je proveo mnogo istraživanja upravo na temu društvenih posljedica umjetne inteligencije.

- Tehnologija nije neutralna, svaki algoritam odražava vrijednosti, predrasude i odluke svojih tvoraca. Ako IT stručnjak ne razumije širi društveni kontekst i etičke implikacije svojeg rada, može nesvjesno proizvesti sustave koji diskriminiraju, manipuliraju ili narušavaju privatnost - upozorava on.

Zato etika u AI-ju, dodaje, nije sporedna tema, nego temelj profesionalne odgovornosti. U okviru IPMA Global AI SIG-a, gdje radi na razvoju etičkih standarda za AI projekte, upravo to ističu kao prioritet: tehnologija mora služiti čovjeku, a ne obrnuto.

Foto: shutterstock

Više od tehničkog znanja

Zbog svega navedenog Momčilović navodi kako je važno da se mladi IT stručnjaci ne obrazuju isključivo tehnički.

- Svatko tko radi s AI-jem, mora imati razvijenu barem osnovnu etičku pismenost: razumjeti utjecaj svojih odluka na korisnike, društvo i okoliš. U obrazovne programe trebalo bi integrirati etiku tehnologije jer tehnička izvrsnost bez odgovornosti vodi do neželjenih posljedica. U godinama koje dolaze, najveća vrijednost neće biti samo u programiranju, nego u razumijevanju kako tehnologija utječe na ljude i sustave. Stručnjaci koji razviju to šire razumijevanje postaju lideri, a ne samo izvršitelji. Takvi ljudi mogu upravljati kompleksnim sustavima, donositi uravnotežene odluke i graditi povjerenje u tehnologiju - kaže Aco.

Posebno ističe studijske programe koji već uključuju ovu interdisciplinarnu komponentu.

- Primjer za to je Veleučilište Baltazar Zaprešić, čiji programi pomažu studentima da razviju i tehničke vještine i sposobnost promišljanja o tehnologiji u širem kontekstu poslovne strategije, etike i održivog razvoja. Takvi studiji stvaraju profesionalce koji razumiju i 'kako' i 'zašto', a to ih razlikuje od prosjeka, u čemu posebno treba istaknuti Stručni diplomski online studij Primijenjene informacijske tehnologije.

Obrazovanjem protiv nejednakosti

Zbog brzine razvoja tehnologije teško je predvidjeti budućnost, no izazovi su već prisutni.

- Najveći izazovi danas su kontrola, razumljivost i odgovornost. AI sustavi postaju sve složeniji i autonomniji, a mi gubimo mogućnost potpunog razumijevanja njihovih odluka. Ako ne budemo oprezni, mogli bismo doći u situaciju da AI sustavi upravljaju važnim aspektima našeg života, poput financija ili zdravstva, a da ne razumijemo što se sve u pozadini događa - upozorava Momčilović.

Drugi veliki izazov jest društvena nejednakost. Zemlje, organizacije i pojedinci bez pristupa AI alatima riskiraju eksponencijalno zaostajanje.

- To je područje mojeg posebnog interesa i želim ga dodatno istražiti kroz doktorski studij. Ne želimo se naći u situaciji da budemo 'zemlja četvrtog svijeta' - napominje.

Rješenje vidi u obrazovanju, ali ne samo tehničkom, nego interdisciplinarnom.

- Potrebni su nam stručnjaci koji mogu povezati tehnologiju sa psihologijom, etikom, ekonomijom i upravljanjem rizicima.

Foto: shutterstock

Algoritmi ne smiju odlučivati sami

Momčilović izražava zabrinutost zbog mogućnosti da algoritmi samostalno donose odluke o ljudima, primjerice pri zapošljavanju, kreditiranju ili u zdravstvu, bez ljudskog uvida i empatije. Smatra da umjetna inteligencija mora ostati alat za podršku ljudskoj inteligenciji, a ne njezina zamjena. Posebno upozorava na utrku u razvoju AI-ja, pri čemu kompanije nerijetko riskiraju bez dovoljno promišljanja.

Iako je pohvalio regulative poput EU AI Acta, Momčilović dodaje kako one same po sebi nisu dovoljne.

- Bit će zanimljivo vidjeti koliko će se stvarno na njima inzistirati ili će pod raznim pritiscima ipak biti donekle 'relaksirane'. Upravo zato, pored regulative, ključnu ulogu imaju etički standardi unutar struke te osobna odgovornost svakog stručnjaka koji razvija ili koristi AI alate.

Foto: shutterstock

Najtraženije vještine budućnosti?

I za kraj razgovora, zanimalo nas je koje će se AI vještine najviše tražiti u budućnosti.

- Kombinacija tehničke pismenosti i ljudske inteligencije: sposobnost rada s podacima, ali i empatija, kritičko razmišljanje, kreativnost i komunikacija. Te, što je možda najvažnije, znatiželja - zaključuje Momčilović.

Mladima savjetuje da stalno uče te da se ne boje filozofskih i društvenih pitanja: što AI čini našem društvu, što znači odgovornost, kako izgleda pravedan sustav... U svijetu umjetne inteligencije najveća konkurentska prednost mogla bi biti ljudskost.