Razvoj umjetne inteligencije mogao bi u sljedećih pet do deset godina donijeti promjene usporedive s novom industrijskom revolucijom. AI agenti preuzimat će ponavljajuće zadatke, ubrzavati poslovne procese i mijenjati način na koji ljudi uče i rade. No veće mogućnosti tehnologije donose i potrebu za jasnim pravilima, ljudskim nadzorom i boljom zaštitom od zlouporaba.
O tim je izazovima na prošlotjednoj CyberGuard konferenciji govorio Ratko Mutavdžić iz Microsofta, ističući da razvoj umjetne inteligencije ne treba promatrati samo kroz ono što tehnologija može napraviti, nego i kroz način na koji se njome upravlja.
POGLEDAJTE VIDEO
AI agenti preuzimat će rutinske zadatke
U idućih pet do deset godina AI agenti mogli bi značajno promijeniti poslovanje organizacija. Njihova je najveća prednost mogućnost preuzimanja zadataka koji su spori, repetitivni i ne zahtijevaju stalnu ljudsku intervenciju. Ipak, to ne znači da bi ljudi trebali prepustiti tehnologiji neograničenu slobodu djelovanja. Prema Mutavdžiću, ljudska kontrola jedan je od temeljnih preduvjeta razvoja i primjene agenata.
- Ljudi će zadržati kontrolu. Mislim da je to jedan od osnovnih preduvjeta svega što gradimo u tom prostoru - rekao je Mutavdžić.
Objasnio je da agentima treba omogućiti da obavljaju zadatke za koje su namijenjeni, ali i postaviti jasna ograničenja njihova djelovanja.
Promjene neće zaobići ni zaposlenike ni menadžere. Uz nove alate, bit će potrebno usvajati nova znanja i prilagođavati način rada. Umjetna inteligencija pritom bi mogla postati i važan alat za obrazovanje.
- Ako kvalitetno tome pristupimo, to je odličan tutor, odličan edukacijski agent, odličan profesor koji vam može pomoći da bilo što usvojite relativno brzo - istaknuo je.
Promijenit će se, smatra, način na koji ljudi uče, ali i način na koji podučavaju druge. Menadžeri će također morati prilagoditi svoje metode upravljanja organizacijama.
Odgovornost za rad AI agenata ostaje na ljudima
Sve veća autonomija umjetne inteligencije otvara i pitanje odgovornosti. Što ako agent napravi nešto za što nije bio namijenjen ili izazove štetu u poslovanju?
Mutavdžić smatra da odgovornost ne bi smjela biti prebačena na tehnologiju. Na ljudima je da odluče što će agent smjeti raditi, odrede njegove ovlasti i postave sigurnosne okvire.
- Odgovornost je uvijek na čovjeku i treba tako i ostati. Čovjek je taj koji će pustiti agenta da radi, koji će mu dati određene okvire i upravljati njegovom sigurnošću - rekao je.
Zbog toga će, uz razvoj sve sposobnijih modela, sve važnije postati njihovo sigurno upravljanje. Tehnološke kompanije već se, prema njegovim riječima, sve više usmjeravaju na kontrolu mogućnosti umjetne inteligencije i osiguravanje da modeli rade ono što se od njih traži.
Mutavdžić smatra da se odnos prema AI-ju postupno mijenja. Nakon početnog oduševljenja mogućnostima tehnologije, sve više pozornosti posvećuje se rizicima, sigurnosti i pravilima njezine primjene.
Napadačima su dovoljna jedna otvorena vrata
Umjetna inteligencija može pomoći u obrani sustava, ali je mogu koristiti i zlonamjerni akteri. Pritom je brzina razvoja tehnologije važan faktor jer omogućuje da se u kratkom vremenu obavi mnogo više posla, neovisno o tome koristi li se za legitimne ili štetne ciljeve.
Zato Mutavdžić očekuje da će potreba za stručnjacima i partnerima koji pomažu organizacijama u zaštiti sustava ostati velika, pa i dodatno rasti.
- S umjetnom inteligencijom potreba za partnerstvom i ljudima koji se profesionalno time bave znakovito se povećava - kazao je.
Objasnio je i zašto je obrana od kibernetičkih napada posebno zahtjevna. Napadaču je dovoljno pronaći jednu ranjivost, dok organizacija mora zaštititi sve potencijalne ulazne točke u svoj sustav.
- Ako želite nešto zloupotrijebiti, uvijek ste korak ispred nekoga tko mora zatvoriti sve ono što vam je dovoljno u sigurnosnom incidentu. Dovoljno je da vaša organizacija ima jedna vrata otvorena, a mi moramo razmišljati o tome da zatvorimo sva vrata koja postoje - upozorio je.
Suradnja organizacija, stručnjaka i pružatelja sigurnosnih usluga zato će biti važna i u budućnosti. Ipak, upozorava, napetost između napadača koji traže jednu slabost i onih koji moraju zaštititi cijeli sustav neće nestati.
Nije pitanje hoće li doći do napada, nego koliko će oporavak trajati
Organizacije ne bi smjele ulagati samo u sprječavanje napada, nego i u sposobnost brzog oporavka nakon sigurnosnog incidenta. Budući da je teško predvidjeti sve moguće prijetnje, potrebno je računati i s mogućnošću da obrambeni sustavi zakažu.
- Jedna od osnovnih postavki s kojom danas funkcioniramo jest da će se problem dogoditi. Koliko god uspostavili sustave obrane i zaštite, moguće je da oni budu probijeni. Puno je veće pitanje kako ćemo se vratiti u normalno poslovanje - rekao je Mutavdžić.
Otpornost sustava tako postaje jednako važna kao i njegova zaštita. Organizacije moraju razvijati načine na koje će nakon napada što prije obnoviti rad, vratiti sustave u funkciju i nastaviti poslovanje.
To ne znači odustajanje od prevencije, nego prihvaćanje činjenice da nijedna zaštita ne može unaprijed jamčiti da se incident neće dogoditi. Uz ulaganja u sigurnost, potrebno je zato planirati i oporavak.
Tvrtke još nisu spremne za brzinu razvoja AI-ja
Brzina kojom se umjetna inteligencija proširila među pojedinačnim korisnicima iznenadila je i stručnjake. AI alati već su dostupni na mobilnim uređajima i postali su dio svakodnevice, no organizacije se s prilagodbom suočavaju s dodatnim izazovima.
Za njihova primjenu nije dovoljno samo uvesti novi alat. Potrebno je urediti okruženje u kojem će se koristiti, definirati odgovornost, upravljati rizicima i osigurati odgovarajuću razinu zaštite.
Mutavdžić očekuje da će se u sljedećih godinu ili dvije proizvođači naprednih AI modela više usmjeriti na upravljanje njihovim mogućnostima nego na samo povećavanje broja zadataka koje mogu obavljati.
- Došli smo do vrlo zanimljive faze u kojoj ti modeli obavljaju puno toga za nas, moćni su i mogu napraviti mnogo. Sada je pitanje kako njima upravljamo - kazao je.
Smatra da razvoj tehnologije ne bi trebao biti usmjeren samo na brzinu i nove mogućnosti, nego i na sigurnost, kvalitetu i mogućnost upravljanja sustavima.
Opća umjetna inteligencija stiže prije nego što mislimo?
Unatoč izazovima, Mutavdžić je optimističan kad je riječ o daljnjem razvoju umjetne inteligencije. Vjeruje da će napredniji oblici AI-ja stići prije nego što mnogi očekuju, a na to upućuju i sve veća potražnja za računalnim kapacitetima, podatkovnim centrima i AI modelima.
- Osobno sam optimist i vidim puno više prednosti nego potencijalnih nedostataka umjetne inteligencije - rekao je.
Razvoj umjetne inteligencije, prema njegovu mišljenju, već pokreće promjene koje bi mogle biti usporedive s industrijskom revolucijom. Ipak, ključni izazov neće biti samo stvaranje sve moćnijih modela, nego i pronalaženje načina da se njihove mogućnosti iskoriste sigurno i za dobrobit društva.