Skandalozno! Britanske tvrtke naslijepo upravljaju AI sustavima. Samo 21% može brzo zaustaviti AI, a mnogi ne znaju tko je odgovoran. Opasnost vreba iz "AI u sjeni". Kako je onda tek kod nas?
OPASNOSTI AI
Pola britanskih tvrtki nema pojma kako stopirati AI u krizi
Čitanje članka:
1
min
Unatoč brzom usvajanju umjetne inteligencije, novo istraživanje tvrtke ISACA sugerira da mnoge tvrtke posluju naslijepo. Više od polovice (59 posto) britanskih tvrtki ne bi znalo koliko brzo mogu zaustaviti AI sustav tijekom krizne situacije. Istraživanje otkriva da se samo jedna od pet tvrtki (21 posto) osjeća sigurno da bi mogli zaustaviti AI sustav unutar 30 minuta, što ukazuje na velike sigurnosne nedostatke.
Problem nije samo u gašenju sustava. Manje od polovice (42 posto) ispitanika tvrdi da bi mogli objasniti kvar umjetne inteligencije upravi ili regulatorima. Iz ISACA-e objašnjavaju da ovi propusti nisu zabrinjavajući samo za poslovanje i reputaciju, već i s gledišta zakonodavnog okvira, s obzirom na to da EU AI Act zahtijeva objašnjivost i odgovornost.
Nejasna odgovornost i "AI u sjeni"
Dio problema leži u nejasnoj odgovornosti. Istraživanje pokazuje da samo 38 posto radnika može točno odrediti tko je odgovoran u njihovoj tvrtki, dok je 20 posto zaposlenika potpuno nesigurno tko odgovara za kvarove AI sustava.
Loša vidljivost također je faktor koji doprinosi problemu. Jedna od tri organizacije ne zahtijeva od zaposlenika da prijave korištenje AI alata na poslu, što ISACA opisuje kao noćnu moru koja stvara "mrtve kutove" i nepredvidive rizike.
Izazov upravljanja, a ne samo tehnologije
U izvješću se navodi da tvrtke trenutno tretiraju ovaj problem kao tehnički, dok bi se umjesto toga trebale usredotočiti na njega kao na izazov upravljanja na razini cijele organizacije.
- Istinsko premošćivanje jaza ne može se postići samo promjenama procesa - napisao je glavni direktor za globalnu strategiju Chris Dimitriadis. - Umjesto toga, bit će potrebni stručnjaci koji imaju znanje za rigoroznu procjenu rizika umjetne inteligencije i ugradnju nadzora kroz cijeli njezin životni ciklus.
Gledajući unaprijed, tvrtke se potiču da definiraju odgovornost na seniorskoj razini te da počnu uvoditi bolju vidljivost i reviziju sustava. Osim toga, moraju u svoje strategije ugraditi odgovor na incidente povezane s umjetnom inteligencijom i uključiti ga u svoje šire okvire kibernetičke sigurnosti. S obzirom na to da samo 38 posto ispitanika identificira upravni odbor ili nekog od direktora kao odgovorne u slučaju AI incidenta, jasno je da je potrebno učiniti više na širenju informacija i procesa među zaposlenicima.
Sve što je bitno, na dohvat ruke
Skini aplikaciju za najbolje iskustvo portala. Čitaj, komentiraj i budi uvijek u toku s najnovijim vijestima.
Odaberi temu koju želiš pratiti
Primaj sve nove vijesti o temi i budi u tijeku
