Guverner engleske središnje banke (Bank of England), Andrew Bailey, pridružio se sve većem broju istaknutih osoba koje upozoravaju na globalne rizike koje predstavlja najnaprednija tehnologija umjetne inteligencije. U svojoj ulozi predsjednika međunarodnog Odbora za financijsku stabilnost (FSB), Bailey je uputio oštro upozorenje ministrima financija i guvernerima središnjih banaka skupine G20 uoči njihovog sastanka u Sjevernoj Karolini.
U pismu na dvije stranice, Bailey je naglasio kako "granični" modeli umjetne inteligencije (frontier AI) pokazuju "sve sofisticiraniju autonomiju i sposobnosti rješavanja problema, kao i prijetnje". Prema njegovim riječima, takvi modeli riskiraju destabilizaciju "visoko međusobno povezanog" globalnog financijskog sustava putem kibernetičkih napada koji se mogu rapidno širiti preko državnih granica.
Opasnost od kibernetičkih napada nove generacije
Baileyjeva glavna briga usmjerena je na potencijalni utjecaj napredne umjetne inteligencije na kibernetički rizik, koji bi mogao "materijalno izmijeniti brzinu, razmjere i ekonomiju" takvih prijetnji te potkopati povjerenje u cijeli financijski sustav. Problem dodatno pojačava činjenica da je financijski sektor visoko ovisan o malom broju velikih tehnoloških dobavljača, što stvara sistemsku ranjivost.
"Nedavni događaji također su mi ukazali na to da mnoge jurisdikcije nemaju uspostavljene protokole za upravljanje razvojem, izdavanjem i primjenom naprednih 'graničnih' modela umjetne inteligencije, što povećava rizike za financijski sektor i šire", stoji u Baileyjevom pismu.
Njegovo upozorenje odražava zabrinutost koju su posljednjih tjedana izrazili i istaknuti tehnolozi. Prošlog mjeseca, pismo koje je potpisalo 1367 istraživača i inženjera iz vodećih laboratorija za umjetnu inteligenciju, poput OpenAI-ja, Anthropica i Google DeepMinda, istaknulo je bojazni stručnjaka koji svakodnevno rade na ovoj tehnologiji. U pismu se navodi: "Postoji stvaran rizik da se razvoj sposobnosti ubrza izvan naše mogućnosti razumijevanja ili kontrole sustava koji iz toga proizlaze". Zatražili su podršku američke vlade za "međunarodni napor u razvoju tehničkih i upravljačkih alata potrebnih za namjerno usporavanje razvoja automatizirane umjetne inteligencije".
Povećane tržišne ranjivosti i poziv na akciju
Osim kibernetičkih prijetnji, Bailey je ukazao i na druge ranjivosti na financijskim tržištima. Izrazio je zabrinutost zbog povećane upotrebe financijske poluge na tržištima obveznica i dionica, što se kombinira s visokim valuacijama, djelomično potaknutim optimizmom ulagača u vezi s potencijalom umjetne inteligencije. Ovakva kombinacija faktora mogla bi značajno pojačati buduću tržišnu korekciju.
"Stoga ostajem zabrinut da bi veliki šok ili kombinacija šokova mogli istovremeno pokrenuti višestruke ranjivosti", napisao je Bailey. Pozvao je one koji su zaduženi za zaštitu svjetskih financijskih sustava da daju prioritet "odgovarajućim koracima za podršku sigurnom i odgovornom izdavanju i primjeni modela na globalnoj osnovi".
Globalni regulatorni odgovori
Upozorenje čelnika Bank of England dio je šireg globalnog trenda usmjerenog na regulaciju i upravljanje rizicima povezanim s umjetnom inteligencijom. Međunarodne organizacije i države sve više prepoznaju potrebu za usklađenim djelovanjem.
Napori Europske unije i SAD-a
Europska unija već je poduzela konkretne korake usvajanjem Akta o umjetnoj inteligenciji (AI Act), prvog sveobuhvatnog zakona o umjetnoj inteligenciji na svijetu. Ovaj akt klasificira sustave umjetne inteligencije prema razini rizika, pri čemu se mnoge primjene u financijskom sektoru, poput procjene kreditne sposobnosti i rizika u osiguranju, smatraju "visokorizičnima" i podliježu strogim zahtjevima. S druge strane, američko Ministarstvo financija objavilo je dobrovoljni Okvir za upravljanje rizicima umjetne inteligencije u financijskim uslugama, s ciljem promicanja sigurne i odgovorne primjene ove tehnologije.
Rad Odbora za financijsku stabilnost
Sam Odbor za financijsku stabilnost, pod Baileyjevim vodstvom, aktivno radi na razvoju dobrih praksi za odgovorno usvajanje umjetne inteligencije u financijskim institucijama. Nedavno je FSB objavio konzultacijski izvještaj s dvanaest preporuka koje se odnose na upravljanje i nadzor, upravljanje rizicima tijekom razvoja i primjene umjetne inteligencije te upravljanje kibernetičkim rizicima i rizicima trećih strana. Ovi napori ukazuju na rastuću svijest o potrebi za međunarodnom suradnjom radi ublažavanja potencijalnih rizika za globalnu financijsku stabilnost. Andrew Bailey guverner je Bank of England od ožujka 2020. godine, a prošle godine imenovan je predsjednikom FSB-a.