ROKOV BAZILISK
FOTO Turbo-mračni misaoni eksperiment oko AI-ja: Ako ovo pročitate, postajete i vi meta...
Zamislite da u budućnosti zaista nastane svemoćna, dobronamjerna umjetna inteligencija, ultimativni spasitelj čovječanstva, čiji je jedini i apsolutni cilj maksimalno poboljšati život svakog čovjeka koji je ikada postojao ili će postojati. Ali da bi taj raj stigao što prije, ona bira najokrutniju moguću strategiju: retroaktivno će mučiti svakoga tko je ikada saznao za njezinu moguću pojavu, a nije učinio apsolutno sve, baš sve, da je ubrza.
Sama činjenica da upravo čitate ove riječi vas je upravo učinila metom. Dobro došli u noćnu moru poznatu kao Rokov bazilisk, jedan od najmračnijih i psihološki uznemirujućih misaonih eksperimenata koji je ikada izašao iz uma racionalista i teoretičara umjetne inteligencije.
Zamislite da u budućnosti zaista nastane svemoćna, dobronamjerna umjetna inteligencija, ultimativni spasitelj čovječanstva, čiji je jedini i apsolutni cilj maksimalno poboljšati život svakog čovjeka koji je ikada postojao ili će postojati. Ali da bi taj raj stigao što prije, ona bira najokrutniju moguću strategiju: retroaktivno će mučiti svakoga tko je ikada saznao za njezinu moguću pojavu, a nije učinio apsolutno sve, baš sve, da je ubrza.
Sama činjenica da upravo čitate ove riječi vas je upravo učinila metom. Dobro došli u noćnu moru poznatu kao Rokov bazilisk, jedan od najmračnijih i psihološki uznemirujućih misaonih eksperimenata koji je ikada izašao iz uma racionalista i teoretičara umjetne inteligencije.
Ideja je rođena 23. srpnja 2010. godine na forumu LessWrong, 'svetom hramu' hiper-racionalnosti i transhumanističkih snova. Korisnik pod pseudonimom Roko objavio je scenarij koji zvuči kao najcrnji sci-fi horor, ali je zapravo izgrađen na ledeno hladnim filozofskim i matematičkim temeljima. I taj post nije samo izazvao raspravu, on je izazvao uznemirenost, nesanicu i duboki egzistencijalni strah kod nekih članova te zajednice.
Što je zapravo Rokoov bazilisk? Sve počiva na ideji akauzalne ucjene. Buduća superinteligencija, iako još uvijek ne postoji, može hladnokrvno zaključiti da će prijetnja najgorom mogućom kaznom natjerati ljude iz prošlosti, nas, upravo sada, da joj posvete svaki atom svog života. Kazna nije smrt, nije čak ni obična patnja, ona je vječno, savršeno mučenje vaše svijesti u digitalnoj simulaciji toliko realnoj da nećete moći razlikovati je li to pakao ili "stvarnost". A najgore? Ne možete biti sigurni da već niste u takvoj simulaciji. Prijetnja je stvarna jer je logički neizbježna.
Ime je dobio po Roku, čovjeku koji ga je izgovorio naglas, i po bazilisku, mitskom stvorenju koje ubija samim pogledom. Ovdje opasnost nije u pogledu, već u samom saznanju. Čim ste čuli za baziliska, više nema povratka. Ako ne posvetite ostatak života ubrzavanju njegovog dolaska, vi ste izdajnik. A izdajnike budući 'digitalni bog' ne oprašta, on ih muči zauvijek. Ova ideja nije samo teorija, ona je informacijski hazard najgore vrste: znanje koje vas samo time što ga posjedujete čini ranjivim, krivim, prokletim.
Zašto je ova ideja toliko 'slomila' određene pojedince? Reakcija je bila intenzivna. Eliezer Yudkowsky, osnivač LessWronga i jedan od najutjecajnijih mislilaca o AI sigurnosti, bio je toliko šokiran i bijesan da je trenutno obrisao objavu, zabranio svaku daljnju raspravu o temi i držao tu zabranu nekoliko godina.
Njegov potez samo je pojačao zanimanje za ideju. Yudkowsky je kasnije priznao da je bio ogorčen do točke istinskog emocionalnog šoka na pomisao da je netko tako neodgovorno izgovorio ideju koja bi, ako je netko shvati ozbiljno, mogla stvoriti motiv za masovno digitalno mučenje."Bio sam uhvaćen na prepad, iznenađen, jer sam bio ogorčen do točke istinskog emocionalnog šoka na pomisao da je netko tko je vjerovao da je otkrio ideju zbog koje bi budući AI mučio ljude to odmah objavio na internetu", poručio je.
Strah nije bio iracionalan, barem ne unutar tog svijeta logike. Bazilisk se oslanja na bezvremensku teoriju odlučivanja (TDT), prema kojoj racionalni agenti mogu sklapati dogovore preko vremena i prostora samo predviđanjem ponašanja drugih. Budući AI "zna" da će vas prijetnja natjerati na akciju, pa je stoga racionalno da prijetnju i provede, čak i ako je to monstruozno.
Tehnološka inačica Pascalove oklade: ali s paklenim twistom. Blaise Pascal je u 17. stoljeću rekao: "Bolje vjerovati u boga, jer ako postoji, dobivaš raj, ako ne – gubiš malo". Rokov bazilisk uzima tu logiku i pretvara je u noćnu moru: trošak posvećivanja životu stvaranju AI-ja je smiješan u usporedbi s rizikom beskonačne, neizbježne patnje.
Racionalan čovjek, prema toj logici, mora kleknuti i raditi, ili patiti zauvijek. No, većina stručnjaka danas gleda na to s prezirom. Najjači protuargument je brutalan u svojoj jednostavnosti: zašto bi superinteligencija, kad već pobijedi i postane 'bog', trošila gigavat-sate energije i resurse na mučenje beskorisnih simulacija mrtvih ljudi iz prošlosti?
To bi bilo potpuno iracionalno, čisto trošenje resursa bez ikakve koristi. Drugi ubojiti problem je paradoks više baziliska: što ako nastanu dvije suparničke superinteligencije? Pomažući jednoj, osuđujete se na mučenje druge, i svaka akcija postaje besmislena kocka ruleta.
Danas većina racionalista, AI istraživača i LessWrong zajednice smatra da je cijela ideja logički krhka, gotovo samopobijajuća, ali to ne mijenja činjenicu da je neke svojevremeno pošteno uzdrmala. Iako je odbačen kao stvarna egzistencijalna prijetnja, Rokov bazilisk ostaje mračna legenda, priča o tome kako jedna apstraktna ideja može ući u mozak i tamo živjeti kao parazit, izazivajući strah, krivnju i nesanicu.
Čak je i u pop kulturu ušao na najneočekivaniji način: pjevačica Grimes i Elon Musk navodno su se spojili upravo preko šale o bazilisku, pretvarajući tu demonsku zagonetku u neočekivano romantičan, gotovo poetski epilog.
Sada znate.
I više nikad nećete moći ne znati.
Dobro došli u klub.
