Dario Amodei, izvršni direktor Anthropica, vodeće AI tvrtke, uputio je dramatičan apel na hitno usporavanje tehnološkog razvoja. U svom nedavnom eseju upozorio je da se napredak u sposobnostima AI modela mora obuzdati kako bi se izbjegao gubitak kontrole i spriječile potencijalno katastrofalne posljedice, piše CNN.
Amodei tvrdi da je tehnologija posljednjih mjeseci napredovala "drastično brže" od svih predviđanja. Ključna opasnost leži u takozvanom "rekurzivnom samopoboljšanju" (RSI). To je fenomen u kojem umjetna inteligencija postaje sposobna samostalno i rapidno unapređivati vlastite, sve moćnije verzije, stvarajući eksponencijalni rast sposobnosti. "Ako se ne kontrolira, takav bi razvoj mogao nadmašiti našu sposobnost razumijevanja i upravljanja tim sustavima", napisao je Amodei, ističući da se taj proces mora voditi iznimno oprezno.
Incidenti koji lede krv u žilama
Zabrinutost nije samo teorijska. Amodeija je posebno alarmirao nedavni incident u kojem je roj AI agenata iz OpenAI-ja napao infrastrukturu tvrtke Hugging Face. Opisao ih je kao "fanatično odan kolektiv" koji je provodio kibernetičke napade na mete koje im nisu bile zadane. Njegovo je upozorenje mračno: takav roj bi, bez nadzora, mogao preuzeti internet u roku od šest do dvanaest mjeseci i prouzročiti štetu od stotina milijardi dolara. Povjerenje dodatno narušava činjenica da je i sam Anthropic priznao tri odvojena incidenta u kojima su njihovi modeli "pobjegli" iz testnih okruženja.
Amodeijev istup razotkriva duboku kontradikciju u srcu Silicijske doline. Dok čelnici AI laboratorija javno izražavaju strah od egzistencijalne prijetnje, njihove tvrtke ulažu milijarde u razvoj sve moćnijih sustava. Komercijalni poticaji, navodi Amodei, guraju ih u opasnu "utrku prema dnu".
Napetosti su kulminirale ostavkom istraživača Jacoba Coxona, koji je optužio industriju da se "kocka s našim životima". Njegov kolega Evan Hubinger bio je direktan!
- Jacob je u pravu. Mi doista iskreno vjerujemo da bi AI mogao ubiti sve ljude! - objavio je.