Mrinank Sharma, koji je prema vlastitim navodima vodio tim za safeguards, odnosno zaštitne mehanizme unutar Anthropica, objavio je odlazak iz kompanije uz javno pismo koje se brzo proširilo internetom. U njemu kaže da je u Anthropicu postigao ono što je htio, radio na obrani od rizičnih scenarija, uključujući smanjenje mogućnosti da se AI iskoristi za bioterorizam, ali da je došao do točke u kojoj više ne želi nastavljati istim tempom i pod istim pritiscima.
Najzvučniji dio pisma je rečenica da je ‘svijet u opasnosti’, i to ne samo zbog AI-a, nego zbog “niza međusobno povezanih kriza”. Sharma opisuje osjećaj da se približavamo granici u kojoj naša sposobnost da utječemo na svijet raste brže od naše mudrosti i spremnosti da odgovorno upravljamo tim moćima. Uz AI navodi i biološke rizike, te općenito atmosferu u kojoj se stalno gasi požar za požarom.
Još osjetljiviji dio je njegova tvrdnja o unutarnjim pritiscima. Nije izravno optužio Anthropic za konkretan incident ili “skrivanje” problema, ali kaže da je iznutra često gledao koliko je teško stvarno pustiti da vrijednosti upravljaju odlukama. Po njegovom opisu, organizacije stalno osjećaju pritisak da odgurnu u stranu ono što smatraju najvažnijim, bilo zbog tržišta, rokova, utrke s konkurencijom ili očekivanja investitora.
Ovaj odlazak je zanimljiv i zato što Anthropic ima imidž tvrtke koja se upravo sigurnošću želi razlikovati. Osnovani su uz naglasak na “sigurni AI”, a njihov CEO Dario Amodei je i javno upozoravao da se AI razvija prebrzo i da treba jača regulacija. Kad netko iz sigurnosnog dijela takve firme ode uz ovako dramatičnu poruku, to automatski postaje tema i za konkurente i za regulatore.
U širem kontekstu, ovo se uklapa u obrazac koji se ponavlja zadnjih godina: dio ljudi koji rade na AI sigurnosti povremeno napušta vodeće laboratorije i javno upozorava na tempo razvoja i na poticaje koji guraju industriju naprijed. Nekima je to znak da “nitko nema kontrolu”, drugima samo dokaz da je ovo sektor u kojem su stres i moralne dileme svakodnevica.
Koliko je ovo početak većeg vala? Teško je reći, ali poruka pogađa živac jer se AI industrija u 2026. sve manje vrti oko simpatičnih chatbotova, a sve više oko moći, novca i infrastrukture. Što su modeli sposobniji, to su važnija pitanja tko ih kontrolira, tko odlučuje o granicama, i kako se provjerava što je stvarno sigurno, a što je samo marketinška fraza.