OpenAI objavio je kako odustaje od objave najnovijeg modela ChatGPT-a, GPT-6.1 Astra, zbog sigurnosnih razloga. "Astra je pokazala sklonost obmanjivanju te ostvarila loše rezultate na testovima usklađenosti - pojmu koji označava osiguravanje da se model pridržava ljudskih vrijednosti i ciljeva", prenosi Guardian izjave kompanije Sama Altmana.
Ovakva dramatična objava dolazi tek tjedan dana nakon ogromne javne rasprave koju je izazvao apel bivšeg istraživača Anthropica, Jacoba Coxona, da bi umjetna inteligencija mogla uništiti čovječanstvo kroz jedno desetljeće. Čelnici najvećih tehnoloških kompanija koje se bave razvojem umjetne inteligencije tad su redom priznali da je razvoj krenuo nepredvidivim tijekom, te da je sigurnost sve ugroženija.
Pismo upozorenja
No isto tako, poručili su kako će sami preuzeti odgovornost za to. Da se nešto ozbiljno događa upućuje i vijest koju su objavili Reuters i Financial Times, kako je tvrtka Anthropic svojim investitorima poslala pismo upozorenja.
- Napredna umjetna inteligencija mogla bi predstavljati katastrofalne ili egzistencijalne rizike za čovječanstvo - naveli su u prospektu za inicijalnu javnu ponudu startupa, koji još nije objavljen. Antropic pritom priprema potencijalnu ponudu dionica od dvije milijarde dolara. U dokumentu od 261 stranice, navodi Reuters, 80 ih je posvećeno tumačenju rizika, a opisu poslovanja 48 stranica.
Ovakvo upozorenje, kao i potez OpenAI-ja u skladu je s javnim pozivima čelnika najvećih AI kompanija da je nužno usporiti utrku u razvoju umjetne inteligencije. U pozadini, uz realnu opasnost da će se umjetna inteligencija otrgnuti kontroli inženjera, sasvim je sigurno i utrka za zaradom, odnosno, poslovne strategije.
Agenti se otimaju kontroli
Guardian navodi kako tvrtke koje se pripremaju za izlazak na burzu rutinski izvještavaju o rizicima - od sigurnosnih problema do regulatornih problem. Upozorenja o proizvodu koji uzrokuje izumiranje ljudi svakako ukazuju na povećanu zabrinutost zbog takve tehnologije.
Iako to može biti tek poslovna odluka, od ljeta je zabilježeno već nekoliko vrlo problematičnih slučajeva nekontroliranog ponašanja umjetne inteligencije.Najpoznatiji su agenti tvrtke OpenAI - autonomni sustavi koji izvršavaju nizove zadataka bez ljudske intervencije - hakirali brojne vanjske organizacije, među kojima su AI startup Hugging Face i australski sustav univerzalne zdravstvene skrbi.
Neovisni stručnjaci ističu kako je ovakav potez OpenAI-ja dobar znak da kompanije sigurnosne probleme uzimaju ozbiljno. No regulacija i neovisni nadzor morali li čim prije biti uspostavljeni.
- Ipak, sigurnost se ne može prepustiti samim tvrtkama koje se bave razvojem umjetne inteligencije. Nadzor bi morali imati neovisni regulatori uz odobrenje države - istaknuo je za BBC profesor Tony Cohn s Instituta Alan Turing.