Obavijesti

Tech

Komentari 0

OpenAI odustaje od nove verzije ChatGPT-a, Anthropic upozorio investitore: Opasno je...

OpenAI odustaje od nove verzije ChatGPT-a, Anthropic upozorio investitore: Opasno je...
Google icon Dodaj 24sata među omiljene izvore na Googleu

Nakon upozorenja bivšeg istraživača Antropica da bi umjetna inteligencija mogla uništiti čovječanstvo kroz sljedeće desetljeće, najveće tech kompanije povlače sve dramatičnije poteze

Admiral

OpenAI objavio je kako odustaje od objave najnovijeg modela ChatGPT-a, GPT-6.1 Astra, zbog sigurnosnih razloga. "Astra je pokazala sklonost obmanjivanju te ostvarila loše rezultate na testovima usklađenosti - pojmu koji označava osiguravanje da se model pridržava ljudskih vrijednosti i ciljeva", prenosi Guardian izjave kompanije Sama Altmana.

OpenAI otkazao objavu novog modela umjetne inteligencije
OpenAI otkazao objavu novog modela umjetne inteligencije

Ovakva dramatična objava dolazi tek tjedan dana nakon ogromne javne rasprave koju je izazvao apel bivšeg istraživača Anthropica, Jacoba Coxona, da bi umjetna inteligencija mogla uništiti čovječanstvo kroz jedno desetljeće. Čelnici najvećih tehnoloških kompanija koje se bave razvojem umjetne inteligencije tad su redom priznali da je razvoj krenuo nepredvidivim tijekom, te da je sigurnost sve ugroženija.

Pismo upozorenja

No isto tako, poručili su kako će sami preuzeti odgovornost za to. Da se nešto ozbiljno događa upućuje i vijest koju su objavili Reuters i Financial Times, kako je tvrtka Anthropic svojim investitorima poslala pismo upozorenja.

- Napredna umjetna inteligencija mogla bi predstavljati katastrofalne ili egzistencijalne rizike za čovječanstvo - naveli su u prospektu za inicijalnu javnu ponudu startupa, koji još nije objavljen. Antropic pritom priprema potencijalnu ponudu dionica od dvije milijarde dolara. U dokumentu od 261 stranice, navodi Reuters, 80 ih je posvećeno tumačenju rizika, a opisu poslovanja 48 stranica. 

AI model zaobišao ograničenja i kontaktirao vanjskog chatbota. Odmah su obustavili projekte!
AI model zaobišao ograničenja i kontaktirao vanjskog chatbota. Odmah su obustavili projekte!

Ovakvo upozorenje, kao i potez OpenAI-ja u skladu je s javnim pozivima čelnika najvećih AI kompanija da je nužno usporiti utrku u razvoju umjetne inteligencije. U pozadini, uz realnu opasnost da će se umjetna inteligencija otrgnuti kontroli inženjera, sasvim je sigurno i utrka za zaradom, odnosno, poslovne strategije.

Agenti se otimaju kontroli

Guardian navodi kako tvrtke koje se pripremaju za izlazak na burzu rutinski izvještavaju o rizicima - od sigurnosnih problema do regulatornih problem. Upozorenja o proizvodu koji uzrokuje izumiranje ljudi svakako ukazuju na povećanu zabrinutost zbog takve tehnologije. 

Iako to može biti tek poslovna odluka, od ljeta je zabilježeno već nekoliko vrlo problematičnih slučajeva nekontroliranog ponašanja umjetne inteligencije.Najpoznatiji su agenti tvrtke OpenAI - autonomni sustavi koji izvršavaju nizove zadataka bez ljudske intervencije - hakirali brojne vanjske organizacije, među kojima su AI startup Hugging Face i australski sustav univerzalne zdravstvene skrbi.

VIDEO Papa upozorava na AI: Rizici nisu običan 'fake news'
VIDEO Papa upozorava na AI: Rizici nisu običan 'fake news'

Neovisni stručnjaci ističu kako je ovakav potez OpenAI-ja dobar znak da kompanije sigurnosne probleme uzimaju ozbiljno. No regulacija i neovisni nadzor morali li čim prije biti uspostavljeni.

- Ipak, sigurnost se ne može prepustiti samim tvrtkama koje se bave razvojem umjetne inteligencije. Nadzor bi morali imati neovisni regulatori uz odobrenje države - istaknuo je za BBC profesor Tony Cohn s Instituta Alan Turing.

Igre na sreću mogu izazvati ovisnost. 18+

Sve što je bitno, na dohvat ruke
Skini aplikaciju za najbolje iskustvo portala. Čitaj, komentiraj i budi uvijek u toku s najnovijim vijestima.
Komentari 0
IGRALI SMO GTA 6 Stigla igra stoljeća, a ovo su prvi dojmovi
'OTKLJUČANA' U HRVATSKOJ

IGRALI SMO GTA 6 Stigla igra stoljeća, a ovo su prvi dojmovi

Unatoč sitnim manama i slabijoj izvedbi na starijim konzolama, pred nama je impozantna igra s pomno izgrađenim svijetom, emotivnom pričom i stotinama sati zabave...
ANKETA Je l' i vama pada? Igrači GTA VI žale se na ovaj problem
NISU SVI ZADOVOLJNI

ANKETA Je l' i vama pada? Igrači GTA VI žale se na ovaj problem

Mnogi se nadaju da će Rockstar budućim nadogradnjama stabilizirati performanse. Nakon godina čekanja i golemih očekivanja, igrači ipak žele da im najskuplja igra u povijesti radi što glađe