ChatGPT postaje emocionalni oslonac! Nova opcija "Pouzdani kontakt" pomaže korisnicima u kriznim situacijama, ali otvara pitanja privatnosti i etike.
OD ALATA DO POVJERENIKA
Umirujuće ili uznemirujuće? ChatGPT ulazi u vaše živote i odnose preko ove nove opcije
Čitanje članka:
2
min
ChatGPT se razvija od AI asistenta u svojevrsnu emocionalnu infrastrukturu, a nova značajka "Pouzdani kontakt" koju uvodi OpenAI najočitiji je dokaz da ljudi počinju razvijati duboku emocionalnu ovisnost o ovom alatu. Govoreći na događaju AI Ascent u organizaciji Sequoia Capitala, izvršni direktor OpenAI-ja Sam Altman izjavio je kako mladi ljudi koriste ChatGPT kao svojevrsni vodič kroz život - ne samo za produktivnost, već i za donošenje velikih osobnih odluka.
- Mislim, sve je to super i impresivno, ali postoji i druga stvar, a to je da oni zapravo ne donose životne odluke bez da pitaju ChatGPT što bi trebali učiniti - rekao je Altman. U to je vrijeme komentar zvučao provokativno.
Godinu dana kasnije, ChatGPT je za neke korisnike postao nešto poput terapeuta, životnog trenera i povjerljivog suputnika. Sada OpenAI gradi stvarnu infrastrukturu za emocionalnu podršku oko chatbota.
Kako funkcionira "Pouzdani kontakt"?
Značajka se još uvijek uvodi i nije dostupna svima, no zamišljena je kao opcionalni alat za punoljetne korisnike osobnih ChatGPT računa. Nije dostupna za poslovne, korporativne ili obrazovne profile. Proces je jednostavan: korisnik u postavkama može nominirati jednu punoljetnu osobu kao svoj pouzdani kontakt. Ta osoba zatim prima pozivnicu i mora je prihvatiti u roku od tjedan dana kako bi značajka postala aktivna, a pritom ne mora imati vlastiti ChatGPT račun.
Ako automatizirani sustavi ChatGPT-ja detektiraju razgovore koji bi mogli ukazivati na ozbiljan rizik od samoozljeđivanja, korisnik dobiva upozorenje da bi njegov pouzdani kontakt mogao biti obaviješten te ga se potiče da se prvi sam javi. Prije slanja bilo kakvog upozorenja, posebno obučen tim ljudi procjenjuje situaciju kako bi utvrdio postoji li stvarna sigurnosna prijetnja. OpenAI navodi da se ovaj pregled nastoji obaviti u roku kraćem od sat vremena. Ako recenzenti potvrde zabrinutost, pouzdani kontakt prima kratku obavijest putem e-maila, SMS-a ili unutar aplikacije. Kako bi se zaštitila privatnost korisnika, obavijest ne sadrži transkripte razgovora, već samo općenito objašnjenje i poticaj da provjere osobu.
Sve veća emocionalna ovisnost
Uvođenje značajke "Pouzdani kontakt" odgovor je na sve veći pritisak javnosti i pravne izazove s kojima se OpenAI suočio, uključujući tužbe u kojima se tvrdilo da su odgovori chatbota doprinijeli samoozljeđivanju. Tvrtka navodi da je značajka razvijena uz pomoć stručnjaka za mentalno zdravlje, prevenciju samoubojstava i organizacija poput Američke psihološke udruge.
Brojke koje zabrinjavaju
Ovaj trend potvrđuju i brojna istraživanja. Jedno je istraživanje otkrilo da 38 posto Amerikanaca koristi AI chatbotove za emocionalnu podršku na tjednoj bazi, pri čemu više od trećine navodi strah od osude kao primarni razlog. Druga studija pokazala je da otprilike jedan od osam američkih adolescenata i mladih koristi chatbotove za savjete o mentalnom zdravlju. Podaci samog OpenAI-ja pokazuju da otprilike 0,15 posto tjednih aktivnih korisnika vodi razgovore s eksplicitnim pokazateljima potencijalnog samoozljeđivanja.
Umirujuće ili uznemirujuće?
Hoće li se značajka "Pouzdani kontakt" doživjeti kao umirujuća ili uznemirujuća vjerojatno ovisi o tome kako već gledate na umjetnu inteligenciju. S jedne strane, OpenAI priznaje da je ChatGPT postao nešto što na korisnike utječe emocionalno, a ne samo tehnološki. Zajedno s postojećim roditeljskim kontrolama i sigurnosnim mehanizmima, ovo je još jedan znak da AI postaje nešto puno osobnije.
Međutim, ideja da nas ChatGPT sada nadzire za neke je vrlo zabrinjavajuća. Ova značajka otvara i šira etička pitanja u vezi s privatnošću i sigurnošću osjetljivih podataka, odgovornosti za štetne savjete te potencijalne pristranosti ugrađene u AI modele. Stručnjaci upozoravaju da, iako AI može biti koristan alat, ne može zamijeniti istinsku ljudsku povezanost i empatiju, a pretjerano oslanjanje na tehnologiju nosi rizik dehumanizacije skrbi o mentalnom zdravlju.
*uz korištenje AI-ja
Sve što je bitno, na dohvat ruke
Skini aplikaciju za najbolje iskustvo portala. Čitaj, komentiraj i budi uvijek u toku s najnovijim vijestima.
Odaberi temu koju želiš pratiti
Primaj sve nove vijesti o temi i budi u tijeku
