Tvrtka Meta najavila je novu sigurnosnu mjeru na Instagramu koja će roditeljima slati obavijesti ako njihova djeca tinejdžerske dobi učestalo pretražuju pojmove povezane sa samoubojstvom i samoozljeđivanjem. Ova značajka, koja se uvodi usred sve glasnijih kritika i pravnih pritisaka na tehnološke gigante, prvi je put da će tvrtka proaktivno upozoriti roditelje na potencijalno opasno ponašanje njihove djece na platformi, umjesto da samo blokira takve pretrage i usmjerava korisnike na vanjsku pomoć.
Nova funkcionalnost prvo će biti dostupna u Sjedinjenim Američkim Državama, Ujedinjenom Kraljevstvu, Kanadi i Australiji, a kasnije tijekom godine i u ostatku svijeta. Ipak, dio stručnjaka i udruga za prevenciju samoubojstava izrazio je duboku zabrinutost, upozoravajući da bi "nespretno osmišljene" mjere mogle donijeti više štete nego koristi.
Kako funkcionira novi sustav uzbunjivanja
Sustav obavijesti osmišljen je kao nadogradnja postojećih alata za roditeljski nadzor unutar Instagramovog "Obiteljskog centra" (Family Center). Da bi značajka uopće bila aktivna, roditelji i tinejdžeri moraju prethodno pristati na povezivanje svojih računa. Jednom kada je nadzor uspostavljen, sustav će automatski reagirati na zabrinjavajuće obrasce ponašanja.
Alarm se neće aktivirati nakon jedne pretrage, već isključivo ako tinejdžer više puta u kratkom vremenskom razdoblju pokuša pretražiti pojmove poput "samoubojstvo" ili fraze koje upućuju na namjeru samoozljeđivanja. U tom slučaju, roditelj će primiti obavijest putem same aplikacije, e-maila, SMS-a ili WhatsAppa, ovisno o kontaktnim podacima koje je pružio.
Klikom na obavijest, roditelju će se prikazati poruka preko cijelog zaslona koja objašnjava situaciju. Uz samo upozorenje, Meta će roditeljima ponuditi i pristup stručnim resursima koji im trebaju pomoći u vođenju osjetljivih i teških razgovora s djetetom. Iz tvrtke poručuju da su svjesni kako bi roditelji mogli primiti i lažne uzbune, ali da su odlučili "pogriješiti na strani opreza".
Mjera koja izaziva oštre kritike
Unatoč Metinim namjerama, udruge za mentalno zdravlje nisu jednoglasne u podršci. Zaklada Molly Rose, osnovana u spomen na 14-godišnju Molly Russell koja si je oduzela život nakon što je bila izložena štetnom sadržaju na Instagramu, oštro je kritizirala novu mjeru.
- Ova nespretna najava prepuna je rizika i zabrinuti smo da bi prisilna otkrivanja mogla učiniti više štete nego dobra - izjavio je izvršni direktor zaklade Andy Burrows.
- Svaki roditelj bi želio znati ako se njegovo dijete bori s problemima, ali ove površne obavijesti ostavit će ih u panici i nespremne za osjetljive i teške razgovore koji će uslijediti. Teret bi trebao biti na rješavanju rizika unutar platforme, a ne na još jednoj cinično tempiranoj najavi koja prebacuje odgovornost na roditelje - dodao je Burrows.
Sličnog je stava i Ged Flynn, izvršni direktor dobrotvorne organizacije Papyrus Prevention of Young Suicide, koji tvrdi da Meta zanemaruje stvarni problem.
- Roditelji nas svakodnevno kontaktiraju i govore koliko su zabrinuti za svoju djecu na internetu. Oni ne žele biti upozoreni nakon što njihova djeca pretražuju štetan sadržaj; oni ne žele da im se takav sadržaj uopće servira putem bezumnih algoritama.
Odgovor na pravni i društveni pritisak
Ovaj potez Mete dolazi u trenutku kada se tvrtka suočava s desecima tužbi i sve jačim pritiskom regulatora diljem svijeta. Nedavno objavljeni interni dokumenti otkrili su da je tvrtka bila svjesna kako Instagram pogoršava probleme s percepcijom vlastitog tijela kod svake treće tinejdžerice. Mnogi analitičari trenutnu situaciju s društvenim mrežama uspoređuju s "trenutkom duhana", aludirajući na sudske procese koji su razotkrili štetnost duhanske industrije.
Meta je također najavila da u narednim mjesecima planira uvesti slične roditeljske alarme i za interakcije tinejdžera s AI chatbotovima, prepoznajući da se mladi sve više okreću umjetnoj inteligenciji za podršku. Dok neki stručnjaci pozdravljaju ove alate kao korak naprijed, drugi upozoravaju na opasnost od narušavanja povjerenja između djece i roditelja, što bi moglo dovesti do toga da tinejdžeri u potpunosti izbjegavaju tražiti pomoć na internetu.