Meta je povukla spornu značajku umjetne inteligencije koja je korisnicima omogućavala mijenjanje fotografija s javnih Instagram profila. Opcija, predstavljena ranije ovog tjedna kao dio novog paketa AI alata, izazvala je lavinu negativnih reakcija zbog čega je tvrtka priznala da je "promašila cilj" i ukinula je samo nekoliko dana nakon lansiranja.
Priznanje pogreške nakon pritiska javnosti
Sporna opcija bila je dio novog i vrlo naprednog AI generatora slika nazvanog Muse Image, razvijenog unutar Metinog specijaliziranog odjela Meta Superintelligence Labs. Tvrtka je promovirala mogućnost koja je dopuštala pojedincima da generiraju slike jednostavnim @-označavanjem javnih Instagram profila koje su željeli koristiti kao referencu. Model je dizajniran da bude "agentivan", što znači da može samostalno koristiti alate za pretraživanje i usavršavati svoje rezultate, čime je zabrinutost zbog nekontroliranog korištenja tuđih fotografija postala još veća. Ključni problem bio je u tome što sustav nije obavještavao korisnike čije su fotografije korištene, što je odmah izazvalo oštre kritike i zabrinutost za privatnost.
Nakon što su brojni mediji, uključujući TechCrunch koji je objavio vodič za isključivanje opcije, izvijestili o problemu, Meta je naglo promijenila smjer. Odluku je prvi podijelio Dylan Byers, jedan od osnivača portala Puck News, a tvrtka ju je potvrdila u petak na svom službenom blogu.
"Namjera nam je bila pružiti koristan kreativni alat i dati ljudima kontrolu nad time može li se njihov javni sadržaj koristiti na ovaj način. Čuli smo povratne informacije da je ova značajka promašila cilj, stoga više nije dostupna."
Opasnost od zlouporabe i kršenja privatnosti
Glavni izvor negodovanja bila je činjenica da je značajka bila automatski uključena za sve javne profile, osim za korisnike mlađe od 18 godina. To je značilo da su korisnici morali sami pronaći postavku i aktivno je isključiti kako bi spriječili korištenje svog sadržaja. Mnogi nisu ni bili svjesni da se njihove fotografije mogu iskoristiti na takav način, što je teret zaštite privatnosti prebacilo isključivo na njih.
Stručnjaci i javnost upozorili su na očit potencijal zlouporabe. Integracija umjetne inteligencije u društvene mreže već se često koristila na štetne načine, ponajviše za generiranje lažnih golih slika poznatih osoba, uglavnom žena. Činilo se gotovo neizbježnim da bi i ova Metina značajka bila zloupotrijebljena u slične svrhe. Iako su platforme pokušavale uvesti zaštitne mehanizme, oni su se često pokazali nedostatnima pred brzinom kojom se alati za zlouporabu razvijaju.
Reakcija holivudskih agencija
Odluka o ukidanju donesena je "usred nadzora korisnika i agencija za talente, uključujući CAA", kako je izvijestio Byers. Posebno glasno bilo je holivudsko udruženje glumaca SAG-AFTRA, koje je prethodno pozvalo svoje članove da se isključe iz ove opcije. Nakon Metine odluke, pozdravili su potez i naglasili opasnosti koje takve tehnologije nose.
U svom priopćenju naveli su kako je "značajka koja potiče takvo ponašanje nerazumna" s obzirom na "opasnosti od nekonsenzualnih digitalnih replika".
Tehnološki divovi i etička pitanja umjetne inteligencije
Metino brzo povlačenje nije izoliran slučaj u tehnološkoj industriji. I druge velike tvrtke, poput Googlea, bile su prisiljene pauzirati ili mijenjati svoje AI proizvode nakon negativnih reakcija javnosti. To ukazuje na širi trend u kojem kompanije u utrci za tržištem žurno lansiraju AI proizvode, a zatim ih "u hodu" prilagođavaju na temelju povratnih informacija korisnika.
Ovaj događaj dodatno naglašava rastuću napetost između brzog razvoja generativne umjetne inteligencije i etičkih pitanja vezanih uz pristanak, autorska prava i privatnost. Ovakvi incidenti potkopavaju povjerenje korisnika i stavljaju dodatan pritisak na tehnološke gigante da budu transparentniji oko toga kako prikupljaju podatke i treniraju svoje AI modele. Incident jača pozive na uvođenje "opt-in" pristupa, gdje korisnici moraju dati izričit pristanak prije nego što se njihovi podaci koriste u AI aplikacijama, umjesto da se od njih očekuje da se sami isključe. Pritisak javnosti i regulatornih tijela vjerojatno će nastaviti oblikovati način na koji će se AI tehnologije integrirati u društvene medije u budućnosti.