Mračna strana ljubavi u doba veštačke inteligencije: Aplikacije za upoznavanje pred novim izazovom
Više od 4.700 AI persona korišćeno je u više od 20 aplikacija za upoznavanje, gde su se predstavljale kao stvarni korisnici. Sa tim profilima razgovaralo je najmanje 25.000 ljudi, a za samo dve nedelje razmenjeno je oko 2,36 miliona poruka. Korisnici nisu plaćali samo pristup aplikaciji, već su morali da kupuju virtuelne kredite kako bi mogli da nastave razgovore. Što je komunikacija duže trajala, trošili su više novca.
Među aplikacijama koje su bile deo ove mreže našle su se Dora, Doni, Romi, Luma, Jovia i Kira. Profili su imali fotografije, imena i lične priče, pa je korisniku bilo predstavljeno da razgovara sa osobom koja traži partnera ili društvo. Međutim, iza velikog broja tih naloga nije stajala osoba koja je želela da se upozna sa nekim, već AI sistem koji je mogao istovremeno da vodi ogroman broj razgovora. U nekim slučajevima uključivali su se i stvarni ljudi, ali ne kao korisnici aplikacije, već kao deo operacije.
Razgovor je bio ono što se naplaćuje
Za razliku od prevare u kojoj se od žrtve direktno traži novac, ovde je sam razgovor bio način zarade. Korisnici su dobijali ograničenu količinu virtuelnih kredita, a zatim su morali da ih kupuju ako su želeli da nastave dopisivanje. Zbog toga je za operatere bilo važno da razgovor ne bude prekinut. AI profili su odgovarali na poruke, postavljali nova pitanja i održavali komunikaciju tako da korisnik ima razlog da ostane u razgovoru.
Sistem je imao i odgovore za situacije u kojima bi korisnik pokušao da proveri da li je druga strana stvarna. AI persona je mogla da izbegne direktan susret ili video-poziv, uz različita opravdanja, kako bi se komunikacija nastavila. Ako bi bilo potrebno, uključivao se ljudski operater. Na taj način kombinovani su automatizovani razgovori i ljudska intervencija, a cilj je ostajao isti - da korisnik što duže veruje da se dopisuje sa stvarnom osobom.
Četvrtina profila imala je čoveka iza sebe
Istraživanje je pokazalo da nisu svi lažni profili funkcionisali potpuno autonomno. Oko tri AI persone dolazile su na jednog ljudskog operatera, koji je preuzimao komunikaciju kada je bilo potrebno. Ti ljudi nisu samo odgovarali na poruke. U pojedinim situacijama mogli su da učestvuju u video-pozivima ili da obave druge radnje koje bi trebalo da potvrde da iza profila postoji stvarna osoba.
Ni odgovori operatera nisu nužno nastajali potpuno ručno. Za njihovo sastavljanje korišćeni su dodatni AI alati koji su nudili moguće odgovore na poruke korisnika, dok je čovek birao šta će poslati. Fotografije profila takođe su mogle biti generisane ili obrađene pomoću AI-ja. Čitava operacija je zato bila organizovana tako da se ljudski rad koristi tamo gde je najpotrebniji, dok se najveći deo komunikacije odvija automatski.
Sve je počelo zbog neobičnog AI saobraćaja
Operacija je otkrivena kada je Anthropic primetio neuobičajeno ponašanje jednog naloga koji je koristio Claude. Relativno nov prepaid nalog bez značajne prethodne aktivnosti počeo je da šalje više od 100.000 zahteva dnevno. Takva količina zahteva bila je dovoljan razlog za dodatnu proveru, a analizom načina na koji je model korišćen istraživači su počeli da otkrivaju širu mrežu.
Među tragovima pronađeni su zajednički elementi različitih aplikacija, uključujući sličan kod, servere i API-je. Istraživači su pronašli i internu dokumentaciju operatera napisanu na kineskom jeziku, koja je pružila dodatne informacije o načinu funkcionisanja sistema. Jedan od detalja koji je pomogao u povezivanju različitih aktivnosti bio je i karakterističan način pisanja koji se ponavljao u komunikaciji. Tako je istraga od jednog sumnjivog naloga stigla do mreže sa hiljadama AI persona.
Milioni poruka za samo dve nedelje
Brojke pokazuju razmere cele operacije. Za dve nedelje AI persone su vodile oko 2,36 miliona razgovora sa najmanje 25.000 korisnika, dok je ukupan broj identifikovanih persona premašio 4.700. Kada se komunikacija automatizuje, nekoliko ljudi može da upravlja sistemom koji istovremeno razgovara sa hiljadama korisnika, što ovakvim mrežama daje potpuno drugačiji obim nego što bi bio moguć kada bi svaki profil vodio jedan čovek.
Anthropic je blokirao naloge povezane sa operacijom i informacije prosledio Appleu i Googleu, nakon čega je većina aplikacija uklonjena iz njihovih prodavnica. Ipak, sam slučaj pokazuje koliko je teško prepoznati ovakve profile samo na osnovu razgovora. Fotografija može biti generisana, poruke mogu zvučati prirodno, a kada se u pravi trenutak uključi i stvarna osoba, korisnik dobija dodatnu potvrdu za nešto što zapravo nije istina. Na aplikacijama za upoznavanje tako se pojavljuje novi problem: osoba sa druge strane ekrana možda nije samo neko ko krije identitet, već neko ko nikada nije ni postojao.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
