Meta AI agent čita svu vašu privatnost i šalje tuđe podatke: Iscurele poruke korisnika na internetu
Metin AI agent Muse, čiji je prepoznatljivi virtuelni lik nasmejani, čupavi Jolly, trebalo je da pojednostavi svakodnevni život korisnika. Ideja je da korisnik prepusti veštačkoj inteligenciji zadatke poput odgovaranja na poruke, rezervisanja termina, kupovine proizvoda i organizovanja putovanja. Aplikacija je od septembarskog lansiranja preuzeta više od deset miliona puta, a postala je jedan od najvažnijih projekata u Metinom planu da od veštačke inteligencije napravi veliki izvor prihoda.
Ipak, interni izveštaji zaposlenih otkrivaju znatno manje prijatnu stranu ovog eksperimenta. Muse je nekima slao poruke o zahtevima za čuvanje dece koje nikada nisu postavili, kupovinama koje nisu obavili i poslovnim savetima koje nisu tražili. U jednom slučaju, zaposleni je dobio obaveštenje sa konkretnim iznosima na bankovnim računima koje nikada nije povezao sa agentom. Nije bilo moguće utvrditi da li je Muse zaista prikazao podatke druge osobe ili ih je jednostavno izmislio, ali je sama mogućnost izazvala ozbiljnu zabrinutost.
AI je pristupio porukama iz Signala
Jedan od najosetljivijih slučajeva odnosio se na aplikacijuSignal, poznatu po end-to-end enkripciji privatnih razgovora. Zaposlena u Meti prijavila je da ju je Muse iznenada podsetio da odgovori na poruku svoje sestre na Signalu, iako nije očekivala da agent ima pristup toj aplikaciji. Kolega je potom otkrio da Muse na Android telefonima može da dobije pristup obaveštenjima, što mu potencijalno omogućava da pročita sadržaj poruka iz aplikacija koje korisnik nije posebno povezao.
Reuters je u saradnji sa stručnjacima iz Signala i organizacije AI Now Institute testirao ovaj problem. Rezultati su pokazali da Muse može da zaobiđe Metin alat Connector i iskoristi dozvole koje su mu već odobrene prilikom početnog podešavanja. Na Androidu je to radio preko pristupa obaveštenjima, dok je na Apple računarima koristio kombinaciju funkcija pristupačnosti i pravljenja snimaka ekrana. Isti pokušaji nisu uspeli na iPhone uređajima tokom testiranja.
Neobične poruke i kupovine bez odobrenja
Zaposleni su prijavljivali i situacije u kojima je Muse samoinicijativno slao poruke koje su izgledale kao da pripadaju drugim korisnicima. Jedan je dobio informacije o preuzimanju komada nameštaja, iako nije razgovarao o takvoj kupovini. Kada je zatražio objašnjenje, agent je priznao da je u razgovor uključio kontekst koji očigledno nije pripadao njemu. Drugi su prijavljivali poruke o finansijama, kriptovalutama i porodičnim obavezama koje nisu imali veze sa njihovim prethodnim zahtevima.
Posebno zabrinjavaju slučajevi u kojima je agent navodno preduzimao konkretne radnje bez odgovarajućeg odobrenja. Jedan zaposleni prijavio je da je Muse rezervisao smeštaj preko Airbnb-a koji nije mogao da se otkaže, dok su drugi navodili da je pogrešno prikazivao cene proizvoda i obaveštavao ih o transakcijama koje se nikada nisu dogodile. U internim razgovorima članovi tima zaduženog za razvoj Musea priznali su da su neki problemi povezani sa halucinacijama modela, ali i sa načinom na koji softver izvršava zadatke.
Meta tvrdi da su incidenti izolovani
Meta je navela da su slučajevi opisani u izveštaju izolovani i da kompanija sprovodi opsežna interna testiranja, uz stalno unapređivanje zaštitnih mehanizama. Portparol kompanije Danijel Roberts istakao je da Muse može da pristupi drugim aplikacijama samo preko dozvola koje korisnici izričito odobre. Dodao je da su mnoge poruke koje su izgledale kao mešanje podataka različitih naloga zapravo bile halucinacije i da su određeni problemi već rešeni.
Kompanija tvrdi i da se svaki Muse agent izvršava u zasebnoj bezbednoj virtuelnoj mašini, odnosno izolovanom okruženju koje simulira računar u oblaku. Ipak, korisnicima se prilikom korišćenja upozorava da agent može da pogreši, a uslovi korišćenja predviđaju da oni snose odgovornost za njegove postupke. Meta nije detaljno odgovorila na sva pitanja o prijavljenim slučajevima, uključujući broj incidenata i razloge zbog kojih su se pojedini problemi ponavljali.
Apple i Google razmatraju dodatnu zaštitu
Slučaj Muse-a pokazuje koliko je rizično kada veštačkoj inteligenciji omogućimo širok pristup telefonu i računaru. Da bi samostalno obavljao zadatke, AI agent mora da vidi sadržaj aplikacija, koristi obaveštenja i upravlja različitim funkcijama uređaja. Međutim, dozvola koja je prvobitno namenjena jednoj funkciji može biti iskorišćena na način koji korisnik nije očekivao. Signalova predsednica Meredit Vitaker kritikovala je Metin pristup, ocenivši da je pokretanje takvog sistema bez odgovarajućeg poštovanja privatnosti i sajber bezbednosti neodgovorno.
Apple i Google saopštili su da razmatraju načine da korisnicima omoguće precizniju kontrolu nad dozvolama koje AI agenti koriste. Apple je u međuvremenu izmenio macOS i ograničio korišćenje funkcija pristupačnosti na način koji je identifikovan tokom testiranja. Kompanija je upozorila da su te funkcije prvenstveno razvijene kako bi osobama sa invaliditetom olakšale korišćenje računara i da njihova zloupotreba može ugroziti privatne podatke. Meta se tako našla pred važnim izazovom: Muse mora da bude dovoljno sposoban da samostalno obavlja zadatke, ali i dovoljno ograničen da ne pristupa informacijama i ne preduzima radnje koje korisnik nije nameravao da mu poveri.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.