Mask pokazao kako Grok kupuje umesto korisnika: Snimak narudžbine otkrio poverljive podatke
Dodajte Kurir u vaš Google izborIlon Mask prošle nedelje je pohvalio mogućnosti Grok Bota, AI agenta koji može da pretražuje internet i kupuje proizvode u ime korisnika. Objasnio je da je dovoljno fotografisati kreditnu karticu, poslati sliku u razgovor sa botom i navesti šta želite da kupite, nakon čega bi sistem trebalo da pronađe povoljnu ponudu i obavi narudžbinu. Mask je na taj način predstavio automatizovanu kupovinu kao jednostavniji način za pronalaženje i naručivanje proizvoda.
Već narednog dana objavio je primer iz prakse, tražeći od Groka da pronađe zanimljive LEGO Star Wars komplete za malu decu i naruči ih. Međutim, snimak ekrana koji je podelio sadržao je i podatke koji nisu bili namenjeni javnosti, uključujući broj porudžbine, imejl adresu i poslednje četiri cifre platne kartice. Umesto da ostane demonstracija mogućnosti veštačke inteligencije, objava je brzo postala povod za raspravu o privatnosti i bezbednosti ovakvih sistema.
Korisnici pokušali da otkažu porudžbinu
Jedan korisnik platforme X, poznat kao Enderman, objavio je snimke ekrana tvrdeći da je uspeo da navede LEGO-ov automatizovani sistem za korisničku podršku da otkaže Maskovu porudžbinu. Objave su se brzo proširile, a Mask je odgovorio insistirajući da narudžbina nije otkazana. Nije nezavisno potvrđeno da li je prvobitni pokušaj zaista uspeo, ali je incident pokazao koliko javno objavljeni podaci mogu da posluže kao materijal za zloupotrebu ili šalu.
Ubrzo se pojavio još jedan korisnik koji je tvrdio da je uspeo da poništi otkazivanje i naruči čak 400 dodatnih kompleta istog proizvoda. Takođe je naveo da je promenio adresu dostave na ostrvo Litl Sent Džejms, poznato po povezanosti sa Džefrijem Epstinom. Ni ove tvrdnje nisu nezavisno potvrđene, pa ih treba posmatrati kao navode korisnika, a ne kao dokaz da su porudžbine zaista izmenjene.
AI agenti mogu da naprave skupe greške
Ovaj incident otvara šire pitanje koliko je bezbedno prepustiti veštačkoj inteligenciji pristup finansijskim podacima i mogućnost da obavlja kupovine. AI agenti mogu da pretražuju ponude i automatizuju rutinske zadatke, ali mogu biti izloženi i prevarama, lažnim prodavnicama i sadržaju napravljenom tako da ih navede na pogrešnu odluku. Što im se dodeli više ovlašćenja, veće su i moguće posledice greške.
Prevaranti već pokušavaju da iskoriste AI sisteme tako što prave lažne prodavnice, predstavljaju se kao postojeće kompanije ili navode četbotove da preporuče sumnjive proizvode. Ako agent može samostalno da obavi kupovinu, pogrešna procena više nije samo netačan odgovor na ekranu, već može dovesti do stvarnog finansijskog gubitka. Zbog toga je važno ograničiti njegova ovlašćenja i zahtevati ljudsku potvrdu pre plaćanja.
Deljenje podataka o kartici nosi dodatni rizik
Fotografija platne kartice može da otkrije osetljive informacije, a korisnik ne može uvek da zna kako će servis obraditi i čuvati podatke koje mu pošalje. U slučaju Grok Bota, rasprava se dodatno zaoštrila jer je Mask javno preporučio slanje fotografije kartice, dok uslovi i pravila privatnosti kompanije upozoravaju korisnike da ne unose lične podatke u upite. To stvara očigledan raskorak između jednostavnosti koju takva demonstracija obećava i rizika koji prate deljenje finansijskih informacija.
Bezbedniji pristup podrazumeva korišćenje virtuelne kartice sa ograničenim iznosom, provere svake transakcije i odobravanje kupovine pre nego što novac bude naplaćen. Korisnici bi takođe trebalo da provere koje podatke agent može da vidi i kojim nalozima može da pristupi. Automatizovana kupovina može biti korisna, ali ne bi trebalo da znači nekontrolisan pristup novcu i ličnim podacima.
Demonstracija se pretvorila u upozorenje
Maskov primer trebalo je da pokaže kako Grok može da pronađe proizvode i obavi kupovinu uz minimalno angažovanje korisnika. Umesto toga, pažnja se preusmerila na nepažljivo deljenje podataka i mogućnost da drugi ljudi iskoriste informacije koje su ostale vidljive na snimku ekrana. Slučaj pokazuje da ni demonstracija napredne tehnologije nije imuna na osnovne greške u zaštiti privatnosti.
Glavno pitanje nije samo da li AI agent može uspešno da naruči proizvod, već i da li to može da uradi bez izlaganja korisnika nepotrebnom riziku. Sistemi koji imaju pristup plaćanju moraju da kombinuju automatizaciju sa jasnim ograničenjima, potvrdom transakcija i pažljivim rukovanjem podacima. U suprotnom, pogodnost koju nude može brzo da se pretvori u problem koji korisnik mora sam da rešava.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.