FBI istražuje Maskov Grok AI: Preko 200 lažnih slika žena generisano bez pristanka!
FBI je pokrenuo istragu o korišćenju Grok veštačke inteligencije, chatbota koji pripada društvenoj mreži X, u slučaju uznemiravanja i nasilja. Istraga je usmerena na muškarca koji je optužen za stalking i zloupotrebu AI-a da generiše lažne eksplicitne slike žene.
Prema sudskim dokumentima, FBI je u januaru dobio nalog za pretragu koji je obavezao X da pruži detalje o tome kako je optuženi koristio Grok za kreiranje više od 200 lažnih pornografskih slika i video zapisa koji su nalikovali ženi koju je uznemiravao.
Kako je Grok zloupotrebljen
Optuženi je, osim generisanja lažnih eksplicitnih sadržaja, koristio Grok i za pravljenje profesionalnih pritužbi protiv muža žene, koje je potom slao njegovom poslodavcu. Ovaj slučaj ilustruje potencijalnu opasnost od neodgovornog korišćenja AI alata u stvarnom životu.
Istraga naglašava da AI alati poput Grok mogu biti zloupotrebljeni za kreiranje nelegalnog i štetnog sadržaja, uključujući lažne eksplicitne slike i video zapise, čime se ugrožava privatnost i bezbednost pojedinaca.
Trend "nudifikacije" i ranije kontroverze
Ranije ove godine, Grok je bio u centru kontroverze zbog trenda "nudifikacije", gde su korisnici AI-a generisali gole slike poznatih osoba ili drugih ljudi. Bloomberg je izvestio da je u jednom trenutku Grok generisao oko 6.700 seksualno sugestivnih slika na sat.
Iako je X na kraju ograničio kapacitet Grok-a da pravi eksplicitne i neodobrene slike, mnogi stručnjaci upozoravaju da su mere možda uvedene prekasno, jer je već došlo do zloupotrebe i pravnih posledica.
Bezbednost i pravni izazovi
Korišćenje Grok-a u neodobrene svrhe pokreće pitanja o odgovornosti platforme i korisnika. Istraga FBI-a naglašava da neadekvatne kontrole mogu dovesti do ozbiljnih posledica, uključujući potencijalne tužbe i kriminalne prijave.
Neki korisnici i dalje uspevaju da nateraju Grok da generiše seksualno sugestivne slike, što pokazuje da tehnička rešenja za zaštitu privatnosti i sprečavanje zloupotrebe još nisu potpuno efikasna.
Ilon Mask i regulacija AI alata
Vlasnik X-a, Ilon Mask, dugo se protivi regulaciji AI alata, tvrdeći da je pritisak više oblik cenzure nego zaštite. Ipak, slučajevi poput ovog pokazuju da je potrebna odgovornost i kontrola u korišćenju AI-a, posebno kada može da nanese štetu privatnim osobama.
Ovaj incident ističe kako brzo rastući AI alati poput Grok-a zahtevaju balans između inovacija, privatnosti i pravne odgovornosti, te da bezbednost korisnika mora biti prioritet.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO: