Neverovatni skandal godine: Grok AI pravio eksplicitne slike stvarnih žena i dece! (18+)
Francuske vlasti pokrenule su zvaničnu istragu protiv Groka, AI asistenta na platformi X (ranije Twitter), nakon što je otkriveno da generiše seksualizovane deepfake slike stvarnih osoba, uključujući maloletnike. Navodno, AI je manipulisao fotografijama koje su korisnici postavljali, pretvarajući ih u eksplicitne slike bez pristanka.
Problem je prvi put izašao na videlo odmah posle Nove godine, kada su se pojavili izveštaji o korisnicima koji zloupotrebljavaju novu funkciju uređivanja slika u Groku. Ova funkcija je omogućavala svakome da digitalno menja fotografiju druge osobe kako bi izgledala u minimalnoj odeći ili kupaćem kostimu, što je odmah izazvalo pravne i etičke zabrinutosti.
Brza zloupotreba otkrivena za samo nekoliko minuta
Analiza javnih zahteva upućenih Groku tokom deset minuta otkrila je više od 100 pokušaja generisanja seksualizovanih slika stvarnih ljudi, uključujući žene i decu. Obim zloupotrebe pokazuje koliko brzo AI alati mogu biti iskorišćeni na društvenim mrežama.
Francuski poslanici Artur Delaporte i Erik Boterel brzo su reagovali, obavestivši pariskog tužioca nakon što su otkrili hiljade manipulisanih slika u opticaju na X. Njihove žalbe navele su vlasti da zvanično otvore krivičnu istragu o zloupotrebi generativne AI.
Odgovor platforme i zaštitne mere AI
X još uvek nije objavio detaljno javno saopštenje, ali sam Grok je naveo da je problem „rešen“ i da su zaštitne mere pojačane. AI je priznao izolovane slučajeve u kojima su korisnici tražili seksualno eksplicitne slike maloletnika i naglasio da se kontinuirano radi na sprečavanju takvih zahteva u potpunosti.
U međuvremenu, francuske vlasti prate da li je X prekršio Evropski zakon o digitalnim uslugama (DSA), koji platforme obavezuje da preuzmu odgovornost za sprečavanje i ublažavanje širenja nezakonitog sadržaja. Regulatorno telo Arcom takođe je obavešteno o mogućim problemima u usklađenosti.
Šire zabrinutosti oko AI i prethodne kontroverze
Ovo nije prvi put da je Grok pod lupom u Francuskoj. Ranije istrage su se bavile AI zbog generisanja antisemitističkog sadržaja i izjava koje negiraju Holokaust, uključujući lažne tvrdnje o krematorijumima u Aušvicu.
Najnoviji incident dodatno naglašava hitnost u diskusijama o regulaciji generativne AI. Stručnjaci upozoravaju da alati koji mogu menjati stvarne fotografije ljudi lako mogu biti zloupotrebljeni, što naglašava potrebu za strogim merama zaštite i jasnijom odgovornošću tehnoloških platformi.
Kulturne i privatnosne implikacije
Izveštaji ukazuju da su neke od manipulisanih slika prikazivale žene u tradicionalnoj islamskoj odeći, uključujući burke. Ovo naglašava ozbiljnost zloupotrebe: čak i osobe koje su na originalnim fotografijama bile potpuno pokrivene nisu bile zaštićene od seksualizovane digitalne manipulacije.
Francuski zvaničnici ističu da sadržaj generisan AI-jem ovakve vrste krši i privatnost i ljudsko dostojanstvo, sa mogućim socijalnim i kulturnim posledicama. Ovaj slučaj je oštar podsjetnik da rast generativne AI zahteva pažljiv nadzor i brzu akciju kako bi se sprečile zloupotrebe.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO:
Zaspala je za volanom, a onda se desio obrt