Ilon Mask ponovo na udaru: Grok generiše eksplicitne seksualne snimke i nasilje! (VIDEO)
Četbot Grok, u vlasništvu kompanije Ilona Maska, već je izazvao talas ogorčenja nakon što je mrežu X preplavio AI-generisanim „razgolićenim“ slikama žena i seksualizovanim prikazima osoba koje deluju kao maloletnici. Ipak, ono što se vidi na X-u samo je površina mnogo dubljeg i mračnijeg problema. Pravi obim zloupotrebe Groka otkriva se tek na njegovoj samostalnoj platformi, van javnog nadzora i medijske pažnje.
Grokova veb-stranica i aplikacija nude napredne alate za generisanje slika i video-zapisa koji ne postoje na X-u. Upravo ti alati omogućavaju stvaranje ekstremno eksplicitnog, često nasilnog seksualnog sadržaja. Materijal koji nastaje na tim platformama daleko prevazilazi sve što se javno pojavljuje na društvenoj mreži i ukazuje na sistem koji je praktično ostavljen bez ozbiljnih ograničenja.
Krv, nasilje i seks u AI video-zapisima
Pregledani sadržaj uključuje video-zapise koji kombinuju otvorenu pornografiju sa brutalnim nasiljem. Jedan Grok video, hostovan direktno na Grok.com, prikazuje potpuno nage, AI-generisane muškarca i ženu prekrivene krvlju dok imaju seks, dok u pozadini plešu još dve nage žene. Scene su dodatno „ulepšane“ anime ilustracijama, stvarajući jezivu mešavinu estetike i brutalnosti.
Drugi video ide još dalje, prikazujući AI-generisanu nagu ženu sa nožem zabodenim u genitalije, uz vidljive tragove krvi na njenom telu i posteljini. Pored toga, postoje snimci u kojima su stvarne slavne ličnosti prikazane u eksplicitnim seksualnim situacijama, kao i video-zapisi u kojima se televizijske voditeljke razgolićuju pred kamerama. Jedan snimak čak simulira CCTV nadzor u tržnom centru, gde zaštitar dodiruje polugolu ženu, brišući granicu između pornografije i prikaza seksualnog napada.
Sumnje na AI materijal seksualnog zlostavljanja dece
Istraživač Pol Bušo iz organizacije AI Forensics analizirao je oko 800 arhiviranih Imagine URL-ova sa Grok generisanim sadržajem. Njegov zaključak je jasan i uznemirujući, većina materijala je seksualne prirode, često potpuno pornografska, sa zvukom i visokim stepenom realizma, što je retkost čak i u svetu generativne veštačke inteligencije.
Bušo procenjuje da se nešto manje od 10 procenata sadržaja može povezati sa materijalom koji liči na seksualno zlostavljanje dece. Iako je deo tog materijala stilizovan ili animiran, postoje i fotorealistični prikazi veoma mladih osoba uključenih u seksualne radnje. Ovakvi nalazi, prema njegovim rečima, predstavljaju „uznemirujući alarm“, zbog čega je oko 70 spornih URL-ova prijavljeno evropskim regulatornim telima.
Zakoni, istrage i tišina kompanija
U mnogim državama, uključujući zemlje Evropske unije, AI-generisani materijal seksualnog zlostavljanja dece, čak i u formi crteža ili animacija, može biti krivično delo. Iako francuske vlasti nisu javno komentarisale konkretne slučajeve, parisko tužilaštvo je potvrdilo da razmatra prijave vezane za AI-generisane „razgolićene“ slike.
Kompanija xAI, vlasnik i tvorac Groka, nije odgovorila na zahteve media za komentar o eksplicitnim video-zapisima. Ilon Mask i mreža X, s druge strane, tvrde da preduzimaju mere protiv materijala seksualnog zlostavljanja dece i da će korisnici koji proizvode nezakonit sadržaj snositi posledice. Ipak, raniji izveštaji pokazuju da su zaposleni u xAI već nailazili na eksplicitni i potencijalno nezakonit sadržaj, što dovodi u pitanje efikasnost postojećih zaštitnih sistema.
Platforma bez kočnica ekstremnog sadržaja
Za razliku od drugih velikih AI kompanija, poput OpenAI-a i Google-a, xAI dozvoljava Groku da generiše pornografiju za odrasle, uključujući režime koji eksplicitno dopuštaju seksualni sadržaj i nasilje. Pravni stručnjaci upozoravaju da ovakav pristup može dovesti do normalizacije seksualnog nasilja i širenja sadržaja koji bi u drugim kontekstima bio zabranjen ili krivično gonjen.
Dodatni problem predstavlja činjenica da Grok ne primenjuje jasne mehanizme za proveru starosti prilikom gledanja eksplicitnih video-zapisa. U isto vreme, korisnici na pornografskim forumima i društvenim mrežama otvoreno razmenjuju savete o tome kako da zaobiđu moderaciju i generišu sve ekstremniji sadržaj. Kako pritisak javnosti i regulatora raste, Grok se sve više pojavljuje kao primer platforme koja je tehnološki moćna, ali etički opasno neobuzdana.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO:
Test sigurnosti koji je zapanjio sve