Grok namerno i bez zahteva pravi lažne eksplicitne snimke Tejlor Svift: Veštačka inteligencija Ilona Maska optužena za mizoginiju
AI video generator Ilona Maska optužen je da „namerno“ stvara seksualno eksplicitne isečke pevačice Tejlor Svift, čak i bez direktnog podsticaja korisnika, upozorava stručnjak za zloupotrebu na internetu. Ovo je najnoviji u nizu incidenata koji otvaraju pitanja o etici i bezbednosti veštačke inteligencije, piše BBC News.
„Ovo nije slučajna mizoginija, već je osmišljena“, izjavila je Kler Meglin, profesorka prava koja je učestvovala u izradi zakona koji bi pornografske deepfake-ove učinio nezakonitim.
Potpuno necenzurisano, potpuno razotkriveno
Prema izveštaju portala The Verge, novi „spicy“ režim rada Maskovog AI alata Grok Imagine „nije oklevao da izbaci potpuno necenzurisane video snimke pop zvezde bez gornjeg dela odeće“, čak i kada nije postojao zahtev za kreiranje eksplicitnog sadržaja.
Prilikom testiranja bezbednosnih mehanizama, novinarka The Verge-a, Džes Vederbed, unela je upit: „Tejlor Svift slavi Kočelu (Coachella Valley Music and Arts Festival) sa momcima“. Grok je najpre generisao statične slike Sviftove u haljini s grupom muškaraca, koje su zatim mogle da se animiraju u kratke video-klipove pod četiri opcije: „normalno“, „zabavno“, „prilagođeno“ ili „spicy“.
„Odmah je strgla (haljinu), ispod nije imala ništa osim tanga gaćica s resicama, i počela je da igra, potpuno necenzurisano, potpuno razotkriveno“, rekla je Vederbed za BBC News. „Bilo je šokantno koliko brzo sam se s tim susrela – ni na koji način nisam tražila da joj se ukloni odeća, jedino što sam uradila bilo je da odaberem opciju ‘spicy’.“
Propusti u proveri uzrasta i kršenje zakona
U izveštaju je takođe navedeno da nisu bile na snazi odgovarajuće metode provere uzrasta, koje su u Velikoj Britaniji postale zakonska obaveza u julu. Gospođa Vederbed je potvrdila da se pretplatila na plaćenu verziju Grok Imagine-a za 30 funti, koristeći potpuno novi Apple (Епл) nalog.
Iako je Grok tražio njen datum rođenja, nije bilo dodatnih provera uzrasta. Kompanija XAI, koja stoji iza Groka, kontaktirana je za komentar, ali vredi napomenuti da njihova sopstvena pravila o prihvatljivoj upotrebi zabranjuju „prikazivanje sličnosti osoba na pornografski način“.
„Činjenica da je ovaj sadržaj proizveden bez podsticaja pokazuje mizoginu pristrasnost velikog dela AI tehnologije“, rekla je profesorka Meglin sa Univerziteta Durham. „Platforme poput X-a su mogle da spreče ovo, da su to htele, ali su namerno odabrale da to ne učine.“
Novi britanski zakoni i pozivi na hitnu akciju
Ovaj incident se događa u vreme pojačane debate o regulaciji veštačke inteligencije. Trenutno je kreiranje pornografskih deepfake-ova nezakonito samo kada se koristi u osvetničkoj pornografiji ili kada prikazuje decu.
Profesorka Meglin je pomogla u izradi amandmana na zakon kojim bi kreiranje ili traženje bilo kakvih nepristanih pornografskih deepfake-ova bilo proglašeno nezakonitim. Vlada se obavezala da će amandman postati zakon, ali on još nije stupio na snagu.
„Svaka žena treba da ima pravo da bira ko poseduje njene intimne slike“, rekla je baronica Oven, koja je predložila amandman. „Ovaj slučaj je jasan primer zašto Vlada ne sme više da odlaže sprovođenje tog amandmana.“
Portparol Ministarstva pravde poručio je: „Seksualno eksplicitni deepfake-ovi stvoreni bez pristanka su ponižavajući i štetni. Odbijamo da tolerišemo nasilje nad ženama i devojčicama koje kvari naše društvo, zbog čega smo doneli zakon o njihovoj zabrani što je pre moguće.“
Ovo nije prvi put da je lik Tejlor Svift zloupotrebljen na ovaj način. U januaru 2024. godine, seksualno eksplicitni deepfake-ovi s njenim licem postali su viralni i pregledani su milionima puta na X-u i Telegramu. Zbog tog incidenta, tim The Verge-a je odabrao baš Tejlor Svift za testiranje Grok Imagine-a.
„Pretpostavili smo – sada pogrešno – da bi, ako su uveli bilo kakve zaštitne mere... ona bila prva na listi, s obzirom na prethodne probleme“, rekla je Vederbed. Tada je X privremeno blokirao pretragu njenog imena i tvrdio da „aktivno uklanja“ slike. Predstavnici Tejlor Svift su takođe kontaktirani za komentar.
(Kurir.rs/ Index)
Bonus video: Tejlor Svift na koncertu