Meta nije zaustavila užas: Hiljade oglasa koristilo fotografije stvarne dece za AI zlostavljanje
Istraživači su pronašli oko 350 oglasa povezanih sa seksualnim iskorišćavanjem dece koji su se pojavljivali na platformama kompanije Meta. Posebno zabrinjava podatak da su u pojedinim slučajevima korišćene fotografije stvarne dece, uključujući i člana jedne evropske kraljevske porodice. Istraživači navode da su oglasi korisnike usmeravali ka gotovo 50 različitih aplikacija dostupnih preko Google Play prodavnice i Apple App Store-a.
Oko 300 pronađenih oglasa vodilo je ka alatima za generisanje ili menjanje fotografija i video-snimaka pomoću veštačke inteligencije. Veći deo tih aplikacija bio je povezan sa programerima iz Kine. Neke od njih u međuvremenu su uklonjene, ali je činjenica da su oglasi određeno vreme uspevali da prođu kroz sisteme za proveru sadržaja otvorila pitanje koliko efikasno platforme mogu da prepoznaju zloupotrebu AI alata.
Problem nije bio samo u oglasima
Istraživanje je pokazalo da su problematične aplikacije mogle da generišu seksualizovani sadržaj, dok su pojedine nudile različite scenarije i mogućnosti izmene fotografija. Na Apple prodavnici pronađeno je osam aplikacija koje su bile praktično identične, a više njih bilo je povezano sa imenima programera iz Kine. Mediji su kasnije pronašli još sedam aplikacija sa istim dizajnom, sadržajem i kontaktima programera.
Apple je saopštio da nema toleranciju prema programerima koji pokušavaju da zaobiđu proces provere aplikacija. Portparol Adam Dema naveo je da su programeri u početku dostavili verzije koje su bile usklađene sa pravilima, ali su kasnije dodali mogućnosti koje omogućavaju neprimerene izmene fotografija. Kompanija tvrdi da je od 20 aplikacija obuhvaćenih istraživanjem 17 već uklonjeno, dok je preduzela mere i protiv preostale tri, kao i protiv dodatnih sedam aplikacija koji su mediji identifikovali.
Uklanjaju aplikacije, ali problem ostaje
Google je takođe naveo da njegova pravila ne dozvoljavaju aplikacije sa seksualnim sadržajem niti alate za uklanjanje odeće sa fotografija. Portparol Dan Džekson rekao je da kompanija preduzima preventivne mere za pronalaženje i uklanjanje štetnog sadržaja. Prema njegovim rečima, sve aplikacije obuhvaćene istraživanjem uklonjene su iz prodavnice, dok su suspendovane i stotine drugih aplikacija koje su kršile pravila.
Google je, kako je navedeno, ograničio i povezane termine za pretragu, uključujući izraz „nudify“. To pokazuje koliko je teško problem rešiti samo uklanjanjem pojedinačnih aplikacija. Kada se jedan alat ukloni, mogu se pojaviti drugi koji nude sličnu funkcionalnost, dok programeri mogu menjati način predstavljanja aplikacije kako bi pokušali da prođu kroz postojeće kontrole.
Napadači stalno menjaju taktiku
Dejvid Fam, bivši zaposleni u Meti koji se bavio slučajevima zloupotrebe i neovlašćenog korišćenja intimnih fotografija, kaže da je tokom rada u kompaniji nailazio na slične pokušaje zaobilaženja bezbednosnih sistema. Prema njegovom iskustvu, oni koji postavljaju takav sadržaj brzo reaguju kada platforme uvedu nove modele za njegovo otkrivanje. Promene mogu uslediti veoma brzo, od izmene domena i skrivanja identiteta oglašivača do promena samih slika.
Fam smatra da Meta ima dovoljno tehnoloških i finansijskih resursa da se ozbiljno pozabavi ovim problemom. Njegovo iskustvo ukazuje na širi problem moderacije sadržaja koji nastaje uz pomoć AI alata: sistemi za detekciju moraju da se prilagođavaju ljudima koji namerno menjaju sadržaj kako bi izbegli prepoznavanje. Zbog toga uklanjanje već otkrivenih oglasa ne rešava nužno problem novih oglasa koji se pojavljuju nakon toga.
Sporni oglas videlo više od 330 korisnika
Podaci koje je objavio Indicator Media dodatno ukazuju na razmere problema. Prema njihovom nedavnom izveštaju, više od 11.000 oglasa koji nude digitalno „svlačenje“ pojavilo se na Metinim platformama od februara ove godine, pri čemu su neki navodno dolazili od oglašivača koji su već ranije kršili pravila. Mediji su u sopstvenoj analizi pronašli stotine oglasa sa eksplicitnim sadržajem i jezikom sličnim onom koji su identifikovali istraživači.
Posebno ilustrativan je slučaj jednog oglasa povezanog sa identitetom maloletne osobe koju su istraživači uspeli da identifikuju. Oglas je prijavljen Meti nakon što je stigao do četiri naloga u Evropi, ali je uklonjen tek nekoliko dana kasnije, kada ga je već videlo više od 330 korisnika. Istraživači zato upozoravaju da ovakve slučajeve ne bi trebalo da otkrivaju male organizacije tek nakon što sadržaj već dođe do korisnika. Meta je, sa svoje strane, navela da zlonamerni oglašivači stalno pokušavaju da zaobiđu njene sisteme i da je jezik iz oglasa koji su mediji izdvojili već uključen u njene mehanizme moderacije.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
