Skandal u App Store i Google Play: Aplikacije za "razgolićavanje" i dalje dostupne!
U srcu jednog od najvećih tehnoloških ekosistema, odvija se kontroverza koja otvara ozbiljna pitanja o kontroli i odgovornosti. Prema izveštaju organizacije Tech Transparency Project, u prodavnicama aplikacija kompanija Apple Inc. i Google LLC i dalje su dostupni AI alati koji mogu da generišu lažne, seksualizovane slike stvarnih osoba. Paradoks je u tome što se ovakvi alati nalaze u sistemima koji formalno tvrde da ih strogo zabranjuju.
Još alarmantnije je to što su neke od ovih aplikacija označene kao „pogodne za sve uzraste“, uključujući i maloletne korisnike. To znači da se tehnologija koja omogućava kreiranje eksplicitnih deepfake sadržaja nalazi iza etikete bezbednosti. Granica između zaštite i potpunog propusta praktično je nestala u samom sistemu distribucije.
Jedan unos u pretrazi otvara vrata
Istraživači upozoravaju da je dovoljno uneti jednostavne termine u pretragu prodavnica aplikacija da bi se dobio pristup desetinama kontroverznih AI alata. Ovi sistemi koriste generativnu veštačku inteligenciju za manipulaciju fotografijama i kreiranje sadržaja bez saglasnosti osoba na njima. Ono što šokira jeste lakoća pristupa tehnologiji koja može imati ozbiljne posledice po privatnost i reputaciju.
Mnoge od ovih aplikacija na prvi pogled ne deluju opasno, ali u pozadini omogućavaju kreiranje realističnih deepfake slika i videa. Engadget navodi da su ovakvi alati bili dodatno pojačani kroz algoritme preporuke i reklame unutar samih prodavnica. Umesto filtriranja rizika, sistem ih zapravo dodatno izlaže korisnicima.
Milionska upotreba i ogroman profit
Prema podacima iz istraživanja, identifikovano je više desetina ovakvih aplikacija koje su zajedno preuzete stotinama miliona puta. Ukupni prihodi od ovih alata procenjuju se na desetine miliona dolara, što pokazuje da se ne radi o marginalnoj pojavi, već o globalnom tržištu. Razmere problema postaju jasne tek kada se sagleda njegov finansijski obim.
Upravo tu nastaje ključni konflikt aplikacije koje generišu deepfake i profit istovremeno krše etičke i bezbednosne granice. Što je veća zarada, to je teže sprovesti uklanjanje ili zabranu. Na taj način, ekonomija postaje direktna prepreka regulaciji.
Reakcije velikih kompanija pod pritiskom javnosti
Kompanije Apple Inc. i Google LLC tvrde da imaju jasne politike protiv seksualnog i eksplicitnog sadržaja, kao i specifične zabrane za AI alate koji proizvode takve materijale. Nakon objave izveštaja, deo aplikacija je uklonjen ili suspendovan, ali tek nakon što su već bile dostupne velikom broju korisnika.
Istraživači, međutim, upozoravaju da je reakcija došla kasno i pod pritiskom javnosti. To stvara utisak da sistem funkcioniše reaktivno, a ne preventivno, što ostavlja prostor da šteta nastane pre nego što bilo kakva intervencija počne.
Država i platforme gube kontrolu
Zbog širenja ovakvih tehnologija, sve više država razmatra strože zakone koji bi ograničili ili zabranili deepfake alate bez pristanka. Fokus je posebno na zaštiti maloletnika i sprečavanju zloupotreba koje se brzo šire kroz digitalne platforme. Ovaj slučaj postaje simbol šire borbe između tehnologije i regulacije.
Stručnjaci upozoravaju da bez jasnih i globalno usklađenih pravila, ovakvi alati mogu postati standardni deo digitalnog okruženja. U tom scenariju, granica između stvarnog i veštačkog sadržaja postaje trajno zamućena, sa posledicama koje će biti teško vratiti unazad.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO: