"UBRZANO SE ŠIRI INTERNETOM" Analitičari upozoravaju na porast jezivog sadržaja generisanog uz pomoć AI
Dodajte Kurir u vaš Google izbor- Većina sadržaja prikazuje devojčice i decu uzrasta od sedam do 13 godina, dok IWF traži stroža pravila za kompanije koje razvijaju veštačku inteligenciju.
- Britanija već zabranjuje izradu i distribuciju AI modela za ovakav sadržaj, a roditeljima se savetuje da ne objavljuju javno fotografije dece.
Materijal sa seksualnim zlostavljanjem dece generisan veštačkom inteligencijom ubrzano se širi internetom, a količina ilegalnog sadržaja analiziranog ove godine već je premašila ukupan broj zabeležen tokom 2025. godine.
Analitičari Fondacije Internet voč (IWF) pronašli su više fotorealističnog materijala sa seksualnim zlostavljanjem dece tokom prve polovine 2026. nego tokom cele prethodne godine. IWF, organizacija sa sedištem u Velikoj Britaniji koja prati ovakav sadržaj širom sveta, saopštila je da je analizirala 6.310 AI-generisanih slika koje ispunjavaju zakonsku definiciju materijala sa seksualnim zlostavljanjem dece.
To je 40 odsto više u odnosu na više od 4.500 takvih slika zabeleženih tokom cele prošle godine.
Broj slučajeva seksualnog zlostavljanja dece prikazanog pomoću veštačke inteligencije raste već nekoliko godina, uz posebno veliki porast video-snimaka. Najnoviji podaci IWF-a, međutim, odnose se samo na fotografije.
Većina slika koje su analizirali stručnjaci prikazivala je devojčice, kao i decu uzrasta od sedam do 13 godina.
Traže stroža pravila za kompanije koje razvijaju AI
IWF smatra da ovi podaci dodatno ukazuju na potrebu za novim zakonskim regulisanjem veštačke inteligencije.
Britanska vlada Endija Bernama za sada nije nagovestila da će uskoro predstaviti novi zakon posebno posvećen ovoj tehnologiji. Britanski ministar za veštačku inteligenciju Kaniška Narajan izjavio je da kada je reč o novim propisima "ništa nije isključeno", ali da će glavno pitanje za svaki zakonski predlog biti: "Da li će britanski građani zbog toga biti bezbedniji?"
Hana Svirski, direktorka za javne politike u IWF-u, podržala je pozive parlamentaraca za "obavezujuće zakonodavstvo o veštačkoj inteligenciji", kojim bi kompanije bile primorane da razvijaju bezbednije modele.
"Tehnološke kompanije imaju obavezu da naprave alate koji ne mogu da budu zloupotrebljeni na ovaj način", rekla je ona.
"Ovaj problem stvorila je tehnologija, a kompanije moraju da prave alate koji su bezbedni već po svom dizajnu."
AI-generisani materijal sa seksualnim zlostavljanjem dece nezakonit je u Velikoj Britaniji, a vlada je zabranila i prilagođavanje AI modela radi stvaranja takvog sadržaja, kao i distribuciju takvih modela drugim osobama.
Razvijanje modela napravljenog sa namerom da proizvodi hiperrealističan materijal sa seksualnim zlostavljanjem dece može biti kažnjeno zatvorskom kaznom do pet godina.
"Britanski zakon je jasan da je materijal sa seksualnim zlostavljanjem dece nezakonit, bez obzira na to da li je generisan veštačkom inteligencijom ili ne. Idemo i korak dalje zabranom AI modela koji se koriste za stvaranje ovakvog materijala i proizvode uznemirujuće, hiperrealistične slike koje često sadrže lik stvarne dece", rekao je portparol vlade.
Roditeljima savetovano da ne objavljuju fotografije dece
Veštačka inteligencija omogućila je i seksualnim predatorima na internetu da prave eksplicitne lažne fotografije stvarne dece.
Servis Report Remove, koji pomaže u sprečavanju pojavljivanja intimnih fotografija na internetu, primio je 420 prijava dece zbog njihovih fotografija za koje su verovali da su lažirane ili izmenjene tako da izgledaju eksplicitno.
Broj takvih prijava već je premašio ukupan broj iz 2025. godine, kada ih je bilo 397.
Zloupotreba AI alata za pravljenje ovakvog sadržaja navela je britansku Nacionalnu agenciju za borbu protiv kriminala i IWF da pozovu roditelje i staratelje da fotografije svoje dece ne objavljuju javno na društvenim mrežama.
Roditeljima se savetuje da svoje profile na društvenim mrežama postave kao privatne ili da fotografije dece dele isključivo sa ograničenom grupom bliskih prijatelja.
(Kurir.rs/TheGuardian)