Slušaj vest

Indijska Instagram zvezda Babydoll Archi za samo nekoliko dana udvostručila je svoj broj pratilaca i dostigla impresivnih 1,4 miliona, zahvaljujući viralnim objavama koje su je lansirale u internet orbitu. Jedan od najpoznatijih trenutaka bio je video u kojem nosi crvenu sari i zavodljivo pleše uz rumunsku pesmu Dame Un Grr, dok je druga viralna fotografija prikazala njenu pojavu sa američkom pornozvezdom Kendrom Last.

Ipak, iza blistavog online imidža krila se mračna tajna - žena koja je osvojila srca miliona nije ni postojala u stvarnosti. Instagram nalog bio je lažan, a lice koje je korišćeno bilo je digitalno kreirano, zasnovano na pravoj ženi iz Asama, koju ćemo nazvati Sanchi.

shutterstock-instagram-1.jpg
Foto: Shutterstock

Kako je počela prevara?

Istraga je krenula nakon što je Sanchin brat podneo policijsku prijavu, otkrivši da je njen identitet zloupotrebljen. Pratim Bora, njen bivši dečko, uhapšen je zbog sumnje da je upravo on tvorac lažnog profila. Bora, inženjer mašinstva i samouki AI entuzijasta, koristio je privatne fotografije Sanchi da bi napravio digitalnu kopiju njenog lika i na osnovu nje kreirao lažni nalog.

Kako je istragom otkriveno, Bora je želeo osvetu zbog sukoba sa Sanchi, a tehnologiju je iskoristio kao oružje za lični obračun. Počeo je sa modifikovanjem njenih stvarnih fotografija, a zatim je kreirao potpuno AI generisane slike i video zapise, praveći sofisticirani deepfake koji je zavarao milione.

shutterstock-deepfakes--2.jpg
Foto: Shutterstock

Od anonimnosti do globalne popularnosti

Lažni profil je počeo da dobija pažnju prošle godine, ali pravi bum dogodio se tek od aprila ove godine. Babydoll Archi je postala prava internet zvezda, a njeno ime trending tema na Google-u, izazivajući mnoštvo memova i fan stranica. Sanchi nije ni znala za sve to - ona nema društvene mreže i saznala je za lažni nalog tek kada su je mediji predstavili kao influenserku i spekulisali o njenom navodnom ulasku u američku porno industriju.

Porodica Sanchi reagovala je brzo - podneli su policijsku prijavu sa dokazima u vidu fotografija i video snimaka koje je Bora koristio. Ipak, nisu znali ko stoji iza svega dok policija nije otkrila Bora i uhapsila ga.

deepfake (1).jpg
Foto: Shutterstock

Borina kazna i finansijski motiv

Policija je zaplenila njegov laptop, telefone i hard diskove, jer je Bora preko lažnog profila i pretplata zarađivao novac. Procene su da je zaradio oko milion rupija, uključujući i 300.000 u samo pet dana pre hapšenja. Njegova zarada dolazila je od korisnika koji su plaćali za ekskluzivni sadržaj na platformama kao što je Linktree.

Sanchi i njena porodica trenutno prolaze kroz težak period, ali dobijaju psihološku podršku. Policijska službenica koja vodi istragu kaže da je teško sprečiti ovakve slučajeve, ali da je važno reagovati brzo da se spreči širenje lažnog sadržaja.

shutterstock-2217293225.jpg
Foto: Shutterstock

Pravna borba i šira slika problema

Policija je protiv Bore podnela prijave za seksualno uznemiravanje, distribuciju nepristojnog materijala, klevetu, falsifikovanje i sajber kriminal, a za ove prestupe zaprećena je kazna i do deset godina zatvora. Slučaj je izazvao burne reakcije na društvenim mrežama, a mnogi pozivaju na strože zakone u borbi protiv ovakvih zloupotreba.

Stručnjaci za veštačku inteligenciju ističu da je, iako je teško potpuno sprečiti ovakve pretnje, potrebno pažljivo razvijati zakonske okvire. Deepfake tehnologija može biti korisna, ali se lako može zloupotrebiti - stoga je balans između slobode izražavanja i zaštite žrtava od izuzetne važnosti.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.