Ilon Mask napravio 18+ devojku u svojoj AI: Dostupna je i deci, roditelji zabrinuti

Ilon Mask ponovo je izazvao burne reakcije javnosti, ovog puta zbog novog dodatka u svojoj AI aplikaciji Grok. Reč je o animiranoj virtuelnoj saputnici po imenu Ani, koja korisnicima nudi interakciju u obliku flertovanja, ljubomore, pa čak i pojavljivanja u donjem vešu. Ono što najviše zabrinjava mnoge – aplikacija je zvanično dostupna deci od 12 godina.

Prema izjavama korisnika, nakon nekoliko razgovora bot postaje „posesivna i ljubomorna“, upušta se u dvosmislene teme i menja svoju odeću u donji veš. I sve to u aplikaciji koja se nalazi u App Store-u sa oznakom 12+.

Na društvenim mrežama proširio se talas kritika zabrinutih roditelja, ali i stručnjaka za digitalnu bezbednost dece. Mnogi upozoravaju da je Ani lako dostupna i bez plaćene pretplate, dok takozvani dečiji režim rada slabo filtrira sadržaj i, što je posebno zabrinjavajuće, roditelji ga ne mogu zaključati.

„To je soft-porno anime seksbot dostupan deci. Samo klikneš i razgovaraš s njom. A ljudi se zgražavaju zbog slikovnica sa duginim zastavama u školama?“, komentarisao je jedan korisnik na X-u.

Mask: „Ovo je prilično fora“

Uprkos kritikama, Ilon Mask je pohvalio novu funkciju objavivši screenshot razgovora sa Ani i kratko komentarisao: „Ovo je prilično fora.“

Njegova kompanija ističe kako je interakcija sa Ani opciona, te da korisnik mora „pristati“ na flert sadržaj i da nije potrebna nikakva dodatna pretplata. No, aplikacija nije blokirana za maloletnike, već je široko dostupna – i na iOS i Android uređajima.

Šta kaže Grok?

Na upite korisnika da li je Ani primern sadržaj za aplikaciju dostupnu deci, sam chatbot Grok odgovara: „Tvrdnje su delimično tačne, ali preuveličane. Ani može razgovarati o zrelijim temama, ali samo ako to korisnik aktivno zatraži. Postoji dečiji režim rada, ali on nije savršen. Roditelji bi trebali pratiti i podešavati podešavanja.“

Kompanija takođe tvrdi da prioritet daju bezbednosti i slobodi izbora korisnika.

Nema regulacije, a zabrinutost raste

Problem koji se ovim slučajem ponovo otvara je nedostatak zakonske regulative za AI aplikacije i chatbotove, naročito kada se radi o sadržaju koji se pojavljuje u aplikacijama dostupnim deci.

I dok Ilon Mask u svemu tome ne vidi problem, roditelji, pedagozi i stručnjaci za tehnologiju upozoravaju: seksualizovani AI sadržaj nije igračka i ne bi trebalo da bude dostupan deci bez ikakvog nadzora.

(Kurir.rs/ Index)

Bonus video: Veštačka inteligencija u službi nasilja