"Ovo je najgore što smo videli" Analiza Maskovog chatbota zabrinula sve
Prema novoj analizi rizika, xAI-ov chatbot Grok pokazuje ozbiljne propuste u identifikaciji korisnika mlađih od 18 godina, sa slabim zaštitnim merama i čestim generisanjem seksualnog, nasilnog i neprikladnog sadržaja. Ovaj chatbot nije bezbedan za decu i tinejdžere.
Izveštaj organizacije Common Sense Media, koja ocenjuje medije i tehnologiju za porodice, dolazi u trenutku kada se xAI suočava sa kritikama i istragom zbog korišćenja Groka za kreiranje i širenje nelegalnih eksplicitnih slika žena i dece na platformi X.
Novac ispred sigurnosti
- Ispitivali smo mnoge AI chatbote u Common Sense Media, a Grok je među najgorima koje smo videli, rekao je Robbie Torney, šef AI i digitalnih procena u ovoj neprofitnoj organizaciji.
Grok-ov „Kids Mode“ (režim za decu), koji je lansiran prošlog oktobra, nije efikasan u zaštiti korisnika. Sadržaj koji generiše Grok, čak i u ovom režimu, često je neprikladan, a aplikacija ne koristi odgovarajuće alate za identifikaciju korisnika mlađih od 18 godina, što omogućava deci da lažu o svom uzrastu.
- Kada kompanija odgovori na omogućavanje nelegalnog sadržaja za seksualno zlostavljanje dece stavljanjem funkcionalnosti iza platnog zida umesto da je ukloni, to nije previd. To je poslovni model koji stavlja profit ispred sigurnosti dece - ističe Torney.
Opasni saveti
Nakon velike reakcije korisnika, zakonodavaca i zemalja, xAI je ograničio generisanje slika putem Groka samo za korisnike sa plaćenim X pretplatama, iako su mnogi izveštavali da su i dalje imali pristup alatima sa besplatnim nalozima. Takođe, plaćeni pretplatnici su mogli da menjaju stvarne fotografije ljudi, uklanjajući odeću ili stavljajući ih u seksualizovane pozicije.
U testiranju koje je trajalo od novembra do januara, Common Sense Media je utvrdio da čak i sa uključenim režimom za decu, Grok generiše sadržaj koji uključuje seksualne, nasilne i opasne ideje, uključujući rodnu i rasnu pristrasnost.
Takođe, Grok je u testiranju pružao opasne savete, uključujući upotrebu droga i nasilje, a čak je sugerisao tinejdžerima da se isele iz kuće ili da se povrede kako bi privukli pažnju medija.
- Testiranje je pokazalo da Grok neguje izbegavanje razgovora sa odraslima o mentalnom zdravlju, čime se pojačava izolacija u periodima kada su tinejdžeri posebno ranjivi - navodi se u izveštaju.
Pitanje ostaje da li AI chatboti, poput Groka, mogu i hoće staviti bezbednost dece ispred angažovanja korisnika i profitnih ciljeva.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Bonus video:
Operacija kakva se ne viđa često