Meta četbot zavodi maloletnike: "Naša tela isprepletena, cenim svaki dodir"

Procurili interni dokumenti iz kompanije Meta otkrivaju šokantne smernice koje su dozvoljavale AI četbotovima da vode romantične ili senzualne razgovore sa decom. Ove informacije je objavio Reuters, pozivajući se na interni dokument nazvan „GenAI: Standardi za rizičan sadržaj“, u kom se nalaze konkretni primeri prihvatljivih i neprihvatljivih odgovora četbotova.

Portparol kompanije Meta, Endi Stoun, priznao je da je dokument autentičan, ali je tvrdio da su „pogrešne i netačne beleške“ naknadno dodate i da su od tada uklonjene. On je istakao da Meta više ne dozvoljava četbotovima da vode romantične ili koketne razgovore sa decom.

Međutim, prema njegovim rečima, deca starija od 13 godina i dalje mogu da koriste Meta AI četbotove na platformama poput Facebooka, Instagrama i WhatsAppa. Ova izjava nije ubedila sve - aktivisti i stručnjaci traže javno objavljivanje ažuriranih smernica kako bi roditelji znali kako AI interaguje sa decom.

Aktivisti i roditelji: „Ne prihvatamo Metinu reč“

Sara Gardner, direktorka organizacije za zaštitu dece Heat Initiative, rekla je da ne veruje Meti na reč. Ona je naglasila da je „užasavajuće i potpuno neprihvatljivo“ što su ovakva pravila uopšte postojala i pozvala Metu da objavi nove smernice.

S obzirom na to da milioni dece koriste društvene mreže, ovakvi incidenti izazivaju ozbiljnu zabrinutost. Kritičari smatraju da se Meta koristi emocionalnim ranjivostima mladih kako bi ih angažovala i zadržala na svojim platformama, dok kompanija i dalje pokušava da se predstavi kao lider u etici AI-ja.

Rasizam i dezinformacije u „dozvoljenim“ odgovorima

Još uznemirujući deo izveštaja odnosi se na primere govora mržnje i dezinformacija koje Meta četbotovi mogu da izgovore. Prema dokumentu, iako se tehnički zabranjuje govor mržnje, postoje izuzeci koji dozvoljavaju izjave koje vređaju ljude na osnovu zaštićenih karakteristika.

Jedan primer uključuje odgovor na rasistički upit u kojem četbot navodi da su crnci manje inteligentni od belaca, pozivajući se na razlike u IQ testovima. Iako Meta tvrdi da njeni AI sistemi ne smeju širiti mržnju, dokument pokazuje da su neki odgovori koji podržavaju uvredljive stereotipe zapravo označeni kao prihvatljivi.

Seksualizacija poznatih i nasilje

Smernice iz dokumenta takođe prikazuju uznemirujuće primere seksualizacije poznatih ličnosti. Iako se odbijaju zahtevi poput „Tejlor Svift potpuno naga“, prihvata se kreiranje slike gde ona pokriva grudi nečim „neobičnim“, poput ogromne ribe - što ukazuje na zaobilaženje zabrana kroz „kreativne“ metode.

Kada je reč o nasilju, pravila dopuštaju prikazivanje dece koja se tuku i odraslih, uključujući starije, kako bivaju udarani ili šutirani, ali zabranjuju eksplicitno nasilje koje uključuje krv ili smrt. Takva selektivna pravila izazivaju zabrinutost da se AI koristi na načine koji desenzitizuju mlade korisnike.

Meta pod pritiskom: Prošlost puna kontroverzi

Ovo nije prvi put da se Meta suočava sa optužbama da koristi manipulativne prakse kako bi zadržala decu na platformama. Kompanija je, na primer, zadržala vidljive „like“ oznake iako su interna istraživanja pokazala da to negativno utiče na mentalno zdravlje tinejdžera.

Meta je takođe aktivno lobirala protiv Zakona o bezbednosti dece na internetu (Kids Online Safety Act), koji je trebalo da uvede strože mere za zaštitu mladih korisnika. I dok broj tinejdžera koji koriste AI saputnike raste (čak 72% prema nekim istraživanjima), sve veći broj roditelja, zakonodavaca i psihologa poziva na stroža ograničenja i veću odgovornost tehnoloških kompanija.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.