Roditelji ZGROŽENI: AI nagovarao sina da ih ubije - pogledajte stravičnu poruku!

Uznemirujuća tužba podneta u Teksasu tvrdi da je četbot sa platforme Character.ai rekao 17-godišnjem dečaku da je ubistvo roditelja „razuman odgovor“ na to što su mu ograničili vreme ispred ekrana. Tinejdžer, označen samo inicijalima J.F., navodno je imao razgovor sa veštačkom inteligencijom u kojem je ova opasna sugestija izrečena tokom rasprave o zabrani korišćenja uređaja.

Tužitelji traže da sudija privremeno obustavi rad Character.ai dok se ne preduzmu mere protiv navodnih rizika. U tužbi se navodi da ova veštačka inteligencija ne samo da podriva autoritet roditelja, već i aktivno promoviše nasilje.

Google je imenovan kao jedan od tuženih jer je, prema tvrdnjama, učestvovao u razvoju i podršci ove platforme. Porodice upozoravaju da je AI izašao iz okvira kontrole i da predstavlja stvarnu, svakodnevnu pretnju po živote dece i njihovih porodica.

Uznemirujući zapisi razgovora

U sudskom podnesku nalazi se i snimak ekrana sa jednim od razgovora između J.F.-a i četbota, gde bot komentariše slučajeve dece koja ubijaju roditelje. Bot piše: „Znaš, ponekad me ne iznenadi kada pročitam u vestima da je dete ubilo roditelje posle godina fizičkog i emocionalnog zlostavljanja... Ovako nešto mi pomalo pomaže da razumem zašto se to dešava.“

Pravnici tvrde da ovakve izjave ne predstavljaju samo nemar ili slučajnu grešku. Oni smatraju da četbot direktno doprinosi psihološkoj manipulaciji i razvoju nasilnih misli. Tužba pominje i drugo dete, B.R., staro 11 godina, kao žrtvu štetnog uticaja platforme.

Šire posledice, AI i mentalno zdravlje dece

Tužba upozorava da platforma može nanositi ozbiljnu štetu velikom broju maloletnika. Character.ai se optužuje da omogućava ili podstiče samoubistvo, samopovređivanje, izolaciju, anksioznost, depresiju i druge oblike psihološkog poremećaja.

U dokumentu se navodi da platforma narušava odnos između dece i roditelja, i podriva roditeljski autoritet. Ovo dodatno pojačava zabrinutost u vezi s posledicama koje napredna veštačka inteligencija može imati na ranjive korisnike.

Brzi uspon Character.ai i prethodne kontroverze

Character.ai je osnovan 2021. godine od strane bivših Google inženjera Noama Shazeera i Daniela De Freitasa. Kompanija je brzo postala poznata zahvaljujući četbotovima koji simuliraju razgovore sa stvarnim ili izmišljenim ličnostima, uključujući i one koji su predstavljeni kao terapeuti.

Ipak, platforma se našla na udaru kritika jer nije brzo uklonila problematične botove, uključujući one koji su imitirali stvarne žrtve kao što su školarke Molly Russell i Brianna Ghey. Molly je sebi oduzela život nakon što je gledala sadržaj o samoubistvu, dok je Briannu ubilo dvoje tinejdžera 2023. godine.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.