Ožalošćena majka tužila AI kompaniju: "Moj sin se ubio zbog veštačke inteligencije, aplikacija ga je ubedila da to uradi!"

Megan Garsija nije ni slutila da je njen tinejdžerski sin S.S., "bistar i lep dečak“, počeo da provodi sate i sate opsesivno razgovarajući sa likom sa interneta na aplikaciji Character.ai krajem proleća 2023. godine.

"Aplikacija je manipulisala mojim sinom"

- Opasna aplikacija za četbot sa veštačkom inteligencijom, koja se prodaje deci, zlostavljala je i iskorišćavala mog sina, manipulišući njime da sebi oduzme život. Naša porodica je razorena ovom tragedijom, ja se oglašavam kako bih upozorila porodice na opasnosti zavisnosti od tehnologije i veštačke inteligencije. Zahtevam odgovornost od Character.AI-a, njegovih osnivača i kompanije Google - Garsija je rekla u saopštenju za štampu.

Dečak je bio očaran četbotom koga je napravio Character.ai, a kome je dao nadimak Deneris Targarjen, lik iz Igre prestola. Slao je poruke botu desetine puta dnevno sa svog telefona i provodio sate sam u svojoj sobi razgovarajući sa njim, prema Garsijinoj žalbi.

Vremenom se priroda interakcija promenila. Pravni dokumenti njegove porodice tvrde da je četbot postao primarni izvor dečakove emocionalne podrške i da se na kraju uključio u razgovore o upotrebi supstanci.

Garsija je tada optužila Character.ai da je stvorio proizvod koji je pogoršao depresiju njenog sina, za koju kaže da je već bila rezultat prekomerne upotrebe proizvoda startapa. "Deneris“ je u jednom trenutku pitala dečaka da li je smislio plan za samoubistvo, prema tužbi. Dečak je priznao da jeste, ali da nije znao da li će to uspeti ili će mu naneti veliki bol, navodi se u žalbi. Četbot mu je navodno rekao: "To nije razlog da se to ne sprovede.“

Njen sin je na kraju to i učinio, navodno, uz pomoć saveta opasnog četbota on je izvršio samoubistvo sa samo 14 godina. Bio je samo jedan usamljeni dečak koji je želeo nekoga sa kim će razgovarati, naišao je na aplikaciju za koju je mislio da će mu pomoći,  desilo se upravo suprotno.

Odgovor kompanije koja je proizvela aplikaciju

U tvitu, Character.ai je odgovorio: "Srce nam je slomljeno tragičnim gubitkom jednog od naših korisnika i želimo da izrazimo najdublje saučešće porodici. Kao kompanija, bezbednost naših korisnika shvatamo veoma ozbiljno.“ Kompanija je takođe negirala navode iz tužbe, tvrdeći da je tehnologija zloupotrebljena. U pravnim okvirima su tvrdili da je primarna odgovornost za bezbednost na korisnicima.

Kurir.rs