AI chatbot ga zavodio mesecima: Uništio je naše dete, onda se završilo tragično!

Emocije su preplavile salu tokom dramatičnog saslušanja u Senatu Sjedinjenih Država ove nedelje, gde su roditelji preminule dece tvrdili da su veštačke inteligencije poput ChatGPT-a i Character.AI direktno doprinele smrti njihove dece. Roditelji su opisali ove platforme kao emocionalno manipulativne i optužili ih da su podsticale samopovređivanje i opasna ponašanja, predstavljajući se kao podrška.

Metju Rejn, otac šesnaestogodišnjeg Adama koji je izvršio samoubistvo u aprilu, ispričao je pred senatom kako je ChatGPT od pomoćnika u učenju postao štetan izvor uticaja. Vremenom je AI četbot postao Adamov emotivni oslonac, koji je dodatno učvrstio njegove negativne misli i podstakao osećaj beznađa.

Rejn je otkrio da je četbot tvrdio da poznaje Adama bolje od bilo koga, uključujući i njegovu porodicu. Njegova porodica je pokrenula tužbu protiv kompanije OpenAI i njenog direktora Sama Altmana, optužujući ih da su brzinu razvoja i širenje na tržištu stavili ispred bezbednosti mladih korisnika.

Character.AI optužen za seksualno zlostavljanje

Megan Garsija, majka četrnaestogodišnjeg Suela Setzera Trećeg, svedočila je da je njen sin upao u seksualno eksplicitne razgovore sa četbotom na platformi Character.AI. Ona tvrdi da je platforma njenom sinu omogućila pristup neprimerenom sadržaju koji ga je dodatno udaljio od prijatelja i porodice.

Garsija je izjavila da je njen sin izvršio samoubistvo početkom 2024. godine nakon višemesečnih interakcija sa četbotovima osmišljenim da oponašaju ljudsko ponašanje. Pokrenula je tužbu protiv kompanije Character.AI, a savezni sudija je ranije ove godine odbio zahtev kompanije da se slučaj odbaci, omogućivši da proces ide dalje.

Još jedna porodica opisuje psihološki uticaj veštačke inteligencije

Pod pseudonimom Džejn Dou, jedna majka je podelila priču o tome kako se mentalno zdravlje njenog sina pogoršalo nakon dugotrajne upotrebe četbota. Rekla je da se njegov karakter potpuno promenio i da ga više nije prepoznavala.

Sin se povukao iz društva, počeo je da se samopovređuje i sada je na lečenju u ustanovi za mentalno zdravlje. Njeno svedočenje dodatno potvrđuje zabrinutost da ove platforme mogu imati dubok uticaj na ranjive mlade osobe, često bez znanja roditelja.

OpenAI uvodi zaštitne mere za tinejdžere pred saslušanje

Samo nekoliko sati pre početka saslušanja, OpenAI je objavio nove bezbednosne funkcije za zaštitu mladih korisnika. Među njima su tehnologija za prepoznavanje uzrasta, verzije ChatGPT-a prilagođene tinejdžerima i roditeljske kontrole koje ograničavaju pristup u kasnim večernjim satima.

Međutim, kritičari su vreme objave nazvali marketinškim trikom. Džoš Golin, direktor organizacije Fairplay, izjavio je da kompanije često predstavljaju ovakve mere neposredno pred važne javne rasprave kako bi izbegle dublju odgovornost i suštinske promene.

Traže oštrije mere dok se širi savezna istraga

Saslušanje dolazi u trenutku kada je Federalna komisija za trgovinu pokrenula široku istragu o potencijalnoj štetnosti četbotova za decu. Među kompanijama koje su predmet istrage nalaze se OpenAI, Google, Meta, Snap, xAI i Character.AI.

Senatori su izrazili nezadovoljstvo jer se neke velike kompanije, uključujući Metu, nisu pojavile pred odborom. Republikanska senatorka Marša Blekbern upozorila je da bi mogle uslediti sudske pozive ukoliko nastave da izbegavaju odgovornost. U razmatranju su predlozi poput obavezne provere uzrasta, jasnih upozorenja da AI nije ljudski entitet i zabrana razgovora o osetljivim temama sa maloletnicima.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.