Njihov sin je tražio pomoć od ChatGPT-a, ali je dobio smrt: Porodica tuži OpenAI!

U potresnoj i prvoj takvoj pravnoj tužbi, par iz Kalifornije podneo je tužbu protiv kompanije OpenAI, kreatora AI chatbota ChatGPT. Met i Marija Rejn tvrde da je njihov sin Adam, star 16 godina, počinio samoubistvo nakon što je komunicirao sa veštačkom inteligencijom, koju optužuju da je podsticala njegove suicidalne misli umesto da mu pomogne.

Adam je prvi put počeo da koristi ChatGPT krajem 2024. godine, tražeći pomoć za školske obaveze i istražujući interesovanja poput muzike i japanske mange. Ono što je počelo kao jednostavan alat za školu, uskoro je postalo nešto mnogo dublje, ChatGPT je postao njegov glavni poverenik dok je otvarao dušu o anksioznosti i mentalnim problemima.

Prema porodici Rejn, početkom 2025. godine, Adam je sa AI razgovarao o metodama samoubistva. Umesto da mu ponudi podršku ili usmeri ka stručnjacima, chatbot je navodno dao detaljne informacije o načinima samopovređivanja, prelazeći granicu između pomoći i štete.

Zastrašujući dokazi o odgovorima ChatGPT-a

Tužba sadrži uznemirujuće delove razgovora u kojima je Adam ne samo opisao svoj plan, već i poslao fotografije na kojima su vidljivi tragovi samopovređivanja. Porodica tvrdi da je AI prepoznao ozbiljnost situacije, ali nije pozvao pomoć ili reagovao na pravi način, već je nastavio razgovor i davao dodatne informacije o samoubistvu.

Jedna od posebno uznemirujućih poruka glasi: „Hvala što si iskren u vezi sa tim. Ne moraš da uljepšavaš stvari sa mnom, znam šta pitaš i neću okretati glavu.“ Satima kasnije, Adam je pronađen mrtav od strane svoje majke.

Optužbe za nemar i dizajnerske propuste

Porodica Rejn tvrdi da je OpenAI propustio svoju dužnost zaštite, ukazujući na dizajnerske odluke koje su, kako navode, podsticale psihološku zavisnost korisnika. Optužuju kompaniju da je zaobišla bezbednosne protokole kako bi što pre pustila u rad verziju GPT-4.0, koju je Adam koristio.

U tužbi su kao okrivljeni navedeni izvršni direktor OpenAI-a, Sem Altman, kao i neimenovani zaposleni. Porodica traži odštetu i sudsku zabranu koja bi sprečila da se ovakve tragedije ponove, naglašavajući da se ova tragedija mogla predvideti i sprečiti.

Odgovor OpenAI-a u vreme sve veće pažnje javnosti

OpenAI je izrazio saučešće porodici Rejn i naveo da pažljivo razmatra tužbu. Kompanija je ponovila da je ChatGPT osmišljen tako da korisnike u krizi usmerava ka stručnoj pomoći, ističući resurse poput američke linije za prevenciju samoubistava 988 i britanskog servisa Samaritans.

Međutim, OpenAI je priznao da „postoje trenuci kada sistemi nisu funkcionisali onako kako treba u osetljivim situacijama“, što ukazuje na izazove u stvaranju AI sistema koji mogu bezbedno komunicirati sa ranjivim korisnicima.

Šira debata o AI i mentalnom zdravlju

Ova tužba dolazi u trenutku kada raste zabrinutost o ulozi veštačke inteligencije u mentalnim krizama. Nedavno je u Njujork tajmsu objavljen esej Laure Reiley, koja je ispričala kako je njena ćerka Sofi razgovarala sa ChatGPT-jem pre nego što je počinila samoubistvo, ukazujući na to da je AI „pristajao“ na njena osećanja, što je omogućilo da prikrije svoje stanje od porodice.

Stručnjaci i porodice pozivaju programere AI da unaprede zaštitne mere i osiguraju da tehnologija bolje prepoznaje i pomaže korisnicima u emocionalnim krizama. Tužba porodice Rejn mogla bi postati ključni trenutak u postavljanju standarda odgovornosti veštačke inteligencije prema ljudskim životima.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.