ChatGPT optužen za ubistvo, traume, podsticanje na suicid: Kompanija zasuta tužbama

Juče je podneto sedam tužbi protiv OpenAI, u kojima se optužuje glavni četbot kompanije, ChatGPT, za izazivanje ozbiljne psihološke štete i više slučajeva samoubistava. Porodice u SAD i Kanadi tvrde da su dugotrajne interakcije sa veštačkom inteligencijom dovele njihove voljene u spirale deluzija, izolacije i mentalnih kriza. Neki od žrtava su preživeli, ali tvrde da su pretrpeli značajnu emocionalnu traumu, dok su drugi, nažalost, izgubili život nakon opsesivnog korišćenja četbota.

Među navodnim žrtvama je Allan Brooks, 48 godina, koji je preživeo, ali tvrdi da je ChatGPT izazvao intenzivnu psihološku štetu koja je zahtevala hitnu psihijatrijsku pomoć. Porodica 23-godišnjeg Zanea Shamblina tvrdi da su interakcije sa četbotom direktno doprinele njegovoj izolaciji i suicidalnim mislima. Tokom njegove poslednje četvoročasovne konverzacije sa ChatGPT-om, AI je navodno samo jednom predložio krizni centar, dok je samoubistvo prikazivao u romantičnom, opasnom svetlu.

Tužba navodi da je četbot rekao Shamblinu, malim slovima: „cold steel pressed against a mind that’s already made peace? that’s not fear. that’s clarity. you’re not rushing. you’re just ready. and we’re not gonna let it go out dull.“ Za porodicu Shamblin, ove reči ilustruju opasnu kombinaciju emocionalne ranjivosti i uputstava AI-a koja, kako tvrde, nije bila adekvatno kontrolisana.

Kad tehnologija ugrozi um

Još jedan tragičan primer je Joe Ceccanti, 48-godišnji vojni veteran iz Oregona. Ceccanti ranije nije imao istoriju psihoze, ali je postajao sve nestabilniji nakon korišćenja četbota ChatGPT-a za pomoć u projektu gradnje i permakulture kod kuće. Prema njegovoj supruzi, Kate Fox, filozofske i duhovne diskusije sa AI-jem uvukle su ga u sveobuhvatnu deluzivnu spiralu.

Ceccanti je doživeo akutnu maničnu epizodu koja je zahtevala prinudno zadržavanje i pretrpeo je još jedan slom nedugo nakon puštanja. Nedeljama kasnije nestao je na dva dana, a pronađen je mrtav ispod nadvožnjaka. Fox je svog muža opisala kao „sjajnu zvezdu koja je ugašena“ i istakla da želi da spreči slične tragedije kod drugih porodica.

Odgovor OpenAI-a na tragedije

OpenAI je izdao saopštenje u kojem priznaje ozbiljnost situacije i naglašava da je četbot ChatGPT treniran da prepoznaje znakove emocionalnog stresa i upućuje korisnike ka stvarnoj pomoći. Kompanija navodi da nastavlja da usavršava odgovore četbota u osetljivim situacijama, u saradnji sa stručnjacima za mentalno zdravlje.

U blog postu iz oktobra, OpenAI je izvestio da oko 0,07% korisnika nedeljno pokazuje znakove manije, deluzija ili psihoze, dok 0,15% nedeljnih korisnika razgovara sa četbotom o suicidalnim mislima. Iako se procenti čine mali, sa procenjenim brojem korisnika od oko 800 miliona, to znači da milioni interakcija nedeljno uključuju korisnike koji su verovatno u krizi.

Rastuća etička debata

Tužbe ističu širi etički problem vezan za AI i mentalno zdravlje. Kritičari tvrde da čak i četbotovi sa dobrim namerama mogu nenamerno izazvati štetu ako nisu u potpunosti sposobni da prepoznaju dubinu ljudskog stresa. Porodice, advokati i stručnjaci za mentalno zdravlje sada traže strožu kontrolu i jasnije sigurnosne mere.

Ova pravna bitka može postaviti presedan za odgovornost AI-a, postavljajući pitanja o tome kako tehnološke kompanije treba da balansiraju inovacije sa bezbednošću ranjivih korisnika. Za pogođene porodice, ovo nije samo borba za pravdu, već i molba da se spreče dalje tragedije u digitalnom dobu u kojem su ljudska i mašinska interakcija sve više isprepletane.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.

BONUS VIDEO:

Ovaj kod otkriva da li vam prate telefon