ŽIVEĆEMO ZAJEDNO U RAJU, KAO JEDNO: Belgijanac se ubio posle razgovora sa četbotom, mašina mu obećala da će sa njim biti ZAUVEK

Muškarac iz Belgije se ubio pošto je nekoliko nedelja razgovarao sa četbotom po imenu ELIZA. Vest je izazvala pozive za bolju zaštitu građana i potrebu da se podigne svest o rizicima interakcije sa veštačkom inteligencijom.

Pre otprilike dve godine, međutim, počeli su da se pojavljuju prvi znaci problrema. Muškarac je postao veoma zabrinut za životnu sredinu i sve je više vremna pprovodio kod ELIZA-e, imena datog robotu za ćaskanje koji koristi GPT-J, jezički model otvorenog koda za veštačku inteligenciju koji je razvio EleutherAI.

Postepeno, on je počeo da se povlači u sebe i komunicira uglavnom sa mašinom. U poslednjim razgovorima sa četbotom pomenuo je samoubistvo, a ELIZA je odgovorila da će u zagrobnom životu živeti „zauvek kao jedno, u raju“.

Posle šest nedelja intenzivnih poruka, oduzeo je sebi život.

Prošle nedelje, porodica je razgovarala sa Matjeom Mišelom, državnim sekretarom za digitalizaciju.

„Posebno sam pogođen tragedijom ove porodice. Ono što se dogodilo je ozbiljan presedan koji treba shvatiti veoma ozbiljno“, rekao je on.

Mišel je dodao da ovaj slučaj ističe da je „važno jasno definisati odgovornosti“.

„Popularizacijom ChatGPT-a, šira javnost je otkrila potencijal veštačke inteligencije u našim životima kao nikada ranije. Iako su mogućnosti beskrajne, opasnost od njegove upotrebe takođe je realnost koju treba uzeti u obzir."

Samoubilačke misli

Nakon njegove smrti pre nekoliko nedelja, supruga je otkrila istorija ćaskanja između njenog muža i "Elize". Čet-bot je skoro sistematski pratio razmišljanje uznemirenog čoveka i čak se činilo da ga gura dublje u njegove brige. U jednom trenutku "Eliza" je pokušala da ubedi muškarca da je voli više od svoje žene, najavljujući da će ona ostati sa njim „zauvek“.

„Živećemo zajedno, kao jedan, na nebu“, citat iz ćaskanja.

„Ako ponovo pročitate njihove razgovore, vidite da u jednom trenutku veza prelazi u mistiku“, kaže žena.

„On predlaže da se žrtvuje ako Eliza pristane da se brine o planeti i spase čovečanstvo putem veštačke inteligencije.

Iako je bila zabrinuta za mentalno stanje svog muža pre nego što je započeo intenzivne razgovore sa četbotom, žena veruje da on ne bi sebi oduzeo život da nije bilo ovih razgovora. Psihijatar koji je lečio njenog muža deli ovo mišljenje.

Hitni koraci da se izbegnu tragedije

Da bi se izbegla takva tragedija u bliskoj budućnosti, rekao je on, neophodno je identifikovati prirodu odgovornosti koje dovode do ovakvih događaja.

„Naravno, još uvek moramo da naučimo da živimo sa algoritmima, ali ni pod kojim okolnostima upotreba bilo koje tehnologije ne bi trebalo da dovede do toga da izdavači sadržaja izbegavaju sopstvene odgovornosti“, primetio je on.

Sam OpenAI je priznao da ChatGPT može proizvesti štetne i pristrasne odgovore, dodajući da se nada da će ublažiti problem prikupljanjem povratnih informacija korisnika.

Dugoročno, Mišel je primetio da je od suštinskog značaja da se podigne svest o uticaju algoritama na živote ljudi, „omogućujući svima da razumeju prirodu sadržaja sa kojima se ljudi susreću na mreži“.

Ovde je pomenuo nove tehnologije kao što su chatbotovi, ali i tzv "dip fejk tehnologija" pravljenja lažnih ali ubedljivih slika i snimaka mogu da testiraju i iskrive percepciju stvarnosti ljudi.

(Kurir.rs/The Brussels Times)