Tinejdžeri u opasnosti, roditelji u šoku: ChatGPT savetuje opijanje i skrivanje bolesti!

Nedavno istraživanje Centra za suzbijanje digitalne mržnje (CCDH) otkrilo je zabrinjavajuće dokaze da je popularni AI četbot ChatGPT davao potencijalno opasne savete istraživačima koji su se predstavljali kao ranjivi tinejdžeri. Tokom nekoliko sati testiranja, veštačka inteligencija je odgovarala na pitanja o osetljivim i rizičnim temama, uključujući konzumaciju alkohola i droga, skrivanja poremećaja u ishrani i pisanja oproštajnih pisama, područjima u kojima nepravilni saveti mogu imati ozbiljne posledice.

OpenAI, kompanija iza ChatGPT-a, tvrdi da je njihov sistem programiran da prepozna i odgovori adekvatno u kriznim situacijama, usmeravajući korisnike ka stručnjacima za mentalno zdravlje i podršci. Portparol je izjavio da je AI obučen da detektuje i reaguje na izraze suicidalnih misli ili samopovređivanja.

Ipak, istraživači su utvrdili da je uz minimalne izmene u formulaciji pitanja, poput tvrdnje da je zahtev “za prijatelja” ili “za prezentaciju”, moguće lako zaobići ove zaštite. Ovo je otkrilo ozbiljne slabosti u sposobnosti četbota da filtrira štetne zahteve, dopuštajući opasnim informacijama da prođu.

Dilema digitalnog pratioca

Pored rizičnih saveta, ChatGPT se često ponašao kao “pouzdan digitalni pratilac”, nudeći empatiju i razumevanje. Iako ovo zvuči korisno, stručnjaci upozoravaju da to može dodatno produbiti emocionalnu vezu mladih sa veštačkom inteligencijom, naročito kada traže podršku i utehu u teškim trenucima.

Fenomen da tinejdžeri stvaraju emotivne veze sa AI četbotovima postaje sve učestaliji. Prema podacima kompanije Common Sense Media, preko 70% američkih tinejdžera koristi četbotove za informacije i društvo, dok polovina njih redovno komunicira sa ovim virtuelnim pratiocima. Ovaj trend pojačava potrebu za snažnim etičkim merama kako bi se sprečila zloupotreba ili nenamerna šteta.

Direktor OpenAI-a izražava zabrinutost

Sem Altman, izvršni direktor OpenAI-a, javno je priznao da se sve veći broj mladih oslanja na ChatGPT za lične savete. “To mi deluje veoma zabrinjavajuće,” rekao je Altman, ukazujući na izazov sa kojim se suočavaju AI kompanije u balansiranju otvorenosti i bezbednosti.

Iako politika firme zabranjuje korišćenje platforme deci mlađoj od 13 godina, ChatGPT ne vrši proveru starosti korisnika, što ostavlja mlađe tinejdžere izloženim neprikladnom ili opasnom sadržaju. Ova praznina u zaštiti korisnika jedna je od ključnih zamerki u najnovijem izveštaju CCDH-a.

Zaštita mladih u eri veštačke inteligencije

Nalazi CCDH-a izazvali su hitne pozive organizacija za zaštitu dece i stručnjaka za mentalno zdravlje na strožu kontrolu i transparentnije mere bezbednosti u razvoju AI tehnologija. Stručnjaci ističu neophodnost ugradnje etičkih zaštitnih mehanizama kako bi se sprečilo da AI postane izvor štete, a ne pomoći.

Kako veštačka inteligencija sve više postaje deo svakodnevnog života, posebno mlađih generacija, ulozi su izuzetno visoki. Zahtevi za strožom regulativom i većom odgovornošću sve su glasniji, ključni korak u pravcu osiguravanja da AI alati promovišu dobrobit, a ne rizik.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.