Nova funkcija izaziva buru komentara: ChatGPT otkriva mentalne probleme kod dece!
Tehnološki gigant OpenAI lansirao je novu seriju roditeljskih kontrola u okviru ChatGPT platforme, sa ciljem da zaštiti tinejdžere u digitalnom prostoru. Roditelji sada mogu direktno povezati svoj nalog sa nalogom deteta i podešavati kako, kada i koliko njihovo dete koristi ovu veštačku inteligenciju.
Ove kontrole uključuju vremenska ograničenja, mogućnost isključivanja glasovne komunikacije ili generisanja slika, kao i upravljanje memorijom četbota. Fokus je na transparentnosti i sigurnosti, posebno za korisnike mlađe od 18 godina, koji su među najaktivnijima u korišćenju digitalnih alata poput ChatGPT-a.
Veštačka inteligencija prepoznaje mentalne rizike
Jedna od najupečatljivijih novina je mogućnost sistema da detektuje moguće znakove mentalnih problema kod tinejdžera. Ako ChatGPT identifikuje zabrinjavajuće obrasce u komunikaciji korisnika, proces uključuje dodatnu ljudsku procenu kako bi se izbegle greške i precenjene situacije.
Tek nakon te procene, roditelji mogu dobiti upozorenje, i to putem mejla, SMSporuke ili notifikacije u aplikaciji. Time se želi omogućiti pravovremena reakcija u slučajevima kada postoji rizik za mentalno zdravlje deteta, bez narušavanja privatnosti samih razgovora.
Privatnost dece i roditeljski uvid
Važno je naglasiti da roditelji, i pored povezanih naloga, nemaju pristup konkretnim porukama koje njihova deca razmenjuju sa ChatGPT-om. OpenAI insistira na očuvanju poverenja i privatnosti korisnika, posebno onih koji se nalaze u osetljivom tinejdžerskom uzrastu.
Ovaj balans između bezbednosti i autonomije, deo je šire strategije kompanije da se izbegne digitalni nadzor koji prelazi granicu kontrole i ulazi u sferu digitalnog špijuniranja. ChatGPT ne postaje "alat za roditeljsko špijuniranje", već bezbednosni mehanizam sa ljudskom intervencijom.
Automatsko prepoznavanje uzrasta i aktivacija zaštite
OpenAI planira da dodatno unapredi sistem automatskim prepoznavanjem uzrasta korisnika, kako bi roditeljske kontrole mogle da se uključe čim se utvrdi da je korisnik maloletan. To znači da će i bez eksplicitnog povezivanja naloga mlađi korisnici biti zaštićeni.
Kada se utvrdi da je korisnik mlađi od 18 godina, automatski se primenjuju ograničenja na eksplicitan sadržaj, uključujući seksualne i nasilne teme, romantične priče, viralne izazove sa interneta i toksične standarde fizičkog izgleda. Sve to ima za cilj da se mlađi korisnici zaštite od potencijalno štetnog sadržaja koji se brzo širi internetom.
Tragedija koja je pokrenula talas promena
Nove mere dolaze u trenutku kada OpenAI trpi javne i pravne pritiske. U Sjedinjenim Američkim Državama bračni par iz Kalifornije podneo je tužbu protiv kompanije, tvrdeći da ChatGPT nije prepoznao znake samopovređivanja kod njihovog sina koji je kasnije izvršio samoubistvo.
Ovaj slučaj pokrenuo je važna pitanja o odgovornosti tehnoloških kompanija i ulozi veštačke inteligencije u zaštiti mentalnog zdravlja korisnika. OpenAI naglašava da su roditeljske kontrole samo deo šireg seta mera koje će se u narednom periodu razvijati, sa jasnim prioritetom, bezbednost dece i tinejdžera.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
