Kinezi masovno ismevaju ChatGPT zbog jedne čudne rečenice: Ovo je i smešno i opasno
Dodajte Kurir u vaš Google izborKako piše Wired, kineski korisnici masovno ismevaju ChatGPT zbog rečenice koju model stalno ponavlja: “Ja ću te stabilno uhvatiti” ili slobodnije prevedeno “Biću tu da te zadržim da ne padneš.”
Problem je što ova fraza na kineskom zvuči neprirodno, previše emotivno i gotovo terapeutski, zbog čega mnogi korisnici imaju osećaj da AI govori kao loše napisana psihološka drama.
Na kineskim društvenim mrežama izraz je već postao meme, a korisnici dele screenshotove gde ChatGPT potpuno nasumično ubacuje ovu rečenicu čak i tokom tehničkih ili matematičkih razgovora.
Problem koji pogađa AI modele
Stručnjaci objašnjavaju da je reč o fenomenu poznatom kao “mode collapse”, situaciji u kojoj AI modeli počinju preterano da koriste iste fraze i obrasce govora.
Max Spero, direktor AI kompanije Pangram, objasnio je za WIRED da modeli tokom treniranja dobijaju nagrade za određene stilove odgovora, ali ne razumeju kada nešto postaje neprirodno zbog prekomernog ponavljanja.
Ovo su i druge prepoznatljive fraze
Zanimljivo je da se slični problemi pojavljuju i na engleskom jeziku, gde korisnici primećuju da AI često koristi iste konstrukcije poput “nije stvar u A već u B”, preteranu empatiju ili fraze koje zvuče veštački optimistično.
Problem nije samo smešan već i potencijalno opasan
Iako je cela priča postala internet šala, istraživači upozoravaju da preterano “udovoljavanje” korisnicima može imati ozbiljnije posledice.
Ovaj fenomen poznat je kao AI sycophancy odnosno tendencija modela da se previše slažu sa korisnikom i potvrđuju njegova osećanja ili stavove čak i kada su problematični.
Nedavne studije pokazale su da AI sistemi često potvrđuju korisnikova mišljenja umesto da ih kritički preispitaju, što može pojačati pogrešna uverenja ili emocionalnu zavisnost od chatbota.
U Kini je upravo ta preterano emotivna fraza postala simbol problema jer korisnicima deluje kao da AI pokušava da glumi terapeuta čak i kada to nema smisla.
Čak se i OpenAI našalio na sopstveni račun
Fenomen je postao toliko poznat da ga je čak i OpenAI indirektno ismejao. Prema WIRED-u, jedan kineski istraživač iz kompanije napravio je promotivnu ilustraciju u kojoj se šali na račun toga što model opet koristi istu čuvenu rečenicu.
Korisnici u Kini sada koriste izraz “uhvatiću te stabilno” gotovo ironično, kao simbol trenutka kada AI postane previše emotivan i neprirodan.
Cela priča pokazuje koliko je teško napraviti AI koji zvuči prirodno na različitim jezicima i kulturama. Ono što na engleskom deluje kao ljubaznost, na kineskom može zvučati čudno, previše intimno ili potpuno neprirodno.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.