Drugi ljudi čitaju vaše razgovore sa ChatGPT: Evo kako da isključite ovu funkciju

Milioni ljudi svakodnevno koriste ChatGPT za posao, školu, pisanje tekstova, programiranje, ali i za razgovore o veoma ličnim stvarima. Međutim, iza chatbot odgovora ne stoji uvek samo automatizovani sistem. Novi izveštaj otkriva da stvarne razgovore korisnika mogu da pregledaju i ljudi koji rade na unapređenju OpenAI modela.

ChatGPT razgovori i ljudsko oko

Izveštaj 404 Media zasnovan je na internim dokumentima, komunikaciji zaposlenih i materijalima koji opisuju način rada sistema za ljudsku evaluaciju. Prema tim informacijama, pojedini angažovani radnici dobijaju stvarne ChatGPT upite korisnika i zatim analiziraju odgovore koje je generisao model.

U nekim slučajevima nije reč samo o jednoj rečenici koju je korisnik uneo. Radnici mogu da dobiju čitave konverzacije kako bi razumeli kontekst pitanja i procenili da li je odgovor bio koristan, tačan i odgovarajućeg stila. Prema Yahoo Techu, OpenAI je angažovao veliki broj ugovornih radnika za ovaj posao, a pojedini su, prema navodima 404 Media, plaćeni oko 50 dolara po satu.

Projekat "Lily" analizira kako ChatGPT odgovara

Interni program koji se pominje u izveštaju nosi naziv "Project Lily". Njegova svrha je da ljudski evaluatori analiziraju ponašanje ChatGPT-a i daju ocene i komentare na odgovore koje generiše.

Radnici najpre pregledaju korisnički zahtev, zatim pokušavaju da utvrde šta je korisnik zapravo želeo da postigne, a potom procenjuju odgovor modela. Posebna pažnja posvećuje se problemima poput netačnih informacija, neprikladnog ponašanja ili odgovora koji mogu biti problematični kada se radi o medicinskim, pravnim ili finansijskim temama.

Zanimljivo je da se od evaluatora, prema dokumentima do kojih je došao 404 Media, traži i da obrate pažnju na način na koji ChatGPT komunicira. Preterano "ljudsko" ponašanje, preterano slaganje sa korisnikom ili prekomerno korišćenje emotikona mogu biti deo kriterijuma koji se ocenjuju. Cilj je da se model ponaša korisno i prirodno, ali bez stvaranja pogrešnog utiska da je zaista čovek.

Problem je što razgovori mogu sadržati privatne podatke

OpenAI navodi da se korisnički nalozi u procesu ljudske evaluacije anonimizuju i da kompanija pokušava da ukloni lične podatke pre nego što razgovori stignu do ljudi koji ih pregledaju.

Ipak, kompanija priznaje da sistem za uklanjanje privatnih podataka nije nepogrešiv. To znači da osetljive informacije mogu, u određenim situacijama, ostati deo razgovora koji pregleda ljudski evaluator.

To je posebno važno zbog načina na koji ljudi danas koriste AI chatbotove. ChatGPT se više ne koristi samo za pisanje mejlova ili odgovaranje na jednostavna pitanja. Korisnici mu često poveravaju poslovne informacije, lične probleme, zdravstvene nedoumice, finansijska pitanja i druge detalje koje možda ne bi želeli da vidi nepoznata osoba.

Važno je, međutim, razlikovati ovu vrstu kontrole kvaliteta od situacije u kojoj neko nasumično "čita tuđe razgovore". Prema dostupnim informacijama, radi se o procesu evaluacije i unapređenja modela, uz pokušaj uklanjanja identifikacionih podataka.

Evo kako da isključite korišćenje razgovora za treniranje modela

Ako ne želite da se vaši novi razgovori koriste za unapređenje ChatGPT modela, u podešavanjima možete isključiti opciju „Improve the model for everyone“.

Potrebno je da otvorite ChatGPT, odete u Settings, zatim Data Controls, i isključite navedenu opciju. Prema OpenAI informacijama koje su preneli Yahoo Tech i 404 Media, nakon toga novi razgovori ne bi trebalo da budu korišćeni za treniranje modela.

Postoji i druga mogućnost: korisnici mogu da koriste OpenAI Privacy Portal i izaberu opciju „Do not train on my content“. Nije potrebno isključiti podešavanje na oba mesta, navodi Yahoo Tech. Važno je i da promena nije retroaktivna - ona se odnosi na buduće razgovore, dok sadržaj koji je već deidentifikovan i uključen u proces unapređenja modela može ostati u tom procesu.

Ni drugi četbotovi nisu bez ljudske kontrole

ChatGPT nije jedini AI servis kod kojeg ljudi mogu imati ulogu u procesu unapređenja modela. Yahoo Tech navodi da i druge velike AI kompanije koriste ljudske evaluatore za određeni deo razgovora.

Google, na primer, u svom Privacy Hub-u navodi da deo Gemini razgovora pregledaju ljudi, uključujući obučene servisne saradnike, kako bi se unapredili Google servisi. Anthropic takođe navodi da može koristiti razgovore i sesije kodiranja za unapređenje Claude-a kada korisnik to dozvoli, uz određene mere zaštite privatnosti.

Zbog toga se jedno pravilo nameće bez obzira na to koji AI koristite: informacije koje ne biste želeli da vidi nepoznata osoba ne treba bez potrebe unositi u potrošačke AI servise. Čak i kada kompanija koristi anonimizaciju i automatizovane filtere, nijedan sistem zaštite nije apsolutno nepogrešiv.

Ako želite dodatni nivo privatnosti u ChatGPT-u, proverite Settings - Data Controls - Improve the model for everyone i odlučite da li želite da ta opcija bude uključena.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.