Uvodi se vodeni žig! Znaće se da li vam piše ChatGPT, otkrivamo šta će se u Srbiji desiti!
Dodajte Kurir u vaš Google izbor- OpenAI uvodi TextGrain, nevidljivi vodeni žig za tekstove iz ChatGPT-ja i Codexa, prvo u Evropskoj uniji.
- Trag može da pomogne u prepoznavanju sadržaja, ali nije nepogrešiv dokaz porekla ni autorstva.
- Detekcija slabi posle izmena teksta, dok testiranja nisu pokazala značajan pad kvaliteta odgovora modela.
Veštačka inteligencija piše mejlove, sastavlja izveštaje, pomaže učenicima oko domaćih zadataka i programerima u pisanju koda. Problem je što je sve teže proceniti da li je neki tekst napisao čovek ili ga je napravio četbot. Upravo zato kompanija OpenAI uvodi novu tehnologiju koja bi trebalo da olakša prepoznavanje sadržaja nastalog uz pomoć njenih alata, a da pritom čitaoci ne vide nikakvu posebnu oznaku u tekstu.
Reč je o takozvanom vodenom žigu,odnosno nevidljivom digitalnom tragu koji se ugrađuje u tekst koji generišu ChatGPT i alat za programiranje Codex. OpenAI je objavio i plan za postepeno uvođenje ove tehnologije u Evropskoj uniji, u skladu sa novim pravilima o transparentnosti veštačke inteligencije. Međutim, da vam odmah razjasnimo, to ne znači da će svaki tekst koji je ikada napisan uz pomoć ChatGPT-ja automatski dobiti oznaku, niti da će bilo ko moći da proveri poreklo svakog sadržaja jednim klikom.
Kako radi nevidljivi žig
Tehnologija nosi naziv TextGrain i funkcioniše drugačije od klasičnog vodenog žiga koji se stavlja preko fotografije ili videa. Umesto vidljivog simbola, ona utiče na statistički obrazac izbora reči tokom generisanja teksta. Taj obrazac našem ljudskom oku nije primetan, ali specijalizovani softver može da traži karakterističan trag i proceni da li je u stvaranju sadržaja učestvovao OpenAI-jev model.
Ovo znači da tekst može da izgleda sasvim obično, bez upozorenja, posebne boje, simbola ili dodatne rečenice na kraju. Kada korisnik kopira takav sadržaj u dokument, mejl ili drugu aplikaciju, digitalni trag može da ostane prisutan, jer nije vezan za izgled stranice, već za način na koji su reči izabrane. Ipak, važno je razumeti da ovo nije čarobni pečat koji se nikada ne može izgubiti, već naknadne izmene mogu znatno da oslabe mogućnost otkrivanja.
Neće svaki tekst moći lako da se prepozna
OpenAI navodi da je TextGrain u njihovim testiranjima ostvario rezultate koji su bili jednaki ili bolji od pojedinih drugih pristupa koje su isprobali, uključujući Google DeepMindov SynthID za tekst. Ipak, kompanija upozorava da dobri rezultati u kontrolisanim uslovima ne garantuju jednaku pouzdanost u svakodnevnoj upotrebi. Poseban problem predstavljaju kratki odgovori i sadržaj u kojem nema mnogo prostora za različite formulacije, poput matematičkih objašnjenja.
Da li će tekstovi biti lošiji zbog ove promene?
Jedno od glavnih pitanja jeste da li će nevidljivi žig uticati na kvalitet odgovora koje ChatGPT daje korisnicima. Prema rezultatima koje je objavio OpenAI, testiranja na različitim merilima nisu pokazala značajne razlike u performansama modela sa vodenim žigom i bez njega, što je važno zato što bi sistem koji primetno kvari odgovore, otežava programiranje ili proizvodi neprirodne rečenice mogao da izazove nezadovoljstvo korisnika.
Ko će moći da proverava poreklo teksta?
OpenAI planira da u narednim nedeljama postepeno uvede nevidljivi žig u tekstove koje generišu dostupne verzije ChatGPT-ja i Codexa za korisnike u Evropskoj uniji, bez obzira na plan pretplate. Za sada kompanija ne najavljuje da će ova promena automatski postati globalno pravilo za sve korisnike. Programeri koji koriste OpenAI API širom sveta mogu da uključe opciju za podržane modele, ali je ona u početku isključena po podrazumevanim podešavanjima.
Još jedna važna stvar jeste to što detektor neće odmah biti dostupan svima. OpenAI će u početnoj fazi odobravati pristup istraživačima i stručnim organizacijama koje mogu da pomognu u proveri pouzdanosti sistema.
Šta ovo znači za obične korisnike?
Nova tehnologija mogla bi da bude korisna u obrazovanju, medijima i poslovanju, gde je sve važnije znati na koji način je neki sadržaj nastao. Na primer, mogla bi da pomogne u proveri da li je određeni tekst generisan uz pomoć OpenAI-jevih alata, ali sama po sebi ne može da pokaže koliko je čovek učestvovao u pisanju, uređivanju ili proveri informacija. Zato ni pronađeni vodeni žig ne znači automatski da je tekst u potpunosti napisala mašina, baš kao što njegovo odsustvo ne dokazuje da ga je napisao čovek.
Uvođenje ove tehnologije povezano je i sa evropskim pravilima o transparentnosti veštačke inteligencije. Evropski zakon o veštačkoj inteligenciji, poznat kao EU AI Act, predviđa obaveze u vezi sa označavanjem i prepoznatljivošću određenih sadržaja koje generišu sistemi veštačke inteligencije. Ipak, digitalni vodeni žig nije isto što i dokaz da je sadržaj istinit, zakonit ili pravilno predstavljen. On daje ograničenu informaciju o mogućem poreklu teksta, a ne presudu o njegovom kvalitetu ili autorstvu.
Za korisnike u Srbiji najvažnije je da ne pretpostave kako će svaki tekst iz ChatGPT-ja već sada imati nevidljivu oznaku.
Da vam skratimo muke, u slučaju da koristite običan ChatGPT u Srbiji - za sada nema potvrde da će tekstovi koje dobijate automatski imati ovaj žig. Ipak, ako kompanija proširi uvođenje na Srbiju, način na koji ChatGPT generiše tekst mogao bi da se promeni i za domaće korisnike.
Najavljeno uvođenje odnosi se na Evropsku uniju, dok je za korisnike API-ja širom sveta opcija dostupna uz njihovo uključivanje, za podržane modele. Šire uvođenje, dostupnost detektora i pouzdanost prepoznavanja zavisiće od daljeg razvoja tehnologije i iskustava iz prakse.
Ova tehnologija mogla bi da bude posebno zanimljiva školama i fakultetima u našo zemlji, gde se sve više postavlja pitanje koliko učenici i studenti koriste veštačku inteligenciju za pisanje domaćih zadataka, seminarskih i diplomskih radova. Ako sistem za prepoznavanje postane šire dostupan, nastavnicima bi mogao da posluži kao dodatni način provere porekla teksta. Ipak, ne bi bilo opravdano da se samo na osnovu rezultata detektora nekome pripiše prevara, jer vodeni žig nije nepogrešiv dokaz autorstva.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.