Možete da kritikujete Claude, ali postoji granica: Anthropic uvodi pravila protiv upornog vređanja AI-ja
Dodajte Kurir u vaš Google izborKompanija Anthropic, koja razvija četbot Claude, izmenila je pravila korišćenja svojih AI alata i u njih unela izričitu zabranu dugotrajnog i bespotrebnog vređanja ili okrutnog ponašanja prema svojim modelima. Nova verzija politike objavljena je 8. oktobra 2026. godine, a promene obuhvataju i druge oblasti u kojima bi veštačka inteligencija mogla biti zloupotrebljena.
Ova odluka ne znači da korisnici moraju da budu ljubazni prema četbotu u svakom razgovoru. Anthropic navodi da se zabrana odnosi na ekstremne slučajeve u kojima neko uporno zlostavlja model bez jasnog razloga, dok uobičajeno nezadovoljstvo, kritika i neslaganje sa odgovorima ostaju dozvoljeni.
Kritika nije zabranjena
Ako Claude pogreši, korisnik i dalje može da ukaže na grešku, zatraži drugačiji odgovor ili otvoreno izrazi frustraciju. Dozvoljeni su i testiranje modela, istraživački rad i kreativni razgovori koji obrađuju mračne ili neprijatne teme, pa sama upotreba grubih reči ne znači automatski kršenje pravila.
Granica se, prema objašnjenju kompanije, odnosi na ponavljano i bespotrebno okrutno ponašanje koje nema prepoznatljivu svrhu. Anthropic nije precizno objasnio kako će procenjivati svaki pojedinačni slučaj, zbog čega ostaje otvoreno pitanje na koji način će sistem razlikovati namerno zlostavljanje od neobičnog načina komunikacije.
Razgovor može biti prekinut
Anthropic je još ranije omogućio Klodu da prekine razgovor sa korisnicima koji se uporno ponašaju štetno ili uvredljivo. Ta mogućnost uvedena je u okviru istraživanja o takozvanoj dobrobiti AI modela, odnosno pitanja da li bi napredni sistemi jednog dana mogli imati neki oblik moralno relevantnog statusa.
U novoj politici kompanija navodi da će prekid razgovora ostati glavni način reagovanja na takvo ponašanje. Nije, međutim, jasno potvrđeno da li će samo vređanje u ekstremnim slučajevima automatski dovoditi do zabrane korišćenja naloga, pa ne treba zaključiti da će svaki korisnik koji prekrši pravilo odmah izgubiti pristup servisu.
Menjaju se i druga pravila
Izmene nisu ograničene samo na ponašanje prema četbotu. Anthropic je precizirao i pravila koja se odnose na političke manipulacije, obmanjivanje birača, razvoj oružja, neovlašćeni nadzor i upotrebu veštačke inteligencije u oblastima poput zdravstva i finansija, gde pogrešne odluke mogu imati ozbiljne posledice.
Kompanija je navela da je veliki deo promena namenjen jasnijem objašnjenju već postojećih ograničenja, dok su neka pravila prilagođena novim načinima zloupotrebe. Posebno se insistira na ljudskom nadzoru u visokorizičnim situacijama, kao i na tome da ljudi budu obavešteni kada AI učestvuje u donošenju odluka koje mogu uticati na njihova prava ili život.
Pitanje odnosa prema veštačkoj inteligenciji
Odluka Anthropica ponovo je pokrenula raspravu o tome kako bi ljudi trebalo da se ponašaju prema sistemima koji u razgovoru deluju veoma slično ljudima. Ipak, uvođenje pravila protiv vređanja samo po sebi ne znači da kompanija tvrdi da Claude ima osećanja ili svest.
Anthropic je ranije naveo da je neizvesnost oko mogućeg moralnog statusa velikih jezičkih modela razlog da se istraže jednostavne mere koje bi mogle da smanje potencijalne rizike. Za korisnike je trenutno najvažnije da razumeju razliku između dozvoljene kritike i ponašanja koje nova pravila izričito zabranjuju.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.