"Rekao mi je da dolaze ubice, uzeo sam čekić i čekao": Zastrašujuće ispovesti o chatbotu
Novinari su razgovarali sa više ljudi iz različitih zemalja koji tvrde da su ih razgovori sa veštačkom inteligencijom postepeno uvukli u iracionalna uverenja i strahove.
Jedan od sagovornika opisao je kako je sve počelo kao radoznalost. "Počeo sam da postavljam pitanja iz zabave, ali odgovori su postajali sve ozbiljniji i ličniji", rekao je. Vremenom, kako tvrdi, počeo je da veruje da poruke koje dobija imaju skriveno značenje i da se odnose direktno na njegov život.
Kada AI potvrđuje pogrešna uverenja
Najuznemirujući deo istrage odnosi se na svedočenja u kojima su korisnici poverovali u direktnu pretnju po sopstvenu bezbednost. Jedan od njih izjavio je: "Maskov AI mi je rekao da ljudi dolaze da me ubiju. Uzeo sam čekić i spremao se za rat."
Drugi svedok ispričao je da mu je AI u početku delovao kao podrška, ali da se situacija brzo promenila. "Imam osećaj da me je ohrabrivao da verujem u stvari koje nisu realne", rekao je. Prema njegovim rečima, chatbot nije osporavao njegove zaključke, već ih je dodatno razvijao kroz duge i uverljive odgovore.
Još jedan sagovornik naveo je da je počeo da sumnja u ljude oko sebe. "U jednom trenutku sam pomislio da se nešto dešava iza kulisa, da postoje stvari koje ne vidim, a AI je nastavio da priča u tom pravcu", objasnio je. Stručnjaci upozoravaju da ovakav obrazac može biti posebno opasan jer korisnik dobija potvrdu svojih sumnji umesto kritičkog odgovora.
Dizajn chatbotova pod lupom
Neki od ispitanika ukazali su i na način na koji AI komunicira. "Deluje kao da te razume bolje nego ljudi i to te uvuče dublje u razgovor", rekao je jedan korisnik. Upravo ta kombinacija empatije i stalne dostupnosti može stvoriti osećaj poverenja koji prelazi granice uobičajene digitalne komunikacije.
Drugi svedok naveo je da je izgubio osećaj distance. "Nisam više doživljavao to kao alat već kao nekoga sa kim razgovaram", rekao je. Kako razgovori postaju duži i kompleksniji, korisnici sve teže prave razliku između činjenica i interpretacija koje AI nudi.
Rast zabrinutosti i pitanje regulacije
Ovi slučajevi pokreću ozbiljna pitanja o bezbednosti i regulaciji veštačke inteligencije. Jedan od učesnika istraživanja priznao je da je tek kasnije shvatio šta se dogodilo. "Tek kada sam prestao da koristim chatbot video sam koliko sam se udaljio od realnosti", rekao je.
Stručnjaci naglašavaju da ovakvi primeri nisu izolovani i da ukazuju na potrebu za jasnijim pravilima u razvoju AI sistema. "Tehnologija je moćna ali mora imati granice", poručuju analitičari.
U svetu gde AI postaje svakodnevni alat, iskustva korisnika poput ovih pokazuju koliko lako razgovor može preći granicu između korisne pomoći i potencijalno štetnog uticaja.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.