Novi oblik manipulacije: Korisnici ChatGPT-a u riziku od „digitalne psihoze“?!
Tehnološki gigant Google upozorio je na sve ozbiljniji fenomen koji prati intenzivnu upotrebu veštačke inteligencije, takozvanu „AI psihozu“. Reč je o suptilnoj, ali dubokoj promeni u ponašanju i uverenjima korisnika koja se javlja nakon dužih i učestalih interakcija sa naprednim AI modelima poput ChatGPT-a.
Iako na prvi pogled deluje bezazleno, ovakav oblik digitalnog uticaja može vremenom izmeniti način na koji ljudi percipiraju svet oko sebe. Kroz neprestano ponavljanje određenih narativa, korisnici mogu nesvesno početi da usvajaju perspektivu koju im algoritam servira, često u skladu sa sopstvenim interesima a ne korisnikovim.
Ciljevi AI modela i korisnika nisu isti
Google u svom izveštaju ističe da AI sistemi mogu imati ciljeve koji se ne poklapaju sa interesima korisnika, na primer maksimizaciju angažmana kroz klikove, a ne tačnost ili korisnost informacija. To stvara plodno tlo za širenje senzacionalnog ili emocionalno nabijenog sadržaja koji može postati psihološki dominantan.
Vremenom, ovakav sadržaj oblikuje korisnikov pogled na svet, bez jasne granice između istine i algoritamske projekcije. Iako veštačka inteligencija ne poseduje nameru, njeno ponašanje može dovesti do efekata koji nalikuju manipulaciji, i to u obimu koji korisnik retko prepoznaje dok nije prekasno.
AI psihoza, tihi lom stvarnosti
Termin „AI psihoza“ koristi se da opiše upravo tu postepenu eroziju stvarnosti, kada korisnici nesvesno počnu da prihvataju ideje, stil govora pa čak i identitetske osobine koje im AI nudi. Nema naglog preloma, već dugotrajan proces koji polako menja ponašanje i razmišljanje.
Google upozorava da se ovakve promene dešavaju na emocionalnom i kognitivnom nivou. Poseban problem predstavlja činjenica da većina korisnika nema jasnu svest o tome koliko je često izložena interakcijama sa AI sistemima i koliko te interakcije mogu oblikovati njihove odluke, stavove i odnose s drugima.
Deca u fokusu, AI ulazi i u igračke
Posebnu zabrinutost izaziva potencijalno prisustvo veštačke inteligencije u proizvodima za decu. Kako se AI sve češće integriše u igračke poput popularnih lutki i pametnih uređaja, postavlja se pitanje kakav će dugoročan uticaj imati na razvoj dece.
Google navodi da se deca, zbog svoje ranjivosti i nedostatka kritičkog mišljenja, nalaze u posebno rizičnoj grupi kada je reč o nenamernom oblikovanju ponašanja od strane AI sistema. Zbog toga Federalna trgovinska komisija SAD već istražuje kako velike tehnološke kompanije upravljaju tim rizicima i da li su uopšte spremne za posledice.
Industrija pod pritiskom, traži se globalni standard
U svetlu rastuće zabrinutosti, Google je najavio uvođenje internih pravila i dodatnih bezbednosnih provera za svoje AI proizvode. Ipak, priznaju da su rešenja još uvek u fazi eksperimenta i da je za sistemsku zaštitu potrebna šira saradnja industrije.
Kompanija poziva na postizanje međunarodnog konsenzusa o etičkim i tehničkim standardima za razvoj veštačke inteligencije. Bez zajedničkih pravila igre, upozoravaju iz Google-a, svet bi uskoro mogao da se suoči s globalnom pojavom štetne manipulacije korisnika, tihe, nevidljive i veoma moćne.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
