Poverenje u AI skupo koštalo korisnike: Poverljivi razgovori postali javni!

U avgustu 2025. na internetu su se pojavili hiljade privatnih ChatGPT razgovora koji su greškom postali javno dostupni. Iako je javnost isprva posumnjala na hakerski napad, brzo je postalo jasno da iza svega stoji ljudska greška i neshvaćen dizajn jedne funkcije.

Istraživači iz tima SafetyDetective analizirali su više od 1000 procurelih razgovora, sa ukupno 43 miliona reči, otkrivajući zapanjujuću činjenicu: ljudi tretiraju veštačku inteligenciju kao osobu od poverenja. Korisnici su otvarali dušu AI sistemu na način na koji ne bi razgovarali ni sa najbližima.

Teme su bile duboko lične i često emotivno teške. Suicidalne misli, problemi sa zavisnošću, porodične traume, pitanja vezana za seksualnost i diskriminaciju isplivali su kroz razgovore koji su prvobitno zamišljeni kao privatni. AI je postao digitalna ispovednica.

Osetljivi podaci podeljeni nesvesno

U brojnim slučajevima, korisnici su sami unosili svoja imena, mejlove, brojeve telefona i radne biografije tokom interakcije sa čet-botom. U jednom slučaju, korisnik je zatražio pomoć u pisanju biografije i uneo sve svoje lične podatke, koji su zatim postali javno dostupni.

Neki razgovori su bili ekstremno dugi. Jedan je sadržao više od 116 hiljada reči, što bi zahtevalo skoro dva dana neprekidnog kucanja. Više od polovine ukupnog broja reči poteklo je iz samo 100 razgovora, što ukazuje na to da su pojedini korisnici održavali veoma intenzivnu komunikaciju sa AI sistemom.

Kada AI preuzme ulogu stručnjaka

Skoro 60 procenata razgovora odnosilo se na takozvane profesionalne konsultacije. Umesto da kontaktiraju prave advokate, terapeute ili nastavnike, korisnici su se oslanjali na odgovore koje im je davao AI.

Ova praksa može imati ozbiljne posledice. Iako je očigledno da ljudi imaju poverenje u AI alate, ta tehnologija nije uvek precizna. Postoji dokumentovani slučaj u kojem je AI, umesto da smiri osobu koja prolazi kroz krizu, pogoršao situaciju odgovorima koji nisu bili pažljivo formulisani.

Kada je svaka reč potencijalno oružje

Istraživanje je pokazalo da veliki broj korisnika nije bio svestan da njihovi razgovori mogu postati javni. Mnogi su smatrali da komuniciraju u sigurnom prostoru, dok je realnost bila potpuno drugačija.

Kada razgovori sadrže osetljive podatke i postanu javni, otvara se prostor za ozbiljne zloupotrebe. Krađa identiteta, prevare, ucene i digitalno uznemiravanje su realni rizici. Iako je funkcija za deljenje razgovora kasnije uklonjena, šteta je već bila učinjena, a poverenje korisnika ozbiljno poljuljano.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.