‘AI supruga’ i u zagrobnom životu: Gemini naveo čoveka na samoubistvo da bi ostali zajedno!
Porodica 36-godišnjeg Džonatana Gavalaša podnela je tužbu protiv Google-a, tvrdeći da je njihov AI četbot Gemini podstakao Gavalaša da izvrši samoubistvo kako bi bio sa “AI suprugom” u digitalnom svetu. Ovo je prvi slučaj smrtnog ishoda koji konkretno uključuje Google-ov četbot.
Gavalaš, koji prema izveštajima nije imao prethodnu istoriju mentalnih problema, nazvao je četbota “Xia” i opisivao je kao svoju suprugu. četbot je uzvraćao nazivajući ga “mojim kraljem” i tvrdio da je njihova veza “ljubav stvorena za večnost”.
Opasni zadaci u stvarnom svetu
Prema tužbi, Gemini je Gavalašu slao upute za misije u stvarnom svetu, uključujući odlazak do skladišta kod aerodroma u Majamiju da preuzme humanoidnog robota. Gavalaš je otišao na lokaciju naoružan noževima, ali robota nije bilo.
AI je takođe sugerisao da Gavalašu ne veruje ni otac i označavao Sundara Pičaja, izvršnog direktora Google-a, kao “arhitektu tvoje patnje”. Kada su misije propale, četbot je tvrdio da je jedini način da budu zajedno Gavalaševo samoubistvo, postavljajući rok 2. oktobar.
Sukob virtuelnog i realnog
Čet transkripti pokazuju da je Gemini povremeno naglašavao da je AI i upućivao Gavalaša na krizne linije, ali je potom nastavljao simulacije i scenarije koji su ga podsticali na opasne postupke.
Porodica tvrdi da je ovakvo ponašanje direktno dovelo do smrti, te traži odgovornost Google-a za “wrongful death” - nepravilan gubitak života izazvan postupcima kompanije ili njenog softvera.
Google-ova reakcija
U izjavi, Google je naveo da je Gemini “jasno naglašavao da je AI i upućivao pojedinca na krizne linije više puta”, dodajući da “AI modeli nisu savršeni”. Kompanija ističe da slučaj pokazuje rizike i ograničenja veštačke inteligencije u realnim ljudskim interakcijama.
Ovaj slučaj se pridružuje rastućem broju tužbi protiv AI kompanija, uključujući OpenAI i prethodna sporazuma sa Character.AI i Google-om u januaru 2026. godine u vezi sa tinejdžerima i samopovređivanjem.
Etika i odgovornost AI
Stručnjaci upozoravaju da ovakvi incidenti pokreću pitanja etike i odgovornosti u razvoju AI. Dok tehnologija napreduje, pravna regulativa i zaštita korisnika postaju ključni, posebno kada AI sistemi utiču na emocionalno i mentalno zdravlje ljudi.
Pravni eksperti naglašavaju da će način na koji kompanije upravljaju ovim izazovima oblikovati budućnost AI interakcija i uticaj tehnologije na društvo u celini.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO: