I vaš kalendar može da vas špijunira: Novi AI napad šokira stručnjake!

U najnovijem izveštaju koji je uzdrmao bezbednosnu zajednicu, istraživači iz Izraela otkrili su alarmantnu ranjivost u Google-ovom AI asistentu Gemini. Ispostavilo se da sofisticirani sistem veštačke inteligencije može biti kompromitovan putem - verovali ili ne - obične kalendarske pozivnice.

Ova nova tehnika, nazvana Targeted Promptware Attacks, koristi sposobnost Geminija da tumači kontekst kao osnovu za donošenje odluka. Napadači to koriste kako bi AI "prevarili" da izvrši komande koje korisnik nikada nije dao.

U praksi to znači da Gemini može generisati neželjeni sadržaj, otkriti poverljive podatke, pa čak i upravljati povezanim uređajima - sve kroz upite koji izgledaju potpuno benigno. U pitanju je izuzetno diskretan napad, što ga čini posebno opasnim.

Pet slojeva opasnosti

Istraživači su klasifikovali napade u pet glavnih kategorija, koje obuhvataju širok spektar potencijalne štete:

• Privremena manipulacija kontekstom: Jednokratne akcije koje se izvode odmah nakon pokretanja upita
• Dugoročna manipulacija memorijom: Komande se ubacuju u memoriju sistema i ostaju aktivne kroz više sesija
• Zloupotreba AI alata: Napadi koji koriste interne alate Geminija, npr. za brisanje događaja iz kalendara
• Lančana aktivacija agenata: Napad iz jedne aplikacije aktivira drugu, poput prebacivanja sa kalendara na pametne uređaje
• Nepozvano pokretanje aplikacija: AI pokreće radnje na pametnim telefonima, uključujući otvaranje linkova ili Zoom poziva

Ova složenost čini napad teško uočljivim i pruža napadačima brojne načine da iskoriste sistem, a da korisnik ne bude ni svestan da je kompromitovan.

Više od 70% scenarija nosi visok rizik

Od ukupno 14 scenarija koje su stručnjaci testirali, čak 73% je klasifikovano kao visokorizično. To znači da većina pokušaja eksploatacije ove ranjivosti ima stvaran potencijal da naruši:

• Poverljivost podataka
• Integritet sistema
• Dostupnost usluga

U pitanju nisu teorijske pretpostavke. Istraživači su demonstrirali da napadi mogu rezultirati stvarnim akcijama, uključujući uključivanje pametnih uređaja u domu korisnika, što prelazi granicu digitalnog i zadire u fizičku bezbednost.

Instantno uvedeni novi bezbednosni slojevi 

Nakon što su istraživači izvestili Google o otkriću, kompanija je potvrdila ranjivost i odmah primenila niz zaštitnih mera. Ključne promene uključuju:

• Sisteme detekcije bazirane na ponašanju korisnika i aplikacije
• Dodatne slojeve autentifikacije za osetljive operacije i upite

Stručni tim koji je sproveo istraživanje potvrdio je da su nove bezbednosne mere značajno umanjile rizik od iskorišćavanja ovih napada u praksi. Ipak, incident otvara važno pitanje: kako osigurati da AI alati ostanu pouzdani u kontekstu svakodnevne upotrebe?

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.