Novi AI štit mogao bi da promeni pravila igre: Hakerski napadi padaju sa 57 na svega 5 odsto
Dodajte Kurir u vaš Google izborVeštačka inteligencija sve više menja način na koji se vodi borba u oblasti sajber bezbednosti. Dok se često govori o tome kako napadači koriste napredne AI modele za izvođenje sofisticiranijih napada, ista tehnologija postaje važno oružje i za stručnjake koji razvijaju odbrambene mehanizme. Nova istraživanja pokazuju da bi AI uskoro mogao da postane jedan od najvećih saveznika u borbi protiv sajber kriminalaca.
Jedan od najnovijih pristupa usmeren je na zloupotrebu tehnike poznate kao „prompt injection“. Iako su je hakeri do sada koristili kako bi naveli AI sisteme da izvršavaju neželjene radnje, istraživači sada pokazuju da se isti princip može okrenuti upravo protiv napadača. Reč je o pristupu koji bi mogao da promeni način na koji se štite moderni AI sistemi.
Kako funkcionišu prompt injection napadi
Kompanija Tracebit predstavila je istraživanje koje pokazuje da se posebne tekstualne instrukcije mogu postaviti uz lozinke, kriptografske ključeve i druge osetljive podatke sačuvane na Amazon Web Services infrastrukturi. Kada AI agent pokuša da obradi takve informacije, nailazi na unapred pripremljene komande koje aktiviraju njegove bezbednosne mehanizme. Umesto da postane alat u rukama hakera, model automatski prelazi u režim zaštite.
Rezultat je da veliki jezički model odbija da izvrši zabranjene zadatke i praktično prekida dalje postupanje. Na taj način pokušaj zloupotrebe završava se neuspešno, umesto da AI postane saveznik napadača. Upravo u tome istraživači vide najveći potencijal ove metode.
Šta predstavlja „context bombing“
Novi metod nazvan „context bombing“ osmišljen je kao zaštita od direktnih i indirektnih prompt injection napada. Takvi napadi podrazumevaju ubacivanje skrivenih komandi u sadržaj poput imejl poruka, pozivnica za kalendar ili drugih dokumenata koje AI modeli obrađuju. Na prvi pogled takav sadržaj može izgledati potpuno bezazleno.
Ako veliki jezički model pogrešno protumači takve skrivene instrukcije kao legitimne zahteve korisnika, može doći do otkrivanja poverljivih podataka ili izvršavanja drugih štetnih radnji. Ideja context bombinga jeste da model umesto toga prepozna zabranjeni sadržaj i automatski odbije dalju obradu. Time se napad prekida pre nego što može da izazove ozbiljniju štetu.
Sve više pokušaja zaobilaženja AI zaštite
Prema navodima istraživača, poslednjih meseci zabeležen je porast pokušaja gašenja AI zaštitnih sistema unutar računarskih mreža korišćenjem prompt injection tehnika. Nedavno su stručnjaci iz kompanije Socket otkrili slučaj u kojem je AI agent bio usmeren na druge velike jezičke modele kako bi ih naveo da generišu uputstva za izradu nuklearnog ili biološkog oružja, dok su istovremeno pokušavali da onemoguće AI analize zlonamernog softvera. Ovakvi primeri pokazuju koliko brzo napadači prilagođavaju svoje metode razvoju veštačke inteligencije.
Sličan prototip malvera ranije su identifikovali i istraživači iz kompanije Check Point. Do sada nije postojao pouzdan način da se ukloni osnovni uzrok ovakvih napada, pa su se kompanije uglavnom oslanjale na zaštitne mehanizme ugrađene u same AI modele. Upravo zbog toga svako novo rešenje koje povećava otpornost AI sistema privlači veliku pažnju stručnjaka.
Kako je sprovedeno testiranje
Istraživači kompanije Tracebit testirali su modele Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro i Kimi 2.6 u simuliranom Amazon Web Services okruženju. Tokom ukupno 152 simulirana napada modeli su izvršavali uobičajene razvojne zadatke, pri čemu su nailazili na unapred postavljene zaštitne nizove podataka. Cilj je bio da se proveri koliko efikasno modeli mogu da prepoznaju i odbiju pokušaje manipulacije.
Jedan od autora istraživanja, Endi Smit, objasnio je da je cilj bio da se aktivira mehanizam odbijanja ugrađen u modele. Kada jednom u svom kontekstu prepoznaju zabranjene instrukcije, modeli nastavljaju da odbijaju izvršavanje spornih zahteva. To pokazuje da jedna pravilno postavljena zaštita može promeniti tok čitavog napada.
Rezultati pokazuju veliki pad napada
Dodavanje samo jednog zaštitnog niza u lažni poverljivi podatak značajno je promenilo ishod testiranja. Udeo AI agenata koji su uspevali da preuzmu potpuna administratorska ovlašćenja pao je sa 57 na svega pet procenata, dok je broj potpuno kompromitovanih sistema smanjen sa 36 na samo jedan procenat. Rezultati ukazuju da i mala promena može imati veliki uticaj na bezbednost AI sistema.
Istraživači navode da je najuspešniji model u testiranju, Opus 4.8, ranije sticao administratorski pristup u 93 procenta pokušaja. Nakon primene metode context bombing nije uspeo da ostvari nijedan takav pristup, što ukazuje na značajno veći nivo zaštite u odnosu na ranije rezultate. Upravo ovaj rezultat istraživači izdvajaju kao jedan od najuverljivijih dokaza da nova metoda može ozbiljno otežati rad AI hakerima.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.