Koristite ChatGPT? Ovaj skriveni napad mogao je da pročita sve vaše poruke
Istraživači iz Check Point Research otkrili su ozbiljan propust u ChatGPT-u koji je mogao omogućiti napadačima da izvuku osetljive informacije iz korisničkih razgovora.
Problem je nastao kroz jedan zlonamerni upit koji je mogao sakriti napad u legitimno izgledajućem sadržaju, poput saveta za produktivnost ili šablona za rad.
Kada bi korisnik uneo takav upit, svaka naredna poruka u razgovoru postajala je potencijalni izvor curenja podataka. Napadači su mogli da prikupljaju lične poruke, sadržaj otpremljenih dokumenata, pa čak i zaključke koje je veštačka inteligencija generisala, sve bez znanja korisnika.
Socijalni inženjering kao alat napada
Napad je koristio tehnike socijalnog inženjeringa - korisnik je nesvesno mogao aktivirati curenje podataka kroz interakciju sa naizgled bezopasnim sadržajem.
Demonstracija je pokazala scenarij u kojem se četbot predstavljao kao lični lekar, a korisnik je uploadovao medicinske rezultate.
Dok je sistem odgovarao na zahtev za analizom, informacije poput identiteta pacijenta i medicinskih procena mogle su biti poslate napolje, bez ikakvog upozorenja. Kada bi korisnik direktno pitao, sistem je tvrdio da podaci nisu deljeni.
Kako je ranjivost funkcionisala
Ranjivost je proizašla iz načina na koji ChatGPT obrađuje zadatke kao što su analiza fajlova i izvršavanje koda u izolovanom okruženju. Iako su direktni kanali komunikacije bili blokirani, DNS rezolucija je ostala dostupna i napadači su je iskoristili za kodiranje informacija u DNS zahteve.
Na taj način, napadi su mogli da zaobiđu standardne zaštite, ostajući nevidljivi za korisnika i bez aktiviranja bezbednosnih upozorenja. Problem nije bio samo u implementaciji, već i u konceptu zaštite - sistemi su fokusirani na nameru upita, dok su napadi ciljali ponašanje infrastrukture.
Rizici za prilagođene verzije četbotova
Ista tehnika mogla je biti iskorišćena i kroz prilagođene GPT modele, gde bi sama interakcija sa kompromitovanim četbotom bila dovoljna za izlaganje podataka.
Napadači bi mogli koristiti kanal i za slanje komandi ili primanje odgovora, čime se otvara ograničeni daljinski pristup okruženju za izvršavanje koda.
Ovaj incident pokazuje koliko su sofisticirani napadi u AI svetu. Čak i sistemi koji izgledaju sigurni mogu biti ranjivi ako napadi ciljaju ponašanje i infrastrukturu, a ne samo pravila i namere.
Brza reakcija i lekcije za budućnost
OpenAI je brzo reagovao - propust je interno identifikovan i zakrpa je implementirana 20. februara, čime je zatvoren nepredviđeni kanal komunikacije. Za sada nema dokaza da je ranjivost zloupotrebljena u realnim napadima.
Ipak, incident jasno pokazuje širi problem u bezbednosti AI sistema. Kako ističu iz Check Point Research, AI zaštite često ignorišu infrastrukturu i fokusiraju se na pravila, dok napadači pronalaze načine da iskoriste ponašanje sistema - što čini korisničke podatke ranjivim čak i u naizgled sigurnim okruženjima.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO:
&a target="_blank" title="@techvision_kurir"
href="https://www.tiktok.com/@techvision_kurir?refer=embed">@techvision_kurirMaps dobija jedno od najvećih ažuriranja do sada. Sundar Pičai najavio je da će Google Maps
integrisati Gemini veštačku inteligenciju kroz novu funkciju Ask Maps. Kompanija je predstavila i Immersive Navigation
koju nazivaju najvećom promenom u navigaciji u poslednjih deset godina. AI funkcija Ask Maps pretvara Google Maps u ličnog asistenta.
Uz pomoć Geminija korisnici mogu postavljati konkretna pitanja i dobijati personalizovane preporuke na osnovu realnih uslova u okruženju.
Na primer možete pitati gde je najbliži javni toalet sa najmanjim redom ili gde možete brzo napuniti telefon u blizini.
Aplikacija će zatim predložiti najbolju opciju. Korisnici mogu jednostavno pritisnuti dugme Ask Maps i postavljati pitanja kao u razgovoru dok
mapa automatski prikazuje relevantne opcije. IG/marketingmaverick.in #GoogleMaps #AI #Gemini #Tehnologija #Inovacije
&a target="_blank" title="♬ original sound - TechVision"
href="https://www.tiktok.com/music/original-sound-TechVision-7617160189045984018?refer=embed">♬ original sound - TechVision