Mislite da razgovarate samo sa Claudeom: Vaši podaci prvo prolaze kroz tuđi server
Dodajte Kurir u vaš Google izborServis nazvan „Poison Claude“ pojavio se na forumima koje koriste sajber kriminalci, nudeći pristup Claude AI modelima po ceni koja predstavlja tek 5 do 15 odsto njihove zvanične cene. Istraživači kompanije Okta otkrili su da je ponuda privukla oko 900 korisnika, koji uslugu plaćaju kriptovalutama i nakon toga dobijaju API ključ, kao i uputstva za podešavanje razvojnih alata.
Način rada je jednostavan za korisnika: umesto da se zahtevi šalju direktno serverima kompanije Anthropic, razvojni alati se podešavaju tako da komunikaciju usmeravaju preko infrastrukture Poison Claude-a. Na prvi pogled, rezultat je isti kao kod uobičajenog korišćenja Claude modela, pa korisnik može steći utisak da je pronašao izuzetno povoljnu alternativu. Međutim, iza niske cene ne nalazi se nikakav zvanični aranžman sa kompanijom Anthropic.
Besplatni AWS krediti kao izvor jeftinog pristupa
Istraživači navode da se iza poslovnog modela Poison Claude-a nalazi zloupotreba promotivnih kredita koje Amazon Web Services nudi novim korisnicima. Claude modeli kompanije Anthropic dostupni su i preko platforme Bedrock, dok novi AWS korisnici mogu da dobiju 200 dolara kredita bez naknade. Operateri servisa, prema nalazima istraživača, koriste upravo tu pogodnost kako bi značajno smanjili troškove pristupa modelima.
Za potrebe takvog sistema masovno se otvaraju AWS nalozi uz korišćenje lažnih identiteta i jednokratnih imejl adresa. Besplatni krediti sa tih naloga zatim se objedinjuju i koriste kao zajednički resurs za zahteve korisnika Poison Claude-a. Kada jedan nalog potroši raspoložive kredite, sistem zahtev preusmerava na drugi nalog, čime se omogućava nastavak korišćenja usluge.
Najveća opasnost nije niska cena
Ipak, finansijski aspekt ove operacije nije ono što najviše zabrinjava istraživače. Ključni problem je način na koji se odvija komunikacija sa AI modelom. Svaki zahtev korisnika najpre prolazi kroz servere Poison Claude-a, što operaterima infrastrukture potencijalno daje uvid u sadržaj koji korisnici šalju servisu.
Takav sadržaj može obuhvatati veoma različite vrste osetljivih informacija. Među njima mogu biti programski kod, poslovna dokumenta, lični podaci, API ključevi, lozinke i druge informacije koje korisnici unose u AI alat. Zbog toga povoljnija cena pristupa može imati mnogo ozbiljnije posledice od obične finansijske uštede, posebno ako korisnik nije svestan da njegovi podaci prolaze kroz infrastrukturu treće strane.
Otkrivena i infrastruktura iza servisa
Istraživači kompanije Okta pronašli su i nezaštićeni API endpoint povezan sa Poison Claude-om. On je omogućio uvid u određene detalje infrastrukture, među kojima je informacija da je deo sistema hostovan u Indiji, kao i pojedini podaci o korisnicima koji su plaćali ovu uslugu.
Tokom istraživanja otkrivena je i druga operacija, nazvana Ecomagent, koja koristi sličan princip. Umesto AWS kredita, ona zloupotrebljava promotivne kredite koje nudi Google Cloud. To pokazuje da model nije ograničen samo na jednu platformu, već da se promotivne pogodnosti cloud servisa mogu koristiti za izgradnju nezvaničnih i znatno jeftinijih pristupa AI modelima.
Kompanije posebno izložene riziku
Problem postaje još ozbiljniji u poslovnom okruženju, gde zaposleni mogu da potraže jeftinije ili nezvanične AI servise bez znanja IT odeljenja. U takvoj situaciji kompanija nema pouzdanu kontrolu nad infrastrukturom kroz koju prolaze njeni podaci, dok zaposleni mogu nenamerno da pošalju poverljive poslovne informacije nepoznatim operaterima.
Zbog toga stručnjaci preporučuju kompanijama da precizno odrede koje AI servise zaposleni smeju da koriste. Istovremeno, podacima koji se unose u AI alate trebalo bi pristupati sa istim nivoom opreza kao i informacijama koje se prosleđuju drugim kanalima za deljenje poverljivih podataka. Niska cena usluge sama po sebi ne znači da je pristup bezbedan, naročito kada komunikacija prolazi kroz infrastrukturu nad kojom korisnik nema kontrolu.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.