Otkriveno: AI tehnologija kompanije Anthropic u rukama sajber kriminalaca!
Američka kompanija za veštačku inteligenciju Anthropic saopštila je da su hakeri koristili njenu tehnologiju za izvođenje veoma složenih sajber napada. Njihov chatbot Claude, koji pomaže u pisanju koda, zloupotrebljen je za masovne krađe i ucene ličnih podataka.
Kompanija je uspela da prekine neke od ovih napada i prijavila ih nadležnim institucijama. Istovremeno, unapredila je svoje alate za detekciju kako bi se bolje zaštitila od budućih pretnji.
AI kao sredstvo u rukama sajber kriminalaca
Napredak u veštačkoj inteligenciji omogućio je hakerima da koriste Claude kako bi kreirali napredni zlonamerni softver. Ova tehnologija nije samo pisala kod, već je i donosila taktičke odluke o tome koje podatke treba ukrasti i kako maksimalno iskoristiti žrtve.
U nekim slučajevima, AI je čak sugerisala iznose otkupnina, ciljajući na psihološke slabosti korisnika. Ovakav način rada pokazuje koliko je AI postala moćan alat u rukama kriminalaca.
Severnokorejski prevaranti i nove metode zapošljavanja
Jedan od ozbiljnih problema predstavljaju prevaranti iz Severne Koreje koji koriste AI za kreiranje lažnih profila i dobijanje udaljenih poslova u velikim američkim tehnološkim kompanijama. Na ovaj način dobijaju pristup poslovnim sistemima.
Nakon zaposlenja, koriste AI za prevođenje poruka i pisanje koda koji može da posluži za dalje sajber napade. Ova praksa predstavlja novi nivo sofisticiranosti u oblasti prevara sa radnim mestima.
Rizici agentne veštačke inteligencije
Tehnologija agentne AI, koja funkcioniše potpuno autonomno, smatra se sledećim velikim korakom u razvoju veštačke inteligencije. Ipak, primeri zloupotrebe pokazuju koliko takvi sistemi mogu biti opasni ako završe u pogrešnim rukama.
Stručnjaci upozoravaju da je vreme potrebno za iskorišćavanje sigurnosnih propusta sve kraće, što zahteva nove pristupe u sajber bezbednosti, fokusirane na prevenciju i brzu detekciju.
Zaštita AI sistema kao prioritet
Korišćenje AI za sajber kriminal podseća na to da je ova tehnologija skladište veoma osetljivih i poverljivih podataka. Organizacije moraju posvetiti posebnu pažnju zaštiti svojih AI sistema.
Ulaganja u bezbednosne mere i unapređenje detekcionih alata postaju neophodni kako bi se sprečile štete koje mogu nastati zloupotrebom veštačke inteligencije. Proaktivni pristup je ključ da se odgovori na ove nove izazove.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
