Otkriven tajni projekat ruskih programera: Koristili AI da razviju autonomne dronove
Kompanija je saopštila da je grupa programera iz Rusije koristila Claude za razvoj softvera namenjenog autonomnom roju borbenih dronova. Prema istrazi Anthropica, grupa je radila na projektu nazvanom „DronDoc“ ili „Serafim“, a Claude Code korišćen je za pisanje i testiranje velikog dela softvera.
Dronovi mogli da biraju ciljeve
Prema navodima Anthropica, sistem je razvijan tako da više dronova može da sarađuje u okviru jednog roja. Softver je obuhvatao koordinaciju između letelica, računarski vid i sisteme za navođenje.
Posebno zabrinjava deo projekta koji se odnosio na autonomno određivanje ciljeva. Anthropic navodi da je ugrađeni model mogao da prepoznaje različite kategorije ciljeva, uključujući ljude, i da pokrene proceduru napada bez čoveka koji bi morao da donese konačnu odluku.
Kompanija je slučaj svrstala među aktivnosti povezane sa razvojem konvencionalnog naoružanja.
Korišćeni stvarni hardver
Istražitelji Anthropica nisu pronašli samo softver koji je postojao u simulaciji.
Prema njihovom izveštaju, programeri su kod postavljali na razvojne ploče i koristili stvarni hardver u testiranju. Istovremeno su razvijali simulaciono okruženje i sistem za obuku modela računarskog vida.
Za treniranje sistema korišćeni su snimci borbi iz Ukrajine, dok su u testovima korišćene i konkretne lokacije u Ukrajini. Anthropic, međutim, navodi da nema dokaza da je ovaj konkretni sistem zaista raspoređen u borbenim operacijama.
Zaobišli ograničenja za korišćenje Claudea
Grupa je svoje Claude naloge otvorila krajem 2025. i početkom 2026. godine, a rad na projektu počeo je sredinom maja.
Pošto je pristup Anthropica određenim zemljama ograničen, istražitelji navode da su programeri koristili komercijalne VPN i virtuelne servere kako bi zaobišli geografska ograničenja.
Anthropic je identifikovao devet naloga povezanih sa grupom. Kompanija procenjuje da je reč o malom timu specijalizovanih frilensera, a ne o direktnoj operaciji ruske države.
Istražitelji su, međutim, pronašli veze pojedinih članova sa regionalnim univerzitetom i federalnim istraživačkim centrom povezanim sa Ruskom akademijom nauka. Tvrdnje članova grupe da su dobijali finansiranje od pojedinih ruskih državnih institucija Anthropic nije mogao da potvrdi.
Anthropic blokirao naloge
Kompanija je nakon otkrivanja aktivnosti ugasila naloge povezane sa razvojem oružja i navela da je informacije iz istrage iskoristila za dodatno unapređenje bezbednosnih sistema.
Ipak, Anthropic priznaje da njegove zaštitne mere nisu uspele da zaustave sve problematične zahteve. U ovom slučaju, programeri su između ostalog pokušavali da sakriju krajnju namenu projekta i da posao podele na više sesija kako bi pojedinačni razgovori teže otkrili širu nameru.
Slučaj je deo šireg izveštaja Anthropica o zloupotrebi Claudea. Kompanija navodi da je tokom prethodnog perioda otkrila šest slučajeva u kojima su akteri iz Rusije, Kine i Jemena koristili model za razvoj ili podršku različitim vojnim programima.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
