AI kompanija rekla „ne“ Pentagonu: Američka vojska tek sada uklanja AI koji je već koristila
Dodajte Kurir u vaš Google izborAmeričko Ministarstvo odbrane prekinulo je korišćenje AI alata kompanije Anthropic, nekoliko meseci nakon što je Pentagon kompaniju označio kao rizik za nacionalnu bezbednost. Odluka je potvrđena početkom oktobra, ali je problem u tome što je Pentagon još u februaru najavio da će Anthropicove proizvode potpuno ukloniti do kraja avgusta. To se očigledno nije dogodilo prema planu, jer su izvori upoznati sa situacijom naveli da je Claude još krajem septembra bio prisutan u pojedinim sistemima i korišćen za istraživanje, analizu, prikupljanje obaveštajnih podataka i čak podršku vojnim operacijama protiv Irana.
Zašto je prelazak trajao toliko dugo nije zvanično objašnjeno. Ono što je poznato jeste da je Pentagon još ranije imao ozbiljan razlog da želi potpunu zamenu Anthropicovog sistema, ali je istovremeno očigledno zavisio od tehnologije koju je pokušavao da ukloni. To stvara prilično neobičnu situaciju: kompanija je proglašena bezbednosnim rizikom, a njen AI je ipak nastavio da se koristi nedeljama nakon isteka najavljenog roka za povlačenje. U slučaju sistema koji se koriste za vojne i obaveštajne zadatke, takvo kašnjenje nije samo pitanje obične migracije softvera.
Sukob je počeo zbog ograničenja
Sukob između Pentagona i Anthropic-a izbio je oko načina na koji američka vojska može da koristi Claude. Pentagon je tražio da kompanija ukloni bezbednosna ograničenja kako bi vojsci omogućila mnogo širi pristup modelu, dok je Anthropic odbio da pristane na dva posebno osetljiva scenarija: masovni nadzor Amerikanaca i potpuno autonomno oružje. Kompanija je tvrdila da takve zaštitne granice ne želi da ukloni čak ni kada je reč o državnim i vojnim korisnicima.
Pentagon je na to odgovorio mnogo oštrije nego što bi se očekivalo od običnog poslovnog spora. Ministar odbrane Pit Hegset proglasio je Anthropic rizikom za lanac snabdevanja koji predstavlja pretnju po nacionalnu bezbednost, čime je kompaniji praktično zatvorio vrata u velikom delu vojnog sistema. Anthropic je takvu odluku ocenio kao nezapamćenu i nezakonitu i pokrenuo sudski postupak protiv administracije Donalda Trampa. Dok se spor nastavlja, Pentagon je počeo da sklapa ugovore sa drugim velikim AI kompanijama, uključujući Google, xAI i OpenAI.
Bio mnogo dublje ugrađen u vojni sistem
Jedan od glavnih razloga zbog kojih je Anthropicov alat bilo teško brzo ukloniti jeste njegova integracija u Pentagonovu širu infrastrukturu za obradu podataka. Claude je, prema navodima više izvora, bio povezan sa sistemom Maven Smart System kojim upravlja Palantir. Maven je jedna od važnih platformi za organizovanje i obradu obaveštajnih i drugih podataka, pa uklanjanje jednog AI modela iz takvog sistema nije isto što i deinstalacija običnog poslovnog softvera sa računara.
Loren Kan, viša istraživačka analitičarka Centra za bezbednost i nove tehnologije Univerziteta Džordžtaun i bivša zvaničnica Ministarstva odbrane, upozorila je upravo na taj problem. Kada se AI jednom duboko integriše u postojeće sisteme, njegova zamena može biti mnogo komplikovanija nego što izgleda spolja. Pentagon je zato istovremeno pokušavao da prekine saradnju sa kompanijom koju je označio kao bezbednosni rizik i da pronađe zamenu za tehnologiju koja je već postala deo svakodnevnog rada pojedinih vojnih struktura.
Korišćen i za obaveštajne i vojne zadatke
Prema navodima izvora upoznatih sa korišćenjem AI u Ministarstvu odbrane, Claude se tokom čitavog perioda sukoba nastavio koristiti za prikupljanje i analizu obaveštajnih podataka, uključujući rad preko Palantirovog sistema Maven. Analitičari i drugi zvaničnici oslanjali su se na Maven za pristup različitim vrstama vizuelnih podataka, uključujući satelitske snimke i snimke dronova, koji su zatim mogli biti prosleđivani Claudeu i drugim jezičkim modelima radi analize.
Posebno ozbiljan deo priče odnosi se na zadatke poput identifikacije potencijalnih vojnih ciljeva. To pokazuje koliko je Claude bio udaljen od slike običnog chatbot-a koji se koristi za pisanje tekstova ili odgovaranje na pitanja. Model je bio deo lanca u kojem se obrađuju obaveštajni podaci i vojni materijali, pa pitanje njegovih bezbednosnih ograničenja nije bilo samo tehničko ili poslovno pitanje između jedne kompanije i Pentagona. U takvom okruženju stav Anthropic-a da određene načine upotrebe ne želi da podrži direktno dolazi u sukob sa zahtevom vojske da AI bude dostupan za praktično sve zakonite vojne zadatke.
Pentagon sada traži zamenu, ali ...
Pentagon je u međuvremenu proširio saradnju sa drugim proizvođačima AI sistema, među kojima su Google, xAI i OpenAI, dok su se OpenAI-jevi alati poslednjih meseci počeli širiti u pojedinim vojnim odeljenjima. Time se problem sa Anthropicom formalno rešava, ali se otvara mnogo šire pitanje: ko će postavljati granice kada se najnapredniji AI modeli sve više uvode u vojne sisteme? Zamena jednog modela drugim ne rešava automatski dilemu oko autonomnog oružja, nadzora i upotrebe AI u realnim operacijama.
Još važnije, ovaj slučaj pokazuje koliko brzo vojska može postati zavisna od komercijalne AI tehnologije. Pentagon je odlučio da Anthropic više nije prihvatljiv partner, ali mu je trebalo znatno više vremena nego što je prvobitno najavljeno da potpuno ukloni njegovu tehnologiju. Ako je jednom integrisanom AI sistemu potrebno toliko vremena da bude zamenjen čak i nakon odluke na najvišem nivou, pitanje kontrole nad budućom vojnom AI infrastrukturom postaje mnogo ozbiljnije od običnog izbora između Claudea, Gemini-ja ili drugih modela.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.