SVET STRAHUJE OD NOVOG ORUŽJA KOJE SAMO BIRA METE I UBIJA! Hiljade dronova mogle bi da napadaju istovremeno, stručnjaci upozoravaju: "Biće prekasno!"
- MKCK i organizacije za ljudska prava upozoravaju da razvoj autonomnog oružja napreduje brže od regulisanja i traže hitan međunarodni sporazum.
- Traže zabranu upotrebe takvog oružja protiv ljudi i jasna ograničenja, dok UN konferencija u Ženevi nije donela očekivani napredak.
- Upozorava se i na već zabeležene civilne žrtve u Ukrajini i Gazi, kao i na rizik od rojeva autonomnih dronova.
Međunarodni komitet Crvenog krsta (MKCK) i organizacije za zaštitu ljudskih prava upozorili su da bi uskoro moglo da bude prekasno da se "duh vrati u bocu", budući da razvoj autonomnog oružja, po svemu sudeći, napreduje brže od pokušaja njegovog regulisanja.
Oštro upozorenje usledilo je nakon što je više od 120 država potpisnica Konvencije UN o određenom konvencionalnom oružju završilo jednonedeljnu konferenciju u Ženevi.
Uprkos sve većem pritisku, dogovor o razmatranju instrumenta za regulisanje autonomnog oružja tokom naredne dve godine nije ispunio očekivanja organizacija za zaštitu ljudskih prava, koje zahtevaju hitne mere zbog pretnje koja se nadvija.
"Već počinjemo da viđamo kako se veštačka inteligencija koristi na bojnom polju, a možda već i u samim sistemima naoružanja. Ako to ostavimo neregulisanim, biće mnogo teže vratiti duha u bocu", izjavila je dr Kordula Drege, direktorka za međunarodno pravo, pokret i partnerstva pri MKCK.
Autonomno oružje podrazumeva vojne sisteme koji deluju bez ljudskog nadzora, često uz upotrebu veštačke inteligencije ili drugih oblika robotike.
Kako se veštačka inteligencija poslednjih godina ubrzano razvijala, vojske i proizvođači naoružanja stvarali su sve naprednije sisteme za ofanzivne i odbrambene namene.
Takvi sistemi uključuju upotrebu veštačke inteligencije za formiranje baza potencijalnih meta, što je izraelska vojska radila u Gazi, kao i poluautonomne dronove u ratu između Rusije i Ukrajine.
Ti dronovi poseduju sposobnost samostalnog delovanja u završnoj fazi napada, kada veštačka inteligencija preuzima kontrolu tokom poslednjeg prilaska cilju.
Crveni krst traži međunarodna ograničenja
Predsednica MKCK Mirjana Špoljarić Eger i generalni sekretar UN Antonio Gutereš pozvali su na usvajanje pravno obavezujućeg instrumenta kojim bi bile utvrđene jasne zabrane i ograničenja upotrebe autonomnog oružja.
MKCK posebno zahteva zabranu korišćenja autonomnog oružja protiv ljudi, obezbeđivanje predvidljivog ponašanja takvih sistema, kao i ograničavanje njihove upotrebe, uključujući usmeravanje isključivo na vojne ciljeve.
Stručnjaci upozoravaju da bi neuspeh u uspostavljanju odgovarajućih propisa, imajući u vidu brz razvoj autonomnog oružja i veštačke inteligencije, mogao da ima opasne posledice.
"Ne radi se o zabrani svih autonomnih sistema naoružanja, već o postavljanju granica kroz međunarodni sporazum, odnosno crvenih linija koje nikada ne smeju biti pređene", rekla je Drege.
"Veoma smo blizu prelaska tih crvenih linija. Posebno bi gađanje ljudi pomoću mašina moralo da predstavlja moralnu crvenu liniju", dodala je.
Druge organizacije za zaštitu ljudskih prava upozorile su da bi svako odlaganje regulisanja ovog oružja moglo da omogući privatnoj industriji i vojskama da same uspostave pravila njegove upotrebe.
Autonomno oružje već je izazvalo stradanje civila.
U julu su tri civila poginula u Zaporožju, na jugoistoku Ukrajine, kada je ruski dron navođen sistemom veštačke inteligencije pokušao da pogodi benzinsku pumpu, koja je verovatno bila njegova predviđena meta.
Umesto toga, dron je udario u zid, a raspršeni geleri usmrtili su tri osobe.
U Gazi je Izrael od početka rata koristio metode određivanja ciljeva uz pomoć veštačke inteligencije, što je omogućilo znatno brže popunjavanje baza potencijalnih meta nego što bi to bilo moguće ljudskim radom.
Organizacije za zaštitu ljudskih prava navode da su zbog toga greškom ubijani civili i osobe koje su imale samo slabe veze sa militantnim grupama.
U Iranu je američki napad na osnovnu školu, u kojem je poginulo 156 civila, uključujući 120 dece, prema izveštajima bio posledica netačnih obaveštajnih podataka prikupljenih pomoću sistema veštačke inteligencije.
Strah od rojeva autonomnih dronova
Ana Hehir, direktorka za upravljanje vojnom veštačkom inteligencijom pri Institutu za budućnost života, upozorila je da bi dalje odlaganje usvajanja snažnog međunarodnog sporazuma moglo da dovede do novih slučajeva masovnog stradanja civila, kakvi su već zabeleženi tokom prethodnih 18 meseci do dve godine.
Prema njenim rečima, pojedini budući incidenti mogli bi po broju žrtava da nadmaše sve što je do sada viđeno.
Ona je navela da proizvođači naoružanja i vojske pokušavaju da razviju sposobnosti takozvanih rojeva, u kojima stotine ili hiljade autonomnih dronova istovremeno deluju.
"To ima potencijal da izazove ogromnu štetu, jednostavno zbog ogromnog broja sistema koji bi bili autonomni. Dovoljno je da jedan od njih napravi algoritamsku grešku, pa da čitav roj bude upotrebljen i usmeren pogrešnim putem na osnovu te greške, posebno ako su programirani da gađaju ljude", upozorila je Hehir.
Postoji i opasnost od širenja ovakve tehnologije, budući da nedržavne grupe sve češće koriste veštačku inteligenciju za programiranje svojih sistema naoružanja.
Takav slučaj zabeležen je kada je pokret Huta u Jemenu koristio veštačku inteligenciju Claude za programiranje balističkih raketa metodom poznatom kao "vibe coding", odnosno programiranje uz pomoć AI alata korišćenjem instrukcija na prirodnom jeziku.
Prema izveštajima, naoružane islamističke grupe u afričkom regionu Sahel takođe su koristile alate veštačke inteligencije za unapređenje balističkih karakteristika dronova i operativno planiranje.
"Ovo je jedina stvar koja je važna ove nedelje. Ne radi se toliko o samom sadržaju zakona. Ono što je ovde na dnevnom redu, posle 13 godina, jeste pitanje da li konačno postoji politička volja da se ozbiljno pristupi regulisanju autonomnih sistema naoružanja", izjavio je visoki diplomata upoznat sa razgovorima u UN.
(Kurir.rs/TheGuardian)