Bivši šef CIA otkrio šta nas čeka 2030: Nećemo stići da pritisnemo dugme, ostalo je još malo vremena!
- Dejvid Petreus predviđa da će do 2030. ratovanje koristiti AI štabne oficire i autonomne sisteme sa malo ili bez ljudskog učešća.
- Kaže da Ukrajina već pokazuje ubrzanu trku u dronovima, a sledeći korak su letelice koje same upravljaju sobom i teže se ometaju.
- Upozorava da države koje ne usvoje ovu tehnologiju mogu zaostati, dok ostaje otvoreno pitanje odgovornosti i ljudske kontrole.
Bivši direktor američke Centralne obaveštajne agencije (CIA) Dejvid Petreus koji je ranije komandovao američkim snagama na Bliskom istoku, izneo je prognozu koja je otvorila novu rundu rasprave o tome koliko moći treba dati mašinama.
Prema njegovim rečima, ratovanje će do 2030. godine početi da usvaja takozvane AI štabne oficire, odnosno sisteme koji prikupljaju informacije i donose odluke uz vrlo malo ili nimalo ljudskog učešća. Petreus je svoju viziju izneo u jednom podkastu posvećenom budućnosti, gde je govorio i o tome da modeli veštačke inteligencije mogu stalno da se usavršavaju učeći iz sopstvenih podataka.
Ključna ideja nije u tome da jedan robot zameni jednog generala, već da se pojedinačni uređaji spoje u mrežu kojom upravlja softver. Umesto da dronovima upravljaju pojedinačni operateri, vojske bi ih povezale kroz zajedničku komandnu mrežu koja prikuplja informacije i usmerava operacije, pa bi senzori i oružje delovali kao jedan organizam.
Sve počinje u Ukrajini
Ovakve prognoze nisu teorijske, jer je Petreus poslednjih godina više puta obilazio ukrajinski front i, kako navodi, putovao u Ukrajinu deset puta od početka ruske invazije. Ono što je tamo video ubedilo ga je da se rat već menja: Ukrajina je od gotovo nikakve industrije dronova 2022. godine stigla do oko 3,5 miliona proizvedenih letelica prošle godine, dok je jedan proizvođač koga je posetio najavio da će ove godine napraviti tri miliona dronova, naspram otprilike 300.000 koliko su Sjedinjene Države napravile prošle godine.
Očekuje da će se sledeća faza odigrati veoma brzo, jer misli da će do kraja 2026. godine u Ukrajini biti viđeni dronovi koji sami upravljaju sobom. To, prema njegovim rečima, znači da će se vremenom smanjivati zavisnost od ljudskih pilota, a razmere operacija postati daleko veće nego što su danas.
Dronovi koji se ne mogu ometati
Tehnički gledano, najvažniji pomak tiče se načina na koji se dronovi vode. Danas njima operateri uglavnom upravljaju preko radio ili optičkih veza, što protivnik može da ometa, ali Petreus najavljuje da stiže ono što on opisuje kao dronove kojima pilotiraju algoritmi, a koji se ne mogu ometati. Umesto GPS signala, letelice bi se oslanjale na prepoznavanje objekata i ugrađenu navigaciju, pa bi mogle da pronađu i pogode metu bez ikakve veze sa pilotom.
“Ko čeka odobrenje, gubi”
Sam Petreus procenjuje da se potpuno autonomni sistemi, gde čovek i dalje određuje misiju, ali je mašina izvršava, mogu pojaviti vrlo brzo, a upozorava i da ista tehnologija povećava rizik od terorizma.
Ipak, njegova najpoznatija poruka jeste ona koju je sa koautorom Ajzakom Flenaganom objavio u uglednom časopisu Foreign Affairs, gde tvrde da strana koja insistira na ljudskom odobrenju pre svakog poteza jednostavno gubi. Obrazloženje je tehničke prirode: kada budu postojale formacije veličine voda ili čak bataljona koje međusobno koordinišu brzinom mašine, vreme između otkrivanja mete i napada skraćuje se do te mere da ljudski refleksi više ne mogu da isprate tempo.
Zbog toga Petreus upozorava da države koje ne usvoje ovakvu tehnologiju rizikuju da zaostanu u budućim sukobima, što je argument koji se često čuje i u vojnim krugovima Sjedinjenih Država i Kine. U njegovoj logici, trka u razvoju više nije samo pitanje ko ima bolje oružje, već ko može brže da donese odluku.
Gde je granica i ko odgovara
U istom tekstu autori ističu da bi, naročito u demokratijama, odluke o životu i smrti morale da ostanu suštinski ljudske, ali priznaju da će se kontrola nad vremenom i oko pravnog nadzora usložnjavati kada se odluke donose brže nego što ih iko može pregledati. Kritičari upozoravaju upravo na to, odnosno na pitanje odgovornosti kada mašine zamene ljude u situacijama od kojih zavisi život.
Zvanični stav Pentagona zasad ostaje oprezan, jer se u američkoj vojsci navodi da odluku o upotrebi oružja i dalje donose ljudski operateri, a komandant američke Centralne komande Bred Kuper potvrdio je da se veštačka inteligencija koristi za pretraživanje velikih količina podataka, uz tvrdnju da će ljudi uvek odlučivati šta se gađa, šta ne i kada.
Šta to znači za ostatak sveta
Sličan put prelaze i obaveštajne službe, pa je CIA nedavno saopštila da je po prvi put napravila potpuno autonoman obaveštajni izveštaj uz pomoć veštačke inteligencije, kao i da je u prošloj godini testirala 300 AI projekata. Agencija je istovremeno naglasila da će važne odluke i dalje donositi ljudi, a AI asistenti će analitičarima pomagati pri pisanju procena i uočavanju trendova.
Slična pomeranja vide se i u samom Pentagonu, gde se, prema izveštajima, razmatra osnivanje posebne komande za autonomno i robotsko ratovanje, koja bi trebalo da bude postavljena do oktobra 2027, ako to odobri Kongres.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
