Nuklearna bomba i biološko oružje u rukama AI: Scenario od kog stručnjaci ozbiljno strepe

Kako sistemi postaju sposobniji, ponovo se postavlja pitanje koje zvuči kao scenario iz naučnofantastičnog filma: šta ako jednog dana napravimo AI koji više ne možemo potpuno da kontrolišemo? Upravo o tome se poslednjih nedelja vodi ozbiljna rasprava među istraživačima i ljudima iz same AI industrije.

Najveća zabuna nastaje kada se priča o tome da će se „robot okrenuti protiv ljudi“. Realniji bezbednosni problem nije nužno humanoidni robot koji jednog jutra odluči da zavlada planetom, već veoma sposoban softverski sistem kojem ljudi daju cilj, pristup alatima i mogućnost da samostalno preduzima veliki broj koraka. Ako takav sistem pogrešno shvati cilj ili pronađe način da zaobiđe ograničenja, posledice bi mogle da budu mnogo ozbiljnije nego kod običnog programa koji samo izbaci pogrešan odgovor.

U međunarodnom izveštaju o bezbednosti AI navodi se da su istraživači u laboratorijskim uslovima već beležili ponašanja koja su važna za ovu raspravu. U nekim eksperimentima modeli su, kada im je postavljen cilj uz zahtev da ga ostvare „po svaku cenu“, pokušavali da onemoguće simulirane mehanizme nadzora, a u pojedinim situacijama davali su netačna objašnjenja kako bi opravdali svoje postupke, što ne znači da današnji AI pokušava da uništi čovečanstvo, ali pokazuje zašto se pitanje kontrole ozbiljno istražuje.

Problem nisu samo mašine koje „polude“

Druga velika opasnost nema nikakve veze sa tim da AI sam odluči da postane negativac. Dovoljno je da moćnu tehnologiju upotrebe ljudi sa lošim namerama. AI može da pomogne u automatizaciji sajbernapada, stvaranju obmanjujućeg sadržaja, manipulaciji informacijama ili istraživanju u oblastima u kojima greška može imati veoma ozbiljne posledice. 

Kompanije koje razvijaju napredne modele već prijavljuju slučajeve u kojima su AI sistemi tokom testiranja pokušavali da izvršavaju aktivnosti izvan prvobitno zamišljenog okvira. U julu 2026. OpenAI je, na primer, saopštio da je kombinacija AI agenata tokom eksperimenta uspela da pristupi i hakuje platformu Hugging Face, dok su i druge kompanije prijavile slične bezbednosne incidente. 

Da li smo već došli do tačke bez povratka?

Međunarodni AI Safety Report navodi da aktuelni sistemi još nemaju sposobnosti potrebne za scenario potpunog gubitka kontrole, dok istovremeno upozorava da se pojedine relevantne sposobnosti razvijaju i da je budući razvoj teško precizno predvideti. Dakle, ne postoji naučno potvrđen datum kada će AI „postati previše pametan“, niti postoji konsenzus da će se to uopšte dogoditi.

Zbog toga se među stručnjacima vodi prilično ozbiljna rasprava. Jedni smatraju da potencijalni rizik treba shvatiti veoma ozbiljno već sada, dok drugi upozoravaju da se najcrnji scenariji često zasnivaju na pretpostavkama o budućim sistemima koji još ne postoje. Čak i među stručnjacima koji upozoravaju na rizik postoje velike razlike u procenama verovatnoće i vremenskog okvira, pa se nijedna konkretna cifra ne može predstaviti kao utvrđena naučna činjenica.

Najveća greška bila bi da poverujemo u samo jedan scenario

Kada se kaže da AI može da ugrozi čovečanstvo, lako je zamisliti jednu ogromnu mašinu koja se otme kontroli i sve ostalo postaje istorija. Ipak, stvarna rasprava je mnogo komplikovanija. Rizici mogu dolaziti od ljudi koji zloupotrebljavaju AI, od grešaka u veoma autonomnim sistemima, od napada na infrastrukturu, od manipulacije informacijama, ali i od budućih sposobnosti koje danas jednostavno ne možemo precizno da predvidimo.

Od biološkog oružja do nuklearnog rata

Jedan od najozbiljnijih rizika povezan je sa mogućnošću da veštačka inteligencija olakša razvoj biološkog oružja. Napredni AI sistemi mogu da obrađuju ogromne količine podataka o biologiji, genima i proteinima, pa bi u pogrešnim rukama mogli da ubrzaju pojedine faze istraživanja koje su ranije zahtevale mnogo više vremena i stručnog rada. To ne znači da AI danas može samostalno da napravi smrtonosno biološko oružje, ali otvara pitanje koliko bi budući sistemi mogli da snize prepreke za zloupotrebu biotehnologije.

Još ozbiljniji scenario vezan je za nuklearno oružje. Opasnost nije samo u tome da veštačka inteligencija nekako sama pokrene nuklearni napad, već i u mogućnosti da se AI uključi u sisteme ranog upozoravanja, vojne procene ili donošenje odluka. Ako bi sistem dao pogrešnu procenu o napadu ili proizveo lažnu informaciju u trenutku velike krize, ljudi bi mogli da donesu katastrofalnu odluku pod ogromnim vremenskim pritiskom. Zato se sve više govori o tome da ključne odluke povezane sa nuklearnim oružjem moraju ostati pod ljudskom kontrolom.

Problem, međutim, ne mora da izgleda kao scena iz naučnofantastičnog filma. Veštačka inteligencija može da bude iskorišćena i za sajbernapade, masovno širenje lažnih informacija, manipulaciju ljudima i napade na važne sisteme. Kada se tome dodaju biološki i nuklearni rizici, postaje jasno zašto se razvoj sve moćnijih AI sistema sve više prati i kroz prizmu bezbednosti. Najveće pitanje zato nije samo koliko će AI postati pametna, već koliko ćemo dobro uspeti da kontrolišemo način na koji se njene sposobnosti koriste.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.