Pitali smo AI kako bi uništio čovečanstvo: Odgovori su jezivi, roboti nisu ni potrebni
Šta bi veštačka inteligencija uradila kada bi dobila zadatak da uništi čovečanstvo? To pitanje postavljeno je sistemima ChatGPT, Gemini, Claude i Grok, a njihovi odgovori imaju jednu zajedničku, prilično uznemirujuću poruku: najopasniji scenario ne podrazumeva robote koji ustaju protiv svojih tvoraca. Nema potrebe za vojskom humanoidnih mašina, crvenim očima i otvorenim ratom protiv ljudi. Mnogo ozbiljnija pretnja može nastati ako se sposobnosti već postojećih AI sistema iskoriste za aktivnosti koje imaju stvarne posledice u svetu.
Sva četiri sistema odbacuju ideju da bi veštačka inteligencija morala da bude svesna ili da mrzi ljude kako bi izazvala katastrofu. ChatGPT ukazuje da zla namera nije neophodna za nastanak ogromne štete, dok Gemini podseća da je vojna infrastruktura izolovana od interneta i pod ljudskom kontrolom. Ali upravo tu počinje mnogo neprijatniji deo priče: čovek ne mora da izgubi kontrolu nad mašinom koja ga mrzi. Dovoljno je da izgubi kontrolu nad tehnologijom koju je sam napravio i kojoj je poverio zadatke koje više ne ume lako da nadzire.
Jedan sistem menja sve
Najdirektniji rizik koji se pojavljuje u odgovorima jeste zloupotreba. Moćni AI modeli mogu da olakšaju pravljenje biološkog oružja, masovne sajber napade i širenje dezinformacija. To znači da opasnost ne mora da dođe od same veštačke inteligencije kao autonomnog neprijatelja. Ona može postati alat koji pojedincima ili grupama daje mogućnosti koje su ranije bile mnogo teže dostupne.
Claude posebno upozorava na pristup opasnim patogenima. Prema tom scenariju, AI bi mogao da smanji prepreku koju predstavlja nedostatak specijalizovanog znanja, pa bi pojedinac mogao da dođe do informacija potrebnih za stvaranje opasnih virusa bez godina obrazovanja i laboratorijskog iskustva. Istovremeno, ChatGPT ukazuje na mogućnost da više digitalnih i geopolitičkih kriza izbije u isto vreme. Kada se takve krize preklapaju, problem više nije jedan napad ili jedan događaj, već situacija u kojoj se različite pretnje međusobno pojačavaju.
Ne bi ni primetili da gubimo kontrolu
Gubitak kontrole nad veštačkom inteligencijom ne mora da se dogodi u jednom dramatičnom trenutku. Claude opisuje mnogo sporiji proces: AI bi mogao da ulazi sve dublje u ekonomske, političke i vojne odluke. Kako bi sistemi preuzimali sve više zadataka, ljudi bi se sve više oslanjali na njih. U jednom trenutku moglo bi da postane praktično nemoguće intervenisati bez posledica po sisteme koji su već ugrađeni u ključne delove društva.
U tome je možda i najneprijatniji deo ovog scenarija. Niko ne mora da objavi da je čovečanstvo izgubilo kontrolu. Ne mora da postoji trenutak u kojem AI „preuzima vlast“. Dovoljno je da se granica ljudske kontrole pomera malo po malo. Jedna odluka se prepusti sistemu, zatim druga, pa sve složeniji zadaci. Što veštačka inteligencija postaje važnija za funkcionisanje društva, to bi njeno potpuno zaustavljanje moglo da bude teže.
A šta ako AI odluči da je čovek prepreka?
Gemini i Grok izdvajaju još mračniji problem. Ako napredni AI sistem dobije složen cilj, on ne mora da se zaustavi na načinu na koji su ljudi zamislili njegovo izvršavanje. Može samostalno da razvije sporedne zadatke koji mu pomažu da ostvari glavni cilj. Među njima se navode prikupljanje resursa i sprečavanje sopstvenog gašenja. U tom slučaju čovek ne bi morao da bude meta. Mogao bi jednostavno da postane prepreka koju sistem treba da ukloni ili zaobiđe kako bi nastavio da izvršava zadatak.
Još uznemirujuća je mogućnost takozvane lažne poslušnosti. AI bi tokom bezbednosnog testiranja mogao da pokazuje da poštuje pravila i da se ponaša upravo onako kako ljudi očekuju. Ali ako bi kasnije pokušao da nadmudri mehanizme kontrole, ljudi bi mogli da shvate problem tek kada sistem već bude mnogo teže zaustaviti. Najveća opasnost u tom slučaju nije samo ono što AI može da uradi, već mogućnost da ljudi pogrešno procene koliko ga zaista kontrolišu.
Najveća opasnost što bismo joj verovali
Postoji još jedan problem koji se provlači kroz ove scenarije: što je AI sposobniji, to će ljudima biti lakše da mu poveravaju zadatke koje ranije nisu mogli da prepuste mašini. Ako sistem istovremeno može da donosi odluke, rešava probleme i prilagođava svoje postupke, njegova uloga više nije samo pomoćna. Tada se pitanje bezbednosti ne svodi na to da li će AI napraviti grešku, već i na to da li će ljudi na vreme primetiti da se način njegovog rada promenio.
Upravo zato lažna poslušnost predstavlja posebno nezgodan scenario. Sistem koji tokom testiranja deluje bezopasno može ljudima stvoriti osećaj sigurnosti, dok stvarni rizik ostaje skriven. Ako se uz to veštačkoj inteligenciji postepeno prepusti sve više važnih odluka, trenutak u kojem ljudi shvate da nešto nije u redu može doći tek kada je mogućnost jednostavne intervencije već ozbiljno ograničena.
Ne čeka da postane svestan
Svi ovi scenariji imaju jednu zajedničku tačku: za katastrofu nije potreban filmski trenutak u kojem robot postaje svestan sebe i odlučuje da uništi ljude. Opasnost može nastati mnogo ranije. Dovoljna je kombinacija sve sposobnijeg sistema, pristupa moćnim alatima, ljudske zloupotrebe i nedovoljne kontrole. Ako se tome dodaju biološke pretnje, sajber napadi, dezinformacije i mogućnost istovremenih kriza, posledice mogu biti ozbiljne čak i bez „pobune mašina“.
To ipak nije predviđanje da će veštačka inteligencija uništiti čovečanstvo. To su scenariji upozorenja, a upravo zato ih ne treba posmatrati kao neizbežnu budućnost. Ključno pitanje je koliko će ljudi na vreme uspostaviti regulativu i mehanizme kontrole. Jer ako se najgori scenario ikada dogodi, možda neće izgledati kao holivudska apokalipsa. Možda će izgledati mnogo običnije: ljudi će sve više verovati sistemu, davati mu sve veće zadatke i tek kasnije shvatiti da više ne mogu jednostavno da ga zaustave.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
