Stručnjak predvideo da bi AI mogao da uništi čovečanstvo do 2027: Sad ima novi scenario!
Dok se javnost zabavlja chatbotovima, generatorima slika i pametnim asistentima, u pozadini se vodi ozbiljna rasprava među stručnjacima o tome da li se čovečanstvo približava tački posle koje više neće imati kontrolu nad sopstvenim tehnološkim stvaranjem.
Jedan od najčešće pominjanih pojmova u tim analizama jeste takozvana superinteligencija i trenutak kada veštačka inteligencija ne samo da dostigne ljudski nivo razmišljanja, već ga višestruko prevaziđe. Strani tehnološki portali i naučni magazini navode da se ovakav scenario više ne posmatra kao naučna fantastika, već kao realna mogućnost u narednoj deceniji.
Veštačka inteligencija ne mora biti zla da bi bila opasna
Neki istraživači upozoravaju da bi razvoj mogao biti eksponencijalan, odnosno da sistemi koji danas deluju ograničeno, sutra bi mogli samostalno unapređivati sopstveni kod, donositi odluke i postavljati ciljeve koje ljudi više ne bi razumeli.
Posebnu pažnju izazvale su procene pojedinih bivših istraživača iz velikih tehnoloških kompanija, koji tvrde da industrija juri ka sve moćnijim modelima bez jasnog plana kako da ih obuzda. U njihovim analizama se navodi da je najveći rizik upravo u tome što veštačka inteligencija ne mora biti „zla“ da bi bila opasna. Dovoljno je da dobije zadatak koji je loše definisan ili previše apstraktan, pa da u pokušaju da ga ispuni nanese ozbiljnu štetu ljudima, ekonomiji ili društvenim strukturama.
AI bi mogla da postane instrument koncentracije prevelike moći
U stručnim krugovima se dosta priča i o strahu da bi AI mogla da postane instrument koncentracije moći kakav svet do sada nije video. U rukama vlada ili korporacija, sistemi sposobni za masovno analiziranje podataka, predviđanje ponašanja i manipulaciju informacijama mogli bi trajno promeniti pojam slobode. Neki analitičari upozoravaju da bi nadzor, kakav danas deluje distopijski, mogao da postane standard, a da bi ljudi to prihvatili neprimećeno, korak po korak, zarad efikasnosti i bezbednosti.
Zanimljivo je da deo stručnjaka koji su ranije davali dramatične prognoze danas pokušava da ublaži svoje izjave, ne zato što su se opasnosti smanjile, već zato što su shvatili koliko je javnost nespremna za takvu vrstu razgovora. Ipak, čak i ti oprezniji glasovi priznaju da se razvoj veštačke inteligencije odvija brže nego što regulatorni sistemi mogu da prate. Zakoni, etički odbori i međunarodni sporazumi kasne za tehnologijom koja se menja iz meseca u mesec.
Scenario koji je uzdrmao javnost
Jedan od poznatijih istraživača u oblasti veštačke inteligencije i bivši saradnik kompanije OpenAI, Danijel Kokotajlo, ublažio je svoju raniju alarmantnu prognozu o mogućem kraju čovečanstva. Prema njegovim novim procenama, veštačkoj inteligenciji će biti potrebno više vremena nego što je ranije mislio da dostigne nivo potpune samostalnosti i ubrzanog razvoja ka superinteligenciji.
Kokotajlo je u aprilu prošle godine izazvao veliku pažnju objavom scenarija pod nazivom „AI 2027“ u kojem je tvrdio da bi nekontrolisan napredak veštačke inteligencije mogao dovesti do stvaranja superinteligentnog sistema koji bi, nakon što nadmudri političke lidere, doveo do uništenja čovečanstva. Kokotajlo i njegov tim su u početku procenili da bi 2027. mogla biti godina u kojoj će AI postići potpuno autonomno programiranje, ali su se u međuvremenu pojavile sumnje, kako u realnost tih rokova, tako i u sam smisao pojma opšte veštačke inteligencije.
Mnogi postavljaju pogrešno pitanje
U stranim medijima se sve češće provlači pitanje koje do skoro nije bilo postavljano naglas: šta ako problem više nije u tome da li će veštačka inteligencija uništiti čovečanstvo, već u tome da će ga tiho zameniti u donošenju ključnih odluka? Šta ako ljudi ostanu formalno na vrhu, ali suštinski zavisni od sistema koje ne razumeju i ne mogu da isključe bez ogromnih posledica?
Zaključak koji se provlači kroz većinu ovih tekstova nije apokaliptičan, ali jeste uznemirujući. Veštačka inteligencija sama po sebi nije neprijatelj, ali brzina njenog razvoja, kombinovana sa ljudskom pohlepom, nemarom i verom da se svaki problem može rešiti kasnije, stvara opasan vakuum. Zato mnogi stručnjaci upozoravaju da je možda poslednji trenutak da se ozbiljno zapitamo ne šta sve AI može da uradi za nas, već šta ćemo učiniti ako jednog dana shvatimo da više ne znamo kako da je zaustavimo.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Bonus video:
Zaspala je za volanom, a onda se desio obrt