„Kao da Hitleru date atomsku bombu“: Kineski AI inženjer upozorava na AI moć u jednim rukama
Dodajte Kurir u vaš Google izborRasprava o tome ko će kontrolisati najnapredniju veštačku inteligenciju dobila je veoma oštar ton nakon izjave inženjera kineskog DeepSeeka Liu Šengjua. On je upozorio na mogućnost da jedna američka kompanija, konkretno Anthropic, jednog dana kontroliše najnapredniji sistem veštačke inteligencije ili AGI. Da bi opisao koliko takav scenario smatra ozbiljnim, posegnuo je za poređenjem sa Drugim svetskim ratom i razvojem nuklearnog oružja.
Liu je u tekstu objavljenom na kineskom jeziku napisao da bi posledice bile izuzetno ozbiljne ukoliko bi Anthropic samostalno došao pod kontrolu najnaprednije AI tehnologije. Njegovo poređenje bilo je krajnje dramatično: rekao je da bi situacija bila nalik scenariju u kojem bi Adolf Hitler i nacistička Nemačka prvi došli do atomske bombe, pre Saveznika. To nije tvrdnja da je današnja AI isto što i nuklearno oružje, već način na koji je kineski inženjer opisao rizik koncentracije izuzetno moćne tehnologije u rukama jedne strane.
Najmoćniji AI treba biti dostupan svima
Liu ne kritikuje samo brzinu razvoja veštačke inteligencije, već pre svega način na koji bi najmoćniji sistemi mogli biti kontrolisani. Njegov stav je da vrhunska veštačka inteligencija ne bi trebalo da bude zatvorena iza nekoliko kompanija koje odlučuju ko može da joj pristupi i pod kojim uslovima. Kao alternativu navodi pristup otvorenog koda, koji je DeepSeek koristio za razvoj svojih modela i koji, prema njegovom mišljenju, omogućava širem krugu ljudi da koristi i proučava naprednu tehnologiju.
Posebno je kritikovao Anthropic i OpenAI, za koje smatra da neće biti spremni da svoje najnaprednije sisteme učine potpuno otvorenim i dostupnim. Njegova bojazan odnosi se i na AGI, odnosno opštu veštačku inteligenciju - termin koji se koristi za hipotetičke sisteme sposobne da dostignu ili premaše ljudski nivo sposobnosti u širokom rasponu zadataka. Liu smatra da bi kontrola takvog sistema imala mnogo veće posledice od obične prednosti jedne tehnološke kompanije nad drugom.
Amerikanci strahuju od sopstvenog AI
Liuove reči dolaze u trenutku kada i iz samog američkog AI sektora stižu upozorenja o brzini kojom se ova tehnologija razvija. Dario Amodei, direktor Anthropica, pozvao je na sporiji razvoj i stroži nadzor nad naprednim sistemima. Predložio je i uključivanje nezavisnih procenitelja u vodeće AI kompanije, uz upozorenje da se pri tome ne sme zanemariti pitanje poslovne konkurencije.
U isto vreme, u Anthropicu se razvila i interna rasprava o mogućim posledicama budućih sistema. Bivši istraživač Džejkob Kokson napustio je kompaniju i kritikovao ponašanje velikih AI kompanija, dok je Ivon Hibinger, stručnjak za usklađivanje AI sistema, rekao da lično procenjuje da postoji više od 10 odsto rizika da bi veštačka inteligencija mogla da dovede do izumiranja čovečanstva u narednoj deceniji. To su lične procene i stavovi pojedinaca, a ne potvrđena predviđanja o budućnosti AI tehnologije.
Kina na američka upozorenja gleda drugačije
Rasprava se ubrzo proširila izvan tehnoloških laboratorija. Kineska istraživačka platforma Institut za istraživanje Dongbujaćiao ocenila je da bi Amodeijev poziv na stroži nadzor mogao da bude povezan i sa nastojanjem da se utiče na buduća pravila AI industrije. U njihovoj interpretaciji, pitanje bezbednosti nije odvojeno od borbe velikih tehnoloških sila za uticaj nad standardima koji će određivati kako se veštačka inteligencija razvija i koristi.
Sličan ton mogao se čuti i iz kineskih državnih institucija. Portparol kineskog Ministarstva spoljnih poslova Guo Điakun upozorio je da „zastrašivanje, konfrontacija i žestoka konkurencija“ mogu da otežaju uspostavljanje globalnog sistema upravljanja veštačkom inteligencijom. Državni list Global Times je Amodeijeve predloge opisao kao deo svojevrsnog „hladnog rata veštačke inteligencije“, uz tvrdnju da bi takva pravila mogla da očuvaju američku tehnološku prednost i istovremeno ograniče ulogu Kine. Te ocene predstavljaju kinesku interpretaciju situacije, a ne utvrđenu činjenicu o namerama američkih kompanija ili vlade.
Spor se više ne vodi samo oko tehnologije
U pozadini svega nalazi se mnogo šire pitanje: ko će imati pristup najnaprednijoj veštačkoj inteligenciji kada sistemi postanu znatno sposobniji od današnjih modela. Ako nekoliko kompanija zadrži potpunu kontrolu nad najmoćnijim sistemima, one bi mogle da odlučuju ko ih koristi, za koje namene i pod kojim pravilima. Sa druge strane, potpuno otvoreni modeli nose sopstvene rizike, jer dostupnost tehnologije većem broju ljudi znači i da je može koristiti neko sa lošim namerama.
Liu je otvorio još jednu temu koja nema mnogo veze sa samom tehnologijom, a tiče se društva. On smatra da bi dalji razvoj AI mogao dodatno otežati društvenu mobilnost, jer bi pristup najmoćnijim sistemima mogao postati važan za obrazovanje, poslovanje i mogućnost ljudi da napreduju. U tom scenariju, pitanje ko poseduje najnapredniji AI ne bi bilo samo pitanje profita tehnoloških kompanija, već i pitanje toga ko dobija pristup alatima koji mogu da menjaju ekonomske i društvene odnose.
Vašington ne želi da uspori razvoj zbog Kine
Dok kineski inženjeri i zvaničnici upozoravaju na posledice koncentracije moći u AI industriji, američki predsednik Donald Tramp odbacio je pozive da se razvoj ove tehnologije uspori. Njegov argument je drugačiji: ograničavanje američkog napretka moglo bi da ostavi prostor Kini da stekne prednost u oblasti koja sve više dobija strateški značaj. Time se tehnološka trka direktno povezuje sa širim odnosima između dve najveće sile u razvoju veštačke inteligencije.
Zbog toga se iza debate o bezbednosti AI-ja sve jasnije pojavljuje i pitanje globalne konkurencije. Jedna strana upozorava da prevelika koncentracija moći može biti opasna, druga strahuje da bi usporavanje razvoja omogućilo konkurentu da preuzme tehnološku prednost, dok kompanije istovremeno pokušavaju da pronađu način da napredni sistemi budu dovoljno sposobni, ali i kontrolisani. Liuovo poređenje sa atomskom bombom zato je privuklo toliko pažnje: ono je ekstreman način da se postavi pitanje koje će verovatno pratiti razvoj AI-ja još dugo - šta se događa kada tehnologija postane toliko moćna da pitanje njenog vlasništva postane gotovo jednako važno kao i pitanje onoga što ona može da uradi.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.