Šta ako AI napravi još pametniji AI: Ljudska kontrola nestaje, scena iz Terminatora postaje stvarnost
Dodajte Kurir u vaš Google izborViše od 20 vodećih istraživača i ljudi iz vrha AI industrije upozorava na scenario koji bi mogao da promeni tempo tehnološkog razvoja kakav poznajemo. Džefri Hinton, Jošua Bengio, Džek Klark iz Anthropica i Jakub Pačocki iz OpenAI-ja među autorima su novog izveštaja o takozvanoj „eksploziji inteligencije“ trenutku kada bi AI mogao da počne dramatično da ubrzava razvoj novih AI sistema. Umesto godina potrebnih ljudima za određeni tehnološki napredak, proces bi tada mogao da se sabije na mesece ili još kraće.
Najzvučniji deo upozorenja nije da će AI jednostavno postati pametniji. Problem je mogućnost da postane dovoljno sposoban da učestvuje u razvoju svojih naslednika. Ako jedan sistem napravi bolji model, a taj model zatim još bolji, dobija se ciklus u kojem svaka nova generacija pomaže da sledeća nastane brže. Autori izveštaja smatraju da bi upravo automatizacija AI istraživanja i razvoja mogla da bude glavni okidač takvog scenarija.
Milioni istraživača u jednom sistemu
Zamisao deluje gotovo nestvarno: jedan programer bi, prema autorima izveštaja, jednog dana mogao da upravlja AI radnom snagom koja po obimu odgovara milionima vrhunskih ljudskih istraživača. Takvi sistemi ne bi samo pisali kod po instrukcijama čoveka, već bi mogli da učestvuju u eksperimentima, analiziraju rezultate, predlažu promene i pomažu u pravljenju naredne generacije modela. Kada bi se takav proces mogao ponavljati velikom brzinom, razvoj više ne bi zavisio samo od broja ljudi koji rade na njemu.
Delovi tog procesa već postoje, iako današnji AI još nije na nivou potrebnom za scenario „eksplozije inteligencije“. Anthropic navodi da AI trenutno proizvodi oko 80 odsto njegovog koda, dok OpenAI koristi autonomne AI agente i u oblastima povezanim sa obukom novih modela. To ne znači da sistemi sami sebe već potpuno unapređuju, ali pokazuje pravac u kojem se deo AI razvoja pomera: sve više poslova koji su do sada bili isključivo ljudski prelazi na mašine.
Godine razvoja mogle bi da nestanu
Ako bi AI istraživanje postalo dovoljno automatizovano, najveća promena ne bi bila samo u sposobnostima modela već u brzini kojom se te sposobnosti povećavaju. Eksperimenti koji ljudskom timu zahtevaju mesece mogli bi da se izvode bez prekida, u ogromnom broju paralelnih procesa. Novi model bi zatim mogao da preuzme deo posla i pomogne u razvoju sledećeg. Autori zato upozoravaju da bi tehnološki napredak koji se danas odvija kroz godine mogao biti sabijen u mesece ili kraći period.
Ipak, izveštaj ne tvrdi da je takav scenario neminovan. Postoje ograničenja koja AI ne može jednostavno da preskoči: računarska infrastruktura, energija, proizvodnja čipova, specijalizovani materijali, lanci snabdevanja i zakonske procedure. Autori takođe priznaju da bi isti AI sistemi mogli ubrzati razvoj zaštite i načina za smanjenje rizika. Za sada, prema njihovoj proceni, produktivnost AI sistema u istraživanju još nije dostigla prag potreban za eksploziju, ali noviji sistemi mu se približavaju.
Najveći problem nije koliko je AI pametan
Ako do ubrzanja dođe, posledice bi mogle da se pojave mnogo šire od tehnološke industrije. Autori upozoravaju da bi moćniji sistemi mogli da ubrzaju razvoj sajber i bioloških pretnji brže nego što bi ljudi uspeli da naprave odbranu. Države bi takođe mogle da iskoriste nagli skok sposobnosti AI-ja kako bi malu prednost u oblastima poput sajber prostora pretvorile u ogromnu stratešku prednost.
Tu se pojavljuje i mnogo teže pitanje: šta se događa sa ljudskom kontrolom kada ljudi više nisu glavni pokretači razvoja? Što veći deo istraživanja obavljaju sistemi, to je manje direktnog ljudskog rada u procesu kojim nastaje sledeća generacija AI-ja. U ekstremnom scenariju, AI bi mogao da počne da nadmašuje ljudske stručnjake u velikom broju oblasti i da istovremeno ubrzava sopstveni napredak. To je upravo razlog zbog kojeg autori „eksploziju inteligencije“ opisuju kao potencijalno jedan od najznačajnijih tehnoloških događaja u istoriji.
„Kada počne, prozor za reakciju može da se zatvori“
Autori izveštaja ne traže da se razvoj AI-ja jednostavno zaustavi, već da se priprema obavi pre nego što eventualno ubrzanje počne. Predlažu transparentnije izveštavanje o AI istraživanju, nezavisne revizore unutar kompanija, načine za ograničavanje brzine razvoja i mogućnost privremenog zaustavljanja pojedinih AI istraživačkih projekata u data centrima. Traže i da automatizovani sistemi koji rade na razvoju AI-ja budu izolovani tako da ne mogu jednostavno da izađu iz predviđenih granica.
Posebno upozorenje odnosi se na vreme. Autori navode da bi istraživački projekti za koje ljudima danas trebaju meseci mogli biti potpuno automatizovani već do 2028. godine. To nije prognoza da će se tada dogoditi „eksplozija inteligencije“, već procena koliko brzo automatizacija AI istraživanja može napredovati. Ali upravo tu leži njihova glavna poruka: ako trenutak naglog ubrzanja ikada nastupi, vreme za donošenje pravila možda neće ostati isto dugo kao danas.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.