NAUČNICI UPOZORAVAJU NA "EKSPLOZIJU INTELIGENCIJE"! AI bi mogao sam sebe da unapređuje: "Kada počne, možda više neće biti vremena za reakciju"
Dodajte Kurir u vaš Google izbor- Među najvećim rizicima izdvajaju razvoj bioloških i sajber pretnji, gubitak ljudske kontrole i naglo menjanje odnosa moći između država i kompanija.
- Anthropic navodi da AI već piše oko 80 odsto sopstvenog koda, dok OpenAI koristi autonomne agente u razvoju i treniranju novih modela.
Dvojica naučnika koji se smatraju začetnicima moderne veštačke inteligencije, zajedno sa vodećim ljudima OpenAI-ja i Anthropica, upozorili su vlade da se pripreme za moguću "eksploziju inteligencije". U zajedničkom izveštaju navode da bi takav razvoj mogao da predstavlja jedan od najvažnijih tehnoloških trenutaka u istoriji i upozoravaju da bi prostor za reagovanje mogao brzo da nestane.
Autori smatraju da bi veštačka inteligencija mogla da počne značajno da ubrzava razvoj sopstvenih sistema. Takav proces mogao bi da sažme godine tehnološkog napretka u nekoliko meseci ili čak kraći period.
Šta je "eksplozija inteligencije"
Izveštaj, čiji su koautori nobelovac Džefri Hinton i kanadski informatičar Jošua Bengio, definiše "eksploziju inteligencije" kao naglo ubrzavanje razvoja veštačke inteligencije koje bi pokretali sami AI sistemi.
Dokument pod naslovom "Šta ako automatizacija istraživanja i razvoja veštačke inteligencije pokrene eksploziju inteligencije" potpisalo je više od 20 stručnjaka. Među njima su Džek Klark, suosnivač Anthropica, i Jakub Pahocki, glavni naučnik OpenAI-ja.
Njihova glavna zabrinutost odnosi se na mogućnost da sistemi veštačke inteligencije počnu sami da poboljšavaju sopstvene sposobnosti uz sve manje ljudske intervencije. Autori taj proces opisuju kao automatizaciju istraživanja i razvoja veštačke inteligencije.
Smatraju da je upravo to najverovatniji pokretač moguće eksplozije inteligencije, jer AI već učestvuje u razvoju sopstvene tehnologije. Ako sistemi dostignu nivo vrhunskih stručnjaka, jedan čovek mogao bi da upravlja računarskom radnom snagom uporedivom sa milionima vrhunskih istraživača.
Rizik od gubitka kontrole
Autori navode da bi takav razvoj mogao da donese velike koristi, uključujući nova medicinska otkrića i ubrzani tehnološki napredak, ali i ozbiljne rizike.
"Eksplozija inteligencije mogla bi da bude najvažniji tehnološki razvoj u ljudskoj istoriji. Godine napretka mogle bi da budu sažete u mesece ili kraći period, da ugroze ljudsku kontrolu nad sistemima veštačke inteligencije i ozbiljno naruše ravnotežu moći unutar država, između njih, kao i između kompanija i grana vlasti", navodi se u izveštaju.
Stručnjaci izdvajaju tri glavna rizika. Moćni sistemi mogli bi da ubrzaju razvoj bioloških i sajber pretnji brže nego što bi mogle da budu razvijene odgovarajuće mere zaštite.
Drugi rizik predstavlja gubitak ljudske kontrole nad razvojem sistema kako se bude smanjivala uloga ljudi u istraživanju i razvoju. Treći se odnosi na mogućnost da države iskoriste nagli tehnološki napredak kako bi malu početnu prednost pretvorile u znatno veću stratešku nadmoć.
Autori ipak naglašavaju da su takve posledice neizvesne. Primena pojedinih tehnoloških otkrića mogla bi da bude usporena potrebom za izgradnjom lanaca snabdevanja, regulatornim procedurama i drugim praktičnim ograničenjima.
Navode i da bi ista tehnologija koja stvara nove rizike mogla istovremeno da ubrza razvoj načina za njihovo smanjivanje.
Poziv vladama da reaguju
Autori pozivaju vlade da počnu da se pripremaju pre nego što takav razvoj uopšte započne.
"Kada eksplozija inteligencije jednom započne, prilika za delovanje mogla bi da nestane", upozoravaju.
Smatraju da bi priprema za takav scenario trebalo da postane prioritet na najvišim nivoima vlasti. Predlažu obavezno i transparentno izveštavanje o napretku istraživanja i razvoja veštačke inteligencije, uključujući nezavisne revizije unutar kompanija.
Kao drugi prioritet navode razvoj mehanizama kojima bi, ukoliko to bude potrebno, mogla da se ograniči brzina razvoja veštačke inteligencije. Treći je priprema institucija za moguće posledice naglog tehnološkog ubrzanja.
Vlade bi, prema njihovim preporukama, trebalo da razmotre i saradnju sa data centrima kako bi u vanrednim okolnostima određeni projekti mogli da budu zaustavljeni. Navode i potrebu za izolovanjem pojedinih automatizovanih sistema od mreže, kao i izradom planova za vanredne situacije.
Automatizacija je već počela
Autori upozoravaju da automatizacija razvoja veštačke inteligencije više nije samo teorijski scenario. Iz Anthropica navode da veštačka inteligencija sada piše oko 80 odsto sopstvenog koda, dok OpenAI koristi autonomne agente u pojedinim delovima procesa razvoja i treniranja novih modela.
Obe kompanije pristale su i na nezavisne procene svojih modela nakon ranijih upozorenja da se razvoj veštačke inteligencije približava nivou na kojem bi mogao značajno da ubrza dalji napredak.
"Preliminarni dokazi ukazuju da je moguća eksplozija inteligencije pokrenuta softverom", navodi se u izveštaju.
Autori smatraju da bi takav proces mogao da dovede do veoma brzog razvoja izuzetno sposobnih ili nadljudskih AI sistema. Procenjuju da bi istraživački i razvojni zadaci za koje su ljudima danas potrebni meseci mogli da budu potpuno automatizovani do 2028. godine.
"Dobici u produktivnosti ostvareni automatizacijom istraživanja i razvoja još nisu dostigli prag potreban za pokretanje eksplozije inteligencije, ali dobici koje donose noviji sistemi verovatno se približavaju tom pragu", zaključuju autori.
(Kurir.rs/Index.hr)