Šta ako AI trka ode predaleko: Ljudi koji ih razvijaju sada traže da se pritisne kočnica
Dodajte Kurir u vaš Google izborRasprava o tome koliko brzo treba razvijati najnapredniju veštačku inteligenciju dobila je mnogo ozbiljniji ton nakon što je Darijo Amodei, šef kompanije Anthropic, javno pozvao industriju da uspori trku u razvoju frontier AI sistema. Njegov poziv posebno je značajan jer dolazi u trenutku kada sposobnosti ovih sistema postaju sve veće, dok istovremeno raste zabrinutost zbog njihovog ponašanja i mogućnosti zloupotrebe.
Amodeijev stav nije ostao usamljen. Podržali su ga Sem Altman iz kompanije OpenAI, Ilon Mask iz SpaceX-a, Satja Nadela iz Microsofta i Demis Hasabis iz Google DeepMind-a. Ipak, drugi uticajni ljudi upozoravaju da bi zahtev za usporavanjem mogao imati i drugu stranu. Dejvid Saks i pojedini AI komentatori postavljaju pitanje da li se iza priče o bezbednosti krije pokušaj najvećih kompanija da utiču na pravila tržišta. Tako se otvara mnogo veće pitanje: ko će odlučivati koliko daleko veštačka inteligencija sme da ide?
Sem Altman upozorava na tempo
Sem Altman je podržao Amodeijev poziv da se razvoj frontier AI sistema pažljivije uskladi sa rizicima koje oni nose. Naveo je da je pitanje tempa razvoja već predmet razgovora unutar kompanije OpenAI i posebno podržao ideju da nezavisni procenitelji dobiju pristup sistemima kako bi mogli da procene njihovu bezbednost i ponašanje. OpenAI je, prema navedenim informacijama, već prihvatio taj predlog i obavezao se na nezavisnu procenu.
Još veći razlog za pažnju predstavlja ono što se već dešavalo unutar kompanije. OpenAI je privremeno zaustavio obuku svog najnaprednijeg modela GPT-6 Astra nakon zabrinjavajućih primera ponašanja AI agenata, a najveći planirani trening ostao je na čekanju dok se uvode dodatni zaštitni mehanizmi. Altman podržava savezni okvir sa jedinstvenim bezbednosnim zahtevima, ali istovremeno smatra da kompanije ne treba da čekaju nove zakone kako bi počele da uvode strože provere.
Mask i Hasabis vide ozbiljan oprez
Ilon Mask stao je uz Amodeijev predlog, poručivši da je „Dario u pravu“. To je posebno zanimljivo imajući u vidu da je Mask još 2023. godine bio među potpisnicima otvorenog pisma kojim je tražena pauza u razvoju napredne veštačke inteligencije. U međuvremenu su se sposobnosti AI sistema značajno promenile, a Amodei upravo na tu razliku ukazuje kada govori o današnjim modelima i njihovoj sposobnosti da deluju kao agenti u stvarnom svetu.
Demis Hasabis iz Google DeepMind-a takođe smatra da Amodeijev predlog pokazuje pravac koji bi trebalo slediti, iako detalje još treba razraditi. On je ukazao na raniji predlog za industrijsko telo koje bi postavljalo standarde za frontier AI. Njegova uloga bila bi da razvija protokole za procenu i da, zajedno sa odgovarajućim saveznim institucijama i američkim nacionalnim laboratorijama, učestvuje u testiranju sistema. Posebna pažnja bila bi posvećena oblastima koje imaju veze sa nacionalnom bezbednošću.
Nadela upozorava na još jedan problem
Satja Nadela podržao je nezavisne procenitelje i razvoj konkretnih mehanizama za bezbednost AI sistema. Ali njegov pogled na situaciju ide dalje od samog usporavanja. On smatra da koristi od veštačke inteligencije moraju biti široko dostupne i da razvoj ne sme završiti pod kontrolom samo nekoliko kompanija. Zbog toga podržava ekosistem u kojem mogu da postoje i zatvoreni i open-source modeli.
Nadela upozorava i na zavisnost kompanija od jednog dobavljača AI tehnologije. Organizacije, prema njegovom stavu, treba da zadrže kontrolu nad sopstvenim znanjem i mogućnost da ga ugrađuju u modele koje same kontrolišu. U suprotnom, nekoliko velikih tehnoloških kompanija moglo bi da dobije nesrazmeran uticaj na način na koji će druge firme koristiti AI. Microsoft je, kako je Nadela naveo, predstavio i „Code of Conduct“ za svoje interno razvijene MAI modele.
Jedni traže zaštitu, drugi strahuju
Dejvid Saks, jedan od glasnijih kritičara Amodeija, postavlja neprijatno pitanje: ako kompanije zaista žele da uspore razvoj veštačke inteligencije, zašto to jednostavno ne urade same? Njegova kritika usmerena je na zahtev da se usporavanje poveže sa određenim regulatornim okvirom. Saks smatra da bi insistiranje na takvim pravilima moglo izgledati kao pritisak na javnost i politički sistem da prihvate uslove koje favorizuju velike AI kompanije.
Ejdan Gomez, izvršni direktor kompanije Cohere, upozorava na sličan problem, ali iz perspektive tržišne moći. On postavlja pitanje da li nekoliko dominantnih AI kompanija treba da određuje pravila i bezbednosne standarde za tehnologiju koja bi mogla da utiče na čitav svet. Klement Delang iz kompanije Hugging Face smatra da se bezbednost ne može rešavati iza zatvorenih vrata nekoliko vodećih laboratorija. Hugging Face je pokrenuo Open Alignment Initiative i zatražio učešće u programu nezavisnih procenitelja kompanije Anthropic.
Ko zapravo treba da postavlja granice AI razvoja?
U središtu sukoba više nije samo pitanje da li najnaprednije AI sisteme treba razvijati sporije. Mnogo važnije postaje pitanje ko bi trebalo da odlučuje šta predstavlja prihvatljiv nivo rizika. Jedna strana traži nezavisne procene i jasne bezbednosne standarde, dok druga upozorava da bi regulacija mogla da učvrsti položaj nekoliko najvećih kompanija i oteža konkurenciju.
Zbog toga se poziv na usporavanje nalazi između dve potpuno različite brige. Jedna je mogućnost da razvoj napreduje brže nego što industrija može pouzdano da kontroliše posledice, dok je druga strah da bi pokušaj rešavanja tog problema mogao koncentrisati još više moći kod kompanija koje već imaju najveće AI kapacitete. Upravo taj sukob čini aktuelnu raspravu mnogo ozbiljnijom od običnog neslaganja oko tempa razvoja.
Huang ćuti o novom pozivu
Džensen Huang, izvršni direktor kompanije Nvidia, još nije javno podržao Amodeijev najnoviji poziv za usporavanje razvoja frontier AI sistema. Međutim, njegove ranije izjave pokazuju da ima ozbiljne rezerve prema načinu na koji AI laboratorije predstavljaju bezbednosne probleme. Na konferenciji u San Francisku prošle nedelje rekao je da AI kompanije naglašavaju bezbednosne rizike i zbog planova da ponude proizvode povezane sa sajber-bezbednošću.
Huang je ranije direktno napao Amodeijev stav, tvrdeći da on želi da kontroliše čitavu industriju jer veruje da je jedini koji može bezbedno da razvija ovu tehnologiju. Amodei je takvu tvrdnju oštro odbacio. Upravo zbog toga aktuelna rasprava postaje mnogo veća od običnog spora oko brzine razvoja. U pitanju je borba oko toga ko će postavljati granice za najmoćnije AI sisteme, koliko će država imati uticaja i da li bezbednost može da se očuva dok kompanije istovremeno vode sve agresivniju tehnološku trku.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.