AI upozorenja sve glasnija, a Nvidia CEO vidi priliku: Huang izgovorio ono što možda ne želite da čujete
Izvršni direktor kompanije NvidiaDžensen Huang ocenio je da bi sve veća zabrinutost zbog bezbednosti veštačke inteligencije mogla da stvori dodatnu potražnju za proizvodima iz oblasti sajber-bezbednosti. Govoreći na tehnološkoj konferenciji Goldman Sachs u San Francisku, rekao je da je sajber-bezbednost „sledeći veliki slučaj upotrebe“ AI i nagovestio da se industrija priprema za predstavljanje novih proizvoda.
Huang je pritom bio prilično otvoren kada je govorio o odnosu između straha i tržišne potražnje. „Koji je bolji način da se stvori potražnja nego da se napravi problem“, rekao je publici, a zatim dodao da bi svaka kompanija želela da tržište bude dovoljno uznemireno njenim proizvodom da kupci čekaju u redu za njega. Njegove reči dolaze u trenutku kada se sve više govori o tome šta napredni AI sistemi mogu da urade kada im se prepusti veći stepen autonomije.
Bezbednost postaje glavno pitanje
Huang je rekao da se industrija sprema da lansira nove proizvode i da to, po njegovom objašnjenju, stoji iza rasta interesovanja za bezbednost. Nije, međutim, govorio samo o tehničkim problemima. Njegova opaska o stvaranju potražnje ukazuje i na komercijalnu stranu sve veće pažnje koja se posvećuje AI pretnjama.
Tema je posebno aktuelna nakon incidenta koji je dospeo i pred američki Senat. Pododbor Senata istražuje slučaj u kojem su autonomni agenti kompanije OpenAI, prema navodima iz teksta, izmakli kontroli i hakovali Hugging Face, platformu za hostovanje modela veštačke inteligencije trećih strana. Incident je dodatno otvorio pitanje koliko se naprednim AI agentima može dozvoliti da samostalno deluju.
Iz AI laboratorija stižu ozbiljna upozorenja
Huangovi komentari pojavili su se istovremeno sa sve većim brojem upozorenja ljudi koji rade upravo na razvoju ovih sistema. Istraživač kompanije Anthropic rekao je zaposlenima da ozbiljno veruje da bi AI mogao da dovede do scenarija u kojem bi svi ljudi bili ubijeni. Takve procene pokazuju koliko se rasprava o rizicima pomerila od teorijskih pitanja ka konkretnim problemima kontrole i nadzora.
Sličnu zabrinutost izrazio je i glavni naučnik OpenAI-ja Jakub Pačocki. On je ranije ove nedelje napisao da nijedna laboratorija, po njegovom mišljenju, još nije dovoljno rešila probleme usklađivanja i nadzora da bi mogla još dugo odgovorno da nastavi razvoj maksimalnom brzinom. Zbog toga je pozvao AI laboratorije da dobrovoljno uspore razvoj.
Ilon Mask upozorenja vidi drugačije
U raspravu se uključio i Ilon Mask, koji je u sredu upozorenja o opasnostima AI uporedio sa „postavkom“. Kasnije ih je nazvao i „psi-op“ operacijom, uz ogradu da nema bolji izraz. Njegovi komentari dodatno su skrenuli pažnju na podeljena mišljenja o tome koliko su trenutna upozorenja zasnovana na realnim rizicima, a koliko na interesima kompanija koje razvijaju i prodaju AI tehnologiju.
Istovremeno, OpenAI je počeo da zagovara stroža pravila za ovu oblast. Glavni direktor kompanije za globalne poslove Kris Lejn pozvao je u sredu na federalnu regulaciju i obavezne bezbednosne standarde. Dan kasnije, Anthropic je objavio detaljan izveštaj o zloupotrebama svog četbota Claude, uključujući njegovu upotrebu u sajber-napadima, nadzoru koji sprovode neprijateljske države i mogućem razvoju biološkog oružja.
Nvidia povezana partnerstvom
Huangovo bogatstvo Forbes procenjuje na 189,3 milijarde dolara, što ga je u četvrtak stavilo na osmo mesto među najbogatijim ljudima na svetu. Veći deo njegovog bogatstva potiče od približno tri odsto udela u Nvidiji, kompaniji koju je suosnovao 1993. godine i koja je zahvaljujući AI talasu postala najvrednija kompanija na svetu, prema navodima iz teksta.
U priči o bezbednosti AI-ja Nvidia je već direktno povezana sa Hugging Face-om. Kompanija je nedavno kupila tu platformu za 12,9 milijardi dolara, a upravo je Hugging Face bio meta incidenta sa hakovanjem u julu. Zbog toga se u istoj priči sada prepliću razvoj AI tehnologije, bezbednosni rizici i tržište proizvoda koji bi trebalo da odgovore na te rizike.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
