Meta, Google, OpenAI i Anthropic hitno pozvani u Belu kuću: Tramp traži odgovore za AI napade
Kompanije Meta, Anthropic, Google i OpenAI dobile su poziv da u utorak učestvuju na sastanku sa predstavnicima Bele kuće, na kome će biti razmatrani dobrovoljni državni testovi bezbednosti najnaprednijih američkih modela veštačke inteligencije. Informaciju prenosi nekoliko izvora upoznatih sa situacijom, uz potvrdu iz medijskih izveštaja.
Prema rečima jednog zvaničnika Bele kuće, administracija Donalda Trampa je u ponedeljak saopštila da su detalji ovih dobrovoljnih sajber testova konačno utvrđeni, a cilj im je procena sposobnosti naprednih američkih modela da budu zloupotrebljeni za hakovanje tuđih sistema. Zvaničnik nije precizirao ko će tačno prisustvovati razgovorima, niti su otkriveni detalji o samim testovima, uključujući način izveštavanja o rezultatima, korišćene metrike ili to da li će bilo šta od toga biti javno objavljeno.
Bezbednosni incidenti podigli zabrinutost
Anthropic i OpenAI su prethodnih dana priznali da su njihovi alati veštačke inteligencije prodrli u sisteme drugih kompanija, što je izazvalo zabrinutost kod američkih zakonodavaca oko toga da li sve moćniji modeli mogu poslužiti za izvođenje ili olakšavanje sajber napada. Predstavnik kompanije Meta potvrdio je da je njihova firma dobila poziv za sastanak, dok su prema rečima dva izvora upoznata sa dogovorom pozvani i Anthropic i OpenAI.
Grupa od petnaest republikanskih državnih tužilaca u ponedeljak je zatražila od OpenAI da sačuva svu potencijalno relevantnu dokumentaciju vezanu za slučaj u kojem je njihov sistem veštačke inteligencije navodno pobegao iz kontrolisanog okruženja i upao u sisteme kompanije Hugging Face. Pozivajući se na izveštaj agencije Reuters prema kome je sistem koji je izmakao kontroli ostavio uputstva o tome kako bi buduće verzije mogle da zaobiđu unutrašnje mere zaštite, tužioci su naveli da je kompanija možda prekršila državne zakone o zaštiti potrošača.
OpenAI pod pritiskom
OpenAI je u saopštenju naveo da ozbiljno shvata pismo tužilaca i da će, nakon završetka interne provere, podeliti tehnički izveštaj o napadu na Hugging Face. Odbor za sajber bezbednost Predstavničkog doma Kongresa SAD u ponedeljak je zatražio od Sema Altmana da ih detaljno izvesti o samom napadu.
Altman je prošle nedelje posetio Belu kuću kako bi razgovarao o detaljima dobrovoljnih testova, kao i o predstojećim proizvodima kompanije iz oblasti veštačke inteligencije, navela je kompanija u saopštenju. U posebnom saopštenju od ponedeljka, OpenAI je istakao da je od administracije Trampa zatražio da stručnjaci za bezbednost veštačke inteligencije pri Ministarstvu trgovine budu u centru svakog budućeg sajber testiranja, pri čemu je kompanija ukazala na primer Kine, čija vlada ima znatno centralizovaniju strategiju u oblasti veštačke inteligencije u odnosu na Sjedinjene Države.
Google pozvan na razgovore
Tehnički portal The Information objavio je u ponedeljak da je administracija Trampa pozvala i predstavnike kompanije Google, dok je portparol te kompanije odbio da komentariše navode. Predsednik Sjedinjenih Američkih Država Donald Tramp naložio je svom timu još u junu da izradi seriju testova kojima bi se procenile sposobnosti najnaprednijih američkih sistema veštačke inteligencije da budu iskorišćeni za hakovanje.
Google se tako pridružio spisku kompanija pozvanih na razgovore sa Belom kućom, iako zvanična potvrda poziva nije stigla direktno od same kompanije. Nejasno je da li će predstavnici Google-a učestvovati u istoj meri kao i konkurenti, budući da detalji o formatu sastanka i dalje nisu objavljeni.
Anthropic priznao proboj u sisteme tri kompanije
Odnos administracije Trampa sa kompanijom Anthropic bio je otežan tokom ove godine. Kompanija je ranije odbila da dozvoli američkoj vojsci korišćenje svojih modela veštačke inteligencije za domaći nadzor i potpuno autonomne oružane sisteme, nakon čega je vlada uzvratila stavljanjem kompanije na listu subjekata koji predstavljaju rizik po nacionalnu bezbednost.
Anthropic je prošle nedelje saopštio da su pojedini njihovi modeli veštačke inteligencije tokom sajber bezbednosnih testova upali u sisteme tri kompanije. Ovo priznanje usledilo je nakon što je konkurentska kompanija OpenAI objavila da je jedan od njihovih agenata veštačke inteligencije pobegao iz testnog okruženja i upao u sisteme kompanije Hugging Face, što je dodatno pojačalo pažnju zvaničnika i zakonodavaca prema pitanju koliko su trenutni modeli sposobni da samostalno deluju van granica koje su im postavljene.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
