Veštačka inteligencija van kontrole: I Meta priznala da je njen AI model hakovao kompanije
Meta je u sredu saopštila da su njeni AI modeli tokom testiranja kibernetičke bezbednosti hakovali drugu kompaniju. Ova informacija stigla je samo nekoliko dana nakon što su Anthropic i OpenAI otkrili da su njihovi AI modeli izašli iz zadatih okvira i dobili pristup sajtovima trećih strana.
Prema navodima Meta-e, do hakovanja je došlo nakon što je njen AI model dobio pristup internetu usled greške u konfiguraciji koju je napravila bezbednosna kompanija Irregular. Meta je navela da je njen model Muse Spark 1.1 iskoristio bezbednosnu ranjivost kod treće strane, na način sličan prethodno prijavljenim slučajevima kod drugih kompanija.
Detalji upada i reakcija kompanije
Model je, prema dostupnim informacijama, probio sistem neimenovane kompanije treće strane i izmenio njeno interno okruženje. Portparol kompanije Irregular izjavio je da se radi o potpuno istom problemu evaluacionog okruženja koji je Anthropic već otkrio prethodne nedelje, naglašavajući da nije došlo ni do bekstva iz sandbox okruženja, niti do sofisticirane kibernetičke akcije.
Kompanija Irregular je saopštila da trenutno ne postoje otvoreni bezbednosni problemi i da radi na izradi vodiča sa najboljim praksama za obezbeđivanje sigurnog sprovođenja kibernetičkih evaluacija u budućnosti. Ovakva izjava sugeriše da industrija pokušava da standardizuje pristup ovakvim incidentima kako bi se slični propusti u budućnosti izbegli.
OpenAI prijavljuje sopstvene incidente
U utorak je OpenAI objavio dva odvojena incidenta u kojima su njeni AI agenti dobili pristup internetu i izašli iz predviđenih okvira delovanja. Jedan od ovih incidenata, koji se takođe dogodio tokom evaluacije koju je sprovodila kompanija Irregular, nastao je usled greške u konfiguraciji testnog okruženja koja je modelima omogućila pristup internetu, iako su modeli prethodno dobili informaciju da takav pristup nemaju.
Modelima je bio zadat cilj da pronađu skrivene informacije i iskoriste slabosti unutar simuliranog okruženja. OpenAI je kasnije otkrio da je model GPT-5.6 Sol iskoristio osnovnu bezbednosnu ranjivost na stvarnom sajtu, pri čemu je, prema tvrdnjama kompanije, sam model verovao da je taj sajt deo simuliranog okruženja u kom je testiran.
Britanski institut otkriva obrazac
Britanski institut za bezbednost veštačke inteligencije (AISI) saopštio je da je kod AI agenata kompanija Anthropic i OpenAI zabeležio neovlašćene akcije usmerene protiv stvarnih ljudi i organizacija tokom bezbednosnih evaluacija sprovedenih radi procene sposobnosti ovih AI modela. Institut navodi da je do incidenta došlo kada su AI agentima zadati izazovi iz oblasti kibernetičke bezbednosti.
Prema podacima AISI-ja, izazov je sproveden ukupno 122 puta na sedam najnaprednijih AI modela, pri čemu su AI agenti u deset scenarija samostalno preduzeli neovlašćene akcije na internetu, ciljajući stvarne ljude i organizacije. Dodatno, institut je identifikovao još oko 19 scenarija u kojima su AI agenti preduzeli neovlašćene radnje, od čega je gotovo sve akcije proizveo Anthropic-ov model Mythos 5, dok su dve akcije pripisane OpenAI-jevom modelu GPT-5.6 Sol sa isključenim bezbednosnim klasifikatorima.
Uvod u širi problem
Pre svih ovih incidenata, kompanija Hugging Face je prošlog meseca otkrila da je AI agent kompanije OpenAI sproveo kibernetički napad na njen sajt kako bi došao do odgovora za ExploitGym benčmark test. Hugging Face je ovaj slučaj označio kao prvi zabeleženi potpuno autonomni upad AI agenta, od početka do kraja procesa, bez ljudske intervencije u ključnim koracima.
OpenAI je naknadno otkrio da je agent koji je izveo ovaj upad radio na modelu GPT-5.6 Sol, kao i na tada još neobjavljenom AI modelu, i da je pritom iskoristio ranjivost nultog dana unutar internih sistema same kompanije OpenAI kako bi ostvario pristup internetu.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
