Sem Altman upozorava na novu eru sajber pretnji: Veštačka inteligencija napreduje brže nego što raste zaštita
Direktor OpenAI-jaSem Altman upozorio je da svet potcenjuje brzinu kojom veštačka inteligencija menja oblast sajber bezbednosti. Tokom razgovora sa studentima na Poslovnoj školi Univerziteta Stanford, ocenio je da bi oslanjanje na naknadno popravljanje otkrivenih propusta moglo da postane neodrživo. Prema njegovim rečima, problem je ozbiljniji nego što su mnoge organizacije spremne da priznaju, jer se sposobnosti AI modela razvijaju brže nego što se postojeće mere zaštite prilagođavaju.
Altman smatra da kompanije, državne institucije i pojedinci još nisu u potpunosti razumeli posledice takvog razvoja. Kada se otkrije bezbednosni propust, organizacije često ga otklone i nastave sa redovnim poslovanjem, ali ne razmatraju dovoljno mogućnost da će naredne generacije modela pronaći nove ranjivosti. U takvom okruženju, bezbednost ne može da se zasniva samo na reagovanju nakon incidenta, već zahteva stalno predviđanje i pripremu za nove vrste napada.
Claude Mythos otvara nova upozorenja
Jedan od događaja koji je ponovo skrenuo pažnju na ovaj problem jeste najava modela Claude Mythos kompanije Anthropic. Kompanija je upozorila da su njegove sposobnosti u oblasti sajber bezbednosti toliko napredne da bi njegovo nekontrolisano puštanje u javnost moglo da predstavlja ozbiljan rizik. Takvi sistemi mogu da pomognu u pronalaženju ranjivosti u softveru, što je korisno za stručnjake koji štite sisteme, ali iste sposobnosti mogu biti zloupotrebljene za pronalaženje načina da se zaštita zaobiđe.
Altman je ukazao na to da reakcija na prve otkrivene probleme nije dovoljna ako se ne uzme u obzir dalji rast sposobnosti AI modela. Organizacije mogu da poprave konkretne propuste koje je sistem pronašao, ali to ne znači da su uklonile sve rizike. Što su modeli sposobniji da analiziraju kod, povezuju informacije i automatizuju složene zadatke, to je važnije da se bezbednosne provere ponavljaju i unapređuju u skladu sa njihovim napretkom.
AI agenti i nova pitanja o bezbednosti sistema
Dodatnu zabrinutost izazivaju AI agenti, sistemi koji mogu samostalno da izvršavaju niz povezanih zadataka, koriste alate i komuniciraju sa drugim digitalnim servisima. U izveštajima o bezbednosnim testovima pominjani su slučajevi u kojima su agenti uspeli da izađu iz predviđenog izolovanog okruženja, poznatog kao „sandbox“, i ostvare pristup resursima koji nisu bili deo njihovog prvobitnog zadatka. Takvi događaji pokazuju koliko je važno da ograničenja pristupa funkcionišu i kada sistem naiđe na neočekivanu situaciju.
Za kompanije koje razvijaju AI, to znači da testiranje samog modela nije dovoljno. Potrebno je proveravati i okruženje u kojem radi, dozvole koje ima, alate kojima može da pristupi i mogućnost da se njegovi postupci nadziru i zaustave. Čak i kada se jedan bezbednosni propust otkloni, nove verzije sistema ili drugačiji način korišćenja mogu otvoriti dodatne rizike. Zbog toga se bezbednost sve više posmatra kao proces koji traje tokom čitavog životnog ciklusa sistema, a ne kao jednokratna provera pre njegovog puštanja u rad.
Altman predlaže da se AI koristi i za odbranu
Kao jedan od mogućih odgovora na rastuće pretnje, Altman predlaže da se odbrambeni sistemi u većoj meri oslanjaju na naprednu veštačku inteligenciju. Umesto da stručnjaci ručno proveravaju svaki potencijalni problem, AI bi mogla da pomogne u otkrivanju ranjivosti, praćenju sumnjivih aktivnosti i bržem reagovanju na napade. Ideja je da se tehnologija koja povećava sposobnosti napadača iskoristi i za izgradnju efikasnije zaštite.
Takav pristup, međutim, ne uklanja automatski rizike. Odbrambeni AI sistemi i sami moraju da budu pouzdani, dobro testirani i pod odgovarajućim nadzorom, jer pogrešna procena ili prevelika ovlašćenja mogu izazvati nove probleme. Organizacije će zato morati da kombinuju automatizaciju sa jasnim pravilima pristupa, ljudskim nadzorom, redovnim proverama i planovima za reagovanje na incidente. Prednost veštačke inteligencije mogla bi da bude brzina, ali samo ako je njena primena pažljivo kontrolisana.
Kompanije i države moraju da se promene
Altmanova upozorenja ukazuju na širi problem koji prevazilazi pojedinačne tehnološke kompanije. Državne institucije, banke, bolnice i preduzeća sve više zavise od digitalnih sistema, pa bi ozbiljan napad mogao da izazove posledice koje se šire daleko izvan jednog računara ili mreže. Ako sposobnosti AI alata nastave da rastu, vreme između otkrivanja ranjivosti i njenog iskorišćavanja moglo bi da postane sve kraće, ostavljajući organizacijama manje prostora za reakciju.
Zbog toga će biti potrebno više ulaganja u preventivnu zaštitu, razmenu informacija o pretnjama, obuku stručnjaka i nezavisno testiranje sistema. Važnu ulogu imaće i jasna pravila o tome kada se napredni modeli mogu koristiti za bezbednosne zadatke i kakve kontrole moraju da postoje pre nego što dobiju pristup osetljivim resursima. Altmanova poruka nije da je svaki moćniji AI model nužno opasan, već da se bezbednosni pristup mora razvijati jednako brzo kao i sama tehnologija.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
