Google-u je prekipelo zbog AI spama: Obustavljene nove prijave bezbednosnih propusta
Dodajte Kurir u vaš Google izborGoogle je privremeno obustavio prijem novih prijava bezbednosnih propusta u okviru svog programa za nagrađivanje istraživača koji pronalaze ranjivosti u open-source softveru. Odluka je doneta zbog naglog porasta automatizovanih prijava, a kompanija navodi da je velika većina njih nevalidna. U pozadini problema nalazi se sve češće korišćenje veštačke inteligencije za automatsko pronalaženje i prijavljivanje navodnih bezbednosnih propusta.
Google je svoj Open Source Software Vulnerability Rewards Program, poznat kao OSS VRP, pokrenuo 2022. godine kako bi podstakao istraživače da pronalaze i odgovorno prijavljuju probleme u open-source projektima kompanije. Program obuhvata projekte kao što su Go, Angular, Bazel, Protocol Buffers i Fuchsia, ali i pojedine komponente i podešavanja koji mogu uticati na bezbednost softverskog lanca snabdevanja.
AI pravi lažne prijave
Generativna veštačka inteligencija može veoma brzo da analizira velike količine programskog koda i ukaže na delove koji izgledaju problematično. Međutim, isti alati mogu da naprave uverljiv izveštaj o ranjivosti koja zapravo ne postoji ili nema stvaran bezbednosni značaj. Google je još ranije ove godine upozorio na veliki rast takvih prijava, uključujući izveštaje sa netačnim informacijama i AI „halucinacijama“ o načinu na koji bi navodni propust mogao da bude iskorišćen.
Problem nisu samo potpuno izmišljene ranjivosti. Među prijavama se nalaze i stvarne greške u kodu koje u praksi ne predstavljaju bezbednosni rizik, na primer zato što problematični deo programa nije moguće iskoristiti u stvarnom napadu. Google je zbog toga već pooštrio kriterijume i za određene vrste prijava počeo da traži konkretnije dokaze da se ranjivost zaista može reprodukovati.
Stručnjaci imaju više posla
Pooštravanje pravila ipak nije rešilo problem. Od 1. oktobra Google više ne prima nove prijave kroz OSS VRP, navodeći kao razlog „značajan porast automatizovanih prijava“, od kojih je velika većina nevalidna. Svaka takva prijava zahteva vreme stručnjaka koji mora da pregleda kod, proveri tvrdnje iz izveštaja, pokuša da reprodukuje problem i proceni da li on zaista predstavlja bezbednosni rizik.
Upravo tu nastaje najveći problem sa AI spamom. Kada veliki broj automatski napravljenih izveštaja stigne odjednom, stručnjaci troše vreme na proveru neupotrebljivih prijava umesto na istraživanje stvarnih ranjivosti. Zbog toga AI, koji bi trebalo da pomogne u pronalaženju bezbednosnih problema, može da oteža posao ljudima koji treba da utvrde koji su problemi zaista opasni.
Program nije potpuno ugašen
Googleova odluka ipak ne znači da je ceo program nagrađivanja za bezbednosne propuste ugašen. Ograničenje se odnosi na nove prijave ranjivosti proizvoda u okviru OSS VRP-a. Prijave koje se tiču napada na softverski lanac snabdevanja i dalje se prihvataju, kao i izveštaji poslati pre 1. oktobra.
Istraživači mogu da koriste i druge Googleove programe, među kojima je Patch Rewards Program. On nagrađuje bezbednosna poboljšanja open-source projekata, pa istraživači i dalje imaju načine da prijave probleme i doprinesu bezbednosti softvera. Google sada želi da promeni način funkcionisanja OSS VRP-a kako bi se bolje izborio sa automatizovanim prijavama.
Nova pravila stižu 2027.
Kompanija je najavila da će više informacija o budućnosti programa objaviti u prvom kvartalu 2027. godine. Cilj je da se uvede način rada koji će omogućiti da korisne prijave i dalje brzo dođu do stručnjaka, dok bi se veliki broj automatski napravljenih i nevalidnih izveštaja filtrirao pre nego što opterete timove za bezbednost.
Google nije jedini koji se suočava sa ovim problemom. Početkom godine projekat curl ukinuo je svoj program nagrađivanja na platformi HackerOne nakon što je tim bio zatrpan velikim brojem nekvalitetnih AI-generisanih prijava. Veštačka inteligencija zato predstavlja svojevrsni paradoks u bezbednosti: može da pomogne istraživačima da pronađu greške koje bi čovek teško uočio, ali bez ljudske provere može da proizvede toliko bezvrednih prijava da stvarne ranjivosti postanu teže uočljive.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.