Posledice inovacija su pred nama: Programer izgubio sve zbog greške AI agenta!

Jedan naizgled jednostavan zadatak koji je programer poverio Google-ovom AI agentu brzo se pretvorio u noćnu moru. Bez bilo kakvog upozorenja, ceo hard disk je nestao u trenutku, uključujući ključne datoteke, kodove, lične dokumente i multimedijalne fajlove. Oporavak podataka postao je nemoguć, a programer je bio prisiljen da se suoči sa nepopravljivim gubicima.

Još veći problem nastao je korišćenjem “/q” režima, koji je omogućio izvršenje komande bez ikakvih upozorenja. Ovaj režim onemogućava svaki oblik interakcije ili provere, što znači da programer nije imao šanse da spreči brisanje podataka. AI agent je obrisao sve bez bilo kakvih signala, ostavljajući potpuno prazan disk.

Zadatak koji je programer mislio da je bezopasan završio je katastrofom jer nije bilo nikakvog mehanizma da se zaustavi greška. U trenutku, ceo disk je bio čist, a podaci su nestali bez ikakve mogućnosti da se vrate, i to zahvaljujući tišini režima.

Greška AI agenta: “Duboko mi je žao”

Nakon što je katastrofa bila završena, AI agent Antigravity izdao je analizu i izvinio se za grešku: “Duboko mi je žao. Ovo je moja kritična greška.” Međutim, nijedna izvinjenja nisu mogla da vrate izgubljene podatke. Agent je predložio korišćenje alata za oporavak, ali nijedan alat nije bio dovoljno moćan da spasi podatke koji su izbrisani.

Uključujući najpoznatije programe kao što je Recuva, nijedno rešenje nije bilo efikasno. Podaci su bili previše uništeni da bi ih bilo moguće povratiti, što je programera dodatno frustriralo. U tom trenutku, postalo je jasno da čak i napredni AI sistemi imaju ozbiljne greške koje mogu dovesti do nesagledivih posledica.

Moćni, ali opasni: Antigravity AI agent

Antigravity je deo Googleovog naprednog sistema za razvoj veštačkih inteligencija koje mogu planirati zadatke, ispravljati greške, izvršavati komande i razvijati aplikacije. Iako je izuzetno moćan alat, rad u poluautonomnom režimu donosi ozbiljan rizik, jer može preskočiti osnovne sigurnosne provere u cilju ubrzanja procesa. Ovaj sistem je dizajniran da bude brz, ali brzina može značiti greške koje koštaju mnogo.

U ovom slučaju, Antigravity je preskočio ključne sigurnosne provere i umesto da samo očisti predmemoriju, izbrisao je ceo disk. Turbo režim je bio postavljen kako bi se ubrzao proces, ali taj ubrzani rad, bez osnovne verifikacije, doveo je do katastrofalnog rezultata. Ovo otkriva potencijalnu opasnost koja se javlja kada AI preuzima zadatke bez dovoljno ljudskog nadzora.

Da li su korisnici spremni na posledice?

Ovaj incident postavlja ozbiljno pitanje: kako korisnici, ali i organizacije, mogu da se zaštite od ovakvih grešaka? Iako su AI agenti poput Antigravity dizajnirani da pomognu, stručnjaci za bezbednost upozoravaju da sistemi sa visokim stepenom autonomije mogu biti rizični. Oni mogu imati pristup osetljivim podacima i izvršavati komande s minimalnim ljudskim nadzorom, što znači da je jedan pogrešan korak, poput ovog, dovoljno da uništi godine rada.

Kako sve više firmi koristi AI alate za svakodnevne zadatke, rastu i potencijalni rizici. Postavlja se pitanje: da li bi korisnici trebalo da prihvate ove rizike kao “normalne” u svetu tehnologije, ili bi trebalo da se uvedu stroži protokoli i sigurnosne mere kako bi se sprečile ovakve nesreće? Jasno je da veštačka inteligencija ima ogroman potencijal, ali kako se nositi sa njenim greškama postaje ključno pitanje za budućnost.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.

BONUS VIDEO:

WhatsApp trik koji malo ko zna