UMALO DA IZBIJE RAT IZMEĐU AMERIKE I KINE?! Marinci krenuli da izvrše upad, avioni poleteli, a onda je došlo do ŠOKANTNOG OTKRIĆA - AI ih je opasno prevarila!
- Američka vojska umalo je pokrenula operaciju protiv kineskog broda na Bliskom istoku, jer je obaveštajni izveštaj uz pomoć AI pogrešno procenio njegov teret.
- Naoružani vojnici su se spremali za ukrcavanje, a avioni su već bili u vazduhu, pre nego što je provera otkrila grešku.
- Incident je otvorio pitanje koliko se vojska sme oslanjati na veštačku inteligenciju pri donošenju odluka sa mogućim teškim posledicama.
Američka vojska umalo je pokrenula operaciju protiv kineskog broda na Bliskom istoku nakon što je dobila obaveštajni izveštaj u kojem je, uz pomoć veštačke inteligencije, pogrešno identifikovan njegov teret.
Incident se dogodio ovog proleća, usred rata sa Iranom. U obaveštajnom izveštaju navedeno je da kineski brod navodno prevozi komponente povezane sa programom nuklearnog naoružanja.
Prema navodima četiri izvora upoznata sa slučajem, američka vojska počela je da priprema presretanje broda. Dva izvora rekla su da su se naoružani pripadnici američkih snaga pripremali da se ukrcaju na brod, dok su vojni avioni već bili u vazduhu.
Međutim, neposredno pre početka planirane operacije američki zvaničnici detaljnije su proverili obaveštajni izveštaj koji je sastavio analitičar iz Komande za specijalne operacije. Tada je utvrđeno da je analitičar koristio četbot zasnovan na veštačkoj inteligenciji i da je sistem pogrešno identifikovao materijal koji je brod prevozio.
CNN nije uspeo da utvrdi šta se zapravo nalazilo u teretu. Jedan od izvora opisao je obaveštajni izveštaj kao "potpuno netačan", ali je upozorio da je situacija "zamalo izazvala rat".
Američka operacija protiv kineskog broda mogla je da preraste u direktan oružani sukob između Vašingtona i Pekinga.
Incident je otvorio ozbiljna pitanja o sve široj upotrebi veštačke inteligencije u američkoj vojsci. AI se danas koristi za analizu ogromnih količina obaveštajnih podataka, određivanje ciljeva za napade, logistiku, upravljanje budžetima i lancima snabdevanja.
Analitičari već dugo upozoravaju da bi pogrešni ili kompromitovani podaci mogli da dovedu do katastrofalnih procena ako se odluke o vojnim operacijama budu previše oslanjale na AI sisteme.
Više izvora navelo je da u američkoj vojsci ne postoji dovoljno ujednačen pristup korišćenju ove tehnologije. Nije uvek jasno ni koji se AI alati koriste u različitim jedinicama, kao ni kakva pravila treba da postoje kako bi čovek proverio rezultate sistema pre donošenja odluka sa potencijalno ozbiljnim posledicama.
Američki ministar rata, Pit Hegset najavio je ove godine ubrzavanje primene veštačke inteligencije u svim granama vojske i pozvao ih da budu otvoreniji prema njenom korišćenju.
Njegov cilj je da SAD postanu "vojska koja na prvom mestu koristi AI" u svim domenima ratovanja. Međutim, jedan izvor upoznat sa načinom na koji se tehnologija uvodi u Pentagon rekao je da je to u suštini, "samo način da brže dođemo do loše ideje."
Tristan Haris, suosnivač Centra za humanu tehnologiju i bivši stručnjak kompanije Google za etiku dizajna, upozorio je da slučaj kineskog broda pokazuje koliko brzo AI može da utiče na vojne odluke sa ogromnim posledicama.
Haris smatra da bi trka SAD i Kine u razvoju veštačke inteligencije mogla dodatno da ubrza donošenje odluka, ostavljajući sve manje vremena za proveru informacija.
On je pozvao Vašington i Peking da sarađuju u oblasti bezbednosti AI, čak i dok se takmiče na drugim poljima.
Prema njegovim rečima, dve zemlje trebalo bi da uspostave direktan kanal komunikacije za incidente povezane sa veštačkom inteligencijom, po uzoru na telefonsku liniju koja je tokom Hladnog rata povezivala Vašington i Moskvu.
- Ne želimo situaciju u kojoj rat može da eskalira ni iz čega - upozorio je Haris.
· Reaguj