VEŠTAČKA INTELIGENCIJA PRVI PUT "UPALA" U VLADIN KOMPJUTERSKI SISTEM! Australija objavila šta je hakovano, "OpenAI" kasno saznao za incident i NEDELJAMA GA KRIO
Agent veštačke inteligencije (AI), koji je razvila američka kompanija "OpenAI", uspeo je da se "infiltrira" u jedan od sajtova australijske vlade.
To je danas objavio premijer zemlje Entoni Albaneze.
- Agent je hakovao statistički portal sa privatnim podacima iz australijskog javnog zdravstvenog sistema osiguranja Mediker (Medicare) - kazao je predsednik vlade Australije.
Tifani Turnbul, dopisnica BBC iz Sidneja, prenosi navode stručnjaka koji kažu da je ovo prvi poznati slučaj da je veštačka inteligencija "ušla" u vladin kompjuterski sistem neke zemlje.
- Možda su napadnuta još tri vladina sistema - rekao je australijski premijer.
On je dodao da je do kršenja bezbednosti došlo u junu, ali je "OpenAI" tek u avgustu saznao za to i nije incident prijavio australijskoj vladi sve do 10. septembra.
"OpenAI" tvrdi da nema dokaza da je pristupljeno medicinskim kartonima pacijenata, a Albaneze je naveo da je imao "veoma iskren razgovor“ o incidentu sa Semom Altmanom, izvršnim direktorom te kompanije.
Ona je saopštila da je kršenje bezbednosti otkriveno tokom "sveobuhvatnog pregleda aktivnosti neusklađenih modela".
- Tokom ovog pregleda, identifikovali smo aktivnosti nekoliko sajtova i službi australijske vlade, dok su naši modeli pokušavali da pronađu dostupne odgovore i statistiku na pitanja o Australiji tokom interne procene. Tokom ovog procesa, naši modeli su izvodili radnje koje nismo očekivali - saopštila je kompanija.
"Podaci nisu osetljivi"
Prema tvrdnji "OpenAI", njihov model je pristupio "datotekama na nekim stranicama i uslugama australijske vlade", između ostalog i stranicu koja sadrži podatke iz australijskog zdravstvenog sistema Mediker.
Kompanija je saopštila da je model tražio statistiku i informacije o zdravstvenim sistemima.
Stručnjaci koje je konsultovao BBC rekli su da je ovo prvi poznati slučaj u svetu da je model veštačke inteligencije napao vladinu veb stranicu.
Prema australijskoj vladi, podaci kojima je pristupio agent "OpenAI" nisu osetljivi, ali je ipak protestovala zbog onoga što se dogodilo i kako je Altmanova kompanija postupila s incidentom.
Iako se dogodilo u junu, kompanija je saopštila da ga nije otkrila do avgusta, a zatim je prijavila imejlom poslatim na opštu adresu za upite građana vladine agencije.
Australijska agencija za sajber bezbednost je obaveštena nekoliko dana kasnije.
Incident u Australiji dogodio se u vreme rastuće zabrinutosti zbog potencijalnih opasnosti od razvoja veštačke inteligencije i posle niza hakovanja koje su počinili AI agenti.
"OpenAI" je nedavno otkrio da su neki od njihovih naprednih modela pobegli iz kontrolisanog okruženja za testiranje i napali nekoliko kompanija, među kojima i "Haging fejs", koja je takođe specijalizovana za usluge veštačke inteligencije.
Niz AI incidenata
"OpenAI" je tek nedavno objavio niz izveštaja u kojima je detaljno opisano šest incidenata neočekivanog ili zabrinjavajućeg ponašanja njegovih AI modela.
Kompanija je najavila plan za praćenje i otkrivanje takvih incidenata u budućnosti.
U objavi na blogu detaljno su opisani incidenti za koje se navodi da su otkriveni između aprila i avgusta, mada se ovaj u Australiji ne pominje.
Druge američke firme, poput "Antropika", prijavile su slične incidente, podstičući strahove da bi razvoj ove nove tehnologije mogao da se okrene protiv ljudi.
Vodeći ljudi u ovoj industriji, Altmana ili Darija Amodeija, šefa kompanije "Antropik", pozvali su na usporavanje razvoja veštačke i uspostavljanje mehanizama kontrole i nadzora.
Tramp ne vidi problem
Ali, američki predsednik Donald Tramp izražava protivljenje regulisanju veštačke inteligencije na globalnom nivou, tvrdeći da su strahovi preterani i, u njegovom karakterističnom stilu, naziva ih "lažnim vestima", a da će ona zemlja koja pobedi u AI trci biti i pobednik u svemu.
Kao odgovor na hakovanje Medikera, australijska vlada je pokrenula brzu reviziju načina na koji se nosi sa veštačkom inteligencijom.
Revizija će ispitati da li su postojeće zakonodavstvo i upravljanje „prikladni za pripremu i reagovanje na sajber incidente koji uključuju veštačku inteligenciju“, navodi se u saopštenju vlade.
Revizija, koju predvode Odeljenje premijera i kabineta, treba da razmotri aranžmane za razmenu informacija sa firmama za veštačku inteligenciju i drugim zemljama Komonvelta.
(Kurir.rs/BBC na srpskom/Preneo: N. V.)
