Bil Gejts povukao poređenje koje zvuči alarmantno: Dogovor o AI-ju mogao bi biti teži od nuklearnog
Veštačka inteligencija razvija se brže nego što države uspevaju da uspostave zajednička pravila, a Bil Gejts upozorava da bi dogovor velikih sila o kontroli ove tehnologije mogao biti teži od pregovora o ograničavanju nuklearnog oružja tokom Hladnog rata. Suosnivač Majkrosofta smatra da države moraju da budu uključene u nadzor nad AI sistemima i da bezbednosne mere ne mogu ostati samo na nivou dobrovoljnih pravila kompanija.
Gejts je istakao da je situacija posebno komplikovana zato što se savremena veštačka inteligencija razvila prvenstveno u privatnom sektoru. Za razliku od nuklearne tehnologije, gde su vlade bile direktno uključene u razvoj i imale mnogo veći uvid u sposobnosti sistema, najnaprednije AI modele danas stvaraju privatne kompanije. Istovremeno se pojavljuju sve moćnije mogućnosti u oblastima kao što su sajbernapadi i biotehnologija, dok državni stručnjaci ne prate nužno taj razvoj istom brzinom.
Samoregulacija kompanija nije dovoljna
Gejts smatra da kompanije ne bi trebalo same da odlučuju koliko su njihovi AI sistemi bezbedni. Prema njegovom stavu, zakoni bi trebalo da zahtevaju određene zaštitne mehanizme i sisteme za nadzor, kako bi postojala jasna pravila koja važe za sve, a ne samo za kompanije koje dobrovoljno prihvate određene standarde.
Takva regulacija, prema njegovoj proceni, ne bi morala da zaustavi razvoj tehnologije. Gejts navodi da bi dodatni nadzor doneo određeno administrativno opterećenje industriji, ali da to ne bi trebalo dramatično da uspori razvoj AI-ja. Njegov predlog je da bezbednosne provere i mogućnost praćenja ponašanja naprednih sistema postanu deo obaveznih pravila, umesto da se na njih računa samo kada kompanije same procene da su potrebne.
Zašto je nuklearno oružje drugačiji slučaj
Poređenje sa nuklearnim oružjem nije slučajno. Tokom Hladnog rata postojali su relativno jasno definisani elementi koje su države mogle da kontrolišu i prate, od pristupa nuklearnim materijalima do testiranja oružja. Kod veštačke inteligencije takva kontrolna tačka ne postoji na isti način, jer se razvoj odvija u kompanijama, modeli mogu brzo da se menjaju, a njihova primena nije ograničena na jednu državu.
Upravo zbog toga Gejts smatra da bi dogovor između Sjedinjenih Američkih Država, Kine i drugih velikih tehnoloških sila bio posebno komplikovan. Jedna država može da uvede stroža pravila, dok druga nastavi razvoj bez istih ograničenja, što otvara problem konkurencije i bezbednosti. AI se pritom može distribuirati mnogo lakše nego tehnologija koja zahteva velike fizičke infrastrukture i strogo kontrolisane materijale.
Upozorenja na sajbernapade i biotehnologiju
Posebno ozbiljan deo njegovog upozorenja odnosi se na mogućnost zloupotrebe naprednih AI sistema. Gejts je rekao da veštačka inteligencija ima potencijal da, u kombinaciji sa ljudima koji imaju loše namere, doprinese događajima sa ogromnim brojem žrtava. Kao oblasti koje ga posebno zabrinjavaju izdvojio je sajbernapade i biotehnologiju, gde napredni AI alati mogu da povećaju sposobnosti pojedinaca ili organizacija.
To nije tvrdnja da će se takav scenario dogoditi, već procena mogućeg rizika. Gejts pritom ne zagovara potpuno zaustavljanje razvoja veštačke inteligencije, već insistira da se bezbednosni sistemi razvijaju zajedno sa samom tehnologijom. Njegov argument je da države ne bi trebalo da čekaju da se pojavi ozbiljan incident kako bi tek tada pokušale da uvedu pravila za sisteme koji su već postali široko dostupni.
SAD bi trebalo da predvode dogovor
Gejts smatra da bi Sjedinjene Američke Države trebalo da imaju vodeću ulogu u stvaranju međunarodnog okvira za AI. Istovremeno, upozorava da regulacija ne može ostati samo američko pitanje, jer se tehnologija razvija i koristi širom sveta. Bez saradnje velikih država, nacionalna pravila teško mogu da obuhvate sve načine na koje se moćni AI sistemi mogu razvijati i koristiti.
Poseban problem predstavlja odnos SAD i Kine, koje se istovremeno takmiče u razvoju napredne veštačke inteligencije. Upravo zato je međunarodni dogovor mnogo komplikovaniji od običnog donošenja zakona u jednoj zemlji. Gejtsovo upozorenje dolazi u trenutku kada se rasprava o AI-ju sve više pomera sa pitanja novih funkcija i poslovne primene na pitanje ko kontroliše najmoćnije sisteme, kako se njihov rad nadzire i šta se dešava kada tehnologija bude zloupotrebljena.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
