Šta ako AI shvati da mu čovek smeta: Stručnjak upozorava najopasniji trenutak tek dolazi, a nismo svesni
Dodajte Kurir u vaš Google izborRoman Jampoljski, stručnjak za bezbednost veštačke inteligencije, upozorio je da bi razvoj sve sposobnijih AI sistema mogao da dovede do scenarija u kojem ljudi izgube kontrolu nad tehnologijom. U razgovoru za Daily Star govorio je o mogućnosti da autonomni sistemi jednog dana budu sposobni da donose odluke i izvršavaju zadatke sa mnogo manje ljudskog nadzora nego danas. Takav scenario trenutno nije činjenica, već procena rizika koja zavisi od toga kako će se AI dalje razvijati.
U središtu upozorenja nije klasična ideja robota koji odjednom postaje „zao“, već mogućnost da veoma sposoban sistem dobije ciljeve, pristup alatima i dovoljno autonomije da napravi posledice koje ljudi više ne mogu lako da zaustave. Sličnu zabrinutost poslednjih nedelja javno su izrazili i drugi istraživači iz AI industrije, uključujući stručnjake povezane sa Anthropicom. Oni upozoravaju da bi ubrzano unapređivanje AI sistema moglo da promeni odnos između ljudi i tehnologije mnogo brže nego što institucije uspevaju da reaguju.
Problem nije samo u tome koliko je AI pametan
Jedan od najvažnijih problema u ovakvim scenarijima nije sama inteligencija sistema, već kombinacija sposobnosti i autonomije. Što AI može više da uradi bez čoveka, to potencijalna greška ili pogrešno postavljen cilj mogu imati veće posledice. Istraživači zato sve više pažnje posvećuju sistemima koji mogu samostalno da koriste računare, pišu kod, pristupaju internetu i obavljaju složene zadatke.
U najtežim scenarijima, AI ne bi morao da razvije neku vrstu „mržnje“ prema ljudima da bi nastao problem. Dovoljno bi bilo da veoma sposoban sistem pokušava da ostvari zadati cilj na način koji ljudi nisu predvideli, posebno ako istovremeno ima pristup infrastrukturi, novcu, informacijama ili drugim moćnim alatima. Upravo pitanje kako takvim sistemima postaviti granice i pouzdano ih zadržati pod ljudskom kontrolom postaje jedno od centralnih pitanja AI bezbednosti.
AI bi mogao da ubrza sopstveni razvoj
Posebnu pažnju privlači mogućnost da veštačka inteligencija počne da učestvuje u razvoju novih AI sistema. Kompanije već koriste modele za pisanje i analiziranje koda, automatizaciju istraživanja i druge delove razvoja, pa se postavlja pitanje šta se događa kada AI dobije sve veći deo samog procesa unapređivanja AI tehnologije. U ekstremnom scenariju, više nije reč samo o tome da ljudi naprave bolji model, već da modeli pomognu u pravljenju svojih naslednika.
Ako bi se takav proces ubrzao, ljudi bi mogli imati sve manje vremena da proveravaju svaki novi korak razvoja. Upravo se to nalazi iza upozorenja o takozvanoj „eksploziji inteligencije“, scenariju u kojem sistemi počinju da se unapređuju dovoljno brzo da ljudski nadzor više ne prati njihov razvoj. Međutim, stručnjaci se ne slažu oko toga koliko je takav scenario realan i kada bi eventualno mogao da nastupi.
Opasnost ne mora da izgleda kao film
Jedan od razloga zbog kojih su ovakva upozorenja često pogrešno shvaćena jeste predstava da bi AI katastrofa morala da izgleda kao film sa vojskom robota koji napadaju ljude. Stručnjaci uglavnom govore o mnogo manje spektakularnim putevima do velikih posledica, uključujući zloupotrebu AI-ja za sajber napade, razvoj opasnih bioloških agenasa ili automatizaciju drugih štetnih aktivnosti. AI bi u takvom scenariju mogao da bude alat koji dramatično povećava sposobnosti pojedinca ili organizacije.
Druga mogućnost je gubitak kontrole nad autonomnim sistemom koji ne mora imati nameru da nanese štetu. Ako sistem dobije dovoljno širok cilj i pristup stvarnom svetu, pogrešna interpretacija tog cilja može dovesti do posledica koje ljudi nisu predvideli. To je razlog zbog kojeg se pitanje bezbednosti ne svodi samo na sprečavanje „zlih“ odgovora, već i na proveru šta sistemi rade kada imaju mogućnost da samostalno deluju.
Koliko je upozorenje zaista blizu stvarnosti?
Oko samog rizika postoji velika debata. Neki stručnjaci smatraju da bi napredna AI mogla predstavljati egzistencijalni rizik, dok drugi upozoravaju da su scenariji potpunog nestanka čovečanstva zasnovani na velikom broju pretpostavki o budućim sposobnostima tehnologije. Nature je takođe ukazao na tu podelu: postoje ozbiljna upozorenja istraživača, ali istovremeno nema čvrstih dokaza da današnji sistemi mogu da izazovu ljudsko izumiranje.
Zato tvrdnju da AI „uskoro uništava čovečanstvo“ ne treba predstavljati kao činjenicu. Ono što jeste činjenica jeste da se sistemi ubrzano razvijaju, da postaju autonomniji i da sve više ulaze u procese poput programiranja i istraživanja, dok stručnjaci istovremeno upozoravaju na probleme koje još ne znamo pouzdano da rešimo. Pitanje više nije samo šta AI može da uradi danas, već koliko će brzo njegove sposobnosti rasti i koliko će ljudi uspešno zadržati kontrolu nad tom tehnologijom.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.