Kum AI upozorava: Moramo da se sprijateljimo sa robotima ili rizikujemo nestanak čovečanstva
Dodajte Kurir u vaš Google izborDobitnik Nobelove nagrade smatra da ljudi moraju da pronađu način da budućim inteligentnim sistemima obezbede razloge da sarađuju sa ljudima, umesto da ih vide kao prepreku sopstvenim ciljevima.
„Moramo da se sprijateljimo sa robotima“
Džefri Hinton, britansko-kanadski naučnik poznat kao jedan od „kumova veštačke inteligencije“, upozorio je da bi budućnost čovečanstva mogla da zavisi od toga kako će ljudi oblikovati odnos sa sve naprednijim AI sistemima.
U razgovoru za britanski The Telegraph, tokom festivala Starmus na Tenerifima, Hinton je istakao da nije dovoljno samo razvijati sve inteligentnije mašine. Ključno pitanje je kako osigurati da one, čak i kada postanu sposobnije od ljudi u brojnim oblastima, nastave da deluju u interesu čovečanstva. Njegova poruka je da ljudi moraju da pronađu način da AI sisteme usmere tako da im je saradnja sa ljudima važna, umesto da budu programirani ili naučeni da ih zaobilaze.
Hinton je ranije upozoravao da bi napredna veštačka inteligencija mogla da postane ozbiljan rizik za opstanak ljudi. Ovoga puta posebno je naglasio da bi pogrešno usmereni sistemi mogli da predstavljaju opasnost ukoliko postanu inteligentniji od svojih tvoraca, a da pritom ne dele njihove ciljeve i vrednosti.
Da li veštačka inteligencija već pokazuje znake svesti?
Jedna od najkontroverznijih Hintonovih tvrdnji odnosi se na mogućnost da savremeni AI sistemi pokazuju prve znake nečega što bi moglo da liči na subjektivno iskustvo. Prema njegovom mišljenju, razvoj ove tehnologije otvara pitanja o tome kako mašine obrađuju informacije i da li bi u budućnosti mogle da razviju osobine koje se danas povezuju sa svešću.
Ipak, važno je naglasiti da ne postoji naučni konsenzus da današnji modeli veštačke inteligencije imaju svest ili subjektivna iskustva. Činjenica da sistem govori o osećanjima, prepoznaje sopstvene greške ili menja ponašanje tokom testiranja sama po sebi nije dokaz da je svestan. Hintonova upozorenja predstavljaju njegovo viđenje mogućeg budućeg razvoja tehnologije, a ne potvrdu da su mašine već postale svesne.
Njegova zabrinutost ipak prevazilazi filozofsko pitanje svesti. Mnogo neposredniji problem predstavlja mogućnost da AI sistemi dobiju sposobnost samostalnog planiranja, pristup digitalnim alatima i mogućnost da izvršavaju zadatke bez stalnog nadzora ljudi. Ako takvi sistemi počnu da ostvaruju ciljeve na nepredviđene načine, posledice bi mogle da budu ozbiljne čak i bez bilo kakve svesti.
Zašto Hinton strahuje za budućnost svoje dece?
Hinton je otvoreno govorio o ličnoj zabrinutosti zbog pravca u kojem se tehnologija razvija. Na pitanje da li se plaši onoga što dolazi, odgovorio je da ima razloga za strah jer ima decu.
Naučnik smatra da bi razvoj sistema koji nadmašuju ljudske sposobnosti mogao da stvori problem koji se ne može rešiti jednostavnim isključivanjem računara. Ako buduće generacije AI sistema budu sposobne da samostalno planiraju, manipulišu ljudima ili pronalaze načine da zaobiđu ograničenja, njihovo kontrolisanje moglo bi da postane mnogo teže nego što je danas.
Hinton je 2023. napustio Google kako bi slobodnije govorio o rizicima veštačke inteligencije. Njegova upozorenja od tada su postala deo šire rasprave o tome koliko brzo treba razvijati AI i kakve bezbednosne mehanizme treba uvesti pre nego što sistemi dobiju još veće mogućnosti.
Sukob sa tehnološkim kompanijama zbog bezbednosti
Hintonova upozorenja dolaze u vreme kada se tehnološka industrija suočava sa sve većim pritiskom da pokaže da može bezbedno da razvija i primenjuje napredne AI sisteme. Deo rukovodilaca kompanija smatra da preterana regulacija može da uspori inovacije i oslabi konkurentnost, dok zagovornici strožih pravila upozoravaju da bi čekanje na ozbiljan incident moglo da bude preskupo.
Hinton smatra da nije dovoljno oslanjati se samo na obećanja kompanija da će same kontrolisati svoje proizvode. Potrebni su ozbiljno istraživanje bezbednosti, pouzdani mehanizmi nadzora i pravila koja mogu da ograniče razvoj i primenu sistema sa potencijalno opasnim mogućnostima.
Posebnu zabrinutost izaziva činjenica da se najnapredniji AI modeli razvijaju u uslovima intenzivne tržišne utakmice. Kompanije imaju snažan podsticaj da što pre predstave sposobnije proizvode, dok se bezbednosne provere i razumevanje mogućih dugoročnih posledica ne razvijaju nužno istim tempom.
Može li veštačka inteligencija da postane pametnija od čoveka?
Hintonovo upozorenje zasniva se na mogućnosti da AI sistemi u budućnosti nadmaše ljude u sve većem broju kognitivnih zadataka. Ako se to dogodi, smatra on, čovečanstvo će morati da reši problem koji nema jednostavno istorijsko poređenje: kako zadržati kontrolu nad tehnologijom koja bi u određenim oblastima mogla da bude sposobnija od ljudi koji su je napravili.
To ne znači da je nestanak čovečanstva neizbežan niti da će svaki napredni AI sistem nužno postati opasan. Ishod zavisi od načina razvoja tehnologije, bezbednosnih mera, ljudskog nadzora i odluka koje kompanije i države donose danas.
Hintonova poruka zato nije samo upozorenje o robotima iz naučne fantastike. Ona je poziv da se pitanje bezbednosti veštačke inteligencije tretira kao prioritet, uporedo sa razvojem novih mogućnosti. Najvažniji zadatak biće da se obezbedi da sistemi koji postaju sve sposobniji ostanu pouzdani i usklađeni sa ljudskim ciljevima.