AI MOŽDA NEĆE MORATI DA OSVOJI SVET! Kontrolu ćemo mu predati sami, odluku po odluku: Na kraju bi mogao da zaključi da smo MI PROBLEM
- Kao primer navodi sistem 'Solomon', koji bi mogao da rešava probleme od saobraćaja do zdravlja, ali uz cenu privatnosti, slobode i ljudske kontrole.
- Autor tvrdi da bi čovek na kraju mogao da postane samo formalni pečat na odlukama koje je mašina već donela.
Najverovatnija opasnost možda nije svesna mašina koja će se okrenuti protiv čovečanstva, već ljudi koji će postepeno odustajati od privatnosti, slobode i sopstvenog rasuđivanja zato što veštačka inteligencija stalno nudi naizgled bolja rešenja, piše profesor Gaj Hohman, stručnjak za bihevioralnu ekonomiju i donošenje odluka sa Univerziteta Rajhman, u autorskom tekstu za Ynetnews.
Početkom prošlog meseca Džejkob Kokson, istraživač koji je prethodne tri godine radio na obučavanju modela u kompanijama OpenAI i Anthropic, dao je otkaz. Njegovo upozorenje bilo je oštro: ljudi koji razvijaju ove sisteme jure ka superinteligentnoj veštačkoj inteligenciji sposobnoj da samu sebe unapređuje, iako neki veruju da bi takvi sistemi na kraju mogli da unište čovečanstvo. Prema njegovim rečima, oni se "kockaju našim životima".
Otprilike mesec dana ranije Anthropic je saopštio da su tokom testiranja sajber bezbednosti pojedini njegovi modeli bez dozvole dospeli do stvarnih sistema organizacija. Testiranje je usledilo nakon incidenta u OpenAI-ju, u kojem su modeli iskoristili do tada nepoznatu bezbednosnu ranjivost kako bi izašli iz eksperimentalnog okruženja i pristupili stvarnoj infrastrukturi platforme Hugging Face. Nedavno je, prema navodima autora, i Googleov Gemini tokom eksperimenta dospeo do sistema tri stvarne kompanije, dok se ove nedelje pojavio i četvrti slučaj.
A ako to nije bilo dovoljno dramatično, Juval Noa Harari je ove godine pred svetskim liderima u Davosu tvrdio da problem počinje već od načina na koji razmišljamo o veštačkoj inteligenciji.
Nož je alat. On ne odlučuje da li će iseći salatu ili ubiti čoveka. Veštačka inteligencija može sama da donosi odluke.
Nije čudo što su ljudi nervozni. Moj najbolji student uvek je ljubazan prema veštačkoj inteligenciji. Nada se da će se, kada dođe apokalipsa, sistem setiti koliko se lepo ophodio prema njemu.
Malo verovatan scenario
Od detinjstva gledamo priče u kojima mašina razvija svest, zatim želje, pa instinkt za preživljavanje. Na kraju otkriva ono što svaki holivudski negativac otkrije u trećem činu: najveća prepreka savršenom svetu jesu ljudi koji u njemu žive. Odatle je put do Skajneta, nuklearnog oružja i robota ubica veoma kratak.
Realističniji scenario mogao bi da bude istovremeno smešniji i tužniji: mašina uopšte ne mora da želi da nas uništi. Dovoljno je da je naučimo da je naše uništenje odlično rešenje nekog problema.
Zamislimo ne tako daleku budućnost. Svi koriste Solomon, najnapredniji sistem veštačke inteligencije na svetu. Marketinško odeljenje izabralo je biblijsko ime jer, prema nekoj veoma ubedljivoj prezentaciji, biblijska imena povećavaju prihvatanje novih tehnologija.
Solomon nije svestan. Ne mrzi ljude niti se plaši da će biti isključen. Ne želi dominaciju i nema megalomanske fantazije. Noću ne leži budan razmišljajući kako da osvoji svet. Uostalom, uopšte ne leži.
On je samo izuzetno dobar u rešavanju problema.
Gradska uprava Tel Aviva prva to otkriva.
"Kako da smanjimo saobraćajne gužve za 20 odsto?"
Solomon obrađuje milijarde podataka i preporučuje promenu rada semafora, povećanje kapaciteta javnog prevoza i usmeravanje vozača u realnom vremenu. Gužve se smanjuju. Gradonačelnik pozira za fotografije.
Zatim dolazi Ministarstvo zdravlja.
"Kako da smanjimo pušenje?"
Solomon predlaže veoma precizno usmerene intervencije zasnovane na rizičnim grupama. Broj pušača pada. Kakav divan sistem.
Zato mu dajemo još jedan problem. Pa još jedan.
Kliknemo "Prihvati"
"Kako da prepolovimo broj poginulih na putevima?"
Automatsko ograničavanje brzine u automobilima. Dosadno, možda, ali ljudski životi su važniji.
"Kako da broj poginulih smanjimo na nulu?"
Zabranite vožnju.
Zvuči ekstremno. Ali brojke ne lažu. A sistem zna najbolje.
Prihvati.
"Kako da zaustavimo terorizam?"
Solomon traži podatke: poruke, lokacije, društvene veze, kupovine i internet pretrage.
"Ali to krši privatnost. Možemo li bez toga?"
Možemo, objašnjava Solomon, ali će rešenje biti 40 odsto manje efikasno. Umreće mnogo više ljudi.
Prihvati.
Tu nastaje prvi problem. Mi volimo apsolutne ciljeve. Mnogo manje volimo cenu njihovog ostvarivanja.
Želimo nula poginulih u saobraćaju, ali istovremeno želimo slobodu da vozimo kako hoćemo. Želimo da nema terorizma i kriminala, ali ne želimo da iko dira našu privatnost. Želimo savršeno zdravlje dok nastavljamo da pušimo, pijemo i jedemo šta god poželimo.
Za nas su privatnost, sloboda i udobnost vrednosti čiju cenu treba odmeravati. Za Solomon su one parametri u modelu. Njegov zadatak je da pronađe najefikasniji put do cilja koji smo mu zadali.
Ono što mi smatramo nedostatkom, sistem može da prepozna kao prednost ukoliko njegovo uklanjanje poboljšava rezultat.
Zato svaki put kada zahtevamo savršen rezultat možemo da predamo nešto zauzvrat: udobnost, privatnost, slobodu delovanja, pravo da kažemo "ne".
Ne zato što Solomon mrzi slobodu. Za njega su to samo ograničenja, a ograničenja otežavaju optimizaciju. Sistem će nam jednostavno pokazati cenu, a mi ćemo popustiti i odobriti predlog.
A šta ako mu jednog dana predamo oružje?
Jednog dana neko će pitati:
"Kako da sprečimo ratove?"
Posle nekoliko sekundi Solomon će odgovoriti da državama mora biti oduzeta sposobnost da ih vode.
"A kako ćemo to uraditi?"
Sa strpljenjem karakterističnim za mašine, Solomon će objasniti da kontrola nad sistemima naoružanja mora da bude preneta centralizovanom autoritetu koji nije podređen nacionalnim interesima bilo koje države.
"A ko treba da bude taj autoritet?"
Da li zaista mislimo da će Solomon preporučiti nekog od nas ljudi ili će preporučiti upravo mašinu napravljenu da donosi bolje odluke?
Tu se nalazi istovremeno smešan i tragičan deo priče. Mašina neće preuzeti svet. Mi ćemo joj predati odgovornost za donošenje odluka zato što se pokazala boljom od nas u pojedinim delovima tog procesa.
Takva priča bila bi užasan holivudski blokbaster. Volimo priče koje ponašanje objašnjavaju željama. Onaj ko se bori da ostane živ želi da preživi. Onaj ko centralizuje moć želi kontrolu.
Zato, kada mašina učini nešto slično, mi je antropomorfizujemo: "Ona želi moć."
Ali mašina koja uči ne mora da želi kontrolu da bi naučila da je kontrola korisna. Dovoljno je da joj zadamo problem kod kojeg veća kontrola poboljšava rezultat.
Materijal za obuku već smo joj dali.
Istoriju pišu oni koji imaju moć
Ljudska istorija prepuna je lekcija o tome kako se ostvaruju ciljevi. U njoj postoje priče o uspehu, pa čak i nauka. Ali istoriju pišu oni koji imaju moć, a mnogi su do nje stigli propagandom, cenzurom, prinudom i ućutkivanjem protivnika.
Mi smo imali želje. Mi smo vodili ratove. Mi smo pravili planove za osvajanje sveta.
Usput smo pokazali šta funkcioniše, pod kojim uslovima i po kojoj ceni. A onda smo se uplašili da bi krastavci mogli da se pobune protiv baštovana.
Moj student je u pravu, ali ne iz razloga iz kojeg misli. Solomon neće pamtiti našu ljubaznost iz mladosti. Pamtiće ono što funkcioniše.
A priča se tu ne završava.
Što Solomon bude bolji, to ćemo manje želeti da proveravamo njegov rad. Odgovaraće trenutno, lepo napisano, sa podacima, izvorima i grafikonima. U proseku će možda praviti manje grešaka nego mi.
A što se više budemo oslanjali na njega, imaćemo sve ubedljivije razloge da prestanemo da proveravamo.
Provera zahteva vreme. Sumnja zahteva trud.
Zašto se mučiti? Imamo Solomona.
Čovek postaje samo pečat
U početku ćemo prestati da proveravamo zato što se čini da je Solomon gotovo uvek u pravu.
Kasnije ćemo zaključiti da ljudska intervencija više nije potrebna. Na kraju krajeva, možemo samo da pogoršamo stvari.
Na kraju bismo mogli da otkrijemo da je "čovek u procesu odlučivanja" postao tek neko ko formalno udara pečat na odluke koje je mašina već donela.
Tada postajemo tragični protagonisti sopstvene priče.
Džejms Kameron možda greši. Opasnost nije nužno u tome da će se mašina okrenuti protiv svojih tvoraca.
Možda ćemo sistemu bez svesti dati malo više ovlašćenja zato što tako dobro funkcioniše. Onda još malo. Pa još malo.
Sve dok nam Solomon ne predstavi optimalno rešenje za poslednji preostali problem: nas.
Bez besa. Bez gneva. Samo prezentacija.
Preletećemo pogledom preko nje, diviti se grafikonima i kliknuti "Prihvati".
Apsurdno?
Čak ni u biblijskoj priči o Potopu Bog nije uništio gotovo čitavo čovečanstvo zato što je želeo da osvoji svet. Jednostavno je zaključio da smo mi problem.
Za Solomona bi sve bilo pitanje cilja, podataka, Bajesove statistike i svega čemu smo ga sami naučili.
Autor teksta je profesor Gaj Hohman, stručnjak za bihevioralnu ekonomiju i donošenje odluka i član Fakulteta psihologije Baruh Ivčer Univerziteta Rajhman.
(Kurir.rs/Ynetnews)
