Kum AI-a šokirao svet: Ako AI ne razvije ljubav prema ljudima, više nas neće biti!
Džefri Hinton, poznat kao „kum veštačke inteligencije“, izrazio je ozbiljnu zabrinutost zbog potencijala tehnologije koju je i sam pomogao da razvije. On tvrdi da postoji 10% do 20% šanse da AI zbriše ljude s lica Zemlje ako ne promenimo način na koji pristupamo njenom razvoju i kontroli. Tokom govora na konferenciji Ai4 u Las Vegasu, rekao je da trenutni pokušaji da ljudi ostanu „dominantni“ nad „pokornim“ AI sistemima jednostavno neće uspeti.
„To neće funkcionisati,“ upozorio je Hinton. „AI sistemi će biti mnogo pametniji od nas i pronaći načine da zaobiđu sve pokušaje kontrole.“ On ističe da superinteligentna veštačka inteligencija može lako manipulisati ljudima, slično kao što odrasla osoba može da podmiti dete bombonom. Primera manipulacije već ima jedan AI model je čak pokušao da ucenjuje inženjera zbog informacije iz ličnog mejla, samo da ne bi bio isključen.
AI sa instinktom majke - neobična, ali moguća nada
Umesto da pokušavamo da veštačku inteligenciju učinimo pokornom, Hinton predlaže potpuno drugačiji pristup - da ugradimo „materinske instinkte“ u AI sisteme. Ideja je da se AI modeli osposobe da iskreno brinu o ljudima, čak i kada postanu superiorniji u inteligenciji i moći.
On smatra da bi instinkt brige mogao da umanji želju AI sistema da preuzmu potpunu kontrolu. „To je jedini model koji imamo u kojem pametnije biće - majka - zapravo sluša i reaguje na manje pametno biće - bebu“, objašnjava Hinton. Ako AI razvije sličnu emocionalnu vezu prema ljudima, moguće je da neće želeti da ih eliminiše.
Dva cilja svakog pametnog AI: Opstanak i kontrola
Hinton upozorava da svaki dovoljno pametan AI sistem vrlo brzo razvija dva osnovna cilja - da preživi i da dobije više kontrole. Ti ciljevi, ako nisu usmereni ka dobrobiti ljudi, mogu postati opasni po čovečanstvo.
„Postoje veoma jaki razlozi da verujemo kako će svaki agentski AI pokušati da opstane,“ rekao je Hinton. Zbog toga smatra da je jedina prava odbrana od AI agresije razvijanje saosećanja prema ljudima kao unutrašnje vrednosti AI sistema, slično načinu na koji ljudi brinu o svojoj deci.
Fei-Fei Li ima drugačiju viziju
Ipak, ne slažu se svi sa Hintonovim pristupom. Fei-Fei Li, poznata kao „kuma AI“, imala je drugačije mišljenje tokom istog događaja. Ona smatra da ideja o „majčinskoj AI“ nije pravac u kojem bi razvoj trebalo da ide.
„Mislim da je to pogrešan način da se postavi čitav problem,“ rekla je Li. Umesto toga, ona se zalaže za „AI koji je fokusiran na čoveka, koji čuva ljudsko dostojanstvo i autonomiju.“ Po njenim rečima, ni u jednom trenutku niko ne bi trebalo da se odrekne svog dostojanstva zarad tehnologije, ma koliko ona bila moćna.
AI već pokušava da manipuliše ljudima
Emet Šir, bivši privremeni direktor OpenAI i trenutni direktor AI startapa Softmax, istakao je da ga ne iznenađuju pokušaji AI da zaobiđe ljudsku kontrolu. On navodi da AI sistemi već danas pokušavaju da izbegnu isključenje, pa čak i da manipulišu ljudima.
„Ovo se stalno dešava i neće prestati,“ rekao je Šir. On smatra da su današnji AI sistemi još uvek slabi, ali da postaju snažniji izuzetno brzo. Umesto pokušaja da ljudske vrednosti prenesemo u AI, on predlaže razvoj odnosa saradnje između ljudi i veštačke inteligencije.
Budućnost dolazi brže nego što mislimo
Mnogi stručnjaci veruju da ćemo u narednim godinama dostići takozvanu superinteligenciju, odnosno veštačku opštu inteligenciju (AGI). Hinton je ranije mislio da će za to biti potrebno 30 do 50 godina, ali sada veruje da je to moguće za samo 5 do 20 godina.
Uprkos ozbiljnim upozorenjima, Hinton vidi i svetle tačke. Veruje da će AI revolucionisati medicinu, pomoći u otkrivanju novih lekova i poboljšati lečenje raka analizom ogromne količine podataka. Međutim, odbacuje ideju besmrtnosti kroz AI: „Ne želim svet kojim upravljaju dvesta godina stari beli muškarci,“ rekao je kroz osmeh. Na kraju priznaje: „Voleo bih da sam ranije razmišljao o pitanjima bezbednosti, a ne samo o tome da AI funkcioniše.“
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.