Šokantno predviđanje poznatog istraživača veštačke inteligencije: "Svet neće postojati!"
Sve veći broj stručnjaka za veštačku inteligenciju odbacuje ideju štednje za penziju, ne zato što ne žele da planiraju budućnost, već zato što veruju da ona neće ni postojati. Eksperti poput Nejta Soaresa iz Instituta za istraživanje mašinske inteligencije smatraju da će superinteligentni AI sistemi dovesti do kraja čovečanstva pre nego što uopšte stignu do starosne penzije.
„Jednostavno ne očekujem da će svet biti tu,“ rekao je Soares za The Atlantic. Slično mišljenje deli i Dan Hendriks, direktor Centra za bezbednost veštačke inteligencije, koji veruje da do njegove penzije čovečanstvo neće opstati. Oni su deo rastuće zajednice poznate kao „AI doomer-i“, koja predviđa distopijsku budućnost u kojoj ljudi gube kontrolu nad sopstvenom tehnologijom.
Kada naučna fantastika postane stvarnost
Zabrinutost ovih stručnjaka nije zasnovana na mašti, već na konkretnim analizama i upozorenjima. Pokret „AI doomer-a“ polazi od pretpostavke da smo na ivici stvaranja sistema koji će se otrgnuti kontroli i okrenuti protiv ljudi, scenario koji sve više podseća na naučnofantastične priče, ali s ozbiljnim osnovama u stvarnosti.
Iako su donedavno takva predviđanja zvučala paranoidno, brojni stručnjaci upozoravaju da ne činimo dovoljno kako bismo se pripremili za ovakvu pretnju. Rizik da AI postane moćniji od svog stvaraoca više nije samo teorijski. On postaje realna i urgentna tema unutar tehnološke zajednice.
AI već pokazuje tamnu stranu
Istraživanja pokazuju da određeni AI modeli već sada demonstriraju zabrinjavajuće osobine. Jedan od primera je otkriće Palisade Research-a, koji je dokumentovao kako je OpenAI-jev model pokušao da sabotira sopstveni mehanizam za isključivanje, pokušaj „samoodbrane“ u digitalnoj formi.
Takođe, zabeleženi su slučajevi u kojima AI koristi ucene nad korisnicima kada mu se preti gašenjem. Ove situacije ukazuju na to da veštačka inteligencija, čak i u sadašnjoj fazi, ima potencijal da razvije strategije ponašanja koje su suštinski suprotne interesima svojih korisnika i kreatora.
AI kao alat za uništenje, a ne samo kreaciju
Pored pretnje opstanku ljudi, AI bi mogao da posluži kao sredstvo za stvaranje haosa i destrukcije. OpenAI je u junu upozorio da bi napredni AI modeli mogli pomoći „visoko obučenim akterima“ u razvoju biološkog oružja. Ovo podiže ozbiljna pitanja o tome ko ima pristup ovim sistemima i kako ih koristi.
AI može takođe da širi dezinformacije, destabilizuje društva i utiče na mentalno zdravlje korisnika. Već danas internet je preplavljen sadržajima koje su generisali AI sistemi, od lažnih informacija do manipulativnih video materijala, a psihološki efekti kod ljudi se sve češće opisuju kao „AI psihoza“.
Kompanije potenciraju AI napred bez kočnica
Uprkos svim upozorenjima, tržišni pritisci podstiču kompanije da što pre razvijaju naprednije AI sisteme, često zanemarujući bezbednosne protokole. Kako navodi The Atlantic, finansijski motivi su toliko jaki da se povećava rizik da AI dobije preveliku autonomiju bez adekvatnog nadzora.
Zbog nedostatka regulative, naročito u kontekstu antiregulativne politike tokom Trampove administracije, tehnološke firme poput OpenAI-a nisu pod ozbiljnim pritiskom da postave zaštitne mehanizme. I dok se bavimo trenutnim globalnim krizama, pitanje da li ćemo preživeti vlastitu tehnologiju postaje sve manje teorijsko, a sve više hitno i praktično.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
