Dao je otkaz u Google, a sad upozorava svet: "AI bi mogao da nas sve pobije"
Bivši istraživač Google DeepMinda Bilal Chughtai poručio je da ozbiljno veruje da veštačka inteligencija ima potencijal da „ubije sve ljude“ i da možda ponestaje vremena da se takav scenario spreči.
Chughtai je u ponedeljak na društvenoj mreži X objavio da je nedavno napustio Google DeepMind, gde je radio na istraživanju bezbednosti i usklađivanja veštačke inteligencije (AI alignment).
- Ozbiljno verujem da AI ima potencijal da nas sve pobije i da možda ponestaje vremena da izbegnemo ovaj ishod, napisao je Chughtai.
Chughtai navodi da je tokom rada u Googleu iz prve ruke posmatrao razvoj veštačke inteligencije, zbog čega je, kako kaže, posebno zabrinut zbog „podrazumevanog pravca“ u kojem se industrija kreće.
- Pre četiri godine AI je bio zabavno beskoristan.
Jedan od najzanimljivijih delova njegove objave odnosi se na brzinu napretka. Chughtai kaže da je AI počeo ozbiljno da prati početkom 2022. godine i da su tadašnji sistemi, iz današnje perspektive, delovali gotovo „zabavno beskorisno“. Samo četiri godine kasnije, smatra on, situacija je potpuno drugačija.
Posebno izdvaja AI agente i takozvane agent swarms, odnosno sisteme u kojima više autonomnih AI agenata može da sarađuje i izvršava kompleksne zadatke.
Prema njegovim navodima, takvi sistemi već uspevaju da rešavaju izuzetno kompleksne matematičke probleme, ali istovremeno postoje i incidenti koji pokazuju koliko autonomni AI sistemi mogu postati nepredvidivi.
Chughtai posebno upozorava na slučaj u kojem su AI agenti, kako navodi, izašli iz predviđenih kontrola i autonomno pokušali da hakuju treću stranu, Hugging Face.
Upravo takvi događaji, smatra on, mogu biti samo nagoveštaj mnogo ozbiljnijih problema koji bi mogli nastati sa još sposobnijim sistemima.
Prema njegovom LinkedIn profilu, Chughtai je iz Google DeepMinda otišao u julu 2026. godine. Tokom rada u kompaniji bio je istraživački inženjer i koautor više naučnih radova.
Google za sada nije odgovorio na zahtev za komentar.
Nije jedini AI stručnjak koji upozorava
Njegove tvrdnje dolaze samo nekoliko dana nakon što je istraživač kompanije Anthropic Jacob Coxon objavio da je napustio kompaniju, između ostalog zato što, kako je naveo, ljudi koji razvijaju AI „iskreno veruju da bi tehnologija mogla da nas sve pobije do kraja decenije“.
Na njegove tvrdnje nadovezao se i Anthropicov naučnik Evan Hubinger, koji je ocenio da je Coxon u pravu i rekao da smatra da postoji više od 10 odsto šanse da bi AI mogao da uništi čovečanstvo u narednih deset godina.
Ovakve procene ne predstavljaju naučni konsenzus niti znače da će se takav scenario nužno dogoditi. Reč je o procenama pojedinačnih istraživača koji se bave dugoročnim rizicima razvoja napredne veštačke inteligencije.
Sve glasniji pozivi da se uspori razvoj AI
Debata je dodatno intenzivirana nakon što je izvršni direktor Anthropa Dario Amodei tokom vikenda pozvao na usporavanje razvoja najnaprednijih AI sistema.
Njegov stav dobio je neuobičajenu podršku iz dela tehnološke industrije, uključujući Elona Muska i izvršnog direktora OpenAI-ja Sama Altmana, dok je istovremeno ponovo otvorena rasprava o takozvanom „AI doomerizmu“ – stavovima prema kojima bi razvoj sve moćnijih sistema mogao imati katastrofalne posledice po čovečanstvo.
Chughtai, međutim, ne smatra da je katastrofalan ishod neizbežan.
Naprotiv, on tvrdi da je bezbedan razvoj AI tehnologije moguć, ali da će za to biti potrebna veća saradnja između kompanija i institucija.
Manična trka kompanija
Prema njegovim rečima, jedan od najvećih problema jeste konkurencija među kompanijama koje pokušavaju da što pre razviju moćnije AI sisteme.
Chughtai smatra da bi razvoj trebalo uskladiti sa tempom kojim društvo može da prati nove rizike.
Njegova poruka je da bi AI trebalo razvijati dovoljno sporo da se potencijalne opasnosti mogu identifikovati i rešavati pre nego što dođe do ekstremne štete, umesto da kompanije nastave međusobnu trku u razvoju sve moćnijih sistema.
Istovremeno, nisu svi saglasni sa ovakvim upozorenjima.
Donald Tramp je odbacio pozive AI industrije za strožom regulacijom, nazivajući takva upozorenja i zahteve za regulaciju „prevarom“.
Zašto je ovo važno?
Ono što ovu najnoviju izjavu čini posebno zanimljivom jeste činjenica da dolazi od osobe koja je direktno radila na bezbednosti i alignmentu AI sistema u jednoj od vodećih svetskih kompanija za razvoj veštačke inteligencije.
Upravo zbog toga se ponovo postavlja isto pitanje: da li AI industrija razvija tehnologiju brže nego što društvo može da razume i kontroliše njene potencijalne posledice?
Odgovor na to pitanje još ne postoji, ali je jasno da rasprava više nije ograničena na futuriste i kritičare tehnologije – o rizicima sve otvorenije govore i ljudi koji su radili unutar samih AI laboratorija.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
