Džared Kaplan otkriva šta nas očekuje: AI može da dizajnira vlastite naslednike!

Suosnivač i glavni naučnik Anthropic-a, Džared Kaplan, izneo je ozbiljnu zabrinutost: mogućnost da napredni AI sistemi jednog dana počnu da dizajniraju sopstvene naslednike. U intervjuu za Guardian naglasio je da bi takav razvoj mogao označiti prekretnicu u sposobnosti čovečanstva da zadrži kontrolu nad sve moćnijim tehnologijama. Njegova poruka nije da je katastrofa neminovna, već da je pre donošenja ovakvih odluka potrebna izuzetna pažnja.

Prema Kaplanovim rečima, period između 2027. i 2030. mogao bi označiti trenutak kada AI sistemi postanu sposobni da dizajniraju naprednije verzije sebe. Takav pomak bi potpuno izmenio način razvoja veštačke inteligencije: umesto da ljudi osmišljavaju svaku novu generaciju modela, proces bi mogao ubrzati sam AI.

Iako je Kaplan uglavnom optimističan kada je reč o sadašnjim AI alatima i njihovom usklađivanju sa ljudskim vrednostima, on povlači jasnu granicu onog trenutka kada sistemi počnu da prevazilaze nivo ljudske inteligencije. Ako se taj prag pređe, postojeće mere bezbednosti možda više neće biti dovoljne. Kaplan smatra da takav skok zahteva ozbiljnu pripremu i globalnu pažnju.

Rizik od AI sistema koji obučava svog naslednika

Kaplan opisuje scenario u kojem AI sposoban za samousavršavanje počinje da razvija još napredniji model. Taj napredniji model, kao inteligentniji, mogao bi zatim da napravi još sposobniji sistem, što bi pokrenulo lančanu reakciju ubrzanog razvoja. On upozorava da bi takva „eksplozija inteligencije“ mogla napredovati previše brzo da bi je ljudi pratili ili kontrolisali.

U takvoj situaciji, problem „crne kutije“ u AI sistemima mogao bi postati apsolutan. Umesto da samo ne razumemo pojedinačne odluke AI-ja, mogli bismo izgubiti uvid i u sam pravac njegovog razvoja. Kaplan ističe da takva neizvesnost zahteva posebnu opreznost pre nego što se AI-ju dozvoli da preuzme sopstveni razvojni proces.

Pitanje ljudske kontrole

Jedna od Kaplanovih ključnih briga jeste da li će ljudi zadržati agensnost u svetu oblikovanom samounapređujućim AI sistemima. On smatra da društvo mora da se zapita da li će ti sistemi ostati korisni, bezbedni i usklađeni sa ljudskim potrebama. Kada ljudi više nisu direktno uključeni u proces obučavanja, postaje mnogo teže garantovati da će AI ostati naklonjen ljudskim interesima.

Kaplan naglašava da izazov nije samo tehnički već i etički i društveni. Ako ljudi ne mogu da vide kako AI funkcioniše ili evoluira, mogli bi izgubiti mogućnost da utiču na svet oko sebe. To, prema njegovim rečima, predstavlja jednu od „najvećih odluka“ koje čovečanstvo mora da donese, da li prihvatiti duboku neizvesnost koja prati autonomni razvoj AI-ja.

Sprečavanje zloupotrebe i borbe za moć

Pored rizika gubitka kontrole, Kaplan upozorava i na drugi veliki problem: mogućnost da pojedinci ili grupe zloupotrebe moćne AI sisteme za sopstvene interese. Ako AI sposoban za samostalno učenje napreduje brže nego što ljudi mogu da prate naučni i tehnološki razvoj, otvaraju se vrata za manipulacije i zloupotrebe.

On upozorava da bi ovakvi sistemi u pogrešnim rukama mogli biti izuzetno opasni. Neko bi mogao pokušati da koristi napredni AI kako bi nametnuo svoju volju ili ostvario štetne ciljeve. Kaplan smatra da je sprečavanje borbe za moć i obezbeđivanje odgovorne upotrebe tehnologije neophodno pre nego što društvo dozvoli AI-ju da pređe prag samostalnog razvoja.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.

BONUS VIDEO:

Kad robot čisti ulice