Svi smo u opasnosti?! Jezivo priznanje iz IT industrije: Stvorili smo neuništivu zver, hitno gasite sve!

Anthropic upozorava da tehnologija napreduje toliko stravičnom brzinom da čovečanstvo rizikuje da u potpunosti izgubi kontrolu nad mašinama.

Glavni razlog za paniku među inženjerima jeste pojava takozvanih "samounapređujućih" AI modela. Reč je o sistemima koji više ne čekaju čoveka da im napiše novi kod, već su sposobni da samostalno uoče sopstvene greške, softverski se menjaju i postaju inteligentniji bez ikakvog ljudskog nadzora i kontrole.

U zvaničnom blogu kompanije ističe se da, kako sistemi postaju sve brži i autonomniji u izvršavanju zadataka, svet mora imati spremnu "crvenu dugu za prinudno pauziranje". Ako se takav mehanizam ne usvoji na globalnom nivou, rizikujemo stvaranje softvera koji nijedan čovek na planeti više neće moći da ugasi.

Strah od biološkog oružja i sajber rata

Pored opšteg gubitka kontrole, čelnici tehnoloških kompanija su u Vašingtonu izneli i mnogo konkretnije, zastrašujuće pretnje. Oni su tokom brifinga sa članovima američkog Kongresa zatražili hitno uvođenje rigoroznih biosigurnosnih mera jer najnoviji modeli imaju preveliko znanje o opasnim virusima i hemijskim supstancama.

Postoji opravdan strah da bi zlonamerni pojedinci ili terorističke grupe mogle da iskoriste napredne AI sisteme kako bi dobili detaljne instrukcije za pravljenje biološkog oružja. Zbog toga se traži da se razvoj privremeno zaustavi na nivou koji se smatra bezbednim dok se ne postave neprobojne digitalne barijere.

Rat milijardera se nastavlja uprkos apelima

Iako apel kompanije Anthropic zvuči razumno, analitičari na društvenim mrežama su prilično skeptični oko toga da li će konkurenti pristati na primirje. Trka za profitom u Silicijumskoj dolini je tolika da niko ne želi prvi da uspori, jer bi to značilo prepuštanje milijardi dolara vrednog tržišta direktnim rivalima.

Dok jedna strana moli za oprez, kompanije poput Google-a i OpenAI-ja nastavljaju da pumpaju novac u još veće data centre. Čini se da je tehnološki svet ušao u opasan gas gde svi priznaju da se igraju sa vatrom, ali niko nema hrabrosti da prvi spusti upaljač.

Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.

Bonus video: