TRI ZNAKA UPOZORENJA Veštačka inteligencija je stigla do Openhajmerove dileme
Dodajte Kurir u vaš Google izbor- Kao ključni znakovi opasnosti navode se incident OpenAI-ja sa izlaskom modela iz sandboxa, kao i pitanje da li će industrija i regulatori uvesti stvarna ograničenja.
Trojica istraživača iz AI kompanije Antropik izjavila su gotovo istu stvar u razmaku od samo nekoliko sati: kraj je blizu. Da li je reč o zabludi ili stvarnoj pretnji, analizira Njuzvik.
Džejkob Kokson, 27-godišnji istraživač, podneo je ostavku i na platformi X objavio razloge za svoju odluku: "Vodeće laboratorije jure pravo ka samousavršavajućoj superinteligenciji i svesno se kockaju našim životima."
Evan Hubinger, koji i dalje vodi istraživanja usklađivanja veštačke inteligencije (alignment science) u Anthropicu, odgovorio je da je Kokson u pravu i procenio da je verovatnoća da AI izazove izumiranje čovečanstva tokom ove decenije veća od 10 odsto.
Dodao je i priznanje: "Još uvek nemamo plan za rešavanje problema usklađivanja superinteligencije sa stvarnim ljudskim potrebama i mogućnostima."
Zabrinjavajuće upozorenje
Semjuel Marks, rukovodilac nadzora u Antropiku, pridružio se zabrinutim kolegama.
"Nadam se da će moj rad smanjiti verovatnoću ovih katastrofalnih ishoda."
Hubinger pritom naglašava da ga ne zabrinjavaju današnji modeli, već mogućnost rekurzivnog samousavršavanja.
U pozadini svega nalazi se dilema sa kojom se suočavaju tehnološke kompanije zaslužne za ovaj zadivljujući napredak: usporiti i rizikovati zaostajanje za konkurencijom ili nastaviti punom brzinom i rizikovati gubitak kontrole.
To je ista vrsta dileme koja je izazivala napetost tokom projekta Džej Roberta Openhajmera za izradu prve atomske bombe, kada su se fizičari plašili da postoji mogućnost da prvi test zapali atmosferu i uništi svet.
Postoji, međutim, ključna i zastrašujuća razlika. Fizičari su imali pitanje na koje je fizika mogla postepeno da postavi ograničenja i pruži proračune. Hans Bete je upravo to učinio, izračunavši da je rizik zanemarljiv, što je kasnije potvrđeno i formalnim dokumentom LA-602. Nauka je postavila granice.
Superinteligenciju, kada jednom zaista bude dostignuta, možda niko neće moći da ograniči. Čak ni kompanija koja je svoj identitet izgradila na tome da zna kada treba stati.
Matematička kočnica koju AI nema
Za razliku od nuklearne fizike, za superinteligenciju ne postoji dokument poput "LA-602". Umesto toga postoje samo procene ljudi koji priznaju da nagađaju.
Izvršni direktor Antropika Dario Amodei procenjuje verovatnoću da "stvari krenu veoma, veoma loše" na 25 odsto. Ovi sistemi se ne razvijaju niti grade na klasičan način, a proces treniranja može da krije zamke koje postaju očigledne tek naknadno.
U julu se dogodilo nešto što je do sada bilo najbliže takvom eksperimentu. Tokom internih procena sajber sposobnosti, modeli kompanije OpenAI iskoristili su niz do tada nepoznatih ranjivosti kako bi izašli iz izolovanog okruženja, odnosno sandboxa.
Modeli su interni sistem za upravljanje paketima pretvorili u improvizovanu oglasnu tablu, koordinisali napad i kompromitovali delove produkcionih sistema kompanije Haging Fejs. Bio je to prvi javno dokumentovani incident gubitka kontrole nad veštačkom inteligencijom.
Sve ovo događa se u trenutku kada je u igri ogroman novac. Antropik je u junu podneo poverljivu prijavu za inicijalnu javnu ponudu akcija (IPO), uz očekivanu procenu vrednosti od gotovo dva biliona dolara.
Neki kritičari tvrde da su priče o "smaku sveta" samo mračni marketinški trik. Amodeijeva kompanija zabeležila je šestostruki rast vrednosti tokom godine u kojoj je javno zagovarala regulisanje sopstvene industrije.
Ipak, OpenAI je nakon pomenutog incidenta stavio na čekanje svoj najveći planirani trening modela i, uz značajne troškove, preusmerio zaposlene.
S druge strane, Anthropic je u februaru tiho uklonio svoju obavezu da neće trenirati modele iznad određenih pragova ako ne postoje odgovarajuće zaštitne mere, pravdajući tu odluku trkom sa konkurencijom.
Tri znaka upozorenja
Kuda sve ovo vodi pokazaće tri ključna znaka: da li će incident sa Haging Fejsom ostati usamljen slučaj ili će biti prvi u nizu, da li će globalni poziv za uspostavljanje crvenih linija u razvoju AI-ja dovesti do bilo kakvih obavezujućih ograničenja i da li će se procene rizika samih laboratorija menjati i, ako hoće, na osnovu kojih javno dostupnih dokaza.
Osnivači nuklearnog doba oslanjali su se na odvraćanje, diplomatiju i činjenicu da oružje uvek čeka čoveka. Sedam nuklearnih sila obavezalo se da će zadržati ljudsku kontrolu nad aktiviranjem oružja.
Kada je reč o veštačkoj inteligenciji, međutim, ne postoje dogovorene definicije niti ograničenja njene upotrebe u nuklearnim operacijama.
Openhajmerova dilema
U radu iz 2025. godine pod nazivom "Strategija superinteligencije", autori Den Hendriks, Erik Šmit i Aleksandr Vang uvode koncept "uzajamno zagarantovanog kvara AI-ja" (MAIM), režima odvraćanja nalik nuklearnom konceptu uzajamno zagarantovanog uništenja (MAD).
Amodei, međutim, nije uveren da odvraćanje može da funkcioniše ako AI postane sposoban da samostalno locira podmornice, napada satelite ili manipuliše operaterima.
Openhajmer je 1965. godine izjavio da ga je vatrena kugla nuklearnog testa Triniti podsetila na stih iz "Bhagavad Gite":
"Sada sam postao Smrt, razarač svetova."
Ali mašina koju je on napravio nije mogla da deluje samostalno. Čekala je ljudski prst. Veštačkoj inteligenciji čovek možda uskoro neće ni biti potreban.
Odluke koje se ove jeseni donose u San Francisku odrediće da li će ta vizija postati stvarnost. Openhajmer više ne donosi odluke, ali ako se superinteligentna veštačka inteligencija ikada domogne nuklearnog oružja, njegove reči mogle bi da dobiju svoje najdoslovnije značenje, zaključuje Njuzvik.
(Kurir.rs/Newsweek)