NAUČNIK ŠOKIRAO SVET: "SVI BISMO MOGLI DA UMREMO" Evo kakva opasnost preti čovečanstvu - Oglasila se i tri moćna AI šefa (VIDEO)
Dodajte Kurir u vaš Google izbor- Njegov poziv na usporavanje i strožu regulaciju podržali su i Sem Altman, Ilon Mask i Dario Amodei, dok deo industrije tvrdi da su takva upozorenja preterana.
Da li je veštačka inteligencija već izmakla kontroli, hoće li za nekoliko godina uništiti čovečanstvo, treba li njen razvoj usporiti i dodatno regulisati, uključiti nezavisni nadzor razvoja ili su sve to marketinški trikovi, teško je odlučiti. Posebno kada treba spojiti nauku i biznis, odnosno profit. Dodatnu pometnju izazvao je svojom izjavom naučnik Džejkob Kokson nakon nedavne ostavke u Antropiku, kompaniji koja se bavi razvojem veštačke inteligencije.
"Ako ne usporimo trenutni tempo napretka veštačke inteligencije, postoji velika verovatnoća da bismo svi mogli da umremo u bliskoj budućnosti", rekao je Kokson za BBC.
Njegova ostavka dolazi usred sve veće zabrinutosti zbog bezbednosti u toj industriji, uključujući upozorenja Koksonovog bivšeg šefa, direktora Antropika Darija Amodeija, koji se u svom javnom istupu založio za usporavanje razvoja.
I čelnici dve konkurentske kompanije za veštačku inteligenciju, Sem Altman iz OpenAI-ja i Ilon Mask iz xAI-ja, rekli su da se slažu sa Amodeijevim predlogom o usporavanju i regulisanju čitave industrije, kao i nezavisnom nadzoru razvoja modela veštačke inteligencije.
Ozbiljni rizici
Amodei je rekao da razvoj tehnologije nije sporan, ali da su rizici povezani sa njom ozbiljni i da kompanijama i vladama mora biti dato dovoljno vremena da se njima pozabave.
Dvadesetsedmogodišnji Kokson, koji je radio u OpenAI-ju pre nego što se pridružio Antropiku, pozdravio je predlog o usporavanju razvoja, ali je rekao da bi takav potez trebalo koordinisati sa Kinom kako bi se izbegla međunarodna trka.
"Ljudi koji rade u ovim kompanijama ozbiljni su kada traže regulaciju jer su sve više zarobljeni u toj trci čiji ih ishod plaši", rekao je Kokson za BBC.
S druge strane, pojedini ljudi iz industrije smatraju da su komentari o opasnostima veštačke inteligencije možda osmišljeni kako bi izazvali medijsku pažnju, dok ima i onih koji tvrde da Antropik pokušava da podstakne strožu regulaciju kako bi blokirao konkurenciju i zadržao duopol sa OpenAI-jem, s obzirom na to da se navodno priprema za potencijalno rekordnu inicijalnu javnu ponudu akcija.
Koksonove stavove o potencijalnoj opasnosti doveo je u pitanje i Kleman Delang, izvršni direktor AI platforme Hugging Face.
"Žao mi je, ali pitati Džejkoba o riziku od izumiranja zbog veštačke inteligencije isto je kao pitati stručnjaka za klima-uređaje o klimatskim promenama", napisao je na mreži X.
"Ne kažem da je to nužno nezanimljivo ili samo po sebi pogrešno, ali stvari treba sagledavati iz prave perspektive", istakao je.
Međutim, nakon što je objavljen Amodeijev esej, ponudio je pomoć u pronalaženju potencijalnih rešenja koja je predložio direktor Antropika.
"Netačno"
O Koksonovoj izjavi oglasio se i Džensen Huang, direktor Nvidije, ocenivši je kao netačnu. To je rekao na konferenciji koju je nedavno organizovala investiciona banka Goldman Saks u San Francisku, na kojoj su se okupili investitori i predstavnici industrije.
Huang je i ranije govorio da je ideja da će veštačka inteligencija dovesti do kraja čovečanstva potpuna besmislica.
Ipak, Kokson je izrazio i određeni optimizam kada je reč o budućnosti veštačke inteligencije, rekavši za BBC da ljudi koji istražuju ovu tehnologiju "iskreno žele da vide pozitivne strane, poput rešavanja bolesti i poboljšanja života svih ljudi".
Njegovi komentari o veštačkoj inteligenciji podeljeni su milionima puta na društvenim mrežama, a istraživač Evan Hubinger odgovorio je na mreži X da se slaže sa Koksonom.
"Zaista iskreno verujemo da bi veštačka inteligencija mogla da ubije sve ljude!", rekao je Hubinger.
Vodeće ličnosti u oblasti veštačke inteligencije, među kojima su čelnici OpenAI-ja, Google DeepMinda i Antropik, već godinama upozoravaju na bezbednosne pretnje koje ova tehnologija predstavlja. Upozorenja su poslednjih nedelja postala još glasnija jer su novi modeli pokazali sve moćnije sposobnosti koje bi njihovi tvorci mogli teško da kontrolišu.
Kompanija Antropik je u aprilu saopštila da uskraćuje javnu upotrebu svog modela Mythos jer bi mogao samostalno da izađe iz testnog okruženja, poznatog kao "sandbox".
Privremena obustava razvoja
OpenAI je takođe saopštio da su određeni aspekti razvoja njihovog nedavnog modela Astra pauzirani zbog zabrinutosti u vezi sa sajber bezbednošću.
Antropik je nedavno saopštio i da je pronašao i zaustavio aktere koji su pokušavali da koriste njegovu AI tehnologiju za razvoj biološkog oružja i sajber špijunažu.
Sve to moglo bi da ubrza uvođenje dodatnih kontrolnih mera. Savezni zakon poznat kao Zakon o zabrani veštačke superinteligencije, koji je ovog meseca predložio američki levičarski senator Berni Sanders, uveo bi privremenu obustavu razvoja napredne veštačke inteligencije.
"Postoji velika verovatnoća da će ljudi izgubiti kontrolu nad veštačkom inteligencijom. Šta će se tada dogoditi, niko ne zna. A da li bi to moglo da bude katastrofalno? Da, moglo bi!", rekao je Sanders u emisiji BBC-ja "Njuznajt".
Dodao je: "Kada nam naučnici kažu da postoji mogućnost da bi to moglo da ima kataklizmičke posledice po čovečanstvo, morate biti idiot da ne kažete: usporite!"
Međutim, na konferenciji u San Francisku potraga za bogatstvom, čini se, uglavnom je nadjačala rastuće egzistencijalne brige i strahove od potencijalnih državnih ograničenja razvoja veštačke inteligencije.
Jedan investitor rekao je da sa nestrpljenjem očekuje Antropikov dokument S-1, koji kompanija mora da podnese regulatorima tržišta kapitala kako bi mogla da ponudi akcije javnosti. Njegovo glavno pitanje o kompaniji bilo je jednostavno: da li firma posluje profitabilno?
Sve ostalo, pa čak i bezbednost čovečanstva, čini se da ne predstavlja naročitu prepreku.
(Kurir.rs/BBC)