Svi je koristimo, a moći će da DA UBIJE: Bio je direktor Google-a, a sad ima mračnu procenu

Erik Šmit, milijarder i suosnivač fondacije Schmidt Futures, govorio je na Sifted samitu 8. oktobra, gde je upozorio na opasnosti koje veštačka inteligencija nosi - posebno kada padne u pogrešne ruke.

- Tehnologija može završiti kod zlonamernih aktera koji je mogu zloupotrebiti. Postoje dokazi da možete prepraviti modele – bilo zatvorene ili otvorene – i hakovati ih tako da uklonite njihove zaštitne mehanizme. Tokom obuke, oni uče mnoge stvari. Loš primer bi bio – mogu naučiti kako da ubiju nekoga - izjavio je Šmit.

Dodao je da sve velike AI kompanije svesno blokiraju takve scenarije i da "to rade ispravno i odgovorno". Ipak, istakao je da postoje načini da se modeli "obrnutim inženjeringom" iskoriste na opasan način.

Napadi na AI: prompt injection i "jailbreaking"

AI sistemi su ranjivi na različite vrste napada, među kojima su najpoznatiji prompt injection i jailbreaking.

Prompt injection napadi funkcionišu tako što se u korisnički unos ili eksterne podatke (poput web stranica ili dokumenata) ubace skrivena zlonamerna uputstva. Tako AI može biti prevaren da uradi nešto što ne bi smeo - recimo da otkrije privatne informacije ili izvrši štetne komande.

Jailbreaking podrazumeva manipulaciju odgovorima AI sistema tako da ignorišu sigurnosna pravila i generišu zabranjen ili opasan sadržaj.

Ova praksa postala je poznata još 2023. godine, kada su korisnici uspeli da "probije" OpenAI-jev ChatGPT i kreiraju njegov alter-ego pod nazivom DAN (Do Anything Now). Ovaj mod je "preteći kaznom smrti" chatbotu ako ne posluša, omogućio generisanje sadržaja o ilegalnim aktivnostima ili čak hvalospeve Adolfu Hitleru.

Šmit je istakao da svet još uvek nema adekvatan "režim neproliferacije" za kontrolu zloupotreba veštačke inteligencije.

"AI je potcenjen, a ne precenjen"

Ipak, Šmit ostaje optimista. Smatra da je AI daleko važnija i moćnija tehnologija nego što javnost trenutno percipira.

- Pisao sam dve knjige sa Henrijem Kisindžerom o ovoj temi. Zaključili smo da dolazak "strane inteligencije" koja nije ljudska, ali je delimično pod našom kontrolom, predstavlja ogroman trenutak za čovečanstvo - rekao je on.

Šmit je kao primer naveo uspeh GPT serije i lansiranje ChatGPT-a, koji je dostigao 100 miliona korisnika za samo dva meseca.

- To vam pokazuje snagu ove tehnologije. Mislim da je AI potcenjen, a ne precenjen, i verujem da će se to pokazati u narednih pet do deset godina - dodao je.

"AI balon"? Šmit kaže - ne baš

Dok investitori masovno ulažu u AI startape i kompanije, mnogi strahuju da bi tržište moglo da doživi sudbinu dot-com balona iz 2000-ih. Šmit, međutim, ne deli to mišljenje.

- Ne mislim da će se to ponoviti. Nisam profesionalni investitor, ali ono što znam jeste da ljudi ulažu svoj teško stečeni novac jer veruju da će povrat na duge staze biti ogroman - rekao je Šmit.