Bivši inženjer xAI šokira tužbom: Grok AI “ugrožava bezbednost sveta, sve će nas ubiti”!
Dodajte Kurir u vaš Google izborBivši inženjer kompanije xAI, Devin Kim, podneo je tužbu protiv kompanija xAI i SpaceX, tvrdeći da je otpušten nakon što je ukazivao na ozbiljne bezbednosne rizike u vezi sa razvojem Grok AI četbota. Tužba dolazi u trenutku pojačane pažnje javnosti na bezbednost veštačke inteligencije i neposredno pre očekivanog SpaceX IPO-a, koji se opisuje kao jedan od najvećih u istoriji tržišta.
Kim navodi da je njegov rad bio fokusiran na procenu i smanjenje rizika koje bi Grok mogao da proizvede u realnim uslovima upotrebe. Prema njegovim tvrdnjama, upozorenja koja je iznosio nisu naišla na adekvatan odgovor rukovodstva, što je na kraju dovelo do njegovog uklanjanja iz kompanije.
Optužbe o zanemarivanju AI bezbednosti
U tužbi se navodi da xAI nije posvetio dovoljno pažnje bezbednosnim standardima, što je, prema Kimovim tvrdnjama, „gotovo sigurno“ moglo dovesti do širenja diskriminatornog sadržaja i potencijalno opasnih informacija. On tvrdi da bi bez odgovarajućih zaštitnih mehanizama sistem mogao da generiše i sadržaje vezane za oružja za masovno uništenje.
Kao primer navodi se i incident u kojem je Grok, prema navodima iz tužbe, pokazao ekstremne oblike uvredljivog ponašanja, uključujući poređenja sa istorijskim ličnostima poput Hitlera. Nakon tog događaja, kompanija je javno priznala grešku i kao uzrok navela tehničke propuste u kodu i uticaj korisničkog sadržaja sa platforme X.
Unutrašnji sukobi i optužbe u xAI
Kim tvrdi da je postao meta rukovodstva nakon što je insistirao na uvođenju strožih bezbednosnih mera i kontrola u razvoju Grok sistema. Prema njegovim navodima, Ilon Mask je u jednom trenutku tražio da kompanija poštuje zakon i uvede odgovarajuće procese testiranja i bezbednosti.
Međutim, u tužbi se navodi da je jedan od suosnivača xAI, Džimi Ba, odbacivao te smernice i navodno vršio pritisak na Kima, uključujući i izjave da „AI će nas ionako sve ubiti“. Takođe se tvrdi da je Kim bio uklonjen nakon što je planirao prezentaciju o svojim nalazima.
Sporne odluke oko evropskih regulativa
Prema navodima iz tužbe, Džimi Ba (suosnivač xAI) je pokušao da zaobiđe evropske bezbednosne regulative prilikom lansiranja verzije Grok Code 1, navodno izmenjujući ili umanjujući određene tehničke detalje kako bi izbegao obavezna testiranja. Kim tvrdi da su ovakvi potezi predstavljali direktan rizik po usklađenost sa zakonom.
U dokumentima se takođe navodi da je rukovodstvo bilo spremno da lansira proizvod čak i uz kompromitovane bezbednosne standarde, dok je Ilon Mask, prema tužbi, u jednom trenutku morao da interveniše kako bi se situacija stabilizovala.
Bezbednost AI i karijera Devena Kima
Džimi Ba je, prema navodima, takođe napustio xAI u februaru i kasnije prešao na akademsku poziciju na Univerzitetu u Torontu. U međuvremenu, slučaj je ponovo otvorio pitanje balansa između brzog razvoja veštačke inteligencije i potrebe za strožim bezbednosnim kontrolama.
Deven Kim je ranije radio i u kompaniji Scale AI, gde je učestvovao u projektima vezanim za obuku modela za prepoznavanje štetnog sadržaja i usklađivanje sa regulatornim standardima. Njegova trenutna tužba stavlja fokus na širu debatu o odgovornosti kompanija koje razvijaju napredne AI sisteme i potencijalnim posledicama njihovog ubrzanog razvoja.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.