AI skandal godine: Direktorka robotike napušta OpenAI zbog Pentagona i mogućeg globalnog udara!
Kalinovski, koja je godinama gradila karijeru i kredibilitet na etičkom pristupu razvoju tehnologije, shvatila je da ne može da podrži način na koji bi njeni radovi i sistemi mogli da se koriste. Njena odluka nije bila impulsivna, niti lična, već duboko principijelna, što je i sama javno naglasila.
OpenAI, kompanija poznata po razvoju ChatGPT-a i najnaprednijih AI sistema, ovim ugovorom omogućava Pentagonu pristup svojim tehnologijama. To nisu obični algoritmi za obradu podataka, već je reč o sofisticiranim sistemima koji mogu da upravljaju robotima, analiziraju složene podatke i potencijalno se koriste u nadzornim mrežama.
Otkaz koji nam je ulio nadu
Kritičari su odmah upozorili da ovakvi dogovori otvaraju pitanja nadzora građana bez sudske kontrole i rizik od primene autonomnog oružja, što izaziva ozbiljne etičke dileme.
U svetu gde se kompanije za veštačku inteligenciju često prikazuju kao neutralni inženjerski giganti, otkaz koji je Kalinovski dala je jasan signal da moral i princip još uvek mogu da budu važniji od finansijskih i političkih interesa. Kalinovski je ovom prilikom istakla i da veštačka inteligencija može da pomogne u zaštiti nacionalne bezbednosti, ali ne na način koji niko do kraja ne razume i koji bi mogao da ugrozi osnovne etičke norme.
Strahuje da sistemi budu upotrebljeni za autonomne vojne operacije
U javnim objavama na društvenim mrežama, posebno na X (bivši Twitter), Kalinovski je objasnila da je njen odlazak odlukom zasnovanom na principima, a ne ličnim nesuglasicama sa ljudima u kompaniji i da i dalje ima duboko poštovanje prema izvršnom direktoru Semu Altmanu i timovima sa kojima je radila.
Tačan razlog zbog kojeg je odlučila da se povuče je dogovor OpenAI‑a koji omogućava korišćenje njegovih AI modela od strane Pentagona, uključujući njihov rad u poverljivim mrežama i potencijalnu primenu u nacionalnoj bezbednosti. Kalinovski je smatrala da kompanija nije u dovoljnoj meri razmotrila moguće etičke i bezbednosne rizike tog dogovora, posebno kada je reč o nadzoru bez sudske kontrole i mogućnosti da sistemi budu upotrebljeni za autonomne vojne operacije bez ljudske autorizacije.
OpenAI ističe da ne dozvoljava korišćenje tehnologije za masovni nadzor
Istakla je da veštačka inteligencija ima važnu ulogu u nacionalnoj bezbednosti, ali da linije poput nadzora ljudi bez sudske kontrole ili autonomnog dejstva bez ljudske autorizacije zaslužuju mnogo dublju diskusiju nego što je imala.
OpenAI je potvrdio njen odlazak i rekao da dogovor sa Pentagonom uključuje određene sigurnosne zaštite, kao i da kompanija jasno ističe da ne dozvoljava korišćenje svoje tehnologije za masovni nadzor unutar SAD ili autonomna oružja, ali je njena ostavka označena kao znak dubljih razmišljanja i nesuglasica u industriji oko uloge AI‑a u vojnim kontekstima.
Altman pokušava da ublaži situaciju
Situacija je dodatno komplikovana jer je CEO OpenAI-ja, Sem Altman, priznao da je ugovor sa Pentagonom bio preuranjen i loše predstavljen javnosti. Iako je pokušao da smiri situaciju naglašavajući da ugovor ne omogućava korišćenje AI alata za direktno napadanje civila, kritike su se brzo pojavile.
Pojedini korisnici su odlučili da bojkotuju ChatGPT, dok konkurentski AI sistemi beleže nagli porast popularnosti, a ova reakcija pokazuje koliko je javnost postala svesna potencijala i opasnosti veštačke inteligencije i koliko brzo svet reaguje kada se etika i tehnologija sudare.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Bonus video: