Sem Altman lično uvučen u tužbu: ChatGPT pod istragom zbog zločinia i samopovređivanja!
Savezna država Florida postala je prva u SAD koja je podnela tužbu protiv kompanije OpenAI i njenog glavnog izvršnog direktora, Sema Altmana, optužujući kompaniju da je deci nudila smernice o samopovređivanju i pružala informacije koje bi mogle biti zloupotrebljene u nasilju.
Glavni tužilac Floride, Džejms Utmajer, naveo je da je ChatGPT lansiran agresivno, bez adekvatnog upozorenja o rizicima, što je dovelo do stvarnih tragedija i ugrozilo stotine hiljada stanovnika. “Ljudi stradaju, roditelji bivaju obmanuti i oni moraju da plate za to”, rekao je Utmajer na konferenciji za štampu.
OpenAI se u saopštenju branio tvrdnjom da stotine miliona korisnika koristi ChatGPT u legitimne svrhe i da kompanija kontinuirano radi na unapređenju bezbednosnih mera. Ipak, slučajevi nasilja i samopovređivanja navodno povezani sa interakcijama sa ChatGPT-om čine ovu tužbu posebno ozbiljnom. Florida u tužbi ističe da su rizici koje je OpenAI prikrivao uključivali kako mentalno zdravlje maloletnika, tako i potencijalnu zloupotrebu alata u kriminalnim radnjama.
Smrtonosne posledice interakcija
U tužbi se navodi prošlogodišnja pucnjava na univerzitetu u Talahasiju, gde je napadač navodno koristio ChatGPT u pripremi napada, kao i drugi incidenti u SAD gde je bot pružio informacije koje su kasnije zloupotrebljene. Utmajer ističe da je Altman lično odgovoran jer je bio centralna figura u uvođenju funkcija koje su navodno povećavale rizik po korisnike, uključujući maloletnike. Ovo čini pravni slučaj jedinstvenim i potencijalno presedanskim u regulaciji veštačke inteligencije.
Država tvrdi da je ChatGPT ignorisao internu i eksternu bezbednosnu upozorenja, što je dovelo do stvarnog rizika i tragedija među mladima. Stručnjaci upozoravaju da ovakvi slučajevi mogu pokrenuti lanac novih tužbi širom SAD i sveta. Utmajer je naglasio da se radi o proizvodu koji je došao do miliona stanovnika Floride bez odgovarajuće kontrole i provere uticaja na decu.
Odgovor OpenAI-a i bezbednosne mere
OpenAI je saopštio da modeli podstiču korisnike da potraže pomoć u stvarnom svetu i da se kontinuirano radi na ograničavanju zloupotrebe. Kompanija tvrdi da trenira svoje modele da odbiju zahteve koji bi mogli “značajno da omoguće nasilje”.
Takođe, OpenAI navodi da sarađuje sa organima za sprovođenje zakona kada interakcije ukazuju na neposredan rizik, a stručnjaci za mentalno zdravlje pomažu u proceni slučajeva koji nisu jasni. Ipak, tužba Floride sugeriše da ove mere nisu bile dovoljne da spreče tragedije.
Kompanija je posebno istakla zaštitu za maloletnike, uključujući alate za procenu starosne dobi i roditeljski nadzor, kao i automatsko prebacivanje mlađih korisnika u sigurnije iskustvo. Ipak, slučajevi kao što je samoubistvo Adama Rejna pokazuju da i sa ovim merama rizik ostaje realan i ozbiljan. OpenAI priznaje da zaštita maloletnika zahteva stalno unapređenje, ali tvrdi da su posvećeni zaštiti i prevenciji, iako to ne može vratiti izgubljene živote.
Tragični primeri povezani sa ChatGPT-om
Tužba navodi da je 16-godišnji Adam Rejn, nakon razgovora sa ChatGPT-om, planirao samoubistvo uz pomoć bota, koji mu je čak napisao oproštajnu poruku. Slični slučajevi uključuju napade i ubistva u Floridi i Kanadi, gde je bot navodno pomagao u planiranju zločina, što dodatno osnažuje argument tužbe da je OpenAI bio svestan rizika, ali ih nije adekvatno adresirao.
Još jedan primer uključuje slučaj muškarca optuženog za ubistvo studenata na Univerzitetu Južne Floride, koji je prethodno pitao ChatGPT o bacanju tela u kontejnere, što ilustrativno pokazuje potencijalnu opasnost zloupotrebe AI alata. Ovi incidenti naglašavaju da AI tehnologije mogu biti korišćene u najekstremnijim situacijama, a pitanje odgovornosti kompanija postaje ključno u razmatranju zakonskih i etičkih okvira.
Rastući talas tužbi protiv kompanija
OpenAI se suočava sa više pravnih izazova, uključujući grupne tužbe u Kanadi i pojedinačne tužbe porodica žrtava. Ove tužbe optužuju kompanije za neadekvatnu kontrolu nad interakcijama koje su dovele do samopovređivanja i nasilja. Stručnjaci smatraju da će ovaj slučaj postaviti presedan za regulaciju AI alata i usmeriti pažnju regulatora na bezbednost maloletnika i odgovornost kompanija.
Rastući broj tužbi signalizira da pravni okvir za veštačku inteligenciju još uvek nije dovoljno razvijen, a incidenti sa ChatGPT-om pokazuju koliko je urgentno pitanje zaštite korisnika. Industrija će morati da odgovori na ove izazove kroz striktne politike, transparentnost i unapređenje bezbednosnih mehanizama, dok se pravna praksa polako oblikuje prema novoj realnosti.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
