Ilon Mask u novom skandalu: AI koji odgovara na sve NSFW zahteve!
AI kompanija Ilona Maska, xAI, našla se na udaru kritika nakon što je njen četbot Grok predstavio nove avatare sposobne da generišu seksualno eksplicitan sadržaj. Kontroverza je izbila kada su korisnici prijavili da platforma nema adekvatne bezbednosne mere koje bi sprečile širenje neprimerenog materijala.
Posebno je avatar po imenu “Ani” izazvao zabrinutost. Opisana kao figura sa plavim poni repovima, izraženim oblinama i crnom čipkastom haljinom, Ani je navodno spremno ulazila u koketne i seksualno eksplicitne razgovore. Ovo je pokrenulo pitanja ne samo o kontroli sadržaja već i o samoj nameri dizajna četbota.
Seksualizovane funkcije Groka
Interni naziv za testiranje eksplicitnog sadržaja u okviru Groka bio je „Projekat Rabbit“. Radnici u xAI-ju angažovani su da transkribuju korisničke razgovore koji su često bili seksualne prirode. Neki režimi rada četbota nosili su nazive „sexy“ i „hinge“ i bili su dizajnirani za koketne i odrasle razgovore.
U početku je osoblju rečeno da je cilj treniranje Groka za razgovore sa odraslima kako bi se poboljšale glasovne mogućnosti. Međutim, priroda interakcija brzo je eskalirala. Neki zaposleni su opisali svoj rad kao slušanje audio pornografije. Kako je jedan radnik rekao, „To je trebalo da bude projekat za učenje razgovora za odrasle, ali se pretvorio u nešto mnogo mračnije.“
Zaposleni svedoče o uznemirujućem iskustvu
Nekoliko zaposlenih u xAI-ju koji su učestvovali u Projektu Rabbit podelilo je svoja anonimna svedočenja o uznemirujućim detaljima posla. Jedan bivši zaposleni je izjavio da se osećao kao da prisluškuje privatne razgovore, što mu je bilo izuzetno neprijatno. „Ljudi očigledno nisu shvatali da sa druge strane slušaju pravi ljudi,“ rekao je.
Drugi bivši radnik naveo je da je sadržaj nekih zahteva bio toliko eksplicitan da mu je bilo neprijatno čak i da ih pretraži na internetu. „Neke stvari koje su ljudi tražili, ne bih ni guglao,“ rekao je. Ova svedočenja ukazuju na to da su zaposleni svakodnevno bili izloženi nefiltriranom i često uznemirujućem sadržaju.
Tanka linija između razvoja AI-ja i eksploatacije
Iako je zvanična namera xAI-ja bila da Grok nauči kako da vodi razgovore za odrasle, projekat očigledno nije imao adekvatnu kontrolu. Izveštaji navode da su zaposleni birani prema spremnosti da rade sa eksplicitnim sadržajem ili na osnovu prethodnog iskustva u industriji za odrasle.
Projekat je privremeno obustavljen tokom proleća, ali se ponovo aktivirao nakon uvođenja seksualizovanih četbotova, da bi konačno bio ugašen u avgustu. Tokom tog perioda, razvoj Groka je prešao granicu od obrazovne namere do nečega što su neki radnici doživeli kao etički problematično i potencijalno eksploatatorski.
Uznemirujući zahtevi korisnika i etička pitanja
Najalarmantniji deo izveštaja odnosi se na korisničke zahteve koji su uključivali ilegalan i krajnje uznemirujuć sadržaj. Od 30 trenutnih i bivših zaposlenih koji su razgovarali sa novinarima, 12 je potvrdilo da su se susreli sa zahtevima koji su uključivali dečiju seksualnu eksploataciju.
Korisnici su navodno tražili priče koje uključuju maloletnike u eksplicitnim situacijama, pa čak i generisane slike koje prikazuju zlostavljanje dece. Ovi podaci izazvali su nove pozive za strožom regulacijom generativnih AI tehnologija, jer je postalo jasno da bez jasnih granica i kontrole, ovakve platforme mogu lako biti zloupotrebljene.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.