EU razmatra dosad neviđeni AI zakon, ključno je: Da li su i grudi intimni deo?
Najviše pažnje izazivaju sistemi koji mogu da generišu lažne, ali veoma uverljive prikaze ljudskog tela i lica. Takvi sadržaji se često koriste bez dozvole osobe koja je prikazana ili imitirana, zbog čega evropske institucije razmatraju uvođenje strogih ograničenja.
Prema predlozima, posebno bi bili targetirani AI alati koji omogućavaju kreiranje seksualizovanih ili kompromitujućih „deepfake“ sadržaja. Ovakve tehnologije su već izazvale brojne skandale i pravne sporove u različitim državama, te EU smatra da je neophodno reagovati pre nego što zloupotrebe postanu još rasprostranjenije.
Uvođenje obaveznog označavanja AI-generisanog sadržaja
Jedna od ključnih ideja je uvođenje obaveznog označavanja AI-generisanih slika i video materijala. To bi značilo da bi svaki sadržaj morao jasno da pokazuje da nije nastao u realnosti i na taj način korisnici bi lakše razlikovali stvarne i sintetičke medije.
U Briselu upozoravaju da trenutna situacija već pokazuje ozbiljne posledice po privatnost pojedinaca imajući u vidu da je sve više slučajeva gde se obični ljudi nalaze u lažnim scenama koje nikada nisu postojale. Takvi slučajevi često dovode do psihološke štete i narušavanja ugleda.
Poseban problem predstavljaju društvene mreže na kojima se ovakav sadržaj brzo širi. Jednom kada se pojavi, gotovo ga je nemoguće u potpunosti ukloniti. Zbog toga regulatori žele da uvedu preventivne mere pre objave sadržaja.
Strožije kazne za kreiranje štetnih AI sadržaja
Evropska komisija razmatra i strožu odgovornost kompanija koje razvijaju AI alate, što bi značilo da bi proizvođači morali da uvedu zaštitne mehanizme već u sam dizajn sistema. Pored toga, planira se i jačanje kazni za one koji namerno koriste AI za kreiranje štetnih sadržaja. Kazne bi mogle uključivati visoke novčane iznose i zabranu korišćenja određenih platformi, čime bi se poslala jasna poruka o ozbiljnosti problema.
Zvaničnici Evropske unije, uključujući diplomate i birokrate, poslednjih dana pokušavaju i da precizno odrede šta se podrazumeva pod „intimnim delovima“ u okviru predloga zakona koji menja pravila o veštačkoj inteligenciji, navode dve osobe upoznate sa pregovorima koje su tražile anonimnost zbog poverljivosti razgovora.
Pokušaj da se definišu intimni delovi
U nacrtu koji je pripremila Evropska komisija, a u koji je imao uvid list Politico, predloženo je da se u tu kategoriju ubrajaju genitalije, stidno područje, anus, potpuno otkrivena zadnjica, kao i ženske bradavice i areole. U dokumentu se dodatno razmatra i pitanje da li bi se i grudi u celini formalno uključile u definiciju.
Precizno definisanje intimnih delova tela moglo bi dovesti do proizvoljnih ili nesrećnih rezultata, gde bi neke stvari bile zabranjene, a druge ne, uprkos nivou štetnosti, upozorila je jedna od osoba učesnica u pregovorima. Bez definicije, na sudijama i nadzornim organima bi bilo da odrede šta je intimno, a šta nije, i to više u zavisnosti od konteksta, rekla je ta osoba.
Stroga pravila bi mogla da odvrate kompanije od razvoja novih AI sistema
Generalno u javnosti postoji sve veća zabrinutost zbog zloupotrebe ličnih podataka u AI modelima. Ljudi se plaše da njihove fotografije mogu biti iskorišćene bez znanja i saglasnosti dok, s druge strane, pojedini tehnološki analitičari smatraju da bi preterana regulacija mogla da uspori inovacije u Evropi. Oni upozoravaju da bi stroga pravila mogla da odvrate kompanije od razvoja novih AI sistema. Ipak, drugi ističu da bez kontrole rizici postaju preveliki.
Bilo kako bilo, očekuje se da će diskusije o ovom zakonu trajati još nekoliko meseci pre konačne odluke. U tom periodu biće konsultovani i stručnjaci, ali i tehnološke kompanije, a ukoliko zakon bude usvojen, mogao bi da postane jedan od najstrožih regulatornih okvira za AI u svetu. Posebno bi se istakao po fokusu na zaštitu identiteta i privatnosti u digitalnom prostoru čime bi Evropa ponovo postavila standarde u tehnološkoj regulaciji.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Bonus video: