Evropska država uvodi rigorozne kazne za deepfake: Sankcije do 35 miliona evra!

Predlog zakona predviđa drakonske kazne za firme koje koriste sadržaj generisan AI-jem bez jasno označenih upozorenja, a sve s ciljem suzbijanja opasne upotrebe "deepfake" tehnologije. Zakon se oslanja na smernice iz Akta o veštačkoj inteligenciji Evropske unije, koji ima za cilj obavezivanje firmi da budu transparentne u pogledu AI sistema visokog rizika.

Nepoštovanje ovog zakona može biti skupo. Prema predlogu, korišćenje AI generisanog sadržaja bez odgovarajuće oznake smatraće se "ozbiljnim prekršajem", uz kazne koje mogu dostići čak 35 miliona evra ili 7% globalnog godišnjeg prihoda firme.

Ovaj zakon označava jasnu razliku u pristupu između Evropske unije i Sjedinjenih Američkih Država. Dok SAD favorizuje dobrovoljno pridržavanje pravila i raznovrsne savezne propise, EU uvodi stroža pravila koja stavlju veći naglasak na zaštitu građana. Španija je među prvim zemljama koje primenjuju regulative koje idu u korak s EU, što znači da bi kompanijama u budućnosti bilo teže da izbegnu odgovornost.

Opasnost od "deepfake-a"

Lopez je naglasio da je rizik od "deepfake" napada prisutan za svakog korisnika interneta. Ovi video i audio zapisi, koji se koriste za stvaranje lažnih sadržaja uz pomoć AI, predstavljaju ozbiljnu pretnju društvu jer je sve teže razlučiti šta je stvarno, a šta je stvoreno uz pomoć tehnologije. Ove pretnje mogu imati štetne posledice na javno informisanje i integritet medija.

Zaštita ranjivih grupa i biometrijski nadzor

Zakon ne staje samo na pitanju "deepfake" tehnologije. Takođe se bori protiv manipulacije ranjivim grupama kroz subliminalne poruke. Zamislite chatbota koji podstiče osobu sa zavisnostima da se kocka, ili igračku koja ohrabruje dete da učini nešto opasno. Takve manipulacije biće zabranjene.

Zakon takođe zabranjuje korišćenje biometrijskih podataka u svrhu ocenjivanja ili kategorizacije ljudi, poput predviđanja rizika od kriminala ili dodeljivanja socijalnih beneficija na osnovu ponašanja. Ipak, vlastima bi bilo dopušteno da koriste biometrijski nadzor u javnim prostorima, ali isključivo iz razloga nacionalne sigurnosti.

Novi organ za AI nadzor

Sprovođenje novih pravila povereno je novoosnovanoj agenciji AESIA (Agencija za nadzor veštačke inteligencije), dok će specifični slučajevi koji uključuju privatnost podataka, kriminalne aktivnosti i druge delikatne oblasti biti pod nadzorom relevantnih regulatornih tela.

Ovaj korak Španije ka strožoj regulaciji AI-ja postavlja visoke standarde za ostatak sveta. Koji će biti efekti? Ostaće da se vidi, ali jasno je da AI više neće biti neregulisani divlji zapad.