Evropska unija razmatra trostepeni pristup regulisanju generativnih modela i sistema veštačke inteligencije, kao deo revolucionarnih napora da se obuzda tehnologija koja (previše) brzo napreduje.
Kako prenosi Bloomberg, ta tri nivoa bi uspostavila pravila za različite modele veštačke inteligencije i mogu zahtevati dodatno eksterno testiranje prema specifikaciji same tehnologije.
EU je spremna da postane prva zapadna administracija koja će postaviti obavezna pravila o veštačkoj inteligenciji. Prema predloženom zakonu poznatom kao Zakon o veštačkoj inteligenciji, sistemi koji predviđaju kriminalne radnje ili razvrstavaju prijave za posao morali bi da prođu procenu rizika, pored ostalih uobičajenih zahteva.
Pregovarači žele da na sledećem sastanku, 25. oktobra, usavrše zakonsku regulativu, sa ciljem da se ona finalizira do kraja godine.
Tri nivoa rizika
Prema predloženim pravilima, prva kategorija bi obuhvatala sve bazne, odnosno fundamentalne modele, koji se koriste svuda gde ima veštačke inteligencije.
Drugi nivo "veoma sposobnih" sistema bi se definisao po količini računarske snage koja se koristi za obuku njihovih velikih jezičkih modela - algoritama koji koriste ogromne skupove podataka za razvoj AI sposobnosti. Ti modeli bi mogli "ići dalje od trenutnog tehnološkog razvoja i možda još uvek nisu u potpunosti shvaćeni", navodi se u predlogu.
Konačno, treća kategorija poznata kao "AI sistemi opšte namene" u velikoj meri bi uključivala najpopularnije AI alate i merila bi se ukupnim brojem korisnika.
Od objavljivanja OpenAI-ovog ChatGPT-a prošle godine, generativni AI alati su eksplodirali po brojnosti i popularnosti - i zaposlili veliki deo tehnološke industrije da razvije sopstvene verzije. Generativna veštačka inteligencija može da odgovori na jednostavne upite sa tekstom, slikama i video zapisima na osnovu svojih velikih jezičkih modela, često sa veoma niskim nivoom veštine korisnika.
EU se i dalje suočava sa brojnim ključnim pitanjima kako pristupiti ovoj tehnologiji, uključujući kako će tačno regulisati generativnu veštačku inteligenciju i da li treba potpuno zabraniti uživo skeniranje lica ljudi u gomili. Pored toga, Evropskoj uniji upućene su kritike da će nekim od planiranih regulativa ometati sposobnost manjih kompanija da se takmiče sa velikim tehnološkim gigantima na tržištu.
Trka za regulisanje
Kako je nedavno preneo Euractiv.rs, tehnološki stručnjaci sve više pozivaju na veću regulaciju AI, kako se ona sve više koristi. Poslednjih meseci, SAD i Kina su takođe iznele planove za regulisanje tehnologije. Sem Altman, izvršni direktor kompanije ChatGPT, proizvođača OpenAI, koristio je zvanične posete poslednjih nedelja da pozove na koordinisanu međunarodnu regulativu AI.
Prema Evropskom parlamentu, pravila EU su "prvi pokušaj u svetu da se donesu" pravno obavezujuća pravila koja se primenjuju na različite oblasti veštačke inteligencije.
Pregovarači o zakonu o veštačkoj inteligenciji nadaju se da će postići dogovor pre kraja godine, a kada Evropski parlament i zemlje članice EU usvoje konačna pravila, akt će postati zakon.
Kako sada stoje, pravila bi zabranila sisteme veštačke inteligencije za koje se smatra da su štetni, uključujući sisteme za prepoznavanje lica u realnom vremenu u javnim prostorima, prediktivne policijske alate i sisteme društvenog bodovanja, poput onih u Kini.
Zakon takođe navodi zahteve transparentnosti za sisteme veštačke inteligencije. Na primer, sistemi poput ChatGPT bi morali da otkriju da je njihov sadržaj generisan veštačkom inteligencijom i da obezbede mere zaštite od stvaranja nelegalnog sadržaja.
NE PROPUSTITE
Angažovanje u zabranjenim praksama veštačke inteligencije moglo bi da dovede do velikih kazni: do 40 miliona evra ili iznosa do 7% godišnjeg prometa kompanije na svetskom nivou, u zavisnosti od toga šta je veće.
Ali kazne bi bile "proporcionalne" i uzimale bi u obzir tržišnu poziciju malih provajdera, što sugeriše da bi moglo biti fleksibilnijih pravila za start-ape.
Rizici u praksi
Agencija AP podseća da Evropska unija dve godine raspravlja o Zakonu o veštačkoj inteligenciji (AI), koji bi mogao da stupi na snagu početkom 2025, a regulisaće svaki proizvod ili uslugu koja koristi sistem veštačke inteligencije.
Prvi sveobuhvatni zakon o veštačkoj inteligenciji predviđa pravila za primenu AI u uslovima raznih nivoa rizika, od minimalnog do neprihvatljivog.
Biće zabranjeni AI sistemi "neprihvatljog rizika" koji se smatraju pretnjom jer na neprihvatljiv način po ljude analiziraju, predviđaju i utiču na društveno ponašanje ljudi.
To su sistemi "društvenog bodovanja" koji klasifikuju ljude na osnovu ponašanja, socio-ekonomskog statusa ili ličnih karakteristika i sistemi biometrijske identifikacije u realnom vremenu i daljinski, kao što je prepoznavanje lica.
Međutim, stranke desnog centra u poslednjem trenutku su dodale amandman kojim se dozvoljava upotreba tih sistema u situacijama kao što su traganje za nestalom decom, identifikacija osumnjičenih zločinaca i sprečavanje terorističkih pretnji.
Sistemi kategorije "visokog rizika", poput aplikacija za zapošljavanje ili za proizvode namenjene deci, suočiće se sa težim zahtevima i pravilima ograničenja koja se tiču transparentnosti i korišćenja podataka.
Zakon neće preterano ograničavati sisteme "ograničenog rizika", kategoriju u koju će najverovatnije biti klasifikovan generator tekstova ChatGPT. Izvesno je da će sve usluge koje budu stvorene uz pomoć AI, imati posebne oznake i da će model sprečavati generisanje nezakonitog sadržaja.
Sistemi veštačke inteligencije sa "ograničenim rizikom" treba da budu u skladu s minimalnim zahtevima za transparentnost koji bi omogućili korisnicima da donose odluke na osnovu informacija. Posle interakcije sa aplikacijama za to, korisnik može odlučiti da li želi da nastavi da je koristi.
Korisnici treba da budu obavešteni kada su u interakciji sa AI, kao i kada sistemi AI generišu ili manipulišu slikama, audio ili video sadržajem, na primer "Deepfakes".
Po predlogu zakona, firme koje žele da u Evropi prodaju "rizične sisteme" moraju da ispune stroge uslove i uspostave "menadžment rizika" za svoje proizvode.
Biće provere podataka kojima se uspostavljaju zasebni programi veštačke inteligencije, a firme su obavezne da informišu korisnike takvih sistema o svrsi u koju će biti upotrebljeni njihovi podaci koje unose, predviđa predlog zakona.
Kurir.rs/ Biznis.rs/ Euractiv.rs/ Beta
NE PROPUSTITE
Bonus video:
