Meta priznala grešku: Posle samo par dana povukla kontroverznu AI funkciju

Razlog su brojne kritike da alat omogućava generisanje slika na osnovu fotografija sa javnih Instagram profila bez jasne saglasnosti osoba čije su slike korišćene kao osnova.

Muse Image je predstavljen kao alat za kreiranje AI ilustracija i fotografija putem tekstualnih opisa. Međutim, jedna od njegovih mogućnosti omogućavala je korisnicima da u prompt unesu korisničko ime javnog Instagram naloga.

Na osnovu fotografija objavljenih na tom profilu, sistem je mogao da generiše potpuno nove slike koje su zadržavale izgled, stil ili karakteristike osobe sa fotografija. Iako rezultat nije predstavljao direktnu kopiju postojećih fotografija, AI je koristio javno dostupan sadržaj kao referencu za kreiranje novih vizuala.

Meta je tvrdila da su ugrađene određene zaštitne mere koje sprečavaju najproblematičnije vrste zloupotreba, ali to nije bilo dovoljno da umiri kritičare.

Zašto je funkcija izazvala toliko reakcija

Najveći problem bio je način na koji su korišćene fotografije sa javnih Instagram naloga. Mnogi korisnici nisu ni znali da njihov javno objavljen sadržaj može da posluži kao osnova za generisanje AI slika.

Organizacije koje se bave zaštitom digitalnih prava upozorile su da javno dostupna fotografija ne znači automatski i dozvolu za njeno korišćenje u razvoju ili radu sistema veštačke inteligencije.

Posebno su reagovali predstavnici glumaca, modela, fotografa i drugih kreativnih profesija, navodeći da bi ovakvi alati mogli da omoguće kreiranje digitalnih verzija ljudi bez njihove kontrole ili odobrenja.

Kritičari su takođe upozorili na mogućnost stvaranja lažnih ili obmanjujućih fotografija koje bi izgledale veoma uverljivo, što dodatno povećava rizik od zloupotrebe generativne AI tehnologije.

Meta brzo odustala od sporne mogućnosti

Suočena sa negativnim reakcijama, Meta je odlučila da potpuno ukloni ovu opciju iz Muse Image servisa.

Iz kompanije su saopštili da su pažljivo saslušali povratne informacije korisnika i stručne javnosti i zaključili da funkcija ne pruža iskustvo kakvo su želeli da ponude. Muse Image nastavlja da postoji kao AI generator slika, ali više nije moguće koristiti javne Instagram profile kao osnov za kreiranje novih vizuala.

Za sada nije poznato da li Meta planira da ovu mogućnost vrati u nekom drugačijem obliku, uz dodatne mere zaštite ili sistem eksplicitne saglasnosti korisnika.

AI kompanije pod sve većim pritiskom

Slučaj Muse Image nije usamljen. Gotovo sve velike tehnološke kompanije koje razvijaju generativnu veštačku inteligenciju poslednjih godina suočavaju se sa pitanjima o poreklu podataka korišćenih za treniranje modela i generisanje sadržaja.

OpenAI, Google, Adobe i druge kompanije već su morale da uvode različite mehanizme zaštite, ograničenja i oznake za AI sadržaj kako bi smanjile mogućnost zloupotrebe.

Istovremeno, širom sveta vode se sudski postupci i rasprave o tome da li javno dostupni tekstovi, fotografije i druga dela mogu biti korišćeni za razvoj AI sistema bez posebne dozvole njihovih autora.

Regulativa tek pokušava da sustigne AI

Evropska unija kroz AI Act i druga regulatorna tela širom sveta pokušavaju da definišu pravila koja će odrediti kako kompanije mogu da koriste javno dostupne podatke prilikom razvoja modela veštačke inteligencije.

U fokusu su transparentnost, mogućnost da korisnici kontrolišu način na koji se njihovi podaci koriste, kao i obaveza kompanija da jasno označe sadržaj nastao uz pomoć AI.

Brzo povlačenje Muse Image funkcije pokazuje da čak i najveće tehnološke kompanije sve češće moraju da menjaju svoje AI proizvode pod pritiskom javnosti, naročito kada se otvore pitanja privatnosti i digitalnih prava korisnika.