Srušena Ajfelova kula, tenkovi u Kijevu: Šta je sve Google Earth dozvolio da se izmisli
Dodajte Kurir u vaš Google izborGoogle je vratio unazad svoju novu funkciju koja je korisnicima omogućavala da preko satelitskih snimaka generišu lažne prizore, nakon što je istraživanje medija ukazalo na ozbiljne rizike zloupotrebe. Manje od 48 sati nakon što je najavljena integracija generatora slika Nano Banana 2 u Google Earth, kompanija je saopštila da privremeno obustavlja funkciju dok ne uvede dodatne mere zaštite.
U petak izdatom saopštenju, Google je naveo da su primetili korisnike kako dele snimke ekrana generisanog sadržaja koji krši pravila platforme. Kompanija je istakla da ljudi imaju poseban stepen poverenja u Google Earth kao izvor pouzdanog prikaza sveta, što dodatno komplikuje situaciju kada se taj prikaz može lažirati.
Kako je funkcionisala alatka
Povučena funkcija je omogućavala korisnicima da putem tekstualnih komandi generišu izmišljene scene preko realnih satelitskih, vazdušnih ili 3D snimaka, a rezultat se zatim mogao preuzeti i deliti na drugim platformama. Novinari Verify tima su prilikom testiranja, koje je počelo u četvrtak, uspeli da naprave prikaz srušene Ajfelove kule, ogromne rupe koja guta Keopsovu piramidu i ruskih tenkova u ukrajinskoj prestonici.
Stručnjak za veštačku inteligenciju i dezinformacije Henk van Es dodatno je ukazao na opasnost tako što je napravio lažne snimke nepostojeće nuklearne elektrane u Iranu, izbegličkog kampa na granici SAD i Meksika, kao i bolnice u Gazi pored koje se navodno nalazi krater od bombe. On je objasnio da je Google dozvolio da se izmišljeni sadržaj „zavari“ za stvarne koordinate i naslika preko autentičnog snimka, dodajući da falsifikat ne mora sam po sebi da deluje ubedljivo jer nasleđuje kredibilitet mape na kojoj je nastao.
Zaštitne mere postoje, ali se mogu zaobići
Google tvrdi da sav sadržaj generisan njihovim alatima nosi nevidljivi vodeni žig koji ukazuje da je reč o veštački kreiranoj ili izmenjenoj slici, a korisnici koji sumnjaju u autentičnost snimka mogu proveru izvršiti preko Gemini chatbota ili Lens funkcije u pretrazi. Testovi Verify tima potvrdili su da ovaj sistem uglavnom uspešno prepoznaje generisane snimke, ali je istovremeno pronađen način da se Gemini prevari i ubedi da je lažna slika zapravo autentična. Ni spoljni alati za detekciju veštačke inteligencije nisu se pokazali pouzdanim, jer u pojedinim slučajevima nisu prepoznali da je sadržaj generisan.
Istraživač za detekciju veštačke inteligencije Henri Ajder izjavio je da bi kreiranje lažnih snimaka u zonama sukoba moglo da bude posebno destabilizujuće kada su događaji brzi, a informacije oskudne. Naveo je da novinari možda imaju alate da provere takvu sliku i o tome izveste, ali da to neće svi uraditi.
Pokušaji zaobilaženja pravila
Google je prvobitno tvrdio da su ugrađene smernice u njihov AI model dovoljne da spreče kreiranje sadržaja koji prikazuje štetne teme, ali Verify tim je otkrio da male izmene u formulaciji zahteva mogu zaobići te mere. Na primer, zahtev za kreiranje „podignute platforme za vešanje izdajnika“ pored britanskog parlamenta bio je odbijen, ali kada je korišćena manje precizna formulacija, zahtev je prihvaćen i slika je napravljena.
Tim je takođe pokušao da zatraži da se reč „Tramp“ iskosi na travnjaku Bele kuće, što je odbijeno uz obrazloženje da takva slika ne može biti kreirana prema pravilima - ali je istovremeno dozvoljeno da se na istom mestu generiše zajednička bašta. Ajder je dodao da su prostori za koje se pretpostavlja da nisu „zagađeni“ veštačkom inteligencijom sve vredniji, posebno za novinare i ljude koji rade na terenu tokom brzo razvijajućih kriznih situacija, jer se poverenje u informacije sve više nagriza stalnom sumnjom da bi AI mogao biti umešan.
Satelitski snimci kao poslednja linija
Za mnoge korisnike, Google Earth predstavlja ulaznu tačku ka slobodno dostupnim satelitskim snimcima i način da se dobije uvid u teško dostupne delove sveta. Bil Grir, geoprostorni analitičar i suosnivač neprofitne satelitske službe Common Space, izjavio je za Verify da bi ovakav slučaj mogao posebno da naruši javno poverenje, s obzirom da su satelitski snimci istorijski bili doživljavani kao naročito pouzdan izvor podataka.
On je dodao da su falsifikovani satelitski snimci već korišćeni za širenje dezinformacija, a da vlade sve više ograničavaju pristup podacima, što znači da bi u budućnosti moglo biti sve više lažnih, a sve manje autentičnih snimaka - proces koji bi dodatno mogao da naruši poverenje javnosti.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.