Nova blamaža Google AI sistema: Pogrešno spelovao jednostavne reči i svoje ime
Koliko slova „P“ ima u reči Google? Prema odgovoru Google AI Overview sistema - dva. I tu nije bio kraj neobičnim greškama. Veštačka inteligencija kompanije Google tvrdila je i da reč „poop“ sadrži jedno slovo „r“, dok je termin „journalism“ uspela da napiše potpuno pogrešno.
Sistem je čak pogrešno spelovao i prezime američkog predsednika, iako je uspeo da prepozna broj slova „P“ u njemu. Ovakvi primeri brzo su postali viralni na društvenim mrežama i dodatno otvorili pitanje koliko se korisnici zaista mogu osloniti na odgovore generativne veštačke inteligencije.
Problemi sa AI pretragom nisu novi
Ovo nije prvi put da Google AI pretraga izaziva podsmeh i zabrinutost. Kada je kompanija prvi put predstavila AI Overview funkciju, sistem je prikazivao bizarne odgovore zasnovane na satiričnim objavama sa interneta, uključujući savete da ljudi jedu kamenje ili stavljaju lepak na picu.
Iako je Google u međuvremenu unapredio sistem i dodatno ga integrisao u svoju pretragu, novi talas grešaka pokazuje da problemi nisu nestali. Kompanija sada još snažnije promoviše generativnu veštačku inteligenciju kao centralni deo svog najvažnijeg proizvoda, ali očigledno je da tehnologija i dalje ima ozbiljna ograničenja.
Zašto AI modeli imaju problem sa spelovanjem
Iz Google-a su priznali da brojanje slova unutar reči predstavlja poznat izazov za velike jezičke modele i naveli da rade na rešenju problema. Ipak, stručnjaci ističu da ovakve greške nisu slučajne, već posledica načina na koji AI sistemi funkcionišu.
Veliki jezički modeli ne „čitaju“ tekst kao ljudi. Umesto razumevanja pojedinačnih slova i reči, oni obrađuju takozvane tokene - delove reči, slogove ili čitave izraze - koje pretvaraju u numeričke reprezentacije. Zbog toga modeli mogu briljantno rešavati kompleksne zadatke, ali istovremeno praviti jednostavne pravopisne greške koje bi dete lako izbeglo.
Ogromna ograničenja tehnologije
Metju Guzdijal, istraživač veštačke inteligencije sa Univerziteta Alberta, objasnio je da modeli zapravo ne razumeju pojedinačna slova u rečima. Kada AI obradi pojam poput reči „the“, on ne vidi odvojena slova „T“, „H“ i „E“, već samo kodirani koncept tog izraza.
Slično mišljenje deli i Šeridan Foht, doktorand sa Nortistern univerziteta, koji smatra da problem možda nikada neće biti potpuno rešen. Prema njegovim rečima, teško je definisati savršen sistem tokenizacije jer je sam jezik neprecizan i fleksibilan, što dodatno komplikuje način na koji AI modeli interpretiraju tekst.
Važnost provere informacija
Iako pravopisne greške možda deluju bezazleno, one pokazuju da veštačka inteligencija nije nepogrešiva. AI sistemi danas mogu da pišu kod, analiziraju ogromne količine podataka i rešavaju veoma složene probleme, ali to ne znači da su njihovi odgovori uvek tačni.
Upravo zbog toga stručnjaci upozoravaju da korisnici ne bi smeli slepo da veruju rezultatima koje generiše veštačka inteligencija. Bez obzira na to koliko odgovori delovali uverljivo, informacije je i dalje potrebno proveravati iz pouzdanih izvora.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
· Reaguj