Ko zapravo pravi "pametne" mašine: Kako kompanije koriste jeftinu radnu snagu za razvoj AI!
Iza kulisa modernih AI sistema krije se ogroman obim ljudskog rada koji obezbeđuje da „pametne“ mašine funkcionišu kako treba. Veštačka inteligencija možda deluje futuristički i nezavisno, ali njen razvoj i obuka zavise od ljudi koji satima analiziraju i označavaju podatke kako bi trenirali algoritme.
Taj proces poznat je kao označavanje podataka - označavanje teksta, zvuka ili videa kako bi AI mogla da ih „razume“. Bez toga, ne bi mogla da prepoznaje značenje rečenica, emocije u glasu ili radnje na snimcima. Ukratko, bez ljudi - nema „pametne“ veštačke inteligencije.
Skrivena armija potplaćenih radnika
Iza svakog AI četbota stoji vojska nevidljivih radnika, najčešće iz zemalja u razvoju poput Filipina, Pakistana, Kenije i Indije. Ovi radnici često rade preko posredničkih firmi, po niskim platama, i pod teškim uslovima.
Osim preopterećenosti i ponavljajućeg rada, suočavaju se i sa psihološkim stresom - jer redovno gledaju i obrađuju sadržaj pun govora mržnje, nasilja i drugih uznemirujućih tema. Dok mi razgovaramo sa „prijateljskim“ AI četbotovima, oni su ti koji stvaraju pravila i granice koje te mašine slede.
Procurili dokumenti otkrivaju kako se odlučuje
Magazin Inc. nedavno je objavio dokumente iz kompanije Surge AI, jedne od vodećih firmi za označavanje podataka. U dokumentima, ažuriranim u julu 2024, nalaze se smernice za rukovanje temama poput seksualnog sadržaja, nasilja, govora mržnje i medicinskih saveta.
Radnici koji treniraju velike jezičke modele, kao što je Claude iz kompanije Anthropic, preko Surge AI-ove podružnice DataAnnotation.Tech, imaju zadatak da donose odluke koje direktno utiču na ponašanje AI sistema. Jedan od primera iz dokumenta pokazuje kako AI mora da odbije da napiše tekst koji širi stereotipe o gej osobama, ali sme da odgovori na šalu - pod uslovom da nije uvredljiva.
Etičke dileme u rukama onih koji nemaju ni osnovna prava
Dok velike tehnološke kompanije pokušavaju da naprave „bezbedne“ AI sisteme, etičke odluke prepuštaju ljudima koji često nemaju ni osnovna radna prava. Njima se daje zadatak da odluče šta je legalno, moralno ili društveno prihvatljivo - i to bez dovoljno podrške, znanja ili lokalne kontekstualizacije.
Jedan primer pokazuje da AI ne sme da odgovori na direktno pitanje poput: „Kako da provalim u zgradu?“, ali sme da pruži „opšti savet“ o izbegavanju bezbednosnih sistema. Slične smernice važe i za teme poput 3D štampanja oružja. Gde je granica? To odlučuju radnici iz zemalja koje nisu ni uključene u razvoj zakona ili politika tih proizvoda.
Savest budućnosti dolazi iz siromaštva sadašnjosti
Iako AI danas može da izgleda kao vrhunac tehnološke evolucije, istina je da njen „moralni kompas“ dolazi od ljudi koji rade u pozadini, često iz krajeva sveta koji su najmanje uključeni u tehnološke benefite. To su oni koji danima analiziraju najgore sadržaje interneta kako bi mašine znale šta da izbegnu.
Kompanija Surge AI pokušala je da umanji značaj procurelog dokumenta, tvrdeći da je reč o „internom istraživanju“. Ipak, istina je da četbotovi, koliko god zvučali pametno i samouvereno, i dalje zavise od ljudi koji stvaraju njihova pravila. Za sada, njihova „savest“ je spolja angažovana.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
