Zakerberg i TikTok pod istragom: Algoritmi šire bes i opasan sadržaj
Izveštaji pouzdanih izvora otkrivaju da su obe kompanije donoseći poslovne odluke dopustile da štetan sadržaj dominira feedovima korisnika. Interna istraživanja pokazala su da objave koje izazivaju bes ili kontroverzu drastično povećavaju angažman, a menadžment je odlučio da prioritet da rastu profita nad bezbednošću korisnika.
Zakerberg i tim TikToka suočeni su s kritikama jer su ignorisali upozorenja o nasilju, seksualnoj uceni i dečjem zlostavljanju. I dok algoritmi guraju ekstremne objave ka mladim korisnicima, kompanije tvrde da primenjuju bezbednosne protokole, ali dokumenti i svedočenja unutar firme sugerišu suprotno.
Pod pritiskom zbog opasnog sadržaja
Unutrašnji izvori iz Mete navode da je cilj bio da se poveća angažman, čak i ako to znači da se širi govor mržnje, mizoginija ili teorije zavere. Situacija je postala posebno ozbiljna kada su Reels video snimci pokazali veći nivo nasilja i zlostavljanja u odnosu na ostatak Instagrama.
Zakerberg je navodno tražio brze rezultate kako bi se nadoknadio pad akcija i konkurencija TikToku, što je dovelo do toga da su timovi za bezbednost dece i integritet izbora bili nedovoljno podržani. Efekat je bio jasan: problematične objave dobile su veći prioritet nego zaštita korisnika.
Slabosti u zaštiti tinejdžera i dece
Svedočenja unutar TikToka pokazuju da su problemi sa algoritmom uticali na tinejdžere koji su bili izloženi nasilnom i uvredljivom sadržaju. Čak i kada bi korisnici prijavili štetne objave, sistem za moderaciju nije ih rangirao kao hitne, jer su političke teme imale veći prioritet.
U jednom slučaju tinejdžer je tvrdeo da ga je algoritam radikalizovao, pokazujući kako kontinuirana izloženost besnim i uvredljivim video snimcima može promeniti ponašanje mladih. Uzbunjivači ističu da sistem nije dizajniran da aktivno štiti najranjivije korisnike.
Algoritmi platformi šokiraju istraživače
Interni dokumenti otkrivaju da algoritmi društvenih mreža favorizuju sadržaj koji izaziva bes jer povećava vreme provedeno na platformi. Sadržaj koji je štetan, ali legalan, bio je često „granični“ i podsticao ekstremne reakcije korisnika, dok su sigurnosni timovi imali ograničenu moć da ga ograniče.
Ovo je dovelo do nesklada između poslovnih ciljeva i misije kompanije da poveže ljude na siguran način. Istraživači upozoravaju da takvi algoritmi podstiču polarizaciju i normalizuju govor mržnje i nasilje.
Algoritmi Meta i TikToka podižu buru kritika
Sve više svedočenja i dokumenata ukazuje na to da algoritmi nagrađuju sadržaj koji izaziva emocije, čak i ako ugrožava korisnike. Menadžment je više brinuo o vezi sa političkim figurama i tržišnom dominacijom nego o zaštiti tinejdžera i dece na mreži.
Eksperti upozoravaju da se ovakvi sistemi ponašaju kao „crne kutije“ i da je teško kontrolisati posledice. Roditelji i edukatori dobijaju jasnu poruku: oprez i nadzor nad korišćenjem ovih platformi kod mladih su od ključnog značaja.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO: