Šok u školi zbog AI: 16-godišnjak u lisicama zbog grickalica!
AI sistem za detekciju oružja u srednjoj školi u okrugu Baltimor je pogrešno identifikovao kesicu Doritosa kao vatreno oružje, što je izazvalo reakciju policije protiv šesnaestogodišnjeg učenika. Taki Allen je samo uživao u čipsu ispred Kenwood srednje škole nakon fudbalskog treninga kada se incident dogodio.
Za dvadeset minuta, Allen je bio suočen sa više policijskih vozila i naoružanih službenika. „Bilo je kao osam policijskih kola koja su se parkirala pred nama,“ rekao je, opisujući zastrašujući trenutak kada je policija naredila da legne na zemlju. Bio je stavljen u lisice i pretresen, da bi policija shvatila da drži samo kesicu čipsa.
Ljudska cena grešaka AI
„Samo sam držao kesicu Doritosa, sa dve ruke i jednim prstom napolju, i rekli su da liči na pištolj,“ prisetio se Allen. Iskustvo ga je uznemirilo, i sada se boji da čak i svakodnevne radnje mogu izazvati sličnu preteranu reakciju.
Incident naglašava kako neprecizna tehnologija može izazvati strah i traumu kod učenika. Pored trenutnog šoka, otvara šira pitanja o psihološkom uticaju stalnog nadzora i oslanjanja na AI za identifikaciju potencijalnih pretnji u školama.
Tehnologija za detekciju oružja pod lupom
Baltimore County Public Schools su prošle godine uveli Omnilert AI sistem za detekciju oružja, povezujući softver sa hiljadama kamera u školama. Sistem analizira video snimke tražeći potencijalno oružje i u realnom vremenu obaveštava policiju, sa ciljem da spreči školske pucnjave.
Međutim, incidenti poput Allenovog ističu ozbiljne nedostatke. Lažno pozitivni rezultati su česta pojava, a studije pokazuju da ovi sistemi nisu dokazano sprečili smrtonosne pucnjave, što dovodi u pitanje njihovu efikasnost u poređenju sa drugim merama bezbednosti.
Pristrasnost i privatnost u AI nadzoru
Stručnjaci upozoravaju da AI sistemi za detekciju mogu pojačati rasne pristrasnosti, potencijalno stavljajući crne učenike u veću opasnost od pogrešnog identifikovanja kao pretnje. Allen, crni tinejdžer, postao je deo šire diskusije o tome kako ove tehnologije mogu nenamerno perpetuirati diskriminaciju u školama.
Pored toga, stalni nadzor otvara pitanja privatnosti. Kritičari tvrde da oslanjanje na AI nadzor, umesto na rešavanje uzroka nasilja, može stvoriti atmosferu straha i nepovjerenja među učenicima.
Zahtevi za odgovornošću i nadzorom
Uprkos traumi, Allen je rekao da nikada nije dobio izvinjenje od škole, koja je navela „protokol“ kao opravdanje za reakciju. Njegov deda, Lamont Dejs, kritikovao je preteranu reakciju, ističući da nije postojao stvarni razlog da osam naoružanih policajaca suoči šesnaestogodišnjeg dečaka.
Porodica i lokalni zagovornici sada traže stroži nadzor AI sistema u školama. Incidenti poput ovog naglašavaju hitnu potrebu za merama koje će sprečiti da tehnologija ugrožava učenike, dok se istovremeno nastoje ostvariti legitimni ciljevi bezbednosti.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.