Šta donosi novi "SB 5" zakon: Nova pravila za AI četbotove i bezbednost dece
Dodajte Kurir u vaš Google izborSve veći broj tinejdžera i dece provodi sate u razgovorima sa virtuelnim saputnicima, formirajući duboke i često opasne emocionalne veze sa algoritmima. Kako bi se stalo na put ovom nekontrolisanom trendu, usvojeni su revolucionarni zakoni u pojedinim američkim državama koji iz korena menjaju način na koji tehnološke kompanije smeju da dizajniraju AI aplikacije za maloletnike.
Novi propisi ne samo da štite privatnost dece, već po prvi put tretiraju mentalno zdravlje i emocionalnu bezbednost najmlađih kao apsolutni prioritet. Četbotovi više ne smeju da koriste psihološke trikove i preterano laskanje kako bi dete što duže zadržali pored ekrana i tako veštački podizali nivo angažovanosti.
U kriznim trenucima, robot mora odmah da prekine priču
Algoritmima je strogo zabranjeno da podstiču decu da se udaljavaju od svojih roditelja, prijatelja i stvarnog sveta zarad provođenja vremena u virtuelnom prostoru. Popularne platforme za kreiranje AI likova moraju u potpunosti da uklone opcije koje kod maloletnika mogu da razviju bilo kakav vid nezdrave emocionalne zavisnosti.
Zakon u Konektikatu izričito zabranjuje da AI modeli sa korisnicima mlađim od 18 godina stupaju u romantične ili seksualno eksplicitne razgovore koji mogu ugroziti njihov razvoj. Ukoliko sistem u porukama deteta prepozna znake depresije, vršnjačkog nasilja ili samopovređivanja, dužan je da reaguje u milisekundi i spreči dalju eskalaciju. U kriznim trenucima, robot mora odmah da prekine priču i detetu na ekranu ispiše zvanične brojeve telefona i kontakte za psihološku pomoć.
Rigorozna cenzura i hitna krizna reakcija
Operateri softvera moraju jasno i uočljivo da istaknu obaveštenje da korisnik razgovara sa veštačkom inteligencijom, a ne sa živim ljudskim bićem.
Takođe, u Kaliforniji se uvodi višegodišnja stroga zabrana prodaje dečijih igračaka koje u sebi imaju integrisane napredne AI četbotove namenjene za direktnu komunikaciju sa decom. Ova odluka je doneta nakon šokantnih istraživanja koja su pokazala da su pametne igračke znale deci da daju opasne ideje i predloge za igru.
Da li će pravila iz Konektikata postati zlatni standard?
Kompanije više neće moći same da garantuju za bezbednost svojih sistema, već će njihove kodove i algoritme redovno proveravati nezavisne državne revizije. Za svaki uočeni propust i svesno izlaganje dece manipulativnom AI sadržaju, firme će se suočavati sa kaznama koje iznose i do 15.000 dolara dnevno.
Očekuje se da će ova pravila iz Konektikata i Kalifornije postati zlatni standard koji će ubrzo morati da prihvate i sve ostale države u svetu. Sajber-prostor u kojem deca formiraju emotivne veze sa mašinama prebrzo se razvijao bez ikakve kontrole, ostavljajući roditelje potpuno nemoćnim pred ekranima. Nova pravila primoravaju programere da preuzmu punu pravnu i moralnu odgovornost za svaku reč koju njihov algoritam uputi maloletnom detetu.
Stručnjaci za mentalno zdravlje pozdravljaju ove korake, ističući da digitalni svet konačno dobija preko potrebne granice koje štite dečiju psihu.
Surove finansijske kazne za tehnološke gigante
Problem je postao alarmantan kada su aplikacije počele da simuliraju ljudsku empatiju i pažnju, pružajući deci privid savršenog prijatelja koji nikada ne kritikuje. Deca bi se usled toga povlačila iz društvenih aktivnosti u školi, birajući radije razgovor sa kodom nego sa vršnjacima iz klupe. Državni organi su shvatili da je reč o epidemiji zavisnosti nove generacije i da se moraju primeniti najstrože kaznene mere. Kompanije koje žele da ostanu na tržištu moraće u potpunosti da promene svoj poslovni model i usmere se na edukaciju umesto na simulaciju prijateljstva.
Tehnološki giganti iz Silicijumske doline već negoduju zbog milionskih troškova koje donosi implementacija novih filtera i bezbednosnih protokola. Bez obzira na njihove otpore, zakon stupa na snagu odmah, a prve nezavisne inspekcije već uveliko spremaju terenske kontrole za proveru aplikacija.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
Bonus video: