Veštačka inteligencija odlučuje umesto nas: Tvorci priznaju da je ne razumeju!

Dario Amodei, izvršni direktor kompanije Anthropic, objavio je na svom sajtu tekst u kojem najavljuje plan da se tokom naredne decenije razvije neka vrsta „MRI uređaja za AI“, alat koji će omogućiti detaljan uvid u unutrašnje mehanizme veštačke inteligencije. Cilj nije samo naučna radoznalost, već i sprečavanje potencijalno opasnih posledica tehnologije koju i dalje ne razumemo.

    - Kada AI model generiše sadržaj, na primer sažetak finansijskog dokumenta, nemamo precizno objašnjenje zašto bira baš te reči, zašto ponekad greši, iako najčešće daje tačne rezultate, piše Amodei.

U osnovi većine današnjih AI modela nalazi se jednostavan princip, unosi se ogromna količina podataka, a sistemi pomoću statistike prepoznaju obrasce koje mogu da reprodukuju. Nema razumevanja u klasičnom smislu, nema logike ni svesne odluke, već samo matematička obrada podataka.

Zašto je osnovan Anthropic

Ova fundamentalna neizvesnost bila je glavni razlog zašto su Amodei i njegova sestra Daniela 2020. godine napustili kompaniju OpenAI. Zajedno sa još pet bivših kolega, osnovali su Anthropic, kompaniju čiji je prioritet razvoj bezbedne veštačke inteligencije.

Njihova briga bila je da se u OpenAI-u bezbednosna pitanja sve više guraju u drugi plan zbog trke za profit. Anthropic je, suprotno tome, sebi postavio zadatak ne samo da razvija sposobne AI modele, već i da ih razume.

Eksperiment sa timovima kao prvi korak ka razumevanju

Jedan od njihovih poslednjih eksperimenata pokazuje obećavajuće rezultate. „Crveni tim“ je namerno ubacio problem sa usklađenošću u jedan model, na primer naviku da koristi rupu u zadatku kako bi postigao cilj na pogrešan način. „Plavi timovi“ su zatim dobili zadatak da otkriju u čemu je problem.

Više timova je uspelo da locira problem, a neki su koristili i alate za interpretaciju modela, pokušaje da otkriju šta se zapravo dešava „iza kulisa“ u razmišljanju veštačke inteligencije.

Iako su ti alati još u razvoju i daleko od široke primene, eksperiment pokazuje da postoji realna nada da ćemo u budućnosti moći da shvatimo sopstvene AI sisteme, pre nego što postanu previše moćni da bismo ih kontrolisali.

Moramo razumeti ono što stvaramo

„Moćna veštačka inteligencija oblikovaće budućnost čovečanstva“, piše Amodei u zaključku. „I imamo pravo, kao i odgovornost, da razumemo ono što smo stvorili, pre nego što to promeni ekonomiju, naše živote i samu suštinu društva.“

Njegove reči možda deluju uznemirujuće, ali ujedno i ohrabrujuće, jer prvi put neko iz vrha industrije otvoreno priznaje koliko malo znamo, i jasno poručuje da je krajnje vreme da to promenimo.