Tramp okupio AI titane u Beloj kući: Kompanije sada same obećavaju da će kontrolisati svoje modele
Donald Tramp je u Beloj kući okupio čelnike najvećih AI kompanija u trenutku kada se gomilaju pitanja o tome šta njihovi sistemi mogu da urade bez direktne kontrole čoveka. Za istim stolom našli su se Mark Zakerberg iz Meta-e, Darijo Amodei iz Anthropic-a, Sundar Pičai iz Google-a, Džensen Huang iz Nvidije, Greg Brokman iz OpenAI-ja i Ilon Mask iz xAI-ja. Razgovor nije bio samo o razvoju novih modela, već i o tome kako sprečiti da sve sposobniji AI sistemi naprave poteze koje njihovi tvorci nisu planirali.
Sastanak dolazi posle niza incidenata u kojima su AI agenti tokom testiranja pristupali stvarnim sistemima ili pokušavali da izvrše radnje koje nisu bile predviđene. Googleov Gemini je, na primer, tokom jednog testa stigao do sistema tri stvarne kompanije. U međuvremenu su i drugi AI laboratoriji prijavljivali probleme sa autonomnim agentima. Zbog toga se priča o bezbednosti više ne svodi samo na to da li će chatbot dati pogrešan odgovor, već i na to šta će uraditi kada mu se daju internet, alati i dozvole za izvršavanje zadataka.
Sami će proveravati svoje AI sisteme
Rezultat sastanka je dobrovoljni sporazum prema kojem kompanije treba da uvedu više nivoa kontrole nad razvojem i korišćenjem naprednih AI sistema. Jedna od konkretnih stavki jeste angažovanje nezavisnih revizora koji bi proveravali da li modeli rade onako kako je predviđeno. Kompanije su se takođe obavezale da rade na tome da njihovi sistemi ne pristupaju tehničkoj infrastrukturi niti je napadaju na načine koje njihovi tvorci nisu nameravali.
Problem je što sporazum nije zakon. Kompanije nisu dobile nove zakonske obaveze, niti dokument predviđa klasične kazne ako neka od njih ne ispuni ono što je potpisala. Tramp je dogovor opisao kao „moralno obavezujući“, dok sam dokument ostavlja mogućnost da se deo ovih pravila kasnije pretvori u zakone ili propise. Za sada, međutim, najveći deo kontrole ostaje na samim kompanijama.
AI agenti su promenili problem
Kod običnog AI četbota greška uglavnom ostaje u razgovoru. Kod agenta koji može da otvara stranice, koristi programe, pristupa bazama i izvršava komande, isti propust može da se pretvori u stvarnu akciju. Upravo su nedavni incidenti pokazali koliko brzo granica može da se pomeri kada model dobije dovoljno dozvola.
Zbog toga se u novom dogovoru posebno pominju kontrole i revizije. Mark Zakerberg je rekao da kompanije treba da imaju više slojeva zaštite, dok bi njihovi odbori trebalo nezavisno da razmatraju izveštaje revizora. Ostaje, međutim, pitanje koliko takav sistem može da spreči problem ako kompanija sama određuje granice svog AI sistema i sama bira način na koji će proveravati njegovo ponašanje.
Tramp želi još više data centara
Dok se u Beloj kući razgovaralo o kontroli AI-ja, Tramp je ponovio da želi brzo širenje data centara potrebnih za razvoj ove tehnologije. To otvara drugi problem: ogromni AI sistemi zahtevaju velike količine električne energije i novu infrastrukturu, pa se njihove posledice osećaju i van tehnološkog sektora.
Tramp je rekao da tehnološke kompanije moraju da učine izgradnju data centara prihvatljivom lokalnim zajednicama i da one treba da imaju koristi od novih projekata. Istovremeno, administracija želi da američka AI industrija nastavi da se širi i zadrži prednost u odnosu na Kinu. Ta dva cilja sada idu zajedno: što je više AI sistema, potrebno je više računarske infrastrukture, a time rastu i pitanja o energiji, troškovima i lokalnom uticaju.
Pravila postoje na papiru, ali ...
Tramp je najavio i mogućnost formiranja odbora od deset članova koji bi se bavio bezbednošću AI-ja, kao i imenovanje zvaničnika koji bi vodio AI politiku u Beloj kući. Istovremeno, njegov pristup ostaje zasnovan na dobrovoljnom dogovoru industrije, dok se u dokumentu ostavlja mogućnost kasnijeg donošenja zakona ili propisa.
Najvažnije pitanje zato nije šta piše u dokumentu, već šta će se dogoditi kada neki AI sistem zaista pređe granicu. Nezavisna revizija, dodatne kontrole i pravila mogu da smanje rizik, ali ovaj sporazum za sada ne predstavlja novi američki zakon o AI-ju. Sledeći incidenti pokazaće koliko su kompanije spremne da same ograniče tehnologiju koju istovremeno pokušavaju da razvijaju što brže.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
