Šta se zapravo čuva u AI data centrima? Podaci su mnogo veći od običnih poruka
Nisu to samo razgovori korisnika sa chatbotovima. Tu se čuvaju ogromni skupovi podataka, modeli veštačke inteligencije, kopije njihovog razvoja, dokumenti, slike, video-zapisi i privremeni podaci koji nastaju dok AI obrađuje zahtev.
Kada se pomene AI data centar, većina ljudi prvo pomisli na redove servera sa moćnim GPU čipovima. Međutim, računarska snaga je samo jedan deo priče. Veštačkoj inteligenciji potrebne su i ogromne količine prostora za skladištenje podataka, kao i sistemi koji mogu veoma brzo da ih dostave računarima.
1. Ogromne količine podataka za treniranje AI modela
Jedna od najvažnijih stvari koja se čuva u AI infrastrukturi jesu skupovi podataka koji se koriste za treniranje modela.
To mogu biti tekstovi, slike, audio-snimci, video-materijal, kod i drugi oblici digitalnog sadržaja. Kod velikih AI sistema količina podataka može biti ogromna, zbog čega se koriste specijalizovani sistemi za skladištenje i obradu podataka.
Podaci se najpre prikupljaju i obrađuju, a zatim se prosleđuju računarima koji treniraju model. Taj proces može biti veoma zahtevan i trajati danima ili mesecima.
2. Sam AI model
Kada se treniranje završi, ne nestaje sve ono što je računar naučio.
U data centru se čuvaju modeli i njihovi parametri, odnosno takozvani weights. Oni predstavljaju matematičku reprezentaciju onoga što je model naučio tokom treniranja.
Zato AI model nije jednostavno „program koji se pokrene“. Iza njega se nalazi ogroman skup parametara koji mora da bude smešten i dostupan serverima koji odgovaraju na zahteve korisnika.
Kod velikih modela ti fajlovi mogu biti ogromni. Pored konačnog modela, tokom razvoja čuvaju se i različite verzije i kontrolne tačke nastale tokom treniranja.
3. Kopije i verzije modela
AI kompanije ne čuvaju samo jednu verziju modela.
Tokom treniranja nastaju checkpointi, odnosno sačuvana stanja modela koja omogućavaju da se proces nastavi ako dođe do problema ili prekida. U velikim AI sistemima takvi fajlovi mogu zauzimati ogromnu količinu prostora.
To znači da jedan AI model može iza sebe imati veliki broj različitih verzija, testnih modela i pomoćnih fajlova.
4. Podaci koji se koriste za odgovore korisnicima
Kada korisnik pošalje pitanje AI chatbotu, server mora da obradi njegov zahtev.
To ne znači automatski da se svaka poruka trajno čuva u data centru. Da li će se konkretan razgovor sačuvati, koliko dugo i za koju svrhu zavisi od konkretnog AI servisa, njegovih podešavanja i politike privatnosti.
Međutim, tokom samog rada AI sistema nastaju podaci potrebni za obradu zahteva.
Kod velikih jezičkih modela postoji, između ostalog, i takozvani KV cache, privremeno stanje koje model koristi dok obrađuje duži razgovor ili zahtev. Kod velikih modela i veoma dugih upita i ovaj deo infrastrukture može zahtevati značajne memorijske i skladišne kapacitete.
5. Dokumenti, slike, video i drugi fajlovi
AI sistemi danas ne rade samo sa tekstom.
Data centri mogu obrađivati i skladištiti fotografije, video-snimke, audio-zapise, PDF dokumente, poslovne fajlove i druge vrste podataka. Moderni AI sistemi sve češće rade sa više vrsta sadržaja istovremeno, odnosno sa multimodalnim podacima.
Zbog toga se AI skladište ne svodi na običnu bazu tekstualnih fajlova. Savremena infrastruktura mora da bude sposobna da obrađuje ogromne količine strukturiranih i nestrukturiranih podataka.
6. Podaci za specijalizovane AI sisteme
Kompanije koje koriste AI za sopstvene potrebe mogu u infrastrukturu unositi i interne podatke.
To mogu biti poslovni dokumenti, baze znanja, tehnička dokumentacija, katalozi proizvoda ili drugi podaci kojima kompanija želi da AI ima pristup.
Kod RAG sistema, na primer, AI model može da dobije informacije iz spoljne baze podataka u trenutku kada odgovara na pitanje, umesto da se sve te informacije trajno „ugrade“ u sam model.
Da li se onda u AI data centru čuvaju naše poruke?
Mogu, ali nije pravilo da se svaki razgovor automatski trajno čuva.
Ovo je jedna od najčešćih zabluda kada se govori o AI data centrima. Treba razlikovati podatke koji su potrebni za rad sistema od podataka koji se eventualno čuvaju radi istorije razgovora, bezbednosti, analitike, poboljšanja usluge ili drugih namena.
Način čuvanja zavisi od konkretnog servisa i njegovih pravila. Neki sistemi korisnicima omogućavaju i kontrolu nad tim da li se određeni podaci čuvaju.
AI data centar je mnogo više od servera sa GPU čipovima
Najjednostavnije rečeno, u AI data centru mogu se nalaziti podaci za treniranje, modeli, njihove verzije i checkpointi, dokumenti, multimedijalni sadržaj, baze podataka i privremeni podaci koji nastaju tokom rada AI sistema.
Zato je skladištenje postalo jedan od ključnih delova AI infrastrukture. Nije dovoljno imati veliki broj moćnih GPU čipova. Podaci moraju dovoljno brzo da stignu do njih, a sistemi moraju biti sposobni da čuvaju sve veće količine informacija.
Upravo zbog toga se iza svakog velikog AI sistema ne nalazi samo „superračunar“. Tu je čitava infrastruktura za računanje, skladištenje i prenos podataka, bez koje savremeni AI modeli jednostavno ne bi mogli da rade na velikoj skali.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
