Intel i SambaNova unapređuju Agentic AI

  • Objavljeno u Novosti
image

Kako agentska umjetna inteligencija prelazi iz eksperimentiranja u produkciju, industrija se suočava s ograničenjima arhitektura inferencije koje se temelje samo na GPU-u.

Iz tog razloga Intel i tvrtka za umjetnu inteligenciju SambaNova najavili su novi nacrt osmišljen za ova nova radna opterećenja.

Dizajn će kombinirati GPU-ove za prethodno popunjavanje, SambaNova RDU-ove za dekodiranje visokog protoka i Intel Xeon 6 procesore kao glavne i akcijske CPU-ove, rješavajući izazove performansi, učinkovitosti i kompatibilnosti softvera s kojima se suočavaju poduzeća i pružatelji usluga u oblaku.

Heterogeni dizajn odražava širi pomak industrije prema spajanju svake faze zaključivanja umjetne inteligencije s najučinkovitijim računanjem, uz održavanje kompatibilnosti s ekosustavom softvera temeljenim na x86 arhitekturi koji podupire moderne podatkovne centre. Očekuje se da će zajednički osmišljeno rješenje biti dostupno poduzećima, cloud platformama i suverenim implementacijama umjetne inteligencije u drugoj polovici 2026. godine.

Softverski ekosustav podatkovnih centara izgrađen je na x86 i radi na Xeonu, pružajući zrelu, provjerenu osnovu na koju se programeri, poduzeća i pružatelji usluga u oblaku oslanjaju u velikim razmjerima“, rekao je Kevork Kechichian, izvršni potpredsjednik i generalni direktor Grupe za podatkovne centre (DCG) u Intel Corporationu.

Radna opterećenja budućnosti zahtijevat će heterogenu mješavinu računalstva, a ova suradnja sa SambaNovom pruža isplativu, visokoučinkovitu arhitekturu zaključivanja dizajniranu za zadovoljavanje potreba kupaca u velikim razmjerima, pokretanu Xeonom 6.“

Prema potpisanom sporazumu, SambaNova standardizira Xeon 6 kao glavni CPU koji je uparen sa SambaNova RDU-ovima kao okosnicom zaključivanja ovog agentskog AI rješenja.

Prema SambaNovinim mjerenjima, Xeon 6 pruža više od 50% brže vrijeme kompilacije LLVM-a u usporedbi s Arm-baziranim serverskim CPU-ima i do 70% brže performanse vektorske baze podataka u usporedbi s dostupnom konkurencijom temeljenom na x86 arhitekturi. To ubrzava tijekove rada agenata za kodiranje od početka do kraja, omogućujući programerima da znatno brže prijeđu od ideje do agenata spremnih za produkciju.

Suradnja SambaNove s Intelom odražava smjer u kojem ide Agentic AI infrastruktura: Xeon 6 upravlja kontrolom i orkestracijom, s RDU-ovima usmjerenima na dekodiranje. Jedan čip više ne radi sve. Ova podjela arhitektura upravo je ono što poduzeća traže, ne zato što je podijeljena, već ima za cilj pružiti bolje performanse, učinkovitost i ravnotežu na razini sustava za AI u produkcijskim okruženjima“, rekao je Ian Cutress, izvršni direktor i glavni analitičar u More Than Mooreu.

Podijeli
Više u ovoj kategoriji: « Mac OS X pokrenut na Wii konzoli