NVIDIA predstavlja kompletnu liniju lokalnog AI hardvera

Na konferenciji GTC Berlin, NVIDIA predstavlja svoju kompletnu liniju lokalnog AI hardvera. RTX Spark, koji je lansiran prošli tjedan, pokreće osobne agente na Windows računalima. GX Spark podržava razvojne programere u izgradnji i skaliranju aplikacija na Linuxu, DGX Station služi poslovnim timovima koji izvršavaju granična opterećenja na Linuxu, s verzijom za Windowse koja stiže u prosincu. 

Nvidia je objavila da je Underdog Desktop Agent sada dostupan za RTX Spark, dok je DGX Spark 64GB dostupan u petak, 23. listopada.

NVIDIA Sync će ovog mjeseca podržavati osam DGX Sparksa i dodati Model Launcher, a listopadsko ažuriranje softvera DGX Spark dodaje Wi-Fi asistenta i ažurira DGX Spark vještine.

Nadalje, DGX Station poboljšava upravljivost sa sedam novih integracija, a verzija za Windowse pokreće se u prosincu s podrškom za mnoge proizvodne aplikacije i agentske sustave.

Najavljena su i tri nova referentna tijeka rada otvorenog koda za robotiku na DGX Stationu, a NVIDIA Cloud Functions dolazi u ranom pristupu za DGX Station.

Rekurzivni Flint, novi lokalni model kodiranja, sada je dostupan za NVIDIA lokalni hardver s podrškom za nove modele umjetne inteligencije Nemotron, GLM, DeepSeek, Qwen, MiniMax i FLUX.3.

I na kraju, najavljena su i nova ubrzanja za inferencijske mehanizme llama.cpp i vLLM te nova kolekcija kontrolnih točaka optimiziranih za lokalni AI hardver. 

Underdog , nova aplikacija za desktop agente izgrađena za potpuno lokalnu, privatnu umjetnu inteligenciju, također donosi svoje iskustvo u RTX Spark. Pokretan svojim Husky mehanizmom za zaključivanje specifičnim za modele, Underdog u potpunosti pokreće modele na uređaju, tako da osobni agenti mogu obavljati posao bez da korisnički podaci ikada napuste računalo. Underdog je sada dostupan za preuzimanje. 

Kako bi se programerima i entuzijastima bolje omogućila izrada i prilagodba lokalnih agenata, mnoga RTX Spark prijenosna računala dolaze s otključanim bootloaderom. 

Tijekom glavnog govora na GTC-u, osnivač i izvršni direktor NVIDIA-e, Jensen Huang, pokazao je kako se AI agenti koji rade na RTX Sparku mogu koristiti za treniranje Hugging Faceovog Microduck robota koristeći NVIDIA Isaac Lab, Hermes Agent i Nemotron 3.5 Bolt 74B, kao što možete vidjeti u ovom videu.

Novi DGX Spark 64GB sustavi koji mogu pokretati modele, uključujući Nemotron 3.5 Bolt 74B 24GB, Qwen3.8 27B i Gemma 4 26B-A4B, počinju se isporučivati ​​od strane partnera u petak, 23. listopada. 

Kada radna opterećenja zahtijevaju veći kapacitet, programeri mogu povezati više DGX Spark sustava putem ugrađenog NVIDIA ConnectX-7 umrežavanja i NVIDIA Sync Cluster Assistanta. To korisnicima omogućuje pokretanje naprednih modela kodiranja poput Qwen 3.8 Flash Next, DeepSeek v4 Flash 0731 i GLM 5.3 Flash. 

DGX Spark sada podržava klastere do osam jedinica u ručnoj konfiguraciji, omogućujući veće modele, dulje kontekste, istovremene agente i distribuirani razvoj. Idealan za male timove koji dijele jedan klaster kao pozadinski sustav, gdje svaki programer pokreće istovremene sesije na istom modelu, pruža 1 TB objedinjene memorije, dovoljno za pokretanje modela vrhunske klase poput GLM 5.3. 

NVIDIA Sync Model Launcher također će biti dostupan kasnije ovog mjeseca. Pojednostavljuje pristup lokalnoj umjetnoj inteligenciji na jednom DGX Sparku ili klasteru. S nekoliko klikova, Model Launcher preuzima model i kontejner prilagođen konfiguraciji i povezuje model s OpenCodeom. Automatski učitava DGX Spark vještine za rješavanje problema, održavanje uređaja, pristup službenoj dokumentaciji i druge smjernice za tijek rada. 

Listopadsko ažuriranje softvera DGX Spark donosi novi Wi-Fi Assistant koji korisnicima omogućuje promjenu mreža kada DGX Spark radi u načinu rada uređaja. Osim toga, DGX Spark Skills pruža smjernice usmjerene na tijek rada u rješavanju problema i održavanju uređaja izravno u NVIDIA Sync putem OpenCodea. 

DGX Spark sustavi dostupni su izravno od tvrtki Acer, ASUS, Dell Technologies, GIGABYTE, HP, Lenovo, MSI i NVIDIA. 

Za veće timove, DGX Station nudi 748 GB koherentne memorije i do 20 petaflopsa AI performansi, omogućujući programerima pokretanje naprednih modela poput GLM 5.3 i opsluživanje više od 30 korisnika brzinama usporedivim s onima koje pružaju cloud modeli. Povećavajući skalabilnost, NVIDIA Sync sada podržava DGX Station, pojednostavljujući veze između dva Linux sustava. 

Nove integracije s Absolute Security, Splunk by Cisco, Fleet Device Management, Microsoft Intune, Perforce Puppet, Progress Software Chef i Tanium omogućuju IT timovima upravljanje DGX Station sustavima putem procesa postavljanja, upravljanja i usklađenosti na razini poduzeća, pomažući ubrzati odobrenja i smanjiti rizik implementacije uz minimiziranje vremena do prvog tokena. 

S nadolazećim Windows sustavima, programeri mogu izgraditi tijekove rada koji koriste profesionalne aplikacije, rade na NVIDIA RTX PRO GPU-ima i rade s agentima koji pokreću njihove velike jezične modele (LLM) na NVIDIA GB300 sustavima, sve u jednom računalu. 

DGX Station za Windows, koji se očekuje od proizvođača sustava u prosincu, proširuje lokalnu umjetnu inteligenciju na aplikacije i operativno okruženje koje poduzeća već koriste. Inženjeri mogu pokretati lokalne modele i agente u izvornom Windows softveru s pristupom modelima, alatima i agentima umjetne inteligencije na istom sustavu. 

DGX Station za Windows će podržavati proizvodne aplikacije tvrtki nTop, Dassault Systèmes, Keysight Technologies, MathWorks, Rockwell Automation, Siemens, Synopsys, Unity i Altera za dizajn, simulaciju, validaciju i inženjersku automatizaciju vođenu umjetnom inteligencijom. Korisnici će moći pokretati agente koristeći Hermes Agent, Perplexity ili Aible lokalno za agentsku kontrolu u poslovnim okruženjima. 

Isti lokalni, kontrolirani računalni model proteže se i na robotiku. DGX Station pruža robotskim timovima namjensko računalstvo za naknadnu obuku, simulaciju i evaluaciju, skraćujući cikluse iteracije bez čekanja na zajedničku infrastrukturu. 

NVIDIA je objavila tri referentna tijeka rada otvorenog koda koji donose GPT-6 Astra, NVIDIA Isaac Lab, Isaac Lab-Arena i Cosmos na NVIDIA DGX Station. Programeri ih mogu koristiti za poboljšanje GR00T 1.7 modela s učenjem s potkrepljenjem, treniranje vještina spretne manipulacije i naknadno treniranje modela svijeta Cosmos za generiranje sintetičkih podataka. 

NVIDIA Cloud Functions dolazi u ranom pristupu za Linux-bazirani DGX Station. Timovi mogu registrirati lokalne krajnje točke modela u dijeljenom katalogu i pristupiti im putem jedne ulazne točke kompatibilne s OpenAI-jem. 

Razvojni programeri mogu nadograditi model iza krajnje točke bez promjene koda aplikacije, dok članovi tima mogu koristiti dijeljene modele bez izravnog pristupa računalu. To DGX stanicu pretvara u lokalno kontroliranu uslugu zaključivanja za tim. 

DGX Station donosi lokalnu iteraciju u razvoj tvornica umjetne inteligencije. Na izložbenom prostoru GTC Berlina, NVIDIA predstavlja pregled DSX OS-a koji se izvodi na DGX Stationu kako bi simulirao rad tvornice umjetne inteligencije prije nego što bude dostupna puna infrastruktura. Druga demonstracija prikazat će DGX Station sustave koji pokreću lokalnu tvornicu tokena za više od 30 softverskih programera. 

DGX Station sustavi se danas isporučuju od tvrtki ASUS, Dell Technologies, GIGABYTE, HP, MSI, Supermicro i Exxact. Očekuje se da će DGX Station za Windows sustave početi isporučivati ​​kasnije ove godine od tvrtki ASUS, Dell Technologies, GIGABYTE, HP, MSI i Supermicro. 

NVIDIA također dodaje podršku za modele nultog dana za NVIDIA Nemotron Bolt E4B 4B, GLM, DeepSeek, Qwen, MiniMax, Liquid AI-jev LFM2.5-24B-A2B, plus FLUX.3 Klein difuzijski model. 

Osim toga, NVIDIA je izdala novu kolekciju kontrolnih točaka modela optimiziranih za učinkovitost RAM-a na lokalnom AI hardveru, omogućujući otvorenim modelima vrhunske klase da rade s dovoljno preostale memorije za KV predmemoriju. Svaka kontrolna točka je kvantizirana uz zadržavanje gotovo pune preciznosti, počevši s Qwen3.8-Flash-Next-FP4-Local na jednoj DGX Spark 128GB ili RTX PRO 6000 i GLM-5.3-Flash-FP4-Local na dva sustava. 

I za kraj, NVIDIA kaže kako nastavlja surađivati ​​s open source zajednicama llama.cpp i vLLM kako bi ubrzala agentska opterećenja na lokalnom hardveru.