Asus AI Cashe Boost poboljšava AI performanse

Veliki jezični modeli ( LLM-ovi ) vole velike količine memorije, zapravo toliko da se AI entuzijasti okreću postavkama s više GPU-a kako bi za svoje AI aplikacije dobili još više VRAM-a.
Ali budući da su mnogi trenutni LLM-ovi iznimno veliki, čak i ovaj pristup ima svoja ograničenja. S vremena na vrijeme, GPU će odlučiti iskoristiti procesorsku snagu CPU-a za te podatke, a kada to učini, performanse vaše CPU predmemorije i DRAM-a dolaze u obzir. Drugim riječima, kada se radi o...
- Objavljeno u Novosti