Microsoft predstavio novi Maia 300 AI procesor

Umjetna inteligencija postaje temeljni sloj svake aplikacije, tijeka rada i poslovnog procesa. Kako poduzeća prelaze granice chata i prelaze na sustave agenata koji mogu razmišljati, djelovati i surađivati, infrastruktura umjetne inteligencije mora sigurno i učinkovito pružati inteligenciju u velikim razmjerima, a istovremeno se kontinuirano prilagođavati razvoju modela i radnih opterećenja.

Kao treća generacija Microsoftovog Azure Maia programa, Maia 300 čip je dizajniran s arhitekturom usmjerenom na inferenciju, optimiziranom za dugotrajna, memorijski intenzivna i dekodirajuća AI opterećenja. To uključuje uravnoteženje računalnih resursa, propusnosti memorije, umrežavanja i energetske učinkovitosti na razini oblaka.

Maia 300 je softverski definirana arhitektura protoka podataka i optimizacija jezgre potpomognuta umjetnom inteligencijom, koji zajedno rade kako bi maksimizirali lokalnost, smanjili kretanje podataka i poboljšali iskorištenost računalnih, memorijskih i mrežnih resursa. Tretiranjem protoka podataka kao prvoklasnog principa dizajna, Maia 300 pruža značajnu prednost u performansama po vatu u odnosu na tradicionalne GPU arhitekture.

Kako AI radna opterećenja postaju sve više vezana uz kontekst i memoriju, Maia 300 pruža vodeću HBM propusnost po vatu u industriji. Osam HBM4 slojeva pruža 18,0 TB/s vršne propusnosti memorije unutar TDP-a od 950 W, omogućujući učinkovito izvršavanje velikih modela i dugotrajnih kontekstnih opterećenja. Specijalizirana podrška za kernel koristi SRAM na čipu kao softverski upravljanu memoriju, smanjujući pritisak na HBM.

Nova arhitektura s više čipova odvaja računalne, memorijske i I/O funkcije, poboljšavajući učinkovitost, skalabilnost i strukturu troškova. Računalni čipovi izgrađeni su na TSMC-ovom N2P procesnom čvoru kako bi se maksimizirale performanse po vatu.

Dizajniranjem za napredne formate niske preciznosti, uključujući poboljšani MXFP4, Maia 300 smanjuje zahtjeve za memorijom i propusnošću za izračun i pohranu KV-predmemorije. Rezultat su veći kontekstni prozori, veća propusnost i poboljšana učinkovitost modela unutar iste energetske omotače.

Maia 300 tretira umrežavanje kao besprijekorno proširenje softverski definirane arhitekture protoka podataka. Umjesto premještanja podataka kroz odvojene komunikacijske slojeve, operacije protoka podataka obuhvaćaju računalne, memorijske i mrežne resurse kao jedan sustav.

Međusobne veze velike propusnosti između Maia akceleratora optimizirane su za tenzorski paralelizam, dok prilagođeni AI transport pruža učinkovitu i pouzdanu komunikaciju skaliranja između akceleratora i rackova. AI optimizirani transport koristi mrežnu infrastrukturu temeljenu na Ethernetu kako bi omogućio ujedinjenu topologiju koja se učinkovito skalira od jednog racka do implementacija na razini podatkovnog centra.

Maia 300 rackovni sustavi objedinjuju 96 akceleratora unutar energetskog omotača od 167 kilovata, pružajući 27,6 TB HBM kapaciteta i 1,7 PB/s ukupne HBM propusnosti u domeni velike brzine skaliranja. Ta gustoća omogućuje Microsoftu da opslužuje više simultanih AI interakcija i veća opterećenja iz svakog racka, poboljšavajući kapacitet podatkovnog centra i ekonomičnost širenja AI usluga.

Maia 300 će započeti s produkcijskim implementacijama 2027. godine.