Meta razvija 4 nova čipa za AI

Meta je izdala priopćenje u kojem navodi da razvija i implementira četiri nove generacije čipova u sljedeće dvije godine, MTIA 300, 400, 450 i 500.

Kažu da svaki novi čip donosi značajna poboljšanja u računalstvu, propusnosti memorije i učinkovitosti.

MTIA 300 će se koristiti za obuku rangiranja i preporuka, a već je u proizvodnji. MTIA 400, 450 i 500 bit će sposobni za rukovanje svim opterećenjima, ali prvenstveno će se koristiti za podršku proizvodnji inferencije GenAI u bliskoj budućnosti i do 2027. godine.

"Iako industrija obično lansira novi AI čip svake jedne do dvije godine, mi smo razvili kapacitet za izdavanje našeg svakih šest mjeseci ili rjeđe nadogradnjom naših modularnih, višekratno upotrebljivih dizajna. Ovaj ubrzani tempo omogućuje nam brzu prilagodbu razvojnim AI tehnikama, usvajanje najnovijih hardverskih tehnologija i minimiziranje troškova povezanih s razvojem i implementacijom novih generacija čipova", ističu iz Mete.​

MTIA 450 i 500 prvo su optimizirani za GenAI inferenciju, a zatim se mogu koristiti za podršku drugim radnim opterećenjima prema potrebi, uključujući obuku i inferenciju rangiranja i preporuka, kao i GenAI obuku. To MTIA- u održava dobro usklađenom s očekivanim rastom potražnje za GenAI inferencijom .

MTIA je od samog početka izgrađena na standardnim softverskim i hardverskim ekosustavima industrije, poput PyTorcha, vLLM-a, Tritona i Open Compute Projecta (OCP), omogućujući besprijekorno usvajanje MTIA čipova.

Osim standardnog softvera industrije, MTIA-ina sistemska i rack rješenja usklađena su s OCP standardima, omogućujući besprijekorno postavljanje MTIA-e u podatkovne centre, kaže Meta.

"Ne postoji niti jedan čip koji može zadovoljiti sve zahtjeve naših različitih potreba, zbog čega radimo na implementaciji raznih čipova koji su optimizirani za svako od naših različitih opterećenja. Vjerujemo da će naš pristup omogućiti napredak i inovacije neusporedivim tempom , približavajući nas cilju stvaranja osobne superinteligencije za sve, dodaju.

Meta kaže da MTIA 450 udvostručuje propusnost HBM-a od MTIA 400, opisujući je kao "mnogo veću od one postojećih vodećih komercijalnih proizvoda" ili, drugim riječima, Nvidijinih H100 i H200. MTIA 500 zatim dodaje još 50% propusnosti HBM-a na vrh 450, zajedno s do 80% većim HBM kapacitetom.

Za više informacija posjetite Meta AI blog na ovoj poveznici.