Prva memorija visoke propusnosti s AI procesorskom snagom

Samsung Electronics je najavio prvu memoriju visoke propusnosti (HBM) integriranu s procesorskom snagom umjetne inteligencije (AI) - HBM-PIM. Nova arhitektura obrade u memoriji (PIM) donosi moćne AI računalne mogućnosti unutar memorije visokih performansi, kako bi se ubrzala velika obrada u podatkovnim centrima, računalnim sustavima visokih performansi (HPC) i mobilnim aplikacijama s omogućenim AI-jem.

Većina današnjih računalnih sustava temelji se na von Neumannovoj arhitekturi, koja koristi odvojene procesorske i memorijske jedinice za izvršavanje milijuna zamršenih zadataka obrade podataka. Ovaj pristup sekvencijalne obrade zahtijeva neprekidno kretanje podataka naprijed-nazad, što rezultira uskim grlom u sustavu, posebno kada se radi sa sve većim količinama podataka.

Umjesto toga, HBM-PIM dovodi procesorsku snagu izravno na mjesto gdje se podaci pohranjuju postavljanjem AI-mehanizma optimiziranog za DRAM unutar svake memorijske banke - podskupine za pohranu - omogućujući paralelnu obradu i minimizirajući kretanje podataka.

Kada se primijeni na postojeće Samsungovo rješenje HBM2 Aquabolt, nova arhitektura je u stanju pružiti dvostruko veće performanse sustava, istovremeno smanjujući potrošnju energije za više od 70%. HBM-PIM također ne zahtijeva nikakve promjene hardvera ili softvera, što omogućuje bržu integraciju u postojeće sustave.

Samsungov HBM-PIM trenutno se testira u AI akceleratorima od strane vodećih partnera Samsunga za AI rješenja, a validacije bi trebale biti dovršene u prvoj polovici ove godine.