Átszabja a mesterséges intelligenciát kiszolgáló chipek felépítését az Nvidia legújabb memória-technológiája. A gyártó bemutatta az NVHBM architektúrát, amely jelentős előrelépést ígér a hagyományos rendszerekhez képest.
Közvetlenül a memóriába költözik a vezérlő
A hagyományos HBM architektúráknál a memóriavezérlő a központi számítási lapkán helyezkedik el, így értékes felületet foglal el a processzoron. Az Nvidia NVHBM ezzel szemben a 3D-s memóriastack alaplapkájába integrálja a saját fejlesztésű vezérlőáramkört. A számítási egység így akár 25 százaléknyi felületet szabadít fel, amelyet a mérnökök további feldolgozómagok vagy gyorsítótárak beépítésére használhatnak fel.
Harminc százalékos sávszélesség-növekedés és kevesebb fogyasztás
A szabványos JEDEC HBM4E megoldásokhoz képest az NVHBM akár 30 százalékkal nagyobb memóriasávszélességet biztosít. Ezzel párhuzamosan az energiatakarékosság is javul: a memóriastack áramfelvétele 15 százalékkal csökken. A fizikai csatolófelület újratervezésével a csatlakozási terület mérete 67 százalékkal zsugorodott, ami jelentősen leegyszerűsíti a lapkákat összekötő interposer réteg huzalozását.
A felszabadult chipterület és a kedvezőbb hűtési feltételek komoly előnyt jelentenek a hatalmas adatközpontok számára. Egy 1 gigawattos szerverparkban a memórián megspórolt energia akár 15 ezer további számítási egység üzemeltetését teszi lehetővé. Ez a gyakorlatban gyorsabb adatfeldolgozást és hatékonyabb mesterségesintelligencia-modellképzést jelent a felhőszolgáltatók számára.
Harmadik felek számára is elérhetővé válik a technológia
Az Nvidia az NVLink Fusion platform kiterjesztéseként a saját jövőbeli GPU-iban alkalmazza az NVHBM-et, miközben az egyedi chipgyártók előtt is megnyitja a technológiát. Az első partner az Amazon tulajdonában lévő Annapurna Labs, amely már dolgozik a saját gyorsítóinak és az új memóriatípusnak az integrációján. A vezető memóriagyártók, köztük a Samsung és az SK Hynix, közösen validálják az egységes szabványt.
A független félként fejlesztő felhőarchitektek számára az NVHBM megbízható és standardizált utat kínál a hardverfejlesztéshez. Mivel a memória integritását és a vezérlőt az Nvidia előre specifikálja, az egyedi AI-gyorsítók lényegesen rövidebb fejlesztési ciklussal kerülhetnek piacra. A nagyobb memóriateljesítmény és az alacsonyabb késleltetés közvetlenül javítja a sokmilliárd paraméteres nyelvi modellek kiszolgálási sebességét.
