Mesterséges intelligenciára tervezett memóriák csatáját élesíti tovább a Samsung legújabb fejlesztési ütemterve. A dél-koreai gyártó tervei szerint a következő évtized küszöbén érkező HBM5 chipek megduplázzák a közvetlen előd HBM4E adatátviteli sebességét. Ez a gyakorlatban tömbönként 4 terabájt/másodperces sávszélességet jelent, ami a jövőbeli AI-gyorsítóknál akár a 100 TB/s összkapacitást is elérhetővé teszi.
A 4096 bites interfész jelentősége az architektúrában
A HBM-technológia evolúciójában a sávszélesség növelésének két fő útja létezik: a tűnkénti adatátviteli frekvencia emelése vagy a memória-interfész kiszélesítése. Mivel az órajelek korlátlan növelése fizikai és fizikai-kémiai akadályokba ütközik, a szakmai elemzések szerint a teljesítmény megduplázása a buszszélesség megduplázását teszi szükségessé. A HBM4 generációval bevezetett 2048 bites adatsínt a Samsung a HBM5 esetében várhatóan 4096 bitesre szélesíti ki, ami alapjaiban formálja át a memóriamodulok és az alaplapka közötti kommunikációt.
A gyártástechnológia terén is komoly váltásra készül a vállalat. Míg a HBM4 és HBM4E alaplapkái 4 nanométeres eljárással készülnek, a Samsung HBM5-nél már a saját 2 nanométeres node-ra áll át. A chipek felépítése terén 12, 16, sőt akár 20 rétegű DRAM-szendvicsekkel számolnak, amivel a memóriasűrűség és a tárolókapacitás rugalmasan skálázhatóvá válik a legösszetettebb nyelvi modellek kiszolgálásához.
Hűtés és energiahatékonyság a csúcsteljesítmény mellett
A memóriarétegek halmozása és a rendkívüli adatátviteli sebesség komoly hőtermeléssel jár, ami korlátozhatja a szuperszámítógépek stabilitását. A Samsung felkészült a hőelvezetési kihívásokra: a HBM5 tervezésénél 20 százalékos hőellenállás-csökkenést és 20 százalékkal kedvezőbb wattarányos teljesítményt céloztak meg. Ebben kulcsszerepet játszik a továbbfejlesztett Hybrid Copper Bonding (HCB) eljárás, valamint a speciális hővezető blokkok alkalmazása.
Az energiahatékonyság növelése elengedhetetlen, hiszen a többrétegű memóriablokkok egyenkénti fogyasztása a csúcsterhelések során jelentősen megemelkedhet. A fejlett tokozási és illesztési eljárások segítségével a Samsung biztosítani kívánja, hogy az AI-adatközpontok hűtési rendszerei ne váljanak az architektúrák szűk keresztmetszetévé.
A 100 TB/s összsávszélesség hatása az AI-gyorsítókra
Az adatközponti processzorok és grafikus gyorsítók kapacitását jelenleg leginkább a memória adatátviteli korlátai határozzák meg. Az évtized végére tervezett AI-gyorsítók esetében a 20-24 HBM5 modul összekapcsolása révén elért 100 TB/s összsávszélesség gyökeresen megváltoztatja a nagy nyelvi modellek tanítási és következtetési folyamatait. A rendkívül gyors adatmozgatás csökkenti a várakozási időket, és lehetővé teszi a több ezermilliárd paraméteres modellek valós idejű feldolgozását.
A Samsung stratégiájának nem a HBM5 jelenti a végső állomást. A gyártó már körvonalazza a még távolabbi zHBM koncepciót is, amely a memóriamodulokat közvetlenül a számítási egység tetejére építené be. Mindez jól mutatja, hogy a memóriagyártók versenye egyre inkább a háromdimenziós rendszerszintű integráció felé tolódik el.
