Kemény korlátokba ütközik a mesterséges intelligencia fejlődése a memóriák magas fogyasztása miatt. Az AMD új adatai szerint a hibridkötéses 3D DRAM szerkezet tizenhétszeres energiahatékonysági ugrást hozhat a jelenlegi megoldásokhoz képest.
A nagy teljesítményű számítási rendszerek és AI-gyorsítók fejlődésének egyik legnagyobb gátja az adatátviteli sávszélesség és a memóriák áramfelvétele. A modern adatközponti kártyákon használt HBM (High Bandwidth Memory) chipek kiváló sávszélességet nyújtanak, de a chipkészlet komplexitása és energiaigénye egyre inkább eléri a határait. A félvezetőipar ezért gőzerővel keresi az alternatív utakat, amelyek közül a 3D DRAM tűnik a legígéretesebbnek.
A mikropöttyök elhagyása áttörést hozhat
A hagyományos HBM memóriák esetében a DRAM lapkákat egymásra rétegezik, a rétegek közötti elektromos kapcsolatot pedig szilíciumon keresztüli átvezető furatok (TSV) és apró forrasztási pontok, úgynevezett mikropöttyök (microbumps) biztosítják. Ez a kész memóriacsomag a központi feldolgozóegység (XPU) mellett kap helyet a hordozón.
A mikropöttyök jelenléte azonban fizikai és elektromos korlátokat szab. A forraszanyagból álló kis golyók és a közöttük lévő hézagok megnehezítik a rétegek közelebbi elhelyezését, emellett parazita ellenállást és kapacitást generálnak. Ez a fizikai távolság jelentős energiaveszteséggel jár minden egyes adatátviteli műveletnél.
Nem mindegy, hogyan kapcsolódnak a rétegek
Az AMD által favorizált 3D DRAM struktúrában a memóriarétegeket nem a processzor mellé, hanem közvetlenül annak tetejére építik. A mikropöttyök helyett pedig hibridkötést (Hybrid Bonding) alkalmaznak, ahol a rézvezetők közvetlenül, mikroszkopikus szinten kapcsolódnak egymáshoz forraszanyag használata nélkül.
A közvetlen réz-réz kapcsolat drasztikusan lecsökkenti a jelek útját és az ellenállást. Ennek az elrendezésnek köszönhető az AMD mérései szerint a 17-szeres energiahatékonysági javulás a mikropöttyös HBM-hez képest. Az amerikai chiptervező vállalat nem tapasztalat nélkül nyúl a függőleges rétegezéshez, hiszen a gamer processzoroknál használt 3D V-Cache technológiával már bizonyította a vertikális chipintegráció életképességét.
Hőkezelési akadályok gátolják a terjedést
Bár az elméleti és mérésekkel alátámasztott előnyök jelentősek, a kereskedelmi bevezetés még várat magára. A legfőbb akadályt a hő elvezetése jelenti: ha a nagy teljesítményű memóriarétegeket közvetlenül a magas hőmérsékleten üzemelő számítóegység fölé rétegezik, a keletkező hő csapdába esik a lapkák között.
A hibridkötés folyamata emellett atomi szintű felületi simaságot és extrém tisztaságú gyártási környezetet követel meg, ami jelenleg alacsonyabb kihozatali arányt és magas költségeket eredményez. Az iparági szereplők jelenleg új hűtési eljárásokon és szerkezeti kialakításokon dolgoznak, hogy kihasználhassák a 3D DRAM-ban rejlő teljesítményt.
