Brutális memóriasávszélességgel tör be a Qualcomm az AI-adatközpontokba

qualcomm-Dragonfly C1000

Súlyos csapást mérhet az Nvidia egyeduralmára az a vadonatúj hibrid technológia, amely a méregdrága HBM-memóriák kiváltását ígéri.

LPDDR-halmok hozzák el a technológiai áttörést

A Qualcomm alapjaiban gondolta újra a mesterséges intelligencia szerverek felépítését, amikor lerántotta a leplet a HBC (High Bandwidth Compute) közeli memória architektúrájáról. A techóriás az AI250 és AI350 gyorsítókban debütáló megoldása nem a klasszikus, rendkívül költséges és nehezen gyártható HBM (High Bandwidth Memory) lapkákkal operál. Ehelyett az okostelefonokból már jól ismert LPDDR-memóriákat pakolják egymásra 3D-s függőleges halmozással, közvetlenül a számítási magok mellé.

Ez a felépítés elképesztő, másodpercenkénti 133 terabájtos (TB/s) elméleti sávszélességet tesz lehetővé a HBC első generációjánál. Az új megközelítés legnagyobb fegyverténye mégsem a puszta nyers erő, hanem a hatékonyság: a Qualcomm mérései szerint wattonként hatszor nagyobb sávszélességet biztosít az architektúra, mint a hagyományos HBM, miközben az on-chip SRAM-hoz képest kétszázszoros kapacitásnövekedést garantál. Az adatközpontok üzemeltetői számára a fogyasztás radikális csökkentése a legfontosabb tényezővé vált, így a hatékonysági mutatók azonnali versenyelőnyt jelentenek.

Együttműködés a techóriásokkal és a Dragonfly C1000 CPU

A memóriatechnológiai innováció mellé saját számítási platform is érkezik a Dragonfly C1000-es processzor képében. A Qualcomm ezzel a lépéssel egyértelműen komplett ökoszisztémát kínál az adatközpontok számára, függetlenítve a partnereket az x86-os architektúrától. A piaci beágyazottságot jól mutatja, hogy a vállalat többgenerációs stratégiai megállapodást kötött a Metával a chipek fejlesztésére és optimalizálására, de a Microsoft is az első körös partnerek között szerepel, akik azonnal integrálják a hardvert a saját szerverflottáikba.

Az amerikai exportkorlátozások szigorú szabályozási környezetet teremtenek, amire a Qualcommnak is reagálnia kellett a globális terjeszkedés érdekében. A kínai piac kiszolgálására külön, szándékosan visszafogott teljesítményű (nerfed) változatokat terveznek. Ezek a chipek pontosan a Washington által meghatározott teljesítményhatárok alatt maradnak, így legálisan szállíthatók az ázsiai országba, fenntartva a cég globális értékesítési volumenét.

Paraméter / Jellemző Qualcomm HBC Gen 1 specifikációk
Maximális sávszélesség 133 TB/s
Energiahatékonyság 6x magasabb sávszélesség wattonként a HBM-hez képest
Kapacitáselőny 200x nagyobb kapacitás az on-chip SRAM-hoz képest
Társított hardverek Dragonfly C1000 CPU, AI250 és AI350 gyorsítók
Elsődleges felhős partnerek Meta, Microsoft

A mesterséges intelligencia piac új korszaka

A Qualcomm belépése alapjaiban rajzolhatja újra az adatközponti erőviszonyokat, amelyek eddig szinte kizárólag az Nvidia és kisebb részben az AMD kezében összpontosultak. A mobilpiacon edződött energiatakarékos tervezési filozófia közvetlen átültetése a szuperszámítógépes környezetbe komoly fejfájást okozhat a konkurenciának. Ha a Meta és a Microsoft éles tesztjei beváltják a hozzá fűzött reményeket, a HBC technológia gyorsan iparági szabvánnyá válhat az LLM-modellek futtatásában.

A forradalmi memóriakezelés hosszú távon demokratizálhatja az AI-infrastruktúrát, mivel az LPDDR-alapú gyártás nagyságrendekkel olcsóbb és jobban skálázható, mint a szűkös HBM-ellátási lánc. A kisebb felhőszolgáltatók és kutatóközpontok így olcsóbban juthatnak majd nagy teljesítményű hardverhez, ami felgyorsítheti a globális AI-fejlesztések ütemét.