Az ADATA Technology vállalati tárolómegoldásokra szakosodott márkája, a TRUSTA, bemutatta a legújabb szoftver-hardver integrált architektúráját. A TRUSTA AI Scaler Extended Memory Solution névre keresztelt fejlesztés közvetlenül a mesterséges intelligencia (AI) infrastruktúrák legnagyobb szűk keresztmetszetét, a grafikus vezérlők (GPU) korlátozott memóriakapacitását célozza meg. A piacon jelenleg tapasztalható hardverhiány és a monumentális méretű nagy nyelvi modellek (LLM) növekvő erőforrásigénye miatt a technológia kulcsfontosságú mérföldkövet jelent a vállalati AI-alkalmazások skálázhatóságában.
A költséghatékony on-premise AI új korszaka
A modern nagy nyelvi modellek futtatása és finomhangolása (fine-tuning) eddig szinte kizárólag méregdrága, magas kategóriás GPU-k klasztereit követelte meg, ami komoly pénzügyi és hozzáférési korlátok közé szorította a vállalatokat. Az adatvédelmi szabályozások, a megfelelőségi előírások és a lokális adatkezelési igények (data gravity) miatt a szervezetek egyre inkább az on-premise, azaz a helyszíni infrastruktúrák kiépítésére törekednek. A TRUSTA ezen piaci kihívásokra válaszul fejlesztette ki hibrid memóriakezelési koncepcióját, amely lehetővé teszi a modellek rugalmas és gazdaságos futtatását.
Az AI Scaler Toolkit működési elve
A hibrid megoldás magját az AI Scaler Toolkit szoftverplatform alkotja. Ez a technológia képes arra, hogy a számítási feladatokat és a modellsúlyokat dinamikusan ossza meg a dedikált GPU-memória (vRAM), a rendszermemória (DRAM) és a nagy sebességű szilárdtest-meghajtók (SSD) között. Az intelligens erőforrás-allokációnak köszönhetően a rendszer tehermentesíti a grafikus kártyákat az inferencia és a finomhangolás folyamatai során. A nyílt forráskódú architektúrára épülő eszköztár közvetlenül integrálható olyan AI-ágens munkafolyamatokat vezérlő rendszerekkel is, mint például az NVIDIA NeMo Guardrails, támogatva ezzel az automatizált folyamatokat és a rugalmas feladatütemezést.
Drasztikus költségcsökkentés és elismerések
A kizárólag GPU-alapú kiépítésekhez képest az ADATA hibrid memóriakezelő architektúrája több mint 50 százalékkal csökkenti a vállalati AI-telepítések összköltségét (TCO). A megoldás hatékonyságát a szakma is elismerte: a technológia elnyerte a rangos COMPUTEX Best Choice Award díjat az AI kategóriában, megerősítve a márka pozícióját az adatközponti és mesterséges intelligenciát kiszolgáló tárolópiacon. A szoftveres eszköztár hivatalosan elérhetővé vált és ingyenesen letölthető a fejlesztők számára a GitHub platformjáról.
Optimalizált hardveres háttér
A szoftveres vezérlés maximális hatékonyságának eléréséhez a TRUSTA a hardveres portfólióját is kibővítette. A COMPUTEX kiállításon bemutatott legújabb TD7P51 ECO PCIe Gen5 vállalati SSD kifejezetten az intenzív adatközponti munkaterhelésekhez készült. A meghajtó akár 15,36 TB-os kapacitással, valamint sokrétű formátumtámogatással (U.2, E1.S és E3.S) érkezik. Az eszköz integrálja a Flexible Data Placement (FDP) technológiát is, amely az adatok intelligens elhelyezésével növeli a meghajtó élettartamát, stabilitását és megbízhatóságát a kritikus AI-folyamatok alatt.
Vállalati erőforrás-kihasználtsági mutatók
Az alábbi táblázat bemutatja az AI Scaler Extended Memory Solution hibrid architektúrájának és a hagyományos, kizárólag GPU-ra támaszkodó rendszerek főbb jellemzőit az adatközponti működés során:
| Jellemző mutató | Hagyományos GPU architektúra | TRUSTA AI Scaler megoldás |
|---|---|---|
| Alkalmazott hardveres rétegek | Kizárólag GPU vRAM | GPU vRAM + Rendszer DRAM + PCIe Gen5 SSD |
| Relatív kiépítési költség | Magas (100%) | Alacsony (kevesebb mint 50%) |
| Skálázhatósági korlátok | Fizikai GPU memórialimit | Rugalmas, tárolókapacitásig bővíthető |
| Szoftveres ökoszisztéma | Zárt / Proprietáris gyártói driverek | Nyílt forráskódú AI Scaler Toolkit (GitHub) |
| Maximális SSD kapacitás (TD7P51) | Nincs közvetlen integráció | Akár 15,36 TB formátumtól függően |
Globális validáció és piaci kilátások
A TRUSTA termékcsalád és az AI Scaler koncepció nem elszigetelt megoldásként lép a piacra. A vállalat stratégiai partnerséget alakított ki többek között a FADU Inc. és a Giga Computing (Gigabyte) vállalatokkal, biztosítva az eszközök teljes körű QVL (Qualified Vendor List) minősítését a piacvezető szerverplatformokon. A hardveres és szoftveres rétegek ilyen szintű összehangolása alapjaiban változtathatja meg a közép- és nagyvállalatok AI-stratégiáját, mivel a szűkös költségvetéssel rendelkező szervezetek számára is megnyitja az utat a helyi, biztonságos és magas teljesítményű nagy nyelvi modellek alkalmazása előtt.
