Kilencéves pályafutásig nyújtja a mesterséges intelligencia éhsége az NVIDIA 2020-ban kiadott A100-as chipjének élettartamát.
Az AI-felhőszolgáltató CoreWeave nemrégiben olyan bérleti szerződést kötött az NVIDIA A100 GPU flotta kihasználására, amely egészen 2029-ig biztosítja az adatközponti chipek folyamatos működését.
A megállapodás tényét a CoreWeave pénzügyi igazgatója, Nitin Agrawal és Mike Intrator vezérigazgató hozta nyilvánosságra a vállalat legutóbbi elemzői tájékoztatóján. Ezt követően az NVIDIA alapító-vezérigazgatója, Jensen Huang is megerősítette a hírt a közösségi médiában. A lépés egyértelmű bizonyítéka annak, hogy a globális számítási kapacitáshiány közepette még az évtized elején megjelent technológiák iránt is magas a kereslet.
Szerződéses kötelezettség kilenc évvel a bemutató után
Az Ampere architektúrára épülő NVIDIA A100 GPU gyorsítókat 2020 májusában mutatta be a kaliforniai chipgyártó. A számítástechnikai iparban ritkaságnak számít, hogy egy félvezető terméket a piaci premierje után kilenc évvel is aktív és nyereséges bérleti konstrukcióban üzemeltessenek. A CoreWeave tájékoztatása alapján az egyik ügyfelük hosszabb távú AI-modell betanítási és inferencia feladatokra foglalta le az A100-as kapacitásokat.
A CoreWeave által közölt adatok rávilágítanak a piaci dinamika gyökeres átalakulására. A vállalat a második negyedévben 2,58 milliárd dolláros árbevételt ért el, ami 112 százalékos növekedést jelent az előző év azonos időszakához képest. Mike Intrator kiemelte, hogy a korábbi generációs hardverek bérleti díjai nemhogy csökkentek volna, de elérik vagy meg is haladják a korábbi években tapasztalt árszinteket. Elemzők szerint a felhőszolgáltatóknál lejáró szerződések után újrahasznosított chipek szinte azonnal gazdára találnak, és az eredeti áruk döntő többségét megtartják.
A memóriahiány és a szoftveres optimalizáció szerepe
Technikai szempontból a GA100-as lapka 6912 CUDA maggal és akár 80 gigabájtnyi HBM2E memóriával rendelkezik. Bár a modern Hopper, Blackwell vagy a készülő Rubin architektúrák nyers teljesítményben és energiahatékonyságban többszörösen felülmúlják az Ampere chipeket, az AI-szektorban tapasztalható globális memóriahiány felértékeli a meglévő erőforrásokat. A kártyánkénti 80 gigabájtos nagy sávszélességű memória még a mai követelmények mellett is elegendő puffert biztosít a közepes méretű nyelvi modellek futtatásához.
Jensen Huang nyilatkozatában rámutatott arra, hogy az NVIDIA értéke messze túlmutat a puszta hardvertervezésen. A cégvezető hangsúlyozta, hogy a CUDA szoftveres ökoszisztéma közös platformot teremt a fejlesztők és mérnökök számára, amellyel folyamatosan frissíthető és optimalizálható az Ampere, a Hopper és a Blackwell architektúra. A szoftveres sokoldalúság biztosítja a hardver felcserélhetőségét, ami közvetlenül növeli a chipek kihasználtságát és meghosszabbítja azok gazdasági élettartamát.
Rácáfolat a chipek korai elavulási elméletére
A félvezetőipári elemzők között régóta vita tárgyát képezi, hogy az AI-gyorsítók milyen gyorsan avulnak el. Egyes pénzügyi szakértők és adatközponti építészek korábban úgy vélték, hogy a rohamléptekben fejlődő technológia miatt a GPU-k gazdaságos élettartama mindössze 1–3 évre tehető, és a gyors amortizáció komoly pénzügyi kockázatot jelent a felhőszolgáltatókra nézve. Az A100-as chipek 2029-ig terjedő bérleti megállapodása azonban azt igazolja, hogy a beruházások megtérülési ideje a vártnál sokkal hosszabb lehet.
A korábbi generációs kártyák megtartása mellett szól az adatközponti infrastruktúra és az energiaellátás korlátozottsága is. A legújabb generációs csúcsmodellek működtetéséhez kiugróan magas áramfelvételre és speciális hűtési rendszerekre van szükség, míg a korábbi A100-as rendszerek a meglévő, megszokott infrastruktúrában is stabilan üzemeltethetők. Az óránkénti alacsonyabb bérleti díjak pedig vonzó opciót jelentenek azoknak a fejlesztőknek, akik nem igénylik a legújabb chipek maximális teljesítményét.
A felhőalapú AI-infrastruktúra jövőbeli kilátásai
Az A100-as chipek sikeres életciklus-hosszabbítása jól mutatja a mesterséges intelligencia piacának érettségét. Az adatközpontok üzletágában a hardveres és szoftveres rétegek szoros integrációja lehetővé teszi, hogy a vállalatok maximális megtérülést érjenek el eszközállományukon. Az NVIDIA és a CoreWeave együttműködése rámutat arra, hogy a jövőben az AI-kapacitásokat nem kizárólag a legújabb lapkákkal, hanem több generáció egyidejű és hatékony kiaknázásával fogják biztosítani.
