A holland félvezetőipari vállalkozás hivatalosan is kereskedelmi forgalomba hozta legújabb generációs mesterséges intelligencia gyorsítóját. Az Axelera Europa AIPU néven futó architektúra komoly teljesítménylépést jelent az adatközponti és peremhálózati AI feladatok végrehajtásában.
Hatékony architektúra a hálózati peremtől a szerverszobákig
Az új fejlesztés alapját nyolc darab második generációs AI feldolgozó mag adja, amelyeket tizenhat RISC-V vektor-feldolgozó mag egészít ki. Ez a felépítés kifejezetten az inferencia, vagyis a már betanított modellfuttatások gyorsítására lett optimalizálva, miközben a hagyományos központi egységekről jelentős terhet vesz le. A lapka 128 MB másodszintű SRAM memóriával és 200 GB/s sávszélességű DRAM csatlakozóval rendelkezik, az adatátvitelt pedig PCIe 4.0 csatolófelület biztosítja.
A számítási kapacitás tekintetében az Axelera Europa akár 629 TOPS teljesítményre képes, mindössze 45 wattos hőtermelési keret (TDP) mellett. A chip támogatja az INT4, INT8 és INT16 precizitású adatformátumokat, így a kisebb nyelvi modellektől kezdve a komplex látásalapú rendszerekig számos feladatra alkalmazható.
Háromféle kiépítésben érkezik a hardver
A gyártó rugalmasan alakította ki a termékkínálatot, hogy a rendsz e rintegrátorok és az vállalati felhasználók is megtalálják a számukra megfelelő kiépítést. A lapka az alábbi kivitelekben érhető el:
- Egyedi alaplapokba integrálható önálló chipként.
- Félmagasságú és félhosszúságú bővítőkártyaként, Edge 232p jelöléssel.
- Teljes méretű PCIe-kártyaként, Server 250p néven.
A beépített videódekóder és a dedikált feldolgozómagok lehetővé teszik, hogy a kamerás képarány-elemzések vagy az önálló robotikai feladatok közvetlenül a gyorsítón fussanak le. Ez a megoldás nagymértékben csökkenti a gazda-CPU és a gyorsítókártya közötti adatmozgatást, ami javítja a rendszerek válaszidejét és az energiahatékonyságot.
Új alternatíva az adatközponti piacon
A piacon jelenleg tapasztalható energia- és kapacitáshiány közepette a vállalati szektorban egyre nagyobb igény mutatkozik a hatékony inferenciás célhardverekre. Az Axelera Europa AIPU célja, hogy a hagyományos grafikus processzoroknál kedvezőbb fogyasztás és bekerülési költség mellett tegye lehetővé a mesterséges intelligencia modellek helyi futtatását. A rendszer integrációját szabványos szervergyártók partnermegoldásai és a vállalat saját szoftverfejlesztői környezete támogatja.
