Otthoni tétlen számítógépeinkből épít ingyenes magán-adatközpontot az Nvidia legújabb szoftveres megoldása. A vállalat által útjára indított Nvidia Personal AI Router (PAIR) egyetlen közös hálózatba szervezi a háztartásban lévő videókártyákat a helyi feladatok elvégzésére.
Szoftveres elosztó a fizikai útválasztó helyett
A név megtévesztő lehet, de a PAIR nem egy fizikai útválasztó, hanem egy nyílt forráskódú, Apache 2.0 licenc alatt közzétett szoftveres proxy. A program célja, hogy a helyi hálózaton található eszközök – legyenek azok Windows, macOS vagy Linux rendszerek – számítási kapacitását egyetlen virtuális végpont mögé gyűjtse.
A háztartásokban működő számítógépek jelentős része a nap folyamán kihasználatlanul áll. Az Nvidia PAIR ezt az üresjárati kapacitást fogja munkára azzal, hogy az összetett mesterségesintelligencia-folyamatokat automatikusan elosztja a hálózaton elérhető gépek között.
Így működik a feladatok elosztása
A rendszer nem vonja össze a grafikus kártyák memóriáját egyetlen nagyméretű virtuális GPU-vá, és nem is bontja szét az egyes nyelvi modelleket a gépek között. Ehelyett az összetettebb, több részfeladatból álló munkafolyamatokat koordinálja. Amikor egy központi AI-ágens több párhuzamos részfeladatot hoz létre, a PAIR a helyi mDNS protokoll segítségével automatikusan felderíti a hálózaton elérhető csomópontokat, majd a terhelés alapján a legalkalmasabb gépnek továbbítja az adott lekérdezést.
Az eszköz a legnépszerűbb helyi futtatókörnyezeteket, így az Ollama és az LM Studio szoftvereket támogatja. A felhasználónak csupán a fő gépén kell elindítania az alkalmazást, a PAIR pedig a háttérben gondoskodik arról, hogy a többi csatlakoztatott PC elvégezze a rá bízott részfeladatokat.
Saját adatok, felhős költségek nélkül
A helyi AI-futtatás legfőbb előnye az adatvédelem és a költséghatékonyság. A felhős nyelvi modellek használata komoly előfizetési díjakkal járhat, míg a PAIR segítségével a bizalmas dokumentumok, lekérdezések és fájlok garantáltan nem hagyják el az otthoni helyi hálózatot. A gépek közötti biztonságos adatfolyamot mTLS titkosítás és PIN-kódos párosítás garantálja.
Bár a szoftver béta állapotban érhető el a GitHub felületén, a rendszer rugalmassága figyelemreméltó. A PAIR futtatásához a fő rendszerben előnyös egy RTX sorozatú videókártya jelenléte, de a csatlakoztatott csomópontok között Apple Silicon chipes Mac gépek és egyéb támogatott rendszerek is helyet kaphatnak.
