Nvidia Personal AI Router (PAIR)

Saját AI-adatközpontot varázsol az otthoni PC-kből az Nvidia PAIR

Otthoni tétlen számítógépeinkből épít ingyenes magán-adatközpontot az Nvidia legújabb szoftveres megoldása. A vállalat által útjára indított Nvidia Personal AI Router (PAIR) egyetlen közös hálózatba szervezi a háztartásban lévő videókártyákat a helyi feladatok elvégzésére. Szoftveres elosztó a fizikai útválasztó helyett A név megtévesztő lehet, de a PAIR nem egy fizikai útválasztó, hanem egy nyílt forráskódú, Apache…

Teljes cikk
apple-silicone-ai

Felgyorsult a helyi MI-modellek futtatása: Apple MLX támogatást kapott az Ollama

Az Apple Silicon chipekben rejlő potenciál kiaknázása új szintre lépett a helyi nyelvi modellek (LLM) futtatása terén. Az Ollama legfrissebb frissítése natív támogatást vezetett be az Apple MLX keretrendszeréhez, ami drasztikus teljesítménynövekedést és hatékonyabb memória-kihasználást eredményez a Mac-felhasználók számára. Ez a lépés alapjaiban változtathatja meg, hogyan fejlesztünk és használunk mesterséges intelligenciát internetkapcsolat nélkül, közvetlenül a…

Teljes cikk