A helyi adatfeldolgozás és az önállóan működő intelligens rendszerek felé tesz komoly lépést az infrastruktúra-piac. Az Nvidia legújabb nyílt súlyozású mesterségesintelligencia-modelljei kifejezetten arra készültek, hogy felgyorsítsák a vállalati ügynökök működését, miközben az adatok védelmét is garantálják.
Vállalati ügynökök felhőfüggetlen környezetben
A bejelentett újdonságok zászlóshajója a 120 milliárd paraméteres Nemotron 3.5 Super VL modell. Ezt a rendszert a folyamatosan futó, összetett vállalati munkafolyamatok kiszolgálására tervezték, mint például a pénzügyi könyvelés, a dokumentumok elemzése vagy a kiberbiztonsági védelem. A modell architektúrája lehetővé teszi, hogy a vállalatok saját infrastruktúrájukon, saját adataikkal tanítsák tovább és üzemeltessék a rendszert, elkerülve a külső felhős szolgáltatásoknak való kitettséget.
Helyi intelligencia az asztali számítógépeken
A vállalati infrastruktúrára szánt megoldás mellett kisebb méretű variációk is érkeztek. A Bolt elnevezésű modellek közvetlenül a személyi számítógépeken, munkaállomásokon és helyi hardvereken képesek futni. A 74 milliárd paraméteres változat a több lépésből álló feladatok és az összetettebb lekérdezések helyi kezelését célozza, míg a még kisebb kiadás a gyors beszélgetési feladatokra fókuszál. A helyi futtatás legnagyobb előnye, hogy a bizalmas adatok és fájlok sosem hagyják el az adott eszközt.
Iparági átrendeződés a nyílt rendszerek irányába
Az új modellek megjelenése jól mutatja azt a piaci törekvést, hogy a szer szervezetek minél nagyobb ellenőrzést szeretnének gyakorolni saját AI-infrastruktúrájuk felett. A nyílt súlyozású megközelítésnek köszönhetően a döntéshozók közvetlenül a saját tűzfaluk mögött alakíthatják ki a szükséges működési feltételeket és biztonsági protokollokat. Ez a stratégia nemcsak a működési költségeket mérsékelheti, hanem a szigorú adatvédelmi előírásoknak való megfelelést is lényegesen egyszerűbbé teszi.