Egymillió milliárd paraméterrel támad a Mistral Large 4

mistral-large-4

Komoly előrelépést tett az európai mesterséges intelligencia fejlesztés a francia Mistral AI legújabb bejelentésével. A párizsi kutatólaboratórium hivatalosan is útjára indította a Mistral Large 4 névre hallgató modellt, amely az eddigi legnagyobb és legfejlettebb fejlesztésük a piacon.

Trilliós paraméterszám és egyedi architektúra

A nemhivatalosan csak Le Chonk kódnéven futó Mistral Large 4 egy natívan multimodális rendszer, amely összesen 1 trillió paraméterrel rendelkezik. A fejlesztők a hatékonyság érdekében Mixture-of-Experts (MoE) architektúrát alkalmaztak, így a rendszer kérésenként mindössze 49 milliárd aktív paramétert mozgat meg. Ez a felépítés lehetővé teszi a magas szintű komplex feladatok feldolgozását anélkül, hogy az infrastruktúra-költségek az egekbe szöknének.

A modellt teljesen az alapoktól képezték ki a cég saját európai adatközpontjaiban. A tanítási folyamathoz mintegy 3800 darab Nvidia Grace Blackwell GPU-t használtak fel, a tanítóanyag pedig több mint 160 nyelvre terjedt ki, lefedve az Európai Unió összes hivatalos nyelvét.

Célkeresztben a vállalati és védelmi szektor

A Mistral Large 4 tervezése során kiemelt figyelmet fordítottak a speciális iparági felhasználásra. A tesztek alapján a modell kiemelkedő eredményeket ér el az alábbi területeken:

  • Szoftverfejlesztés és kódolás: A komplex projektek elemzésében és a félvezető-tervezésben mutat kiemelkedő teljesítményt.
  • Kiberbiztonság: A sérülékenységek azonosításában és a kártékony kódok elemzésében nyújt segítséget.
  • Pénzügy és jog: A vállalati munkafolyamatok és elemzések automatizálását támogatja.

A kiberbiztonsági fókusz különösen fontos az európai digitális szuverenitás szempontjából, mivel a nyílt súlyú rendszerek lehetővé teszik a helyi adatközpontokban való futtatást és a teljes adatvédelmi kontrollt.

Elérhetőség és nyílt kódú tervek

A fejlesztők a Mistral Studio felületén keresztül már elérhetővé tették az előzetes API-hozzáférést. A tesztelési időszakot követően, a tervek szerint október végén a modell nyílt súlyait is közzéteszik, így a vállalatok és kutatóintézetek saját szervereikre is letölthetik a rendszert.