A mesterséges intelligencia fejlesztése az elmúlt években szinte kizárólag a nagynyelvi modellekre és a folyékony szöveggenerálásra összpontosított. A ChatGPT egyik korábbi társfejlesztője és az emberi visszacsatolásos megerősítéses tanulás (RLHF) úttörője, Diogo Almeida azonban úgy véli, a generatív nyelvi megközelítés korlátok közé szorítja a szoftveres automatizációt. Új vállalkozása, a TypeSafe AI elindításával egy teljesen eltérő architektúrájú architektúrát bocsátott útjára, amely a Jev névre hallgat.
Szöveg helyett precíz valószínűségek
A megszokott nyelvi modellekkel ellentétben a Jev nem generál szabadformátumú mondatokat vagy kódokat. A transformer-alapú rendszer kizárólag előre meghatározott opciókhoz rendel úgynevezett kalibrált döntési valószínűségeket. Mivel a modell nem próbál nyelvi elemeket egymás után fűzni, a generatív rendszerek legfőbb hiányossága, a téves információk kitalálása – vagyis a hallucináció – szerkezetileg kizárt.
A számítógépes rendszerek és az automatizált munkafolyamatok ritkán igénylik a regényírói kifejezőkészséget. A szoftverek túlnyomó többségének egyértelmű, bináris vagy kategóriákba sorolt döntésekre van szüksége ahhoz, hogy a kódbiztonsági ellenőrzéseket, a kérések átirányítását vagy az adatosztályozást elvégezze.
Drámai sebességnövekedés és alacsonyabb költségek
A szöveggenerálási lépések elhagyása közvetlen hatással van az erőforrás-igényre. A tesztelések során a fejlesztők kiemelkedő teljesítménybeli javulásról számoltak be a korábbi megoldásokhoz képest. A munkafolyamatokba épített besorolási feladatoknál a Jev a következő előnyöket mutatta meg:
- A kimeneti zsetonok (tokenek) lényegében ingyenesek, mivel a válasz szerkezete kötött.
- A feldolgozási sebesség a mérések szerint 5-18-szorosára nőtt a kódellenőrzési folyamatoknál.
- A működtetési költségek nagyságrendekkel alacsonyabbak, bizonyos feladatoknál tizedannyiba kerül a futtatás.
A szoftveres automatizáció új alapjai
Az új megközelítés iránti óriási érdeklődés miatt a szolgáltatás szerverei a megjelenést követően rövid időre túlterheltté váltak. A mérnökök szerint a Jev nem a meglévő csevegőbotok közvetlen kiváltására szolgál, hanem a háttérben futó autonóm ágensek ellenőrzésére, a biztonsági beállítások valós idejű felügyeletére és a komplex modellek közötti adatirányításra nyújt hatékony alternatívát.
A fejlesztés rámutat arra, hogy a mesterséges intelligencia iparága a méretek végtelen növelése mellett elkezdett a specializált, célszerűbb architektúrák felé is nyitni. A szoftverfejlesztők számára ez egy sokkal kiszámíthatóbb és költséghatékonyabb eszköztárat jelent a mindennapi automatizációs feladatok során.
