A mesterséges intelligencia modellek legfőbb fogyasztói már nem a billentyűzet előtt ülő emberek, hanem a háttérben önállóan dolgozó AI ügynökök. A platformok mérési adatai szerint az autonóm szoftverek ötször több adatmennyiséget emésztenek fel, mint az emberi parancsok. Ez a különbség a következő időszakban akár tízszeresére is növekedhet.
Látványos fordulat az adatforgalomban
A felhőalapú modellválasztó platformok mérései alapján a fordulópont még az év elején következett be, amikor az AI ügynökök tokenfogyasztása felülmúlta a humán felhasználókét. Azóta az ügynökök által használt adatmennyiség tizennégyszeresére ugrott, miközben az emberi léptékű használat sokkal mérsékeltebb növekedést mutatott. A legfrissebb mérések szerint az ügynökök több mint 7 trillió tokent generáltak.
A hatalmas ugrás mögött nem az áll, hogy az algoritmusok teljesen új gondolatokat fogalmaznak meg, hanem a korábbi kontextus folyamatos újraolvasása. Az önállóan működő rendszerek folyamatosan ellenőrzik a kódalapokat, a korábbi lépéseket és a megadott szabályzatokat. Ennek következtében a felhasznált adatok több mint 85 százaléka gyorsítótárazott, előre elmentett utasításokból származik.
A háttérben futó folyamatok ára
Az automatizált kódolóeszközök, böngészési ügynökök és összetett munkafolyamat-kezelők egymást hívják meg. Egyetlen összetettebb feladat elvégzése során az AI ügynök több tucat belső lépést hajt végre anélkül, hogy a felhasználó látná a köztes folyamatokat. Ez a működési modell gyökeresen megváltoztatja az infrastruktúra iránti igényeket, mivel a memóriaterület és a gyorsítótár hatékonysága kulcskérdéssé vált.
A vállalati költségvetésekben is érezhetővé válik a változás, hiszen a chatbotokhoz méretezett büdzséket az automatizált ügynökök gyorsan kimerítik. A fejlesztők és a technológiai vezetők egyre inkább az olcsóbb, kifejezetten feladatkezelésre optimalizált modellek felé fordulnak, hogy kordában tartsák az infrastruktúra fenntartási költségeit.
