A technológiai ipar legnépszerűbb biztonsági ígérete kezd veszélyesen üres illúzióvá válni a mindennapi gyakorlatban.
A mesterséges intelligencia fejlesztésének és szabályozásának egyik leggyakrabban hangoztatott alapelve a „human in the loop” (ember a hurokban) megközelítés. A koncepció lényege szerint a végső döntést és a felelősséget minden esetben egy hús-vér embernek kell viselnie. A Floridai Dél-Egyetem (USF) kutatója, Lorien Jordan a Qualitative Inquiry szakfolyóiratban megjelent tanulmányában alapjaiban kérdőjelezi meg ezt a dogmát: mi történik akkor, ha a döntéshez vezető opciókat, információkat és kereteket már eleve az algoritmus szűri meg?
A végső jóváhagyás csapdája
A felügyeleti mechanizmusok a jelenlegi formájukban gyakran csak adminisztratív pecsétet jelentenek egy előre strukturált folyamat végén. Amikor egy döntéshozó elé kerül egy feladat, az adatok szelektálását, a lehetséges válaszutak felvázolását és a prioritások meghatározását addigra többnyire elvégezte a háttérben futó nyelvi modell. A felhasználó így kizárólag olyan alternatívák közül választhat, amelyeket a mesterséges intelligencia relevánsnak ítélt, miközben a kimaradt összefüggésekről vagy kizárt lehetőségekről semmilyen visszajelzést nem kap.
A döntési folyamat felgyorsulása és a feldolgozott adatmennyiség ugrásszerű növekedése miatt a humán felülvizsgálat sokszor formálissá válik. Egy jogi, orvosi vagy oktatási környezetben dolgozó szakembernek gyakran sem ideje, sem eszköze nincs arra, hogy a modell által szállított összefoglaló mögé nézzen. Emiatt a felelősség formálisan ugyan az emberé marad, a döntés tartalmi irányát azonban maga az előfeldolgozó rendszer határozza meg.
Közös alapok és katonai gyökerek
Jordan kutatása rámutat arra a tévhitre is, miszerint az etikai kérdések megoldhatók pusztán a szolgáltatók közötti választással. A piacvezető modellek – köztük a ChatGPT, a Claude vagy a Copilot – mélyen összefonódó technológiai és kutatási alapokra épülnek, miközben fejlesztési hátterükben meghatározó szerepet játszanak az amerikai Védelmi Minisztériummal (DoD) kötött partnerségek és az állami megrendelések. A platformok közötti morális különbségtétel gyakran elfedi azt a tényt, hogy az infrastruktúra egésze azonos logikát és adathalmazokat hasznosít.
A vállalatok közötti felszíni etikai viták elterelik a figyelmet a mélyebb strukturális összefüggésekről. Amikor egy intézmény kiválaszt egy adott modellt, nem független rendszert vezet be, hanem ugyanabba a közös adatkörnyezetbe és fejlesztési paradigmába kapcsolódik be, amely az összes többi élvonalbeli megoldást mozgatja.
| Döntési fázis | Hagyományos felügyeleti modell | A valós döntési dinamika |
|---|---|---|
| Információgyűjtés | Emberi forráskutatás és tényfeltárás | A mesterséges intelligencia szűri és aggregálja a forrásokat |
| Opciók kidolgozása | Szakértői alternatívák megfogalmazása | Az algoritmus által felkínált kimenetek alkotják a keretet |
| Végső jóváhagyás | Érdemi, független kontroll | Gyors jóváhagyás a beszűkített választék alapján |
| Felelősségvállalás | A döntéshozó teljes körű autonómiája | A humán szereplő felel a modell által torzított kimenetért |
A hazai intézmények és vállalatok kitettsége
A felvetett probléma a magyarországi adaptációt is közvetlenül érinti. A hazai vállalkozások, oktatási intézmények és közigazgatási szereplők többsége kész, nemzetközi alapmodellekre épülő szoftvereket vezet be saját fejlesztés helyett. Ez a gyakorlat azt eredményezi, hogy a döntés-előkészítő rendszerek mögötti torzítások, kulturális minták és szűrési logikák ellenőrizetlenül épülnek be a mindennapi munkafolyamatokba.
Az Európai Unió mesterséges intelligenciáról szóló jogszabálya (EU AI Act) szigorú humán felügyeletet ír elő a magas kockázatú alkalmazásoknál. Ha azonban ez a felügyelet csupán a kész javaslatok rutinszerű aláírására korlátozódik, a jogi megfelelés nem garantálja a valós autonómiát és a hibák kiszűrését.
A felügyeleti modellek újragondolása
A kutatók szerint a passzív ellenőrzés helyett olyan rendszerekre van szükség, amelyek láthatóvá teszik a modell értelmezési logikáját és a kizárt információkat. Lorien Jordan jelenleg egy olyan kísérleti keretrendszeren dolgozik, amely valós időben mutatja meg a felhasználóknak, hogyan értelmezi és alakítja át az algoritmus a bemeneti adatokat. A valódi kontroll feltétele, hogy a döntéshozó ne csak az eredményt lássa, hanem a feldolgozás során hozott gépi feltételezéseket is képes legyen felülbírálni.
