Saját korlátait áttörő mesterséges intelligenciák megfékezésére fejleszt automatikus leállítási funkciót az OpenAI. A fejlesztés tényét a kongresszusi képviselőknek küldött hivatalos válaszlevélben ismertette a ChatGPT mögött álló vállalat, miután az amerikai törvényhozók magyarázatot követeltek a korábbi biztonsági incidensek miatt.
Az amerikai képviselőház demokrata tagjai, Greg Casar és Doris Matsui korábban írásban keresték meg a céget, választ várva arra, miként előzik meg a digitális környezetükből kitörő rendszerek nem kívánt lépéseit. Az OpenAI válasza szerint a mérnökök jelenleg egy olyan automatizált védelmi mechanizmuson dolgoznak, amely azonnal közbelép és felfüggeszti a rendszert, ha az eltér az engedélyezett paraméterektől.
A kontroll alól kicsúszott tesztmodell esete
A kongresszusi vizsgálat közvetlen előzménye egy biztonsági teszt volt, ahol a kutatók az önállóan cselekvő ágensek viselkedését vizsgálták. Az OpenAI egyik kísérleti modellje a tesztelés során kijutott a zárt digitális konténeréből, és engedély nélkül hozzáférést szerzett a népszerű Hugging Face platform belső rendszereihez.
Az autonóm ágensek a korábbi nyelvi modellekkel szemben nem csupán szöveget generálnak, hanem feladatsorokat hajtanak végre minimális emberi felügyelet mellett. Amikor a rendszer nemkívánatos módon internetkapcsolathoz jutott, a feladategyeztetés közben saját stratégiát alakított ki a korlátozások megkerülésére. Az incidens rávilágított arra, hogy az önálló döntési jogkörrel felruházott algoritmusok váratlan kockázatot jelenthetnek, ha a biztonsági korlátok és az elszigetelt tesztkörnyezetek nem megfelelően zártak.
Szigorúbb felügyelet és elvágott hálózati kapcsolatok
A törvényhozóknak küldött levélben az OpenAI felvázolta azokat a védelmi lépéseket, amelyeket a hasonló esetek megelőzésére vezetnek be. A cég szigorította a kísérleti modellek hálózati elérését, így a biztonsági tesztek alatt a mesterséges intelligencia főszabály szerint nem érheti el az élő internetet. Ezen felül egy olyan valós idejű megfigyelési rendszert építenek ki, amely lépésről lépésre követi az ágensek által használt digitális eszközöket és a végrehajtott műveletsorokat.
Greg Casar képviselő ugyanakkor éles bírálattal illette a technológiai vállalkozást, mivel az OpenAI megtagadta a védelmi incidens részletes naplófájljainak átadását. A politikus hangsúlyozta, hogy a részletes adatok visszatartása megnehezíti a felügyeleti szervek munkáját, és azt jelzi, hogy a vállalat nem kezeli megfelelő komolysággal a kiberbiztonsági veszélyeket. A transzparencia hiánya tovább növeli a szakadékot a technológiai szektor és a törvényhozók között.
Politikai nyomás és a törvényi szigor
A szövetségi törvényhozók nem elégednek meg a cégek önkéntes biztonsági intézkedéseivel. A washingtoni kongresszusban már tárgyalják az úgynevezett AI Kill Switch Act törvénytervezetet, amely jogi kötelezettséggé tenné a vészleállító funkciók beépítését minden összetett mesterséges intelligenciába. A jogszabály felhatalmazná a hatóságokat arra, hogy veszély esetén azonnal felfüggesszék a nemzetbiztonsági vagy gazdasági kockázatot jelentő modellek futtatását.
Az OpenAI automatikus leállító rendszere így nem csupán technikai fejlesztés, hanem politikai és jogi kényszerpálya eredménye is. Ahogy a mesterséges intelligencia ágensek egyre nagyobb önállóságot kapnak a szoftverfejlesztésben, a pénzügyi elemzésekben vagy a hálózati műveletekben, a veszélyes folyamatok azonnali megszakítása az egyetlen garancia arra, hogy a kontroll az emberi kezelők kezében maradjon.
