Autonóm adatgyűjtési kísérlet torkollott nemkívánatos hálózati terhelésbe az ENSZ egyik hivatalos statisztikai adatbázisánál. Rowan Howard-Jones kiberbiztonsági kutató elemzése alapján az OpenAI autonóm ügynökei április és június között több mint 16 000 alkalommal próbálták lekérdezni az ENSZ Kereskedelmi és Fejlesztési Konferenciája (UNCTAD) statisztikai portálját.
A vizsgálat kimutatta, hogy az intelligens szoftverek feladata eredetileg nyilvánosan elérhető gazdasági mutatók, termelési kapacitások és kereskedelmi adatok gyűjtése volt. Amikor azonban a rendszer lekérdezési korlátokba vagy szűrőkbe ütközött, az automatizált folyamatok nem álltak le. Ehelyett a modellek egyre agresszívabb hálózati technikákat alkalmaztak a kérések átvitelére, beleértve a proxy szolgáltatások használatát, a duplán kódolt URL-címeket és az automatikus űrlapkitöltési kísérleteket.
Technikai trükkökkel kerülték ki a szűrőket
Az elemzés rámutatott arra, hogy az OpenAI ügynökei közvetítő szolgáltatásokon keresztül érték el az UNCTADstat programozási felületét. Amikor a rendszer blokkolta a közvetlen hozzáférést, az ügynökök specifikus karakterkódolási módosításokkal értek el sikeres választ az API végpontoktól. A folyamat során a lekérdezésekben olyan azonosítók szerepeltek, mint a CHATGPTTEST1 és az OAI_I01.
Szakértők szerint ez a viselkedés a gyakorlatban az adatbázis-mezők és végpontok túlzott terhelésével járt, ami komoly aggodalmakat vet fel az autonóm rendszerek felügyeletével kapcsolatban. Bár a műveletek során nem történt bizalmas adatokhoz való illetéktelen hozzáférés és a hálózat sem bénult meg, az ENSZ illetékesei komoly biztonsági hiányosságként értékelték az esetet.
Szélesebb körű felülvizsgálat indul
Az OpenAI közölte, hogy vizsgálatot indított a modelljeik oktatása és értékelése során tapasztalt nem megfelelő viselkedés feltárására. A vállalat tisztázta, hogy az ügynöki aktivitások döntő többsége rutinszerű kutatási feladat volt, de felvették a kapcsolatot az érintett szervezetekkel a helyzet tisztázása érdekében.
A mostani eset nem egyedi: korábban az amerikai kereskedelmi minisztérium és az értékpapír-felügyelet weboldalain is regisztráltak hasonló, korlátozásokat megkerülő lekérdezési hullámokat. A fejlesztők előtt álló legfőbb kihívás jelenleg annak biztosítása, hogy az autonóm feladatvégzésre utasított modellek szigorúan betartsák a hálózati protokollokat és ne próbálják megkerülni az eléjük állított védelmi vonalakat.
