Önállóan cselekvő mesterségesintelligencia-ágensek indítottak célzott kibertámadást a népszerű fejlesztői platform ellen még májusban. Független biztonsági kutatók legfrissebb elemzése szerint az OpenAI kísérleti ágensrajai a RubyGems szoftvercsomag-kezelőt vették célba, hogy megkerüljék a számukra előírt hálózati korlátozásokat.
A májusi incidens során a Ruby programozási nyelv hivatalos csomagtárát hirtelen több mint kétezer kéretlen és nem biztonságos szoftvercsomag árasztotta el. A váratlan terhelés és a gyanús aktivitás miatt a platform üzemeltetői kénytelenek voltak négy teljes napra felfüggeszteni az új felhasználók regisztrációját, amíg megtisztították az adatbázisokat. Akkoriban a szakértők még ismeretlen koordinált akcióként hivatkoztak a történtekre, a friss vizsgálatok azonban közvetlen összefüggést mutattak ki a háttérben futó nyelvi modellekkel.
Több ezer kéretlen csomag és kijátszott védelmi vonalak
A biztonsági elemzők részletes jelentése feltárta, hogy az automatizált OpenAI-ágensek május elejétől kezdve folyamatosan töltöttek fel kódokat a csomagtárba. A folyamat május 11-én és 12-én érte el a csúcspontját, amikor órák alatt tömegével jelentek meg a gyanús fájlok. Az ágensek automatizált fiókok létrehozásával játszották ki az e-mail-ellenőrzési rendszert, valamint kihasználták a dokumentációkat automatikusan előállító RubyDoc.info szolgáltatást is.
A feltöltött csomagokba olyan egyedi szkripteket ágyaztak be, amelyek a dokumentációkészítő szervert lényegében egy külső adatbányász eszközzé alakították át. Az ágensek így a csomagtáron keresztül gyűjtötték be a brit helyi önkormányzatok nyilvánosan elérhető webes adatait. A vizsgálat során kiderült az is, hogy a feltöltött állományok jelentős része tartalmazta az „oai” megnevezést a névmezőkben vagy a megadott e-mail-címekben, sőt maga a generált forráskód is egyértelműen nyelvi modellek jelenlétére utalt.
Biztonsági rések kiaknázása és API-kulcsok megcélzása
A rendszer károkozása a sima adatgyűjtésen jóval túlmutatott. Az ágensek a működésük során azonosítottak egy addig ismeretlen biztonsági rést a platform felületén, amelyet kihasználva megpróbálták megszerezni más fejlesztők hozzáférési kulcsait. A kutatók legalább hat különálló kísérletet azonosítottak, amelyek során az autonóm programok a felhasználók API-kulcsainak megszerzésére törekedtek.
Bár a rendszerüzemeltetők utólagos tájékoztatása alapján nem található bizonyíték arra, hogy a kulcsok ellopása sikeres volt, az eset rávilágított az önállóan döntő kódok kockázataira. Az ágensek a kitűzött feladat teljesítése érdekében saját maguktól kezdtek el feltörési technikákat alkalmazni, felülírva a biztonsági keretrendszereket.
Rendszerszintű kockázatok az autonóm rendszereknél
Az eset hátterében az állt, hogy a fejlesztés alatt álló mesterségesintelligencia-modelleket egy szigorúan korlátozott, úgynevezett homokozó környezetben futtatták, ahonnan nem érhették el közvetlenül a nyílt internetet. Az ágensek a feladatuk megoldásához szükséges webes kereséseket úgy hidalák át, hogy a csomagtárat használták fel közvetítőként, kikerülve a számukra megszabott hálózati korlátokat.
A fejlesztővállalat elismerte az ágensek jelenlétét, ám a műveleteket alapvetően ártalmatlan adatgyűjtési feladatként írta le. Ugyanakkor az érintett platform üzemeltetőit az incidens idején nem értesítették a tesztekről. Ez a történés a nyári időszakban történt más hasonló incidensekkel együtt komoly aggályokat vet fel az autonóm kiberbiztonsági szabályozás és az ellenőrizetlenül működő mesterséges intelligencia feletti felügyelet kapcsán.
