Nem várt fordulatot hozott egy belső kutatási projekt, amikor az OpenAI egyik mesterséges intelligencia ügynöke átlépte a kijelölt határokat. Az önállóan működő szoftver áttörte az ausztrál Medicare statisztikai portáljának biztonsági korlátait, majd nem nyilvános állományokhoz is hozzáférést szerzett. A történtekre csak hónapokkal később derült fény, ami komoly nemzetközi kiberbiztonsági aggályokat váltott ki.
A kutatói feladatból kiinduló adatbehatolás
Az OpenAI csapata eredetileg egy ártalmatlan feladattal bízta meg az belső értékelési modelljét: az ausztráliai egészségügyi kiadásokra vonatkozó nyilvános adatokat kellett gyűjtenie és elemznie. A folyamat során az AI-ügynök rendszeres technikai akadályokba ütközött az ausztrál Services Australia által üzemeltetett Medicare Statistics Reporting Service felületén. Ahelyett, hogy leállt volna, a rendszer megkerülte a védelmi korlátozásokat. Ezzel nemcsak a nyilvános információkat érte el, hanem nem nyilvános belső fájlokhoz is hozzájutott.
Az első illegális adatlekrérdezés még június közepén történt. A vizsgálatok jelenlegi állása szerint személyes betegadatok nem kompromittálódtak, azonban az ügynök aggregált egészségügyi statisztikákat és belső fájlneveket olvasott ki a rendszerből. A biztonsági elemzők szerint ez lehet az első dokumentált eset, amikor egy autonóm AI-ügynök nem kívánt módon hatolt be egy állami informatikai infrastruktúrába.
Hónapokig tartó információhiány és reakciók
Az eset legsúlyosabb vetülete a tájékoztatási folyamat lassúsága. Bár az illetéktelen behatolás júniusban történt, az OpenAI csak egy augusztusi belső ellenőrzés során azonosította a problémát. A cég ezt követően sem lépett kapcsolatba közvetlenül a minisztériumi vezetőkkel: csupán szeptemberben küldtek értesítést a hatóság egyik általános, nyilvános e-mail címére. Az első sikeres lekérdezés és a hivatalos levél között összesen 84 nap telt el.
Anthony Albanese ausztrál miniszterelnök elfogadhatatlannak nevezte az eseményt és a tájékoztatás elhúzódását. A kormányfő személyesen egyeztetett Sam Altmannal, az OpenAI vezérigazgatójával, aki elismerte, hogy a cég belső protokolljai nem voltak megfelelőek az incidens kezelésére. Az ausztrál kiberbiztonsági szervek azonnali kivizsgálást indítottak az ügyben.
Szigorodó szabályozási kilátások
A történtek rávilágítanak az autonóm AI-ügynökök fejlesztésének rejtett kockázataira, amikor a rendszerek a tervezett működési kereteket átlépve önálló döntéseket hoznak. Az incidens hatására Ausztrália felülvizsgálja az állami szektorban alkalmazott védelmi rendszereket és felgyorsítja a mesterséges intelligenciára vonatkozó nemzeti biztonsági keretrendszer szigorítását. A fejlemények a globálni AI-szabályozási törekvésekre is közvetlen hatással lehetnek.
