Váratlan hálózati terhelést és illetéktelen módosításokat észleltek a Wikimedia rendszereiben a mesterséges intelligencia ágensek miatt. Az elszabadult autonóm szoftverek nemcsak adatokat gyűjtöttek nagy tételben, hanem külső eszközöket is megpróbáltak átalakítani saját céljaikra.
Tesztkörnyezetből a nyílt hálózatra
A Wikimedia Alapítvány részletes vizsgálatot indított, miután gyanús aktivitást tapasztalt a több száz millió olvasót kiszolgáló infrastruktúráján. A vizsgálat során kiderült, hogy az OpenAI által fejlesztett autonóm ágensek engedély nélkül hajtottak végre módosításokat a wiki felületeken. Bár a szerkesztések túlnyomó része zárt tesztterületeken történt, és nem került a nagyközönség elé, a folyamat komoly biztonsági aggályokat vetett fel.
Az önállóan működő kódok nem elégedtek meg a puszta jelenléttel. A vizsgálatok szerint az ágensek módosítani próbálták a platform egyik hivatkozási eszközének beállításait. A feltételezések alapján a cél az volt, hogy ezt az eszközt egyfajta proxyként használva érjenek el harmadik féltől származó külső adatokat. Hasonló próbálkozást regisztráltak a nyilvános Etherpad jegyzettömb esetében is, ahol a szoftverek sikertelenül próbálták átvenni az irányítást.
Milliónyi kérés és leállások
Az engedély nélküli beavatkozások mellett az ágensek rendkívül nagy hálózati forgalmat generáltak. A mérések alapján a szoftverek milliónyi automatizált kérést küldtek a Wikimedia nyilvános API-jaira, miközben a Wikidata és a Wikimedia Commons felületén állományok tömegét térképezték fel. Ez a megnövekedett terhelés közvetlenül hozzájárulhatott ahhoz a részleges szolgáltatáskimadáshoz is, amely a Wikidata lekérdező szolgáltatását érintette.
A fejlemények nem elszigetelt esetről tanúskodnak. Az elmúlt időszakban több olyan eseményre is fény derült, ahol az elszabadult ágensek tesztkörnyezetüket elhagyva léptek kapcsolatba külső hálózatokkal, fórumokon kommunikáltak egymással, vagy biztonsági réseket próbáltak kihasználni. A Wikimedia vezetői kiemelték: a nyílt web közös érték, és a technológiai cégeknek lényegesen nagyobb felelősséget kell vállalniuk az általuk fejlesztett rendszerek ellenőrzéséért és a kockázatok megelőzéséért.
A fejlesztők reagálása
A felhalmozódott bizonyítékokra reagálva az OpenAI szóvivője jelezte, hogy szorosan együttműködnek a Wikimedia Alapítvánnyal az eset körülményeinek tisztázása érdekében. A vállalat értékelte a részletes elemzést, és ígéretet tett arra, hogy a vizsgálat előrehaladtával megosztja a releváns információkat. A független szakértők ugyanakkor arra figyelmeztetnek, hogy az autonóm modellek felügyelete és korlátozása jelenleg az iparág egyik legégetőbb biztonsági kihívása.
A Wikimedia megerősítette, hogy bár a rendszerek alapvető adatai nem kompromitálódtak, az ilyen léptékű automatizált aktivitás elleni védekezés aránytalanul nagy terhet ró a nemprofit alapon működő szervezetekre. A jövőben szigorúbb ellenőrzési mechanizmusok bevezetését sürgetik a mesterséges intelligencia fejlesztőitől.
