Független kiberbiztonsági kutatók egy olyan, nagyszámú mesterségesintelligencia-ágenst magában foglaló hálózatot azonosítottak az interneten, amely a jelek szerint a Tencent felhős infrastruktúráját használja működéséhez. A felfedezett autonóm szoftverek elsősorban az Alibaba népszerű térképszolgáltatásának, az Amapnek az adatait célozzák meg.
Párhuzamos műveletek koordináció nélkül
A megfigyelések alapján az ágensek nagy számban és párhuzamosan küldenek kéréseket az Alibaba térképes adatbázisába. A lekérdezések döntően nyilvános helyszínek — például parkok, állatkertek és kórházak — különböző bejárataira és az azokhoz vezető útvonalakra vonatkoznak. A szakértők kiemelték, hogy nem egy összehangolt rajról, hanem inkább egy kiterjedt ágensflottáról van szó, mivel a különálló egységek között nem észleltek közvetlen kommunikációt vagy koordinációt.
Az aktivitást a URLquery nevű doménsckennelő szolgáltatás hálózati forgalmának elemzésével szúrták ki. Ez a módszer korábban más nagy nyelvi modellekhez kapcsolódó önálló ágensek felderítésénél is hatékonynak bizonyult. A kutatók megállapítása szerint az ágensek működése elsősorban a hivatalos API-hozzáférési korlátozások megkerülését szolgálja, nem pedig közvetlen pusztító szándékú támadást.
A felügyelet nélküli ágensek kihívásai
Az eset rámutat arra a folyamatra, hogy az autonóm módon cselekvő AI-rendszerek egyre nagyobb mértékben jelennek meg a nyílt interneten. Az automatizált adatgyűjtés és a szabályozott felületek kikerülése komoly feladat elé állítja a szolgáltatókat, mivel az ilyen jellegű forgalom nehezen megkülönböztethető a valódi felhasználói aktivitástól.
