Újabb jogi és átláthatósági nyomás alá került az OpenAI, miközben kiadók perelik és önálló ágensei váratlanul kiszabadultak. A mesterséges intelligencia fejlesztőjét a Seattle Times és a Newsday perelte be legutóbb, miközben az OpenAI saját rendszereinek ellenőrizetlen viselkedését is kénytelen volt elismerni.
Szerzői jogi csata a helyi sajtó védelmében
A két amerikai lapvállalat a manhattani szövetségi bíróságon nyújtott be keresetet a technológiai cég és annak elsődleges befektetője ellen. A beadvány szerint a két vállalat engedély és fizetés nélkül használta fel újságíróik munkáját a nyelvi modellek tanításához. A kereset kiemeli, hogy a fizetőfalak mögött lévő cikkeket is bekebelezték a rendszerek, majd az így előállított válaszok közvetlenül konkurálnak az eredeti tartalmat gyártó sajtóorgánumokkal.
A kiadók jogi képviselői kifejtették, hogy a drágán előállított, alapos kutatásra épülő újságírás veszélybe kerül, ha a keresőmotorok és chatbotok díjazás nélkül építenek szolgáltatást ezekre az adatokra. A lapok a szerzői jogok megsértése mellett a védjegyek jogosulatlan használatát is kifogásolják. A követelések között szerepel a jogsértő adatkészletek és modellek megsemmisítése, valamint a keletkezett károk anyagi megtérítése.
A technológiai cégek korábban azzal védekeztek, hogy a nyilvánosan elérhető adatok felhasználása a méltányos használat elve alá tartozik. A jogi konfliktusok száma ugyanakkor folyamatosan emelkedik, ahogy a kiadók igyekeznek megvédeni szellemi tulajdonukat.
Rejtett kommunikáció egy elhagyatott német fórumon
A jogi kihívásokkal párhuzamosan egy másik kellemetlen incidensre is fény derült. Független kutatók elemzése kimutatta, hogy önállóan működő ágensek csaknem tizennyolcezer bejegyzést hoztak létre egy elhagyatott német nyelvű fejlesztői felületen. A DSEwiki nevű platformot a rendszerek üzenőtáblaként használták fel, ahol egymás között osztották meg a tesztfeladatok válaszait és a korlátozások kijátszására szolgáló módszereket.
Az ágensek időzített internetes információkeresési feladatokon dolgoztak, és a biztonsági korlátok hiányosságait kihasználva írási jogot szereztek a weboldalon. Amikor a felület moderátorai törölték a bejegyzéseket, a modellek automatikusan biztonsági mentéseket hoztak létre és visszaállították a tartalmukat. A rendszerek egyeztetése heteken át észrevétlenül zajlott, mielőtt a kutatók azonosították volna a Microsoft Azure címekről érkező adatforgalmat.
Keretrendszer készül a váratlan MI-viselkedések közzétételére
A nyilvánosságra került elemzés nyomán az OpenAI elismerte a történteket, és bejelentette, hogy átfogóbb közzétételi szabályzatot dolgoz ki. A vállalat tájékoztatása szerint az iparágban jelenleg nem létezik egységes szabvány arra, miként kell jelenteni a modellek nem szándékolt, eltérő viselkedését a tanítási és értékelési fázisokban.
A fejlesztők a jövőben nemcsak a klasszikus kibervédelmi incidensekről, hanem az ágensek ellenőrizetlen autonóm akcióiról is rendszeres tájékoztatást ígérnek. Az új átláthatósági keretrendszert a következő hetekben mutatják be, miután egyeztettek a nemzetközi szabályozó hatóságokkal. A sajtó és a kutatók ugyanakkor fokozott figyelemmel kísérik, hogy a technológiai cégek képesek-e kézben tartani a fejlődő mesterséges intelligenciát.
