Láthatatlan statisztikai mintázat leplezi le a jövőben a Claude által megfogalmazott szövegeket és kódokat. Az Anthropic fejlesztőcsapata olyan eljárást épít be a modelljeibe, amely a természetes nyelvhasználat felborítása nélkül helyez el azonosítót a mondatokban.
Statisztikai valószínűséggel felépített rejtett minták
A megszokott vízjelezési eljárások általában különleges karaktereket, rejtett metaadatokat vagy formázási trükköket alkalmaznak, amelyeket egy egyszerű másolás vagy tisztítás könnyen eltüntet. Az Anthropic megoldása ezzel szemben a nagy nyelvi modellek működésének alapjára, a szóválasztás valószínűségi logikájára támaszkodik. Amikor a chatbot előállítja a következő szót, a lehetséges kifejezések listájából választ. A rendszer a folyamat során apró, az emberi szem számára észrevétlen eltolásokat alkalmaz a szavak valószínűségi értékeiben.
Egyetlen mondatban vagy rövid bekezdésben ez a beavatkozás teljesen kimutathatatlan, az olvasó számára a szöveg gördülékeny és természetes marad. Hosszabb írásokban, kód részletekben vagy többoldalas dokumentumokban azonban a halmozódó választások olyan egyedi mintázatot alkotnak, amelyet a megfelelő detektoros kulccsal nagy biztonsággal fel lehet ismerni. A módszer a Google DeepMind által kifejlesztett SynthID alapjaiból építkezik, de az Anthropic kifejezetten a saját modelljeire szabva valósítja meg.
Szigorú európai előírások a háttérben
A technológiai módosítás hátterében az Európai Unió mesterséges intelligenciáról szóló jogszabálya, az AI Act áll. A szabályozás 50. cikke értelmében a generatív rendszerek fejlesztőinek biztosítaniuk kell, hogy az géppel olvasható módon megjelölje az általa előállított tartalmakat. Az Anthropic az uniós elvárásoknak megfelelve döntött úgy, hogy a világon mindenhol, minden felületen – a webes alkalmazásban, az API-n, a Claude Code eszközkészletben és a felhős partnerplatformokon egyaránt – bevezeti a vízjelezést.
A változtatás az új modelleket már a megjelenés pillanatában érinti, míg a korábban kiadott verziókhoz fokozatosan frissítik a rendszert. A szöveges tartalom mellett a generált képek és állományok esetében a C2PA nyílt szabványnak megfelelő, digitálisan aláírt eredetiségi metaadatokat használnak, amivel a fájlok módosítása is nyomon követhetővé válik.
Gyakorlati korlátok a kódok és a rövid szövegek terén
A statisztikai vízjelezés nem csodaszer, és a fejlesztők sem állítják, hogy minden helyzetben abszolút bizonyosságot nyújt. A tömör tényközlések, a nagyon rövid válaszok vagy a szigorú szintaktikai szabályokhoz kötött kódok esetében a szavak és szimbólumok variációs lehetőségei szűkösek. Ha egy programkódnak pontosan meghatározott szintaxist kell követnie, a modell nem tud tetszőlegesen válogatni a szinonimák között anélkül, hogy a kód működését veszélyeztetné. Ennek következtében a kódok és rövid válaszok esetén nagyobb szövegmennyiségre van szükség a mintázat azonosításához.
Oktatási és jogi hatások a mindennapokban
Az újítás alapjaiban változtathatja meg a szövegek eredetiségének ellenőrzését az oktatásban, a kiadói szférában és a szoftverfejlesztésben. Az iskolákban és egyetemeken kihívást okozott az AI által írt beadandók kiszűrése, mivel a korábbi detektorok magas hibaaráánnyal dolgoztak. A beépített statisztikai vízjel lehetségessé teszi, hogy az intézmények közvetlenül a modell sajátosságaiból állapítsák meg a mesterséges intelligencia jelenlétét.
Ugyanakkor felmerül a kérdés, hogy mi történik akkor, ha egy felhasználó saját szövegét csak stilizálásra vagy javításra bízza a Claude-ra. Mivel a felülvizsgált mondatokba esetenként bekerülhet a mintázat, a szöveg részben mesterségesként jelölődhet meg. A fejlesztővállalat éppen ezért saját ellenőrző eszközök kiadását tervezi, hogy a harmadik felek pontos képet kaphassanak az elemzett dokumentumok eredetéről.
