A mesterséges intelligencia fejlesztésének transzparenciája váratlan mérföldkőhöz érkezett a biztonsági ellenőrzések terén.
Az Anthropic úgy döntött, hogy közvetlen, belső munkatársi szintű hozzáférést biztosít a METR nevű független, nonprofit kutatószervezet szakértőinek. A megállapodás értelmében hat külsős ellenőr saját vállalati hardvert, irodai munkahelyet és teljes betekintést kapott a vállalat belső rendszereibe. Ez a fajta hozzáférés korábban elképzelhetetlennek számított a piacvezető AI-fejlesztők körében.
Vétójog nélkül jelenhetnek meg a biztonsági jelentések
A megszerzett információk alapján a kutatók teljesen önállóan értékelhetik a modellek kockázatait, az esetleges biztonsági incidenseket és a fejlesztési gyakorlatot. Az Anthropic kifejezetten lemondott arról a jogáról, hogy megakadályozza vagy vétóval tiltsa le az elkészült elemzések nyilvánosságra hozatalát. A fejlesztőcégek korábban szigorú titoktartási szerződésekkel védték belső folyamataikat, így ez a döntés komoly fordulatot jelent a szektorban.
A megállapodás ugyanakkor tartalmaz néhány szigorúan körülhatárolt kivételt. Az Anthropic csak akkor kérheti az adatok kitakarását, ha azok ügyfelek személyes adatait, ügyvédi titoktartás alá tartozó dokumentumokat vagy a modell architektúrájának legérzékenyebb technikai részleteit tartalmazzák. A METR ráadásul nyilvánosan is kifejtheti a véleményét arról, hogy a cég által kért kitakarások indokoltak voltak-e.
Új szintet léphet az MI-modellek független ellenőrzése
A biztonsági mérések és a kockázatelemzés felelőssége egyre nagyobb súllyal nehezedik az iparágra, ahogy az autonóm ágensek és a nagy nyelvi modellek képességei rohamtempóban növekednek. A hatóságok és a szakértők régóta szorgalmazzák, hogy a fejlesztővállalatok ne saját maguk értékeljék a saját termékeik veszélyeit, hanem engedjenek be független auditorszervezeteket.
A kezdeményezés célja, hogy áthidalja a szakadékot a külső elemzők tudása és a fejlesztők belső tapasztalatai között. Ha a modellértékelő csapatok pontosan látják a tanítási folyamatokat és a védelmi rendszerek működését, sokkal korábban észrevehetik a nem várt viselkedési mintákat vagy a biztonsági korlátok kijátszásának lehetőségét.