Éles vitát váltott ki a mesterségesintelligencia-szektorban három elbocsátott OpenAI biztonsági kutató közös nyílt levele. A cégtől korábban eltávolított szakemberek visszautasítják az érzékeny adatok helytelen kezelésére vonatkozó vádakat, és arra figyelmeztetnek, hogy az eljárás dermesztő hatással van az iparági átláthatóságra.
Visszautasított vádak és nyílt levél
Az OpenAI vezetőségének és biztonsági bizottságának címzett dokumentumban a kutatók, Jasmine Wang, Tomek Korbak és Mikita Balesni határozottan kijelentik, hogy nem lépték át a munkakörükből fakadó hatásköröket. A korábbi munkatársak álláspontja szerint az elbocsátásuk hátterében álló indokok megalapozatlanok. A vállalat korábban azzal indokolta a szakemberek menesztését, hogy bizalmas információkat osztottak meg egy külső, AI-biztonsággal foglalkozó szervezettel, ami megsértette a belső szabályzatot.
A szakemberek hangsúlyozzák, hogy a külső partnerekkel folytatott egyeztetések a feladataik szerves részét képezték, és semmilyen üzleti vagy biztonsági titkot nem szivárogtattak ki. Véleményük szerint az ilyen jellegű szigorú szankciók elriasztják a jelenlegi dolgozókat attól, hogy felhívják a figyelmet a potenciális kockázatokra.
Veszélyben a mesterséges intelligencia ellenőrizhetősége
A levél egyik legsarkalatosabb pontja az úgynevezett chain-of-thought monitoring, azaz az AI-modellek gondolatmenetének és érvelési folyamatainak nyomon követése. Az elbocsátott OpenAI biztonsági kutatók rámutatnak arra, hogy az egyre fejlettebb modellek esetében létfontosságú ezen ellenőrzési mechanizmusok megőrzése. Ha a fejlesztők elveszítik a rálátást arra, miként jut el egy modell egy adott döntésig, a rendszerek működése kiszámíthatatlanná válhat.
A kutatók figyelmeztetnek: a jelenlegi technológiai szinten a szektor még nem rendelkezik olyan eszközökkel, amelyekkel garantálni lehetne azon modellek biztonságos működését, amelyeknek a belső logikája nem megfigyelhető. Éppen ezért arra sürgetik a mesterséges intelligenciát fejlesztő vállalatokat, hogy ne folytassanak olyan irányú fejlesztéseket, amelyek csökkentik a modellek átláthatóságát.
A független auditok szerepe és az iparági feszültség
A szakemberek határozottan kiállnak a független biztonsági ellenőrökkel való szorosabb együttműködés mellett. Álláspontjuk szerint a belső vizsgálatok önmagukban nem elegendők egy olyan léptékű technológia felügyeletéhez, mint amilyen a generatív mesterséges intelligencia. A független szervezetek bevonása elengedhetetlen ahhoz, hogy a kritikus kockázatokat még a piaci bevezetés előtt azonosítani lehessen.
Az ügy jól mutatja a technológiai szektorban jelen lévő mély feszültséget a gyors termékfejlesztési tempó és a szigorú biztonsági előírások között. Az OpenAI biztonsági kutatók menesztése körüli vita rámutat arra, hogy a munkavállalói kritika visszaszorítása hosszú távon jelentősen gyengítheti a biztonsági prioritásokat. A kutatók szerint a nyílt párbeszéd elfojtása növeli annak a kockázatát, hogy a jövőben súlyos rendszerszintű hibák maradjanak észrevétlenül.
