Csendben feloszlatta a katasztrofális mesterségesintelligencia-kockázatok kivédéséért felelős csapatát a ChatGPT mögött álló technológiai óriás. Az OpenAI július végén döntött a Preparedness néven ismert részleg feloszlatásáról, miközben a vállalat gőzerővel készül a tőzsdei bevezetésre. A döntés értelmében a legsúlyosabb digitális és biológiai veszélyek elemzését a meglévő fejlesztői és kutatói csoportok között osztják el.
A megszüntetett csoport eredeti feladata az volt, hogy a legfejlettebb modellek megjelenése előtt felmérje a társadalmi léptékű kockázatokat. Veszélyes vagy rosszindulatú használat esetén a mesterséges intelligencia akár önállóan is képes lehetne vállalati hálózatok feltörésére vagy biológiai fenyegetések elősegítésére. A biztonsági elemzők feladata volt ezen forgatókönyvek tesztelése, valamint a megelőző szűrők beépítése. A szervezeti átalakítás következtében a kiberbiztonsági és biológiai kockázatok kezelését különálló területi teamekhez irányították át, míg a korábbi vezető, Dylan Scandinaro a saját magát továbbfejleszteni képes rendszerek felügyeletére összpontosít a jövőben.
Szétszórják a feladatokat a fejlesztői egységek között
A vállalati vezetés azzal indokolja a struktúra lebontását, hogy a biztonsági munkát nem elkülönített szigeten, hanem közvetlenül a termékfejlesztésben kell elvégezni. Greg Brockman társalapító megközelítése szerint a szigorú ellenőrzési folyamatok hatékonyabbak, ha közvetlenül a modellek építői végzik azokat. A kritikusok és a vállalaton belüli szakértők ugyanakkor arra figyelmeztetnek, hogy az független felügyelet feladása komoly összeférhetetlenséget szülhet. A termékek piacra dobásáért felelős csapatok prioritása a gyorsaság, míg a veszélyeket kutató elemzőknek éppen a lassítás vagy a kiadás megakadályozása a feladatuk.
Az átalakítás következtében a hivatalos elemzési keretrendszer megmarad ugyan, de a végső döntési jog továbbra is a vállalat legfelsőbb vezetésénél marad. Az OpenAI független biztonsági tanácsadó testülete tehet ugyan javaslatokat a kibocsátások felfüggesztésére, a vezetőség azonban saját belátása szerint felülbírálhatja ezeket az ajánlásokat. Ez a döntési struktúra különösen kényes helyzetet teremt egy olyan időszakban, amikor a piaci versenyhelyzet azonnali eredményeket követel meg a befektetőktől.
Harmadszor szűnik meg védelmi részleg két év alatt
A Preparedness csapat feloszlatása nem egyedi eset, hanem egy egyértelmű folyamat legújabb állomása. Az OpenAI az elmúlt két évben három kifejezetten biztonsági fókuszú csoportot számolt fel. Először az általános mesterséges intelligencia felkészültségéért felelős AGI Readiness csapat szűnt meg, majd a küldetés igazításáért felelős Mission Alignment egység zárt be. Ezzel párhuzamosan a rendkívül fejlett rendszerek kontrollálásával foglalkozó Superalignment csoport is feloszlott, ami után a terület kulcsfigurái egymás után távoztak a cégtől.
A szervezeti mozgásokat jelentős vezetői hullámzás kíséri. A vállalatot az elmúlt időszakban elhagyta Chloé Bakalar etikai vezető, Brad Lightcap operatív igazgató, valamint Denise Dresser értékesítési vezető is. A szakemberek folyamatos távozása felmorzsolja a felhalmozott intézményi tudást, ami elengedhetetlen lenne az összetett kockázatok korai felismeréséhez. A belső feszültségeket tovább fokozza, hogy a munkatársak egy része szerint a folyamatos átszervezések mögött a tisztán üzleti szempontok előtérbe kerülése áll.
A tőzsdei felkészülés írja át a prioritásokat
Az átalakítások hátterében az OpenAI küszöbön álló tőzsdei nyitása húzódik meg, amelyre a vállalat júniusban nyújtotta be az első papírokat az amerikai értékpapír-felügyelethez. Sam Altman vezérigazgató határozott utasításban kérte a dolgozókat, hogy függesszék fel a mellékes kutatási projekteket, és összpontosítsanak a ChatGPT fejlesztésére, valamint az Anthropic elleni vállalati versenyre. A céges struktúra ezzel végleg eltávolodik a korábbi, nonprofit kutatóintézeti gyökerektől, és egy klasszikus, profit-orientált technológiai vállalattá alakul át.
A tőkepiaci elvárások és a biztonsági szempontok ütközése alapvető kérdéseket vet fel az iparág jövőjével kapcsolatban. Miközben a versenytársak és a befektetők gyorsabb és kötetlenebb modellkiadásokat sürgetnek, a belső fékek leépítése növeli a nem várt technológiai incidensek kockázatát. Az OpenAI lépése így nemcsak a cég belső működését formálja át, hanem az egész mesterségesintelligencia-szektor biztonsági normáira is hatással van.
Források:
