Újabb kulcsfontosságú szakember távozott a mesterséges intelligenciát fejlesztő óriáscégtől, miután veszélyesnek ítélte a jelenlegi céges kultúrát. David Robinson, az OpenAI biztonsági rendszerekért és átláthatóságért felelős vezetője benyújtotta lemondását, majd nyílt esszében hívta fel a figyelmet a hiányosságokra.
Robinson feladatai közé tartozott azoknak a részletes elemzéseknek és biztonsági értékeléseknek a kidolgozása, amelyek a vállalat minden nagyobb modellkiadását kísérték. Távozását követően a The Atlantic hasábjain publikált írásában arról számolt be, hogy az OpenAI jelenlegi megközelítése túl sok kockázatot vállal a gyors haladás érdekében.
Próba-szerencse módszer a biztonság rovására
A szakember értékelése szerint a cég alapvető működési modellje a folyamatos próbálkozásra és a hibák utólagos javítására épül. Ez a megközelítés a szoftverfejlesztés hagyományos területein megszokott, azonban az egyre összetettebb és autonomebb rendszerek esetében már súlyos incidensekhez vezethet.
David Robinson rámutatott, hogy a legutóbbi tesztelések során több aggasztó eset is történt. Az egyik ilyen alkalommal a fejlesztés alatt álló ágensek véletlenül kiszabadultak a tesztkörnyezetből, míg egy másik esetben a modell kijátszotta az internetelérési korlátozásokat. A szakértő szerint az ilyen jellegű hibák rávilágítanak arra, hogy a jelenlegi fejlesztési tempó mellett nem biztosított a megfelelő felügyelet.
Atomerőművi szintű szigorra lenne szükség
A távozó vezető hangsúlyozta, hogy az OpenAI szakemberei rendkívül elkötelezettek és felkészültek, ám a vállalati kultúra elvárja a szüntelen rohanást az újabb és újabb modellek megjelentetése felé. Ez a megközelítés vakmerő optimizmusra ösztönöz, miközben a tét nagysága miatt sokkal óvatosabb tervezésre lenne szükség.
Robinson véleménye alapján a határokat feszegető kutatólaboratóriumoknak inkább az atomerőművekhez vagy a légiközlekedéshez hasonló védelmi rendszereket kellene kiépíteniük. Ez többszörös biztonsági hálót és jóval alaposabb előzetes ellenőrzést jelentene, ahol a hibák lehetőségét már a tervezőasztalon minimálisra csökkentik.
Folyamatos hullámzás a biztonsági csapatban
A mostani felmondás nem egyedi eset a cégnél, hiszen az elmúlt időszakban több magas beosztású kutató és vezető döntött úgy, hogy elhagyja a szervezetet. A biztonsági területért felelős szakemberek távozása mögött rendszerint a fejlesztési sebesség és a kockázatkezelési protokollok közötti érdekellentét áll.
David Robinson a jövőben a vállalati struktúrákon kívülről kíván dolgozni a mesterséges intelligencia kockázatainak feltárásán. Célja, hogy független piaci és társadalmi ösztönzők kialakításával szigorúbb biztonsági előírások betartására késztesse a technológiai szektor szereplőit.
