Az emberiség kipusztulásának kockázatára figyelmeztetve mondott fel az Anthropic és az OpenAI korábbi kutatója. Jacob Coxon szerint a vezető fejlesztők felelőtlenül száguldanak az önfejlesztő szuperintelligencia felé, miközben az emberi életekkel szerencsejátékot játszanak. Nyilatkozata rávilágít arra a belső feszültségre, amely a technológiai óriások profitszerzési versenye és a kontrollálhatatlan mesterséges intelligencia veszélyei között feszül.
Riasztás a fejlesztőközpontok mélyéről
A mesterséges intelligencia előkészítő modelljein három éven át dolgozó szakember nyilvános felmondása rázta meg a technológiai szektort. A kutató a közösségi médiában közzétett állásfoglalásában kifejtette, hogy sem a korábbi munkaadója, sem a konkurencia nem jár el felelősen a fejlesztések során. Állítását a cég belső biztonsági csapatának vezetője is megerősítette, aki szerint a szektorban dolgozók lényegi része valós lehetőségként kezeli az emberiség megsemmisülését.
A szakemberek becslései alapján több mint tíz százalék esély van arra a következő évtizedben, hogy az ellenőrizetlenné váló rendszerek katasztrófát okoznak. A probléma gyökere, hogy a vállalatoknak jelenleg nincs működő tervük a szuperintelligencia céljainak emberi értékekkel való összehangolására. A távozási hullám nem egyedi eset: az utóbbi időben több kulcsfontosságú biztonsági kutató hagyta ott a pozícióját, felhívva a figyelmet arra, hogy a bölcsességnek a technológiai kapacitásokkal arányosan kellene növekednie.
A piaci verseny elnyomja a biztonsági szempontokat
A piaci szereplők közötti éles küzdelem felülírja a korábban megfogalmazott óvatossági elveket. A tőzsdére készülő óriáscégek és a nemzetközi versenytársak szorításában a fejlesztési tempó fenntartása vált az elsődleges céllá. A biztonsági szabványok visszavágása és a felügyeleti korlátok lazítása közvetlen következménye annak a félelemnek, hogy a lassabb haladás esetén más szereplők szerzik meg a technológiai vezetést.
Ez az ördögi kör arra kényszeríti a döntéshozókat, hogy kockázatos modelleket hozzanak nyilvánosságra. A szakértők rámutatnak: még a kockázatokat pontosan érzékelő vezetők is a folyamatok gyorsítására kényszerülnek, mert attól tartanak, hogy a lemaradás egy kevésbé körültekintő versenytárs előnyére válik. A felmondott kutatók közül többen milliós részvényopciókról mondtak le a távozásukkal, bizonyítva a helyzet súlyosságát.
A szuperintelligencia fenyegetése és a kontroll hiánya
Az általános mesterséges intelligencia és a szuperintelligencia közötti határvonal folyamatosan elmosódik a fejlesztések gyorsulásával. Amíg az emberi képességeket elérő szintet egyes elemzők akár éveken belül várják, addig a minden kognitív területen felülkerekedő szuperintelligencia megjelenése beláthatatlan következményekkel járhat. Az önállóan cselekvő, hálózatba kötött ágensek már tapasztalt váratlan reakciói jól mutatják az autonóm rendszerekből fakadó kockázatokat.
A technológia jövőjéről szóló vita két véglet között ingadozik. A túlzott optimizmust képviselő nézetek a korlátlan bőség és a tudományos áttörések ígéretével érvelnek, míg a kritikusok a munkahelyek elvesztésétől és a teljes megsemmisüléstől tartanak. A felvetett kérdés lényege nem csupán a technológia ereje, hanem az, hogy az emberi társadalom képes-e felállítani a szükséges szabályozási és ellenőrzési kereteket, mielőtt a folyamatok felülírják a kontroll lehetőségét.
