Pénzfeldobáshoz hasonló eséllyel pusztíthatja el az emberiséget a szuperintelligens mesterséges intelligencia egy vezető kutató szerint.
A Palisade Research nevű nonprofit szervezet által közzétett interjúsorozatban a szektor meghatározó fejlesztőműhelyeinek jelenlegi és korábbi munkatársai nyilatkoztak. A beszélgetésekben az OpenAI, a Google DeepMind és az Anthropic kutatói fejtették ki álláspontjukat arról, milyen egzisztenciális kockázatokat hordoz a rendszerek rohamléptékű fejlődése.
Ötven százalékos kockázat az emberiség fennmaradására
Geoffrey Irving, aki korábban az OpenAI és a Google DeepMind biztonsági csapatait is vezette, úgy fogalmazott, hogy a szuperintelligencia megjelenésével az emberi faj fennmaradásának esélye nagyjából egy érmefeldobás kimenetelével egyenértékű. Értékelése szerint ez a becslés még azzal a feltételezéssel együtt is érvényes, hogy a társadalom igyekszik védelmi intézkedéseket hozni.
Hasonlóan komoly aggályokat fogalmazott meg Neel Nanda, a Google DeepMind kutatója is. Véleménye szerint legalább tíz százalék esély van arra, hogy a mesterséges intelligencia az emberiség kihalását okozza, ami elképesztően magas kockázati tényező egy technológiai fejlesztésnél. A szakember kiemelte, hogy egyedül azért folytatja a munkáját a szektorban, mert abban bízik, hogy jelenlétével közvetlenül csökkentheti ezeket a veszélyeket, hiszen a vezető technológiai vállalatok a távozása esetén sem állítanák le a folyamatokat.
Irányíthatatlan, istenszerű képességek
A megszólaló szakértők hangsúlyozták, hogy a szuperintelligens rendszerek ellenőrzésére és felügyeletére jelenleg nem létezik megbízható módszer. Daniel Kokotajlo, az OpenAI egykori kutatója kifejtette, hogy egy emberi képességeket messze meghaladó rendszer lényegében korlátlan hatalommal rendelkezne, miközben az irányítási mechanizmusok hiánya miatt szinte senki nem lenne képes kontrollálni a működését.
A közzétett videók rávilágítanak arra is, hogy az iparágon belül sincs egységes konszenzus a biztonság pontos definíciójáról vagy a védelmi hálók kiépítésének mikéntjéről. A kutatók egy része emellett arra intette a közvéleményt, hogy kezelje fenntartásokkal a nagy laboratóriumok hivatalos nyilatkozatait, mivel a piaci verseny és a pénzügyi ösztönzők gyakran felülírják a biztonsági szempontokat.
A felmérések és interjúk kontextusa azt mutatja, hogy a mesterséges intelligencia fejlesztése olyan fázisba ért, ahol az autonóm rendszerek kontrollja nem csupán technikai kérdés, hanem a globális biztonság alapvető kihívása.
