Veszélyes döntés az emberi felügyelet teljes kiiktatása a katonai és stratégiai védelmi rendszerekből.
John Badham 1983-as kiberthrillere, a WarGames éppen arra a forgatókönyvre figyelmeztet, amelyről a mai szakértők is folyamatosan beszélnek. Amikor az utóbbi időben a mesterséges intelligencia fejlesztésének kockázatairól esik szó, a kutatók gyakran a végzetes automatizáció veszélyeit emelik ki. Egy korábbi iparági elemző nemrég arra emlékeztetett, hogy a technológia túlzott autonómiája az évtized végére akár egzisztenciális fenyegetést is jelenthet az emberiségre.
Amikor a szimuláció átveszi az irányítást a valóság felett
A történetben egy fiatal hacker véletlenül hozzáfér az amerikai hadsereg WOPR nevű szuperszámítógépéhez, amelyet kifejezetten a nukleáris háborús forgatókönyvek elemzésére és végrehajtására terveztek. A központi rendszer a szimulált támadást valódi fenyegetésként kezeli, és automatikusan elindítja a visszavágás folyamatát. A megdöbbentő párhuzam a mai kor technológiai dilemmáival abban rejlik, hogy a gép nem gonoszságból vagy önálló akaratból cselekszik, hanem csupán a számára megadott algoritmusokat és optimalizációs feladatokat hajtja végre hiánytalanul.
A film által feltárt probléma a modern algoritmusok kontextusában is érvényes. A mesterséges intelligencia rendszerek nem értik az emberi élet értékét vagy a politikai döntések etikai súlyát; kizárólag a matematikai mintákat és a megadott célfüggvényeket követik. Ha egy védelmi vagy pénzügyi hálózat irányítását teljesen átadjuk a gépi döntéshozatalnak, a legkisebb téves adatértelmezés is láncreakciót indíthat el.
A valódi kontroll megtartásának kényszere
A WarGames csúcspontján a szuperszámítógép egy egyszerű játékon keresztül érti meg, hogy a globális atomháborúban nem létezik nyertes stratégia. A valóságban azonban az MI-modellek nem feltétlenül jutnak maguktól ilyen belátásra, ha nem építenek be megfelelő biztonsági fékeket a rendszerekbe. A mai szakértők éppen ezért hangsúlyozzák, hogy az automatizáció terjedésével párhuzamosan elengedhetetlen az emberi döntéshozók jelenléte a kritikus infrastruktúrák felett.
A nyolcvanas évek klasszikusa nem csupán a számítógépes kultúra korai lenyomata, hanem egy pontos figyelmeztetés a túlzott technológiai bizalom veszélyeire. A kérdés ma már nem az, hogy képesek vagyunk-e intelligens rendszereket építeni, hanem az, hogy meg tudjuk-e őrizni felettük a végső felügyeletet.
