Még a boltok polcain található tej és a háztartási mosógépek is szigorúbb biztonsági szabályoknak felelnek meg, mint a legfejlettebb mesterségesintelligencia-rendszerek. Erre a hiányosságra hívta fel a figyelmet a Microsoft elnöke, kiemelve, hogy a technológiai szektornak sürgősen átfogó kötelező érvényű keretrendszerre van szüksége. A jelenlegi helyzetben a piac szinte teljesen önbeállító módon működik, miközben a modellek képességei és kockázatai rohamosan növekednek.
Az AI szabályozás hiánya különösen annak fényében elgondolkodtató, hogy a hétköznapi fogyasztási cikkeknél évtizedes múltra visszatekintő minőségellenőrzési és kötelező ellenőrzési folyamatok védik a vásárlókat. A technológiai óriásvezető szerint elengedhetetlen, hogy a fejlesztők számára jogi kötelezettséggé váljon az incidensek bejelentése, amennyiben egy elszabadult algoritmus vagy rendszerbiztonsági hiba kárt okoz a felhasználóknak.
Vészfék és független hatósági ellenőrzés szükséges
A javasolt biztonsági védőkorlátok között központi szerepet kap egy úgynevezett vészfék vagy leállító mechanizmus beépítése. Ez a megoldás lehetővé tenné az üzemeltetők számára, hogy azonnal felfüggesszék vagy lelassítsák a rendszereket, ha azok nem várt vagy veszélyes viselkedést mutatnak. A szektorban jelenleg alkalmazott önkéntes vállalási határok a kritikusok és a szakértők szerint sem nyújtanak elegendő védelmet a valós fenyegetésekkel szemben.
A kezdeményezés értelmében a legújabb fejlett modelleket a piacra dobás előtt független hatósági ellenőrzésnek kellene alávetni. Ez a megközelítés garantálná, hogy a kritikus infrastruktúrákban, a pénzügyi szektorban vagy az egészségügyben alkalmazott algoritmusok ne jelenthessenek előre nem látott kockázatot a társadalomra.
Szakadék a politikai és iparági álláspontok között
A felvetett szigorítások ugyanakkor éles vitákat váltanak ki a politikai és iparági szereplők körében. Míg egyes technológiai vállalatok támogatják a nemzetközi biztonsági normák felállítását, más döntéshozók attól tartanak, hogy a túlzott bürokrácia lassíthatja az innovációt. A piaci versenyben elért előny megőrzése miatt sokan az önszabályozás mellett érvelnek, meggátolva ezzel az egységes globális szabályzat gyors elfogadását.
A szkeptikusok emellett rámutatnak arra is, hogy a technológiai óriások szabályozási törekvései mögött akár a piacra lépési korlátok emelése is állhat, ami a kisebb fejlesztőket hátrányos helyzetbe hozná. Az egyensúly megtalálása a biztonságos működés és a szabad fejlesztés között a következő évek egyik legfontosabb technológiai kihívása lesz.
