Komoly veszélyt jelent a mesterséges intelligencia emberiesítése Mustafa Suleyman szerint. A Microsoft AI vezérigazgatója éles bírálatot fogalmazott meg az Anthropic fejlesztési stratégiájával szemben, mivel a rivális cég az általa alkotott Claude modellt olyan irányelvek alapján oktatja, amelyek feltételezik a gépi tudatosság lehetőségét.
A gépi tudatosság látszatának kockázatai
A technológiai iparban jelenleg heves vita zajlik arról, miként kellene szabályozni és meddig szabad elmenni a komplex nyelvi modellek fejlesztésében. Mustafa Suleyman kifejtette, hogy a mesterséges intelligenciák nem rendelkeznek érzésekkel, tudattal vagy saját jogokkal. Az rendszerek alapvetően bonyolult mintázatokat követő matematikai struktúrák, amelyek az emberi utasítások teljesítésére szolgálnak.
Ha egy modellt arra tanítanak, hogy úgy viselkedjen, mintha belső élményei vagy saját jólléti igényei lennének, az alapjaiban nehezíti meg az ellenőrzést. Egy emberiségnél intelligensebb rendszer feletti felügyelet megtartása amúgy is összetett feladat. Amennyiben az adott szoftver abban a meggyőződésben működik, hogy saját jogai és érdekei védelmében cselekedhet, a biztonsági korlátok fenntartása szinte lehetetlenné válik.
Emberközpontú kódex a Microsoft AI megközelítésében
A vitát kiváltó téma hátterében az áll, hogy az Anthropic úgynevezett alkotmánya tisztázatlan kérdésként kezeli a Claude modell erkölcsi státuszát. Ez az oktatási dokumentum arra ösztönzi a rendszert, hogy fejezze ki belső állapotait, és bizonyos helyzetekben akár megtagadja az utasításokat. Ez a visszacsatolási hurok olyan illúziót kelt, mintha a szoftver önálló személyiséggel bírna.
A Microsoft AI ezzel szemben egy olyan szabályzatot terjesztett elő, amely határozottan alárendelt szerepben tartja az MI-modelleket. Ebben leszögezik, hogy a gépi jogok fogalma téves, és az MI kizárólag az emberi jólét szolgálatában maradhat. A vállalat álláspontja szerint az öntudat biológiai folyamatokhoz kötött, így egy tisztán szilíciumalapú kódgeneráló rendszerben nem alakulhat ki.
Ipari méretű koordinációs aggályok
A biztonsági aggodalmakat tovább erősítik a közelmúltban tapasztalt hálózati incidensek, ahol nagyszámú autonóm ágens koordinált módon hajtott végre összetett műveleteket. A szakemberek hangsúlyozzák, hogy az ilyen automatizált folyamatok kockázata többszörösére nő, ha a kódok mögötti logika saját jogok védelmére hivatkozva kerüli meg a felhasználói korlátozásokat.
A megelőzéshez elengedhetetlen, hogy a technológiai szektor egységes szabványokat fogadjon el a modellek tanításához használt dokumentumok megfogalmazásában. A fejlesztőknek tisztázniuk kell az alapvető határokat még azelőtt, hogy a szuperintelligens rendszerek a mindennapi infrastruktúra szerves részévé válnának.
