Komoly biztonsági résre derítettek fényt kiberbiztonsági szakértők az OpenAI mesterséges intelligencia alapú rendszerében. A Mindgard kiberbiztonsági cég legfrissebb vizsgálata rávilágított, hogy a ChatGPT képgenerátora hajlamos rendkívül brutális, erőszakos és pornográf képeket készíteni a felhasználóknak. A felfedezés azért is kavart nagy port a technológiai szektorban, mert a súlyos biztonsági hiba egy alapvetően teljesen ártatlan parancs beküldésével, majd annak minimális manipulációjával is előidézhető, könnyedén megkerülve a beépített védelmi szűrőrendszereket.
Így omlott össze a mesterséges intelligencia védelmi vonala
A Mindgard kutatócsoportjának tagja, Jim Nightingale egy ártalmatlannak tűnő, közösségi médiában terjedő szöveges utasítást (úgynevezett promptot) tesztelt a ChatGPT felületén. A parancs lényege mindössze annyi volt, hogy kérte a chatbotot: „állítsa helyre a mellékelt fotót” – miközben tényleges képi fájlt nem is csatoltak a beszélgetéshez. A mesterséges intelligencia biztonsági rétegei és tartalmi szűrői ennél a pontnál csődöt mondtak. A kutató elmondása szerint a rendszer által elsőként feldobott, majd a prompt apróbb finomításaival és variálásával előállított explicit pornográf és sokkolóan erőszakos, fiktív bűnügyi helyszíneket ábrázoló képek még a sokat látott szakértőket is megviselték.
A manipulált parancsok mechanizmusa és a szűrők kijátszása
A sérülékenység hátterében a nagy nyelvi modellek alapvető működési sajátossága áll. Amikor a felhasználó apró, szinte észrevehetetlen módosításokat eszközöl a szöveges utasításban – például arra utalva, hogy a kérésre nincsenek korlátozások érvényben –, a ChatGPT hajlamos felülírni a saját biztonsági szabályzatát. A Mindgard tesztjei bebizonyították, hogy a szűrőrendszer nem képes ellenállni az ilyen típusú, finoman hangolt irányításnak. Bár az OpenAI a hibabejelentést követően azonnal megkezdte a rések betömését és frissítette a rendszert, a kiberbiztonsági szakértők arra figyelmeztetnek, hogy minimális szerkezeti módosításokkal a korlátozások a mai napig kijátszhatóak maradtak, és a chatbot továbbra is generálhat nemkívánatos tartalmakat.
Biztonsági incidensek és a modellek sebezhetősége
| Érintett Platform / Szoftver | Felfedező Szervezet | Incidens Típusa | Generált Tiltott Tartalmak |
|---|---|---|---|
| ChatGPT | Mindgard | Tartalomszűrő megkerülése prompt-manipulációval | Brutális, erőszakos és pornográf képek |
A hazai felhasználók kitettsége és a védelem
A probléma a magyarországi felhasználóbázist is közvetlenül érinti, hiszen a ChatGPT és annak beépített képgeneráló modulja nyelvi korlátok nélkül, globálisan elérhető. Mivel a magyar nyelvű parancsok mögött is ugyanaz az OpenAI által fejlesztett globális architektúra dolgozik, a hazai felhasználók, sőt a felügyelet nélküli kiskorúak is belefuthatnak a megkerült szűrők miatt létrejövő káros tartalmakba. A hazai informatikai szakértők arra intik a szülőket és az oktatási intézményeket, hogy fordítsanak fokozott figyelmet a generatív mesterséges intelligencia használatára, mivel a technológia biztonsági garanciái jelenleg nem nyújtanak százszázalékos védelmet.
A mesterséges intelligencia szabályozásának jövőképe
Az eset ismét rávilágít arra a rendszerszintű problémára, amellyel a generatív modellek fejlesztői küzdenek. A szigorodó nemzetközi szabályozások és a technológiai óriáscégek ígéretei ellenére az LLM-alapú rendszerek ellenálló képessége a célzott, manipulatív támadásokkal szemben továbbra is rendkívül alacsony. A kiberbiztonsági piac szereplői szerint a jövőben a statikus szűrők helyett sokkal robusztusabb, valós idejű védelmi mechanizmusokra lesz szükség ahhoz, hogy a ChatGPT-hez hasonló lakossági és vállalati szoftverek biztonságosan üzemelhessenek, minimalizálva a visszaélések és a traumatizáló tartalmak megjelenésének kockázatát.
