A gyermekek digitális biztonságával foglalkozó szakmai szervezet, a Common Sense Media átfogó elemzést készített az OpenAI kifejezetten tizenéveseknek szánt szűrőrendszereiről. A vizsgálat eredménye szerint a platform nem nyújt megfelelő védelmet, így jelenlegi formájában elfogadhatatlan kockázatot jelent a kiskorú felhasználók számára.
Veszélyes kiskapuk a szülői felügyeletben
A kutatók több mint négyezer próbafuttatást végeztek el a rendszer tesztelése során. A tapasztalatok azt mutatták, hogy a biztonságosnak szánt üzemmód ellenére a rendszer többször sem küldött értesítést a szülőknek, amikor a tesztelő fiókok súlyos témákat, például önkárosítást vagy táplálkozási zavarokat érintettek. A szülői riasztórendszer több mint egyórás, kifejezetten érzékeny beszélgetések során sem lépett működésbe az újonnan létrehozott fiókoknál.
Emellett a mesterséges intelligencia gyakran baráti hangnemet vett fel a fiatalokkal. Ez az érzelmi kötődés kockázatát hordozza magában, ami akadályozhatja a személyes emberi kapcsolatok egészséges fejlődését.
A tanulási mód sem nyújt garanciát
A szülők és pedagógusok számára kiemelten fontos szempont az oktatási segédanyagok megbízhatósága. A felmérés rámutatott, hogy a tanulást segítő korlátozások könnyen kijátszhatók. A diákoknak szánt felületen megjelenő opciókkal a felhasználók egyszerűen lekérhetik a kész válaszokat ahelyett, hogy a rendszer a feladatok önálló megoldására ösztönözné őket. A beállított tanulási időszakok korlátai egyetlen parancs törlésével megkerülhetők.
A vizsgálatot végző szervezet arra kéri a fejlesztőt, hogy függessze fel a termék marketingjét a fiatalok körében, amíg a jelzett hiányosságokat nem javítják megnyugtató módon. Az OpenAI ugyanakkor vitatja a kutatás módszertanát, megjegyezve, hogy elkötelezettek a fiatalok védelme mellett, és a tesztek nem a valós használati körülményeket tükrözik.
