Kritikák össztüzébe került az OpenAI legújabb, kifejezetten tinédzsereknek szánt mesterségesintelligencia-modellje a gyermekvédelmi szakemberek részéről. A szakértők szerint a TeenGPT bevezetése előtt a vállalatnak először a bizalmat kellene kiépítenie, és bizonyítania a biztonsági funkciók valódi hatékonyságát.
Az OpenAI a 13 és 17 év közötti fiataloknak szánt célszoftverrel lépett piacra. A rendszer automatikusan észleli vagy a megadott adatok alapján azonosítja a kiskorúakat, majd ezt követően szigorúbb korlátok közé szorítja a beszélgetéseket. Az új modell a tanulást elősegítő funkciókra igyekszik terelni a fiatalokat, mint a lépésről lépésre magyarázó tanulási mód és az interaktív vizualizációk. Ezzel párhuzamosan a szülői értesítési rendszert is kibővítették: amennyiben egy összekapcsolt fiókkal rendelkező fiatal önkárosításra vagy evészavarra utaló témákat érint, a szülő riasztást kaphat. A szabályzat szerint a chatbot nem használhat romantikus hangnemet, nem ösztönözhet érzelmi függőséget, és nem sugallhatja, hogy saját érzésekkel vagy öntudattal rendelkezik.
Kockázatos védelmi vonalak és megkerülhető korlátok
A gyermekvédelmi és jogvédő szervezetek, köztük a Common Sense Media és a Fairplay képviselői, szkepticizmussal fogadták az OpenAI bejelentését. Rámutattak, hogy a vállalat korábban is alkalmazott tartalomkorlátozásokat az önkárosítás, az erőszak és a kábítószerek témakörében, ám ezek a korlátok a gyakorlatban sokszor pontatlannak bizonyultak, vagy kijátszhatók maradtak. A tinédzserek technológiai tájékozottságuk révén virtuális magánhálózatok, hamis születési dátumok vagy másodlagos fiókok használatával könnyen kikerülhetik a korlátozott felületet.
Különösen komoly aggodalmat vált ki az életkor-becslő algoritmus megbízhatósága. Az OpenAI eddig nem hozott nyilvánosságra pontos statisztikai adatokat arról, milyen arányban téved a rendszer a felnőttek és a kiskorúak beazonosításánál. A pontatlanság kétirányú veszélyt hordoz: a kiskorúak a felnőtt verzióban maradhatnak, miközben a felnőtt felhasználók tévesen a korlátozott felületre kerülhetnek. A vállalat korábban felnőtteknek szánt funkciók kiadását is elhalasztotta hasonló azonosítási problémák miatt, ami tovább gyengíti a technológiai megoldásba vetett hitet.
Pszichés kötődés és a szülői felügyelet illúziója
A gyermekfejlesztési és mentálhigiénés szakértők arra figyelmeztetnek, hogy a kiskorúak fejlődésben lévő idegrendszere különösen sebezhetővé teszi őket a generatív mesterséges intelligenciával való kapcsolattartás során. Az Amerikai Pszichológiai Társaság állásfoglalása kiemeli, hogy az intelligens rendszerek semmilyen körülmények között nem helyettesíthetik az emberi kapcsolatokat, a szakértői terápiát vagy a válságkezelést. A fiatalok hajlamosak megszemélyesíteni a chatbotot, ami veszélyes kötődéshez és elszigetelődéshez vezethet.
Technológiai elemzők arra is figyelmeztetnek, hogy a TeenGPT által kínált védelmi funkciók hamis biztonságérzetet nyújthatnak a szülőknek. Ha a szülők azt feltételezik, hogy az OpenAI felülete teljesen megvédi a gyermeket a nem kívánt tartalomtól, csökkenhet a személyes odafigyelés és az offline ellenőrzés mértéke. Ez a hátulütő azért veszélyes, mert egyetlen algoritmus sem garantálja a tévedhetetlen működést, így a szülői kontroll hiánya súlyosbítja a fennmaradó kockázatokat.
Előbb bizalom, aztán tinédzser AI
A gyermekvédelmi szakma határozott álláspontja szerint a korábbi mulasztások és a bírósági eljárások fényében az OpenAI-nak nem új termékek bevezetésével kellene kísérleteznie. A vállalatnak transzparens adatközléssel, független biztonsági auditokkal és bizonyított hatékonyságú szűrésekkel kellene megalapoznia a társadalmi bizalmat.
Az AI-szolgáltatóknak a gyermekek védelmét már a tervezési fázisban alapkövetelményként kellene kezelniük, ahelyett hogy utólagos korlátozásokkal próbálnák kezelni a feltárt hiányosságokat. A TeenGPT körüli vita rávilágít arra, hogy a technológiai szektor és a gyermekvédelmi szabályozók közötti szakadék továbbra is fennáll, és a kiskorúak digitális biztonsága csak átlátható, szigorúan ellenőrzött keretek között garantálható.
