Kifejezetten a fiatalok védelmére és tudatos tanulására tervezett biztonságos felületet indított útjára a ChatGPT fejlesztője. Az OpenAI által bevezetett ChatGPT for Teens automatikusan azonosítja a 13 és 17 év közötti felhasználókat, hogy a fejlődési szakaszukhoz szabott korlátozásokat és tanulást segítő eszköztárat alkalmazzon náluk.
A generatív mesterséges intelligencia rohamos elterjedésével párhuzamosan egyre több tizenéves támaszkodik a chatbotokra: a diákok nemcsak az iskolai feladatok megoldásában vagy a kódolás alapjainak elsajátításában kérnek segítséget, hanem gyakran mentális problémák vagy személyes kérdések megvitatására is használják az alkalmazást. A technológia mentálhigiénés hatásai, a fiatalokban kialakuló érzelmi függőség és a feladatok automatikus generálása régóta komoly aggodalmat vált ki a pedagógusok, a gyermekvédelmi szakértők és a szülők körében. A fejlesztővállalatra nehezedő nemzetközi jogi és szabályozási nyomás, a szigorodó adatvédelmi elvárások, valamint a tőzsdei jelenlétre készülő cég üzleti megfontolásai egyaránt arra sarkallták a vezetőséget, hogy közvetlen biztonsági korlátokkal mérsékelje a kiskorúakat érintő kockázatokat.
Automatikus besorolás életkorbecsléssel és szigorúbb szűréssel
Az új környezet nem igényel külön regisztrációt vagy manuális átváltást a fiatalok részéről. A rendszer a regisztráció során megadott adatok mellett egy komplex, több mint kétezer használati jelet elemző életkor-becslő algoritmussal azonosítja a kiskorú felhasználókat. A fiók fennállásának ideje, a bejelentkezési időpontok, az aktivitási mintázatok és a feltett kérdések jellege alapján a bizonytalan esetekben az alkalmazás alapértelmezés szerint automatikusan a szigorúbb, kiskorúaknak szánt védelmi rendszert lépteti életbe. Amennyiben egy felnőtt felhasználót tévesen sorolna be a korlátozóbb üzemmódba a technológia, hivatalos okmánnyal vagy szelfis azonosítással igazolhatja tényleges életkorát.
A tinédzserfiókokban jelentősen szigorodnak a tartalomkezelési irányelvek. A mesterséges intelligencia automatikusan visszautasítja az önkárosításra, az öngyilkosságra, a nyers erőszakra, az étkezési zavarokra, valamint a szexuális vagy romantikus szerepjátékokra irányuló felvetéseket. A modellt emellett úgy alakították ki, hogy következetesen megtagadja az emberi érzelmek vagy a tudatosság szimulálását, megelőzve ezzel a káros pszichológiai kötődés kialakulását. Amennyiben a fiatal kényes vagy veszélyes témákban kezdeményez beszélgetést, a felület azonnal figyelmeztető információkat és hivatalos segélyszervezetek közvetlen elérhetőségeit jeleníti meg.
Iskolai segítség közvetlen válaszok helyett
Az oktatás területén a bevezetett változtatások alapvető szemléletváltást hoznak. A kifejezetten fiatalokra szabott tanulási mód (Study Mode) célja, hogy a házi feladatok vagy esszék kész kiadása helyett lépésről lépésre, irányított kérdésekkel vezesse rá a diákokat a válaszokra. A szoftver aktív visszakérdezéssel, terelő lépésekkel, vizuális szemléltetőeszközökkel és interaktív gyakorló kvízekkel támogatja a tananyag elmélyítését és a kritikus gondolkodás fejlődését.
Amikor az algoritmus azt észleli, hogy a diák csupán átmásolni szeretné a végeredményt vagy megkerülni a tanulási folyamatot, figyelmeztetést jelenít meg, és automatikusan átirányítja a csevegést a tanulási felületre. Ez a megközelítés a saját tudás megszerzését helyezi a középpontba, megnehezítve, hogy a fiatalok puszta válaszgenerátorként használják a mesterséges intelligenciát. A szülők és a tanulók előre meghatározhatnak úgynevezett tanulási időszakokat is, amikor a felület alapértelmezetten ebben a szigorított oktatási üzemmódban működik.
Gyakorlati ellenőrzés a szülők kezében
A biztonsági csomag másik pillérét a szülői felügyeleti eszközök alkotják, amelyek a felnőtt és a fiatal fiókjának önkéntes összekapcsolásával érhetők el. A gondviselők beállíthatnak úgynevezett csendes órákat, amelyek során a kiskorú számára teljesen blokkolva van a szolgáltatás elérése, valamint korlátozhatják a képgenerálást és a hangalapú csevegési funkciót is. A szülők emellett letilthatják a gyermek által megadott adatok mentését, megakadályozva, hogy az üzeneteket a modell jövőbeli tanítására használják fel.
A szabályozás ugyanakkor kiemelt figyelmet fordít a fiatalok magánéletének védelmére: a szülők nem tekinthetik meg a beszélgetések konkrét szöveges előzményeit. Kizárólag közvetlen életveszélyt vagy akut biztonsági kockázatot jelentő esetekben küld a rendszer automatikus riasztást a gondviselőnek, miután a fennálló helyzetet egy belső szakértői biztonsági csapat captures felülvizsgálta.
