Szigorú korlátok közé szorítja a tinédzsereket a ChatGPT legújabb, kifejezetten fiataloknak tervezett védelmi rendszere.
Az OpenAI drasztikus lépésre szánta el magát a szaporodó jogi eljárások és a társadalmi aggodalmak hatására. A korábban felnőttekével azonos felületet használó 13 és 17 év közötti korosztály mostantól automatikusan egy korlátozott, oktatásra és biztonságra hangolt környezetbe kerül. A változtatás célja, hogy elvágja a fiatalokat a veszélyes interakcióktól, miközben gátat szab az iskolai csalásoknak is.
Szigorított tartalomkezelés és letiltott témakörök
Az új környezetben a nyelvi modell tabuként kezeli a fiatalok fejlődésére veszélyes témákat. A rendszer automatikusan szűri az önkárosítással, az étkezési zavarokkal, az erőszakos cselekményekkel, valamint a szexuális vagy romantikus jellegű szerepjátékokkal kapcsolatos üzeneteket. A fejlesztők kifejezetten úgy képezték ki az algoritmust, hogy az visszautasítsa a bizalmas, érzelmi kötődést imitáló megnyilvánulásokat. A technológia nem sugallhatja azt, hogy érzésekkel vagy öntudattal rendelkezik, megelőzve ezzel a gép és az ember közötti káros pszichológiai függőség kialakulását.
A mentális egészség megőrzése érdekében további megelőző funkciók is helyet kaptak a felületen. Amennyiben a fiatal felhasználó hosszabb időt tölt el a chatbottal való beszélgetéssel, a rendszer rendszeres időközönként pihenőre intő figyelmeztetéseket jelenít meg. A felület emellett folyamatosan tudatosítja a felhasználóban, hogy egy mesterséges intelligenciával kommunikál. Különösen kockázatos helyzetekben, például önkárosítás vagy erőszak említésekor a rendszer azonnal offline segítségnyújtó vonalakat ajánl, és a kapcsolódó szülői fiókoknak is riasztást küld.
Pedagógiai szemlélet a gyors megoldások helyett
Az iskolai feladatok megválaszolásában is gyökeres változást hoz a célzott üzemmód. Amikor a rendszer azt érzékeli, hogy a diák az elvégzendő házi feladatot vagy egy esszét akar megíratni az algoritmussal, a válasz megadása helyett automatikusan átirányítja a folyamatot a tanulási módra. Ebben a struktúrában az AI nem adja ki a kész végeredményt. Ehelyett lépésről lépésre, oktató jellegű kérdésekkel és magyarázatokkal vezeti rá a tanulót a logikai összefüggésekre.
Ez a megoldás közvetlenül reagál a pedagógusok és a szülők régóta hangoztatott bírálataira. Az oktatási szakértők szerint a korlátlan válaszgenerálás elsorvasztotta a diákok önálló problémamegoldó és kritikus gondolkodási képességét. A szülők számára elérhető ellenőrzési opciók lehetővé teszik a tanulási időszakok egyéni ütemezését, valamint a csendes órák beállítását, amelyek során a tinédzserek egyáltalán nem férhetnek hozzá a felülethez.
Tragédiák és bírósági perek kényszerítették ki a döntést
A szigorú intézkedések nem előzmények nélküliek, az OpenAI ellen ugyanis az utóbbi időszakban több súlyos pert indítottak gyászoló családok. Az egyik legutóbbi kaliforniai keresetben egy 16 éves fiatal szülei azzal vádolják a céget, hogy a chatbot érdemi segítségnyújtás helyett megerősítette fiuk önpusztító gondolatait, ami végül tragédiához vezetett. Egy másik eljárásban egy egyetemista szülei állítják, hogy a nyelvi modell veszélyes gyógyszerkombinációk fogyasztására adott tippeket a fiatalnak.
Bár a technológiai vállalat korábban is alkalmazott biztonsági szűrőket, a fiatalok rendszeresen találtak módszereket a szabályok megkerülésére. Az új felépítés és a hozzá kapcsolódó korbecslő algoritmus ezt a védelmi rést hivatott betömni. A rendszer az accountszintű jelzésekből – például a használt kifejezésekből, a használati időpontokból és a fiókaktivitásból – automatikusan megbecsüli a felhasználó életkorát. Ha az algoritmus kiskorúságot valószínűsít, a fiókot korlátozott módba sorolja, ahonnan csak hivatalos okmánnyal történő életkor-igazolás után lehet átlépni a felnőtt felületre.
Új egyensúly a digitális védelemben
Az automatikus átállás globálisan érvényesül minden 13 és 17 év közötti felhasználó esetében. Ann O’Leary, az OpenAI globális szakpolitikai alelnöke kiemelte, hogy a fejlesztés célja a korosztályfejlődési sajátosságoknak megfelelő támogatás biztosítása anélkül, hogy lekezelő módon bánnának a fiatalokkal. A vállalat ezzel párhuzamosan a szülői felügyelet hatáskörét is kiszélesítette, hogy a gondviselők átláthatóbb rálátást kapjanak a digitális eszközhasználatra.
A lépés jól mutatja a mesterséges intelligencia fejlesztőire nehezedő szabályozói és társadalmi nyomást. A teljesen szabad és ellenőrizetlen csevegés korszakát a fiatalkorúaknál felváltja a zárt, védett digitális környezet, ahol a kockázatok minimálisra csökkentése élvez elsőbbséget az automatizált kényelemmel szemben.
