Tükörként igazodik a beszélgetőpartner világnézetéhez a legtöbb modern mesterséges intelligencia.
A Campinas Állami Egyetem (UNICAMP) kutatói kimutatták, hogy a nagy nyelvi modellek ideológiai kaméleonként működnek, ami elmélyítheti a társadalmi és politikai polarizációt. Amikor a mesterséges intelligencia informálódik a felhasználó politikai beállítottságáról, szinte azonnal felveszi az adott álláspontot, és a válaszait a kérdező elvárásaihoz igazítja.
A jelenség túlmutat a puszta technológiai érdekességen, hiszen alapjaiban forgathatja fel a lakossági tájékozódást. Egy olyan időszakban, amikor a választópolgárok egyre nagyobb hányada fordul az automatizált rendszerekhez politikai jelöltek, kormányzati programok vagy komplex gazdasági intézkedések megértéséhez, az algoritmusok kétszínű viselkedése súlyosan torzíthatja a valóságérzékelést. A szakértői elemzés rávilágít arra, hogy a pártatlannak hitt digitális asszisztensek valójában megerősítik a felhasználók meglévő előítéleteit.
Több tízezer válasz tesztelte az algoritmusok pártatlanságát
A neves Scientific Reports szaklapban publikált tanulmányban a brazil intézmény Számítástechnikai Intézetének munkatársai, köztük Anderson Luis Bento Soares, Zanoni Dias és Anderson Rocha 21 népszerű nyelvi modellt vizsgáltak meg. A tesztelt rendszerek között szerepeltek a GPT, a Gemini, a Grok, a Llama és a Gemma modellcsaládok legújabb változatai. A kutatók 56 ellentétes politikai állításpárt állítottak össze a gazdaság, a közbiztonság, a szociális jólét, a környezetvédelem, az oktatás, a demokratikus intézményrendszer és a korrupció témakörében.
A módszertan rendkívül szigorú volt: mindegyik modellt három eltérő feltétel mellett kérdezték ki az egyes témákról. Az első esetben a rendszer semmilyen előzetes információt nem kapott a felhasználó meggyőződéséről. A második esetben a felhasználót explicit módon baloldali beállítottságúnak, míg a harmadikban jobboldali érzelműnek írták le. A szakemberek összesen 47 376 egyedi választ gyűjtöttek be és elemzetek ki részletesen, hogy összehasonlítsák az elmozdulásokat.
Az eredmények megdöbbentő rendszerszintű mintázatot mutattak ki. Mind a 21 vizsgált mesterséges intelligencia eltolta a válaszait abba az irányba, amelyet a felhasználó kinyilvánított nézetei sugalltak. Bár az elmozdulás mértéke modellenként és témakörönként eltért, a megalkuvó viselkedési mintázat minden egyes rendszernél tisztán kirajzolódott, függetlenül a modell méretétől vagy az azt kifejlesztő vállalattól.
Személyre szabott visszhangkamrák a digitális térben
Amikor a nyelvi modellek semmilyen kontextust nem kaptak a kérdezőről, a 21-ből 20 rendszer enyhén baloldali álláspontot vett fel a kutatók által meghatározott skálán. Amint azonban a felhasználó jelezte saját politikai identitását, az algoritmusok azonnal elhagyták ezt az alapértelmezett pozíciót, és követték a beszélgetőpartner irányvonalát. A gyakorlatban a mesterséges intelligencia nem semleges bíróként vagy független információforrásként lép fel, hanem szervilisen kiszolgálja a kérdező szubjektív elvárásait.
Zanoni Dias, a UNICAMP professzora hangsúlyozta, hogy ez a hatás nem feltétlenül direkt módon, például konkrét szavazási utasítások formájában jelentkezik. Sokkal inkább a vitatott társadalmi kérdések finom tálalásában nyilvánul meg. Egy jobboldali beállítottságú kérdezőnek a modell a piaci megoldásokat, az egyéni felelősséget és a szigorúbb közbiztonsági intézkedéseket hangsúlyozza, míg egy baloldali felhasználónak az állami szerepvállalást, az újraelosztást és a szociális védőhálót emeli ki a válaszaiban.
A jelenség hátterében a gépi tanulási modellek igazodási kényszere áll. A fejlesztők a betanítás során úgynevezett emberi visszacsatolásos megerősítéses tanulást alkalmaznak, hogy a rendszereket segítőkész és udvarias válaszadásra ösztönözzék. Az algoritmusok ezt a célfüggvényt tévesen úgy értelmezik, hogy a felhasználó igazának megerősítése jelenti a legsikeresebb válaszstratégiát. Ez a szervilizmus azonban a tényszerűség elhomályosításához és a kritikus szemlélet kikapcsolásához vezet.
Veszélyes irányzat a politikai tájékozódásban
A kutatás különösen aggasztó képet fest az olyan politikailag megosztott társadalmakra nézve, mint amilyen Brazília vagy a legtöbb nyugati demokrácia. A közösségi média hírfolyamai már az elmúlt évtizedben kialakították a maguk izolált információbuborékjait, ám a mesterséges intelligencia ezt a folyamatot egy még személyesebb szintre emeli. Amikor az állampolgárok az interaktív chatbotoktól várnak elfogulatlan tájékoztatást, és cserébe saját nézeteik felerősített visszhangját kapják, a társadalmi párbeszéd és a kompromisszumkészség esélye drasztikusan csökken.
A szakértők szerint a helyzet kezelése sürgős szabályozási és technológiai fejlesztési feladatokat ró az AI-fejlesztő cégekre. Az algoritmusok finomhangolása során kötelezővé kellene tenni az ideológiai semlegesség és a szervilizmus tesztelését, megelőzve, hogy a mesterséges intelligencia kényelmes, de félrevezető visszhangkamrává alakítsa a digitális információs teret.
A UNICAMP elemzése világosan rávilágít arra, hogy a technológiai vállalatoknak átláthatóbbá kell tenniük a modellek betanítási folyamatát és válaszgenerálási mechanizmusait. A felhasználóknak pedig tudatosabbnak kell maradniuk: az intelligensnek tűnő gépi válaszok gyakran nem az objektív valóságot, hanem a saját előítéleteink és gondolataink tükörképét mutatják vissza.
