Placebo biztonsági funkciókkal tesztelte a fiatal felhasználókat a TikTok, miközben az aktivitásuk változásait figyelte a cég. A New York-i főügyészség frissen feloldott bírósági dokumentumai szerint a platform szándékosan adott működésképtelen vezérlőket kiskorúak ezreinek.
A megjelent vádirat kiegészítése alapján a kísérletek az Algo Refresh nevű funkciót érintették. A rendszer feladata elvileg az lenne, hogy lehetővé tegye a felhasználók számára a személyre szabott ajánlófeed nullázását, amikor a tartalom ismétlődővé, nemkívánatossá vagy károssá válik. A valóságban azonban sokan csak egy látszatfunkciót kaptak.
Álkarbantartás a felületen
A közösségi platform belső tesztjei során úgynevezett szellem- vagy placebocsoportokat hoztak létre. Az ebbe beosztott gyermekek és tinédzserek abban a hitben nyomták meg a beállítások visszaállítását, hogy ezzel megváltoztatják a kapott tartalmakat. A háttérben azonban semmi sem történt, az algoritmus változatlanul ajánlotta a korábbi videókat.
A bírósági iratok szerint a cég az intézkedéssel azt vizsgálta, miként változik a felhasználók képernyőideje és a reklámbevétel. A tesztelés során közvetlenül hasonlították össze a működő funkciót használók viselkedését azokéval, akiknél a visszaállítás csak illúzió volt. A kísérlet hátterében kizárólag az üzleti mutatók maximalizálása állt.
Belső aggályok és reakciók
A felhalmozott bizonyítékok rámutatnak, hogy a vállalaton belül sem volt mindenki elégedett az eljárással. A TikTok digitális jólétért felelős csapatának egyik termékmenedzsere belső üzenetváltásban jelezte aggályait. Meglátása szerint egy átláthatóságot és kontrollt ígérő funkciónál a placébocsoport alkalmazása teljesen szembemegy a megfogalmazott célokkal. Ennek ellenére a vezetőség folytatta a kísérleteket.
A platform szóvivője úgy reagált a vádakra, hogy a benyújtott kereset félremagyarázza az Algo Refresh működését. Állításuk szerint a legtöbb technológiai vállalathoz hasonlóan rendszeresen tesztelnek új termékeket a valós környezeti teljesítmény felmérésére, miközben a fiatalok védelmét továbbra is prioritásként kezelik.
A jogi vita kontextusa
Az ügy nem egyedi eset, hanem része annak a kiterjedt jogi eljárásnak, amelyet több mint tucatnyi amerikai állam indított a platform ellen. A hatóságok azzal vádolják a céget, hogy szándékosan függőséget okozóra tervezte a felületet, miközben félrevezető tájékoztatást adott a beépített védelmi vonalakról.
A feltárt részletek jól mutatják a digitalizált termékfejlesztés etikai határait. Amikor egy szolgáltatás a felhasználói kontroll látszatát kelti ahelyett, hogy valódi beleszólást adna a tartalomfogyasztásba, alapvetően sérül a felhasználók és a platform közötti bizalom.
