Ijesztő személyes adatokat gyűjtött össze egy kisgyerekről a mesterséges intelligencia, mielőtt a cég leállította a funkciót. A Meta AI rendszere automatikusan generált kérdésekkel buzdította a felhasználókat arra, hogy részleteket derítsenek ki egy videóban szereplő kislányról. A felháborodást kiváltó eset nyomán a technológiai vállalat elismerte a hibát, és módosításokat ígért az algoritmus működésében.
Az eset egy ártatlannak induló bejegyzéssel kezdődött, ahol egy édesanya videót tett közzé, amint autózás közben együtt énekel a kislányával. A videó alatt a rendszer automatikusan felajánlott egy kattintható kérdést a nézőknek: „Ki a gyermek utasa?”. Amikor a videó feltöltője rákattintott a mesterséges intelligencia által ajánlott gombra, az algoritmus nem csupán felületes választ adott, hanem mélyreható adatgyűjtésbe kezdett a család magánéletében.
Hogyan váltott ki riadalmat az automata kérdésajánló?
A felajánlott elemzés során a chatbot meglepő részletességgel tárta fel a gyermek és testvére személyes adatait. A rendszer a videóban látható kislány nevén és korán kívül kiderítette a család lakhelyét, sőt a gyermek születési súlyát is közzétette. Az intelligens asszisztens ráadásul olyan korábbi fotókat is megjelenített, amelyeket az édesanya állítása szerint évekkel korábban törölt a platformról.
Az adatbányászat nem korlátozódott a felhasználó saját profiljára. A rendszer összekapcsolta a különböző években közzétett bejegyzéseket, beleértve a nagyszülők és más kiterjedt családtagok korábbi bejegyzéseit, születési értesítőit és ünnepi fotóit. Ezzel a módszerrel a Meta AI képes volt egy teljes digitális portfóliót összeállítani a kiskorúakról olyan adatokból, amelyeket a szülők szándékosan soha nem hoztak nyilvánosságra egyetlen egységes profilban.
Elismerte a hibát a közösségi óriás
A történtek nyilvánosságra kerülése után a vállalat hivatalos nyilatkozatban reagált a helyzetre. A cég képviselője elismerte, hogy az algoritmus hibásan járt el, és a funkciónak soha nem szabadott volna ilyen jellegű személyes kérdéseket javasolnia a felhasználóknak. A vállalat tájékoztatása szerint a fejlesztők már intézkedtek a hiba elhárítására, és módosították az ajánlási rendszert.
A cég érvelése szerint a funkció eredeti célja az volt, hogy segítse a felhasználókat a bejegyzésekhez kapcsolódó témák mélyebb megértésében. Bár a válaszok elméletileg olyan információkon alapultak, amelyek a platformon vagy a csatolt fiókokban már jelen voltak, a kiskorúak beazonosítását megcélzó kérdések generálása átlépett egy etikai és biztonsági határt.
A túlzott adatgyűjtés és a gyermekvédelem kockázatai
Az eset rávilágít arra az egyre növekvő feszültségre, amely a közösségi platformok AI-integrációja és a személyes adatok védelme között feszül. A mesterséges intelligencia képes arra, hogy az évek során elszórtan feltöltött adatmorzsákat pillanatok alatt egyetlen átfogó profillá gyúrja össze. Ez a képesség különösen veszélyes lehet a kiskorúak esetében, ahol a rokonok jóhiszemű megosztásai akaratlanul is kiszolgáltatják a gyermekek magánéletét.
A szakértők régóta figyelmeztetnek arra, hogy a közösségi médiában megosztott gyermekfotók és családi hírek az automatizált adatbányászat korában komoly kockázatot jelentenek. A Meta mostani visszalépése jelzi, hogy a techóriások kénytelenek szigorúbb korlátokat szabni saját nyelvi modelljeiknek, amikor a mesterséges intelligencia közvetlenül a felhasználók személyes adataiból próbál aktivitást generálni.
