Nem várt óriási falba ütközött a Facebook anyavállalata, miután a héten élesített képgeneráló funkciójuk azonnali össztüzet kapott a felhasználóktól és a kiberbiztonsági szakértőktől. Az Instagram nyilvános profilképeit alapértelmezetten gépelhető MI-parancsokká züllesztő frissítést a súlyos adatvédelmi kockázatok miatt rekordgyorsasággal kellett visszavonni.
Felhasználói fiókokból lett volna deepfake-alapanyag
A feszültséget az generálta, hogy a Meta Superintelligence Labs által fejlesztett, július 7-én bemutatott új generatív motor, a Muse Image egy meglehetősen agresszív funkciót hozott magával. A rendszer lehetővé tette a felhasználók számára, hogy a Meta AI applikációban, az Instagram Stories felületén vagy éppen a WhatsApp csevegésekben egyszerűen megjelöljék (@mention) bármelyik nyilvános Instagram-fiók nevét. A mesterséges intelligencia ezután az adott profil nyilvános fotóit referenciaként, azaz arcmintaként használva tetszőleges, manipulált környezetben generálta újra az érintett személyt.
A legnagyobb felháborodást a megoldás „opt-out” jellege váltotta ki. A Meta ugyanis mindenféle előzetes engedélykérés vagy értesítés nélkül, automatikusan élesítette a funkciót mindenkinél, akinek nem volt zártra állítva a profilja. Bár a vállalat az Instagram meglévő tartalommegosztási szabályzatára hivatkozva védte a lépést, a döntés azonnali jogi és etikai aggályokat szült. A Nemzeti Kiberbiztonsági Intézet is gyors figyelmeztetést adott ki, mivel a megoldás drasztikusan leegyszerűsítette a személyazonossággal való visszaéléseket, a célzott zaklatásokat, valamint a digitális arcképes azonosító rendszerek kijátszására alkalmas deepfake-ek tömeges gyártását.
Hiába a tiltakozás, a saját motorra átállás megállíthatatlan
A jogvédők és az olyan szervezetek, mint a hollywoodi színészeket tömörítő SAG-AFTRA nyomására a Meta végül kénytelen volt letiltani a vitatott funkciót az Instagramon, ám a technológiai alapokon ez semmit sem változtat. A belső körökben „Mango” kódnéven futó Muse Image modell továbbra is a vállalat jövőképének központi eleme, amellyel teljesen le akarják váltani a korábbi, külső tech-partnerekre támaszkodó megoldásokat.
Az új architektúra lényegesen fejlettebb képességekkel rendelkezik a korábbi verzióknál. A Muse Image képes valós időben keresni a világhálón, hogy a generált vizuális elemeket naprakész tényekkel és valós referenciákkal támassza alá. Emellett a pontos képszerkesztést (például tárgyak kijelölése és precíz cseréje) is natívan kezeli.
| Tulajdonság | Muse Image Modell specifikációk |
|---|---|
| Fejlesztő részleg | Meta Superintelligence Labs |
| Belső kódnév | Mango |
| Integrált platformok | Meta AI, Instagram Stories, WhatsApp (folyamatban: Facebook, Messenger) |
| Kulcsfunkciók | Webes keresésalapú pontosítás, többreferenciás kompozíció, Muse Spark logika |
A hirdetők és a Marketplace kapja a következő adagot
A visszavonási hullám ellenére a Meta gőzerővel integrálja a technológiát a többi alrendszerébe. A Muse Image hamarosan kötelező jelleggel megérkezik a Facebook és a Messenger felületeire, de a legkomolyabb szerepet a hirdetési és kereskedelmi szolgáltatásokban szánják neki. A cég már demonstrálta azt a modellt, amellyel a Facebook Marketplace-en böngésző vásárlók az MI segítségével közvetlenül a saját otthonukba, valósághű makettként vizualizálhatják a kiszemelt bútorokat.
A felhasználói adatok feletti kontrollért folytatott harc ezzel új szinthez érkezett: a tech-óriások egyre inkább kész tények elé állítják a regisztrált tagokat, és a privát szféra védelme ma már nem a beállítások finomhangolásával, hanem a profilok teljes zárolásával kezdődik.
