San Francisco város vezetése ultimátumot adott az Apple-nek és a Google-nek: el kell távolítaniuk azokat a mesterséges intelligenciára épülő alkalmazásokat, amelyek fényképek manipulálásával készítenek beleegyezés nélküli intim tartalmakat.
A „nudify” néven elhíresült szoftverek évek óta jelen vannak a digitális piactereken, ám a hatósági fellépés most élesebbé vált. David Chiu, San Francisco városi ügyésze szerint a techóriások közvetlenül profitálnak azokból a platformokból, amelyek nők és kislányok kizsákmányolását teszik lehetővé. A városi hatóságok felszólítása szerint a vállalatoknak 28 napjuk van a teljes körű megfelelésre, különben polgári jogi szankciókkal kell szembenézniük a kaliforniai törvények értelmében, amelyek büntethetővé teszik a beleegyezés nélküli deepfake pornográfia elősegítését.
Nem előzmény nélküli az akció
A Tech Transparency Project (TTP) korábbi jelentései már januárban és áprilisban jelezték, hogy több tucatnyi applikáció kínál ilyen funkciókat a felhasználóknak. A kutatások szerint ezek az appok nemcsak jelen voltak, de egyes esetekben keresési találatokban vagy ajánlókban is megjelentek. Az elemzések szerint a fejlesztők ezekkel az eszközökkel az elmúlt időszakban több mint 122 millió dolláros bevételt generáltak, amelynek egy részét az Apple és a Google jutalékként könyvelhette el.
Az érintett vállalatok közleményeikben mindkét esetben arról számoltak be, hogy a szabályzatuk szigorúan tiltja az ilyen jellegű tartalmakat. Az Apple megerősítette több ilyen alkalmazás eltávolítását és a fejlesztői fiókok felfüggesztését, míg a Google jelezte, hogy a hatóságok által megjelölt konkrét szoftvereket már korlátozták, és folyamatosan szűrik a keresési kifejezéseket.
| Vállalat | Reakció |
|---|---|
| Apple | Érintett appok törlése, fejlesztői fiókok megszüntetése, felülvizsgálat. |
| Play Store appok felfüggesztése, keresési kifejezések szűrése. |
Globális nyomás a biztonságért
A San Franciscó-i hatóságok fellépése mellett szövetségi szinten is erősödik a nyomás. Jon Ossoff szenátor többek között az Apple-t, a Google-t és az Amazon-t is megkereste, hangsúlyozva, hogy a technológiai vállalatok felelőssége elkerülhetetlen a deepfake-ekkel kapcsolatos visszaélések visszaszorításában. A 2025-ben életbe lépett amerikai törvények értelmében a kiskorúakat és felnőtteket célzó digitális kizsákmányolásért már a szolgáltatók is számonkérhetők, ha bizonyíthatóan közreműködtek a káros tartalmak terjesztésében.
A technológiai vállalatok számára a kihívást a proaktív moderáció jelenti: amíg a tiltás papíron létezik, az AI-alapú képhamisítás technikai gyorsasága és a fejlesztők kreatív kijátszási kísérletei folyamatosan újabb moderációs köröket tesznek szükségessé.
