Van egy AI-kategória, aminek nem az a kérdése, hogy „hasznos-e”, hanem hogy miért volt egyáltalán elérhető: az úgynevezett „nudify” alkalmazásoké, amelyek képeken embereket „levetkőztetnek”. San Francisco most kifejezetten az appboltok kapuőreit veszi célba.

Mi történt

San Francisco felszólító leveleket küldött az Apple-nek és a Google-nek, amelyekben azt követeli, hogy távolítsák el azokat az alkalmazásokat az App Store-ból és a Play Áruházból, amelyek AI segítségével „meztelenítenek” vagy „levetkőztetnek” embereket. A levelek nemcsak a tiltást kérik, hanem azt is, hogy a cégek hagyjanak fel azzal, hogy profitálnak ebből a technológiából.

A „nudify” appok tipikusan úgy működnek, mint egy speciális képszerkesztő: feltöltesz egy fotót, az AI pedig a ruházat helyére valószerűnek tűnő, ám mesterségesen generált meztelenséget illeszt. Fontos: ez nem „felnőtt tartalom” a szó hagyományos értelmében, hanem gyakran beleegyezés nélküli, megtévesztő manipuláció. Gondolj rá úgy, mint egy deepfake-re, csak itt nem a hangot vagy az arcot cserélik, hanem a testet „alakítják át” a kép alapján.

Miért fontos

Az appboltok szerepe itt nem technológiai részletkérdés, hanem terjesztési csap: ha egy ilyen eszköz könnyen letölthető, akkor a visszaélés küszöbe drasztikusan lejjebb kerül. A beleegyezés nélküli „levetkőztetés” különösen súlyos lehet zaklatás, bosszúpornó-jellegű visszaélés, kiskorúak célba vétele vagy zsarolás esetén. Ráadásul a kár sokszor gyorsabb, mint a jogorvoslat: mire egy kép lekerül, már lehet, hogy több platformon továbbterjedt.

Itt az igazi kérdés az, hogy az Apple és a Google milyen mértékben felelős nemcsak azért, hogy mi jelenik meg az áruházaikban, hanem azért is, hogy a bevételi modelljeik (előfizetés, jutalék, hirdetés) nem ösztönzik-e közvetve az ilyen „ártalomra optimalizált” appokat.

Mire figyelj

  1. Eltávolítás vs. visszatérés: ha egy appot le is szednek, gyakori trükk az új név, új fejlesztői fiók, új leírás. Érdemes figyelni, lesz-e tartósabb, mintázat-alapú kiszűrés.
  2. Szabályok és végrehajtás: az irányelvek önmagukban keveset érnek; az a kérdés, milyen gyorsan reagálnak bejelentésekre, és mennyire proaktív az ellenőrzés.
  3. Profitcsapok elzárása: a „ne keressetek rajta” elv a gyakorlatban azt jelenti, hogy a fizetési csatornák és a fiókok letiltása is célkeresztbe kerülhet.
  4. Felhasználói védelem: ha áldozat vagy, a legfontosabb a gyors dokumentálás (képernyőmentések, linkek), majd jelentés az appboltnak és az érintett platformoknak — mert a terjedést gyakran csak több fronton lehet fékezni.

A WIRED által látott felszólító levelek üzenete egyszerű: a „nudify” nem egy vitatott kreatív eszköz, hanem egy eleve visszaélésre épített termékkategória, és a terjesztési infrastruktúra üzemeltetőinek is van felelőssége abban, hogy ez mennyire skálázódik.