Ha valaki a te arcoddal posztol „te” helyetted, az nem csak kellemetlen: reputációt, bevételt és biztonságérzetet is rombolhat. A TikTok most egy olyan eszközt próbál ki, ami kifejezetten az AI-val előállított hasonmások felkutatására és jelentésére épül.

Mi történt

A TikTok egy önkéntesen bekapcsolható (opt-in) funkciót tesztel, amely átvizsgálja a platformot, és jelzi azokat a tartalmakat, amelyek nagy valószínűséggel egy alkotó AI-val generált „hasonmását” használják. A teszt egyelőre „néhány” amerikai alkotóra korlátozódik.

A funkció használatához az érintett alkotóknak először személyazonosságot kell igazolniuk a Jumio nevű külső szolgáltatón keresztül. Ez gyakorlatban egy valós idejű szelfi-ellenőrzést és egy okmányellenőrzést jelent. A TikTok kommunikációja szerint az okmányokat nem őrzik meg, az arcinformációt pedig csak a hasonmás-illesztéshez (vagyis annak megállapításához, hogy egy videóban szereplő arc hasonlít-e rád) és a potenciálisan jogosulatlan felhasználások azonosításához használják.

A hitelesítés után a rendszer találatokat gyűjt: AI-val generált tartalmakat keres, amelyek a te képmásodat (likeness) használhatják. Ezt az alkotó átnézheti, majd a gyanús posztokat és akár fiókokat is jelenthet a TikTok felé.

Miért fontos

A „képmás” itt nem csak egy fotót jelent, hanem az arcod és megjelenésed olyan kombinációját, amit egy modell le tud másolni és mozgó videóban „rád húzni”. Gondolj rá úgy, mint egy digitális maszkra, amit bárki felvehet — és minél jobb az AI, annál nehezebb első ránézésre megkülönböztetni a valóstól. Az, hogy a TikTok ezt termékesíti (külön eszközt ad rá, nem csak utólagos moderációt), arra utal: a deepfake-szerű visszaélések kezelése a platformoknál egyre inkább alapfunkcióvá válik, hasonlóan ahhoz, ahogy a fiókvédelem vagy a szerzői jogi azonosítás is az lett.

Mire figyelj

  1. Mit jelent pontosan a „szkennelés” és mennyire pontos? Kulcskérdés, hogy a rendszer mennyi téves találatot ad (ártatlan videókat jelöl meg), és mennyi valódi visszaélést enged át.
  2. Adatkezelés és bizalom: az ID-ellenőrzés sok alkotónak érzékeny pont. Hiába ígérik, hogy nem tárolnak okmányt, a folyamat mégis magasabb belépési küszöböt jelent, és a „ki fér hozzá mihez” kérdés később is napirenden marad.
  3. Mit kap az alkotó a jelentés után? Nem mindegy, hogy a rendszer csak egy „jelentési gombot” ad, vagy gyorsított eljárást, státuszkövetést, esetleg visszaeső fiókok elleni erősebb fellépést is.
  4. Mikor és kiknél lesz elérhető? A The Verge értelmezésében ez a teszt jól illeszkedik abba az iparági trendbe, hogy a nagy videós platformok hasonló képmás-védelmi eszközöket vezetnek be — a kérdés az, milyen gyorsan lép majd ki a funkció a szűk amerikai körből, és milyen feltételekkel.