Egy hét alatt a fanfiction világában az AI-ellenes felháborodásból konkrét „nyomozás” lett: olvasók és szerzők egymást figyelik, ki használ generatív modellt. A gond csak az, hogy a legújabb detektormódszerek inkább hasonlítanak technikai trükkökre, mint megbízható bizonyítékokra.

Mi történt

A generatív AI (például Claude vagy ChatGPT) használata régóta érzékeny téma kreatív közösségekben, és a fanfiction sem kivétel. Az olvasók eddig többnyire „stílusjegyekből” próbáltak következtetni: gyanúsan egyenletes hang, túldíszített („purple prose”) fogalmazás, vagy akár olyan apróságok, mint az em dash (—) gyakori használata. Ezek a jelek viszont inkább benyomások, mint ellenőrizhető tények.

Június 29-én egy névtelen X-fiók egy új, technikai alapú megoldást dobott be: egy AO3-hoz készített „skin”-t (gondolj rá úgy, mint egy egyedi megjelenési téma / kiegészítő, ami CSS-szerűen átformázza az oldalt). A skin állítása szerint képes kiszúrni egy Claude-hoz köthető „beillesztési ujjlenyomatot”: ha valaki közvetlenül a chatbotból másolja be a szöveget az AO3 szerkesztőjébe, a tartalom egy speciális kódrétegbe kerülhet (például font-claude-response-body). A skin ezt a mintát keresi, és ha megtalálja, pirosra festi az egész oldal hátterét.

A módszer működését több tesztposzttal is próbálták igazolni. A kísérletek lényege: ha ugyanazt a Claude által generált szöveget nem közvetlenül a chatbotból, hanem „köztes lépéssel” (például másik helyről) illesztik be, a piros jelzés eltűnhet — vagyis nem magát a generálást, hanem egy konkrét beillesztési útvonalat detektál.

Miért fontos

Ez a megoldás rávilágít egy alapvető félreértésre: sok „AI-detektor” valójában nem azt bizonyítja, hogy a szöveget AI írta, hanem azt, hogy a szöveg milyen technikai csatornán jutott el a felületre. Olyan ez, mintha nem a hamis bankjegyet azonosítanád, hanem azt, hogy melyik pénztárgépből jött ki a blokk. A közösségi feszültséget pedig csak növeli, ha egy piros háttér „definitív” bizonyítékként kezd el működni, miközben könnyen lehet megkerülni, és közben bárki gyanúba keveredhet.

Mire figyelj

  1. Mit jelez valójában a detektor? Ha egy kódrészletet keres, akkor a beillesztés módját találja meg, nem a szerzői folyamatot.
  2. Mennyire könnyű megkerülni? Ha elég egy köztes másolás (például jegyzettömb, másik szerkesztő), akkor a módszer legfeljebb a „leglustább” munkafolyamatot fogja.
  3. Mi lesz a közösségi következmény? A technikai jelzésekből könnyen lesz nyilvános megszégyenítés vagy téves vád, ami elriasztja a valódi szerzőket is.
  4. Hogyan alakul az AO3-ökoszisztéma? Ha terjednek az ilyen skinek és „vadász” eszközök, az a platformon belüli bizalmat és együttműködést is erodálhatja.

A generatív AI körüli vita a fanfictionben nem csak arról szól, hogy mi számít „valódi” alkotásnak, hanem arról is, hogy mennyire akarunk technikai nyomokból erkölcsi ítéletet gyártani — különösen akkor, ha a nyomok bizonytalanok.