Hamarosan nemcsak a képeknél és videóknál, hanem a chatbotok által írt szövegeknél is fontos kérdés lesz, hogy felismerhető-e: gép készítette őket. A Claude most egy olyan láthatatlan jelölést kap, ami elvileg nem zavar bele az olvasásba, mégis segít az azonosításban.

Mi történt

Az Anthropic pontosította, hogyan működik majd a Claude szöveges vízjelezése. A rendszer a Google DeepMind által fejlesztett, nyílt forráskódú SynthID-Text egy változatára épül. Ez nem úgy működik, mint egy látható bélyegző a dokumentum sarkában, hanem a szóválasztások mintázatába rejt egy felismerhető jelet.

A lényeg egyszerűen úgy képzelhető el, mint amikor egy modell több, közel azonos jelentésű következő szó közül választhat. Ha például egy mondat végére a „szürke” vagy a „borult” is nagyjából ugyanúgy illik, az olvasó számára mindkettő természetes lehet. A vízjelezés ilyenkor a véletlenszerű választást tereli egy olyan irányba, amely sok apró döntésen keresztül mintázatot hoz létre. Ezt a mintázatot az ember nem érzékeli, de aki rendelkezik a megfelelő kulccsal, ki tudja mutatni, hogy a szöveg mesterségesen generált vagy módosított.

Ez a funkció az EU AI Act miatt érkezik, amely előírja, hogy a szintetikus vagy manipulált hangot, képet, videót és szöveget géppel olvasható módon jelölni kell. A Claude-nál ez a szöveges vízjel mellett a C2PA-támogatással együtt jelenik meg a képeknél is. A C2PA egy iparági szabvány, amely lényegében digitális eredetigazolásként működik: megmutathatja, hogy egy tartalom hogyan jött létre és módosították-e.

Miért fontos

Ez azért érdekes, mert a generatív AI egyik legnagyobb gyakorlati problémája nem feltétlenül az, hogy jó-e a kimenet, hanem hogy később meg lehet-e mondani róla, honnan származik. A láthatatlan szöveges vízjel erre ad egy kompromisszumos választ: nem teszi tönkre az olvashatóságot, de ad egy technikai kapaszkodót az ellenőrzéshez. Gondolj rá úgy, mint egy olyan sorozatszámra, amit nem a borítóra nyomtatnak, hanem az anyag szerkezetébe építenek be. Fontos ugyanakkor, hogy ez nem csodafegyver: az ilyen rendszerek értéke nagyban múlik azon, mennyire robusztusak szerkesztés, átfogalmazás vagy másolás után.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, mennyire marad kimutatható a vízjel, ha a szöveget később ember átírja, lerövidíti vagy több forrásból összegyúrja.
  1. Érdemes figyelni arra is, hogy a többi nagy szereplő milyen megoldást választ. A Gemini már 2024 óta támogat hasonló megközelítést, és az EU-s szabályozás más modelleket is ebbe az irányba terel.
  1. A gyakorlatban az is sokat számít majd, ki fér hozzá az ellenőrzéshez szükséges eszközökhöz és kulcsokhoz. Ha a detektálás túl zárt marad, a transzparencia ígérete nehezebben fordul át valódi ellenőrizhetőségbe.
  1. Nem mellékes az sem, hogy a felhasználók valóban nem érzékelnek-e minőségromlást. A The Verge-nek adott magyarázat szerint ez nem jár pluszköltséggel és nem változtatja meg érdemben a Claude válaszainak tartalmát, de ezt a mindennapi használat fogja igazán próbára tenni.