Ha egy AI által írt szöveg teljesen emberinek tűnik, hogyan lehet mégis jelezni, hogy gép is közreműködött benne? Az OpenAI most az EU-ban erre vezet be egy olyan megoldást, amit az olvasó nem lát, de a rendszerek idővel felismerhetnek.

Mi történt

Az OpenAI a következő hetekben láthatatlan vízjelet vezet be az Európai Unióban a ChatGPT és a Codex bizonyos szöveges kimeneteinél. A lépés az EU AI Act átláthatósági szabályaihoz kapcsolódik, amelyek augusztus 2. óta előírják, hogy az AI által generált tartalmat más rendszerek számára azonosítható módon kell megjelölni.

A vízjel nem egy látható címke vagy metaadat. Inkább úgy működik, mintha a modell szóválasztásába apró, szinte észrevehetetlen tereléseket építenének be. Gondolj rá úgy, mint egy rejtett ritmusra egy szövegben: az ember nem hallja ki külön, de egy erre hangolt eszköz felismeri a mintázatot. Mivel ez a minta magában a szövegben él, másolás-beillesztés után is megmarad. A cég szerint a megoldás nem azonosítja a felhasználót, és nem rontja érdemben a modellek teljesítményét.

A technikai módszer neve textGrain. Ennek lényege, hogy egy titkos kulcs alapján a rendszer bizonyos következő szavas lehetőségeket finoman előnyben részesít. Egyetlen szóválasztás még semmit nem árul el, de sok ilyen apró döntés együtt már olyan mintát adhat, amit egy detektor észlelni tud. Az EU-ban a ChatGPT- és Codex-felhasználóknál ez alapértelmezett jelleggel jelenik meg az érintett esetekben, míg az OpenAI API-ját használó fejlesztők világszerte már most bekapcsolhatják egyes modelleknél, de ott egyelőre alapból ki van kapcsolva.

Miért fontos

Ez a lépés jól mutatja, merre tart az AI-szabályozás: nem feltétlenül azt akarja eldönteni, hogy egy szöveg „jó” vagy „rossz”, hanem azt, hogy átlátható legyen, mikor vett részt benne gépi rendszer. Ez a hétköznapokban főleg oktatásnál, ügyfélszolgálatnál, médiában és vállalati kommunikációban lehet fontos, ahol számít, hogy ember írta-e a szöveget, vagy AI is közreműködött. Ugyanakkor a vízjel nem bizonyíték mindenre. Ha hiányzik, attól a szöveg még lehet AI-eredetű; ha jelen van, attól még nem tudod meg, mennyi emberi szerkesztés, döntés vagy kreatív munka került bele. Ebben a kérdésben a TechCrunch által idézett álláspont különösen lényeges: a jelölés inkább egy eredetjelzés, nem pedig végső ítélet a szerzőségről.

Mire figyelj

  1. Mennyire lesz megbízható a felismerés a gyakorlatban. A tesztek szerint a szerkesztés gyengítheti a detektálást: ha a szavak nagyjából 10%-át szinonimákra cserélik, a felismerési arány jelentősen visszaeshet.
  1. Milyen szövegeknél működik rosszabbul. Rövid részletek, matematikai válaszok és fordított szövegek esetén nehezebb lehet az azonosítás.
  1. Kiterjesztik-e a rendszert EU-n kívülre. Az OpenAI egyelőre nem teszi globális alapbeállítássá a szöveges vízjelet, miközben más szereplők már szélesebb körben léptek ebbe az irányba.
  1. Ki fér hozzá a detektorhoz. Kezdetben csak jóváhagyott kutatók és szakmai szervezetek kaphatnak hozzáférést, ami arra utal, hogy a technológia még nem kész tömeges, hibamentes használatra.