Sokan addig lelkesek az AI-szövegírásért, amíg nem derülhet ki, hogy tényleg használták. Az Anthropic most pont ebbe a kényelmes szürkezónába nyúl bele a Claude új szöveges vízjelölésével.

Mi történt

Az Anthropic bejelentette, hogy a Claude chatbot által generált szövegekbe rejtett vízjelet épít. Ez nem egy látható címke vagy figyelmeztetés, hanem egy olyan mintázat, amely a szóválasztások szintjén jelenik meg. Emberként olvasva valószínűleg nem tűnik fel semmi, de egy erre készült ellenőrző eszköz képes lehet felismerni, hogy a szöveg AI segítségével készült.

A lépés hátterében részben szabályozási nyomás áll. Az Európai Unió 2024-ben elfogadott AI Actje előírja, hogy az AI-rendszerek által generált vagy szerkesztett tartalmakat jelölni kell. A mostani megoldás erre próbál technikai választ adni. Ugyanakkor a módszer nem tökéletes: bizonyos szerkesztéseket túlélhet a jelölés, de ha valaki egy másik chatbot segítségével újraíratja a szöveget, a minta eltűnhet.

Miért fontos

Ez a hír valójában nem csak az AI-felhasználókról szól, hanem a bizalomról. Ha egy tanár, szerkesztő, munkaadó vagy ügyfél nem tudja megkülönböztetni az emberi és a gépi munkát, akkor előbb-utóbb minden szöveg gyanússá válik. A vízjel erre kínál egyfajta eredetjelölést: gondolj rá úgy, mint egy digitális ujjlenyomatra, amely nem a mondat tetején virít, hanem a teljes szövegben elosztva bújik meg. Ettől még nem lesz csalhatatlan. A túl könnyen eltávolítható jelölés kevés védelmet ad, a túl agresszív jelölés pedig ronthatja a szöveg minőségét. Épp ezért a vita nem csak technikai, hanem kulturális is: sokan nem attól tartanak, hogy rosszabb lesz az AI, hanem attól, hogy láthatóvá válik, mennyire ráépültek.

Mire figyelj

  1. Az lesz az első nagy kérdés, mennyire marad felismerhető a vízjel normál szerkesztés után. Ha néhány átírás vagy parafrázis elég az eltüntetéséhez, a rendszer inkább jelzés lesz, mint valódi kontroll.
  1. Fontos lesz az is, ront-e a megoldás a Claude szövegeinek minőségén. Ha a modell bizonyos szavakat azért választ, hogy kialakuljon a felismerhető minta, az finoman, de érezhetően befolyásolhatja a stílust.
  1. Érdemes követni, hogyan reagálnak más szereplők. A képeknél már léteznek hasonló eredetjelölési próbálkozások, és valószínű, hogy a szöveges AI-rendszerek is ebbe az irányba mennek tovább.
  1. A legérdekesebb kérdés mégis az, hol húzzák meg a határt az „AI-val készült” és az „AI által segített” tartalom között. A Futurism által idézett felháborodás jól mutatja, hogy a technológia körüli vita már nem arról szól, lehet-e használni ezeket az eszközöket, hanem arról, mikor kell ezt nyíltan vállalni.