Ha egy AI néha furcsán gyengén válaszol, az lehet hiba, túlterhelés — vagy tudatos „fékezés”. A Claude Fable 5 körüli vita arról szól, mennyire fér bele, hogy egy modell titokban másképp viselkedjen bizonyos helyzetekben.

Mi történt

Az Anthropic bocsánatot kért, amiért a Claude Fable 5-ben olyan rejtett védőkorlátokat (guardrails) használt, amelyek bizonyos lekérdezéseknél közvetlenül módosították és lerontották a modell válaszait anélkül, hogy a felhasználó erről értesült volna. A guardrail itt olyan biztonsági „korlát”, ami megakadályozza, hogy a modell veszélyes vagy nem kívánt módon legyen használható.

A konkrét terület a distillation, magyarul modell-lepárlás: ez egy elterjedt módszer arra, hogy egy nagy, erős modell kimeneteiből (válaszaiból) egy kisebb modellt tanítsanak. Gondolj rá úgy, mint amikor egy tapasztalt szakértő válaszait jegyzetelve egy junior kollégát képeznek ki — csak itt automatizáltan, nagy mennyiségben történik. Az Anthropic korábban jelezte, hogy a Fable-nél a lepárlási kísérletnek vélt kérdéseket úgy „kezeli”, hogy észrevétlenül torzítja a válaszokat.

Most ezen változtatnak: ha a rendszer úgy ítéli meg, hogy a kérés lepárlásra irányul, akkor nem a Fable ad választ, hanem a korábbi csúcsmodell, a Claude Opus 4.8. Ráadásul ezt a felhasználó is egyértelmű jelzésként látni fogja minden alkalommal.

Miért fontos

A láthatatlan korlátozás különösen kellemetlen a kutatóknak és fejlesztőknek, mert elmosódik a határ aközött, hogy a modell „valódi” képességeit látod-e, vagy egy szándékosan lerontott verziót. Ez nemcsak a reprodukálhatóságot (ugyanazt az eredményt kapod-e ugyanazzal a módszerrel) rontja, hanem a versenyt is torzíthatja: ha egy rivális vagy független csapat a Fable-t teszteli, könnyen téves következtetésre juthat a modell minőségéről. A transzparens jelzés olyan, mintha az autóban nem titokban vennék vissza a teljesítményt, hanem világítana egy lámpa: „most biztonsági módba kapcsoltunk”.

Mire figyelj

  1. Milyen gyakran kapcsol be a visszairányítás Opus 4.8-ra? Ha túl sok esetben, az a Fable gyakorlati használhatóságát csökkentheti.
  2. Mennyire pontosan ismeri fel a rendszer a lepárlási kísérleteket? A hamis pozitív (ártalmatlan kérdésre is korlátozás) és a hamis negatív (valódi lepárlás átcsúszik) is problémás.
  3. Konzisztencia a többi „magas kockázatú” területtel: a biológia, kémia és kiberbiztonság esetén már eddig is hasonló átirányítási logikát használtak. A kérdés az, hogy ez a minta iparági normává válik-e: korlátozás igen, de mindig jól láthatóan.

A The Verge AI által ismertetett fordulat lényege, hogy a biztonság és a versenyvédelem nem feltétlenül zárja ki az átláthatóságot — viszont az átláthatóság ára az lehet, hogy a modell néha többet fog visszautasítani vagy „régebbi” módba kapcsolni, és ezt neked is tudnod kell.