Egy kiberbiztonsági célokra is erős AI-nál a „biztonságos alapbeállítás” jó ötletnek hangzik — egészen addig, amíg egy ártatlan kódellenőrzés vagy egy blogposzt értelmezése is falnak megy. Az Anthropic friss Fable modellje pontosan ezt a feszültséget hozta felszínre.

Mi történt

Az Anthropic kiadta a Fable nevű modellt, amelyet a Mythos nevű, kiberbiztonságra hangolt modell nyilvános, korlátozott verziójaként pozicionál. A Mythos korábban szűk körben volt elérhető, majd egy program keretében több száz szervezethez bővült a hozzáférés több országban.

A Fable viszont erős védőkorlátokkal (guardrails) működik: ha egy kérés „kiberbiztonsági vagy biológiai” témát érint, a chat megállhat, és a rendszer jelzi, hogy a biztonsági intézkedések miatt nem folytatja. A cél érthető: csökkenteni annak kockázatát, hogy a modellt rosszindulatú célokra használják (például kártevő fejlesztésére vagy szoftverek kompromittálására), illetve a biológiai fegyverekkel kapcsolatos visszaéléseket is kizárni.

A gond az, hogy több szakember szerint a korlátozások túl szélesen fognak. Felmerült panasz, hogy a modell „mellékesen” kiberhez kapcsolódó kéréseket is elutasít, sőt akár olyanokat is, mint egy blogposzt elolvasása, egy kód review, vagy a biztonságos kódolási gyakorlatok kérése. Ilyenkor a Fable állítólag egy másik modellre esik vissza (Claude Opus 4.8), ami lényegében „lebutított” élményt ad azoknak, akik pont a kiberbiztonsági kompetenciát keresnék.

Miért fontos

A guardrail olyan, mint egy túl érzékenyre állított füstjelző: inkább jelezzen többször tévesen, mint hogy egyszer ne szóljon, amikor baj van — csak közben élhetetlenné teheti a mindennapokat. A kiberbiztonságban ez különösen kényes, mert a legitim védekezés (kódellenőrzés, sebezhetőségek megértése, biztonságos konfigurációk) sokszor ugyanazokat a fogalmakat használja, mint a támadó oldal. Ha a szűrés főleg kulcsszavakra vagy „lexikai mezőkre” támaszkodik, könnyen mindenre rácsapja az ajtót, ami csak kicsit is „cyber-szagú”. A TechCrunchnak nyilatkozó Matt Suiche ugyanakkor azt is felveti: a kezdeti túlszűrés tudatos stratégia lehet, amit később finomhangolnak.

Mire figyelj

  1. Finomabb, kontextus-alapú szűrés jön-e? A kulcsszó-alapú tiltás gyors, de pontatlan; a következő lépés általában az, hogy a modell megpróbálja megérteni a szándékot (védekezés vs. visszaélés).
  2. Mennyire lesz használható a „visszaesés” másik modellre? Ha a Fable gyakran átvált, a felhasználó valójában nem azt kapja, amiért jött.
  3. Ki kap „professzionális” hozzáférést és milyen feltételekkel? Az Anthropic Cyber Verification Programja kevesebb korlátozást ígér jóváhagyott kiberbiztonsági szakembereknek; hasonló logikát követ más szereplő is (például OpenAI Trusted Access for Cyber). A kérdés az, hogy ez mennyire skálázható és mennyire lesz átlátható.
  4. Hol húzzák meg a határt a hasznos és a veszélyes között? A kód review és a secure coding tipikusan védekező felhasználás — ha ezek is tiltólistára kerülnek, az a termék értékét csökkenti.

A következő hónapok igazi tesztje az lesz, hogy a Fable korlátai úgy tudnak-e „lazulni”, hogy közben a valódi visszaélések kockázata ne ugorjon meg.