Képzeld el, hogy megkérdezed egy csúcsmodellnek hirdetett AI-tól, mi az a mitokondrium — és nem válaszol. A Claude Fable 5 körüli vita pont arról szól, hol húzódik a határ a „biztonságos” és a „használható” között.

Mi történt

Az Anthropic kiadta a Claude Fable 5-öt, és a cég ezt a legerősebb, széles körben elérhető modelljeként pozicionálja, külön kiemelve a biológiai képességeit. A gyakorlatban viszont a modell sok alap biológia kérdést elutasít: olyanokat is, amik tipikusan középiskolai szintűek (például sejthártya, mitokondrium, prionok, mRNS-vakcinák működése).

A furcsaságot az adja, hogy a rendszer nem egyszerűen „nem tudja” a választ. Inkább átirányítja a felhasználót a korábbi zászlóshajó modellhez, a Claude Opus 4.8-hoz, amely ezekre a kérdésekre jellemzően rendben válaszol. Vagyis nem képességbeli limitről, hanem szándékos korlátozásról van szó.

A szűrők nem csak tankönyvi biológiára csapnak le: a modell több hétköznapi, alapvetően ártalmatlan egészségügyi kérdésre sem reagált (például szénanátha okai, asztmagyógyszerek működése, antibiotikum-rezisztencia kialakulása, Ebola és terjedése). Ugyanakkor néhány hasonlóan alap kérdés átment (például mi a DNS, mi a rák), ami arra utal, hogy a védelem sokszor „túl lő” a célon.

Miért fontos

Ez a történet a modern AI-termékek egyik legnehezebb kompromisszumát mutatja meg: a modell képességei és a hozzáférés nem ugyanaz. Gondolj rá úgy, mint egy nagyon erős laborra, ahol a gépek ott vannak, de a legtöbb ajtó zárva marad, mert félnek, hogy valaki rosszra használja.

A biológia különösen érzékeny terület, mert ugyanazok az ismeretek, amelyekkel megérted a betegségeket vagy a gyógyszereket, elvben visszaélésre is alkalmasak lehetnek. A gond az, hogy ha a szűrő túl konzervatív, akkor a „veszélyes” helyett a „hasznos, de ártalmatlan” is kiesik — és a felhasználó azt érzi, hogy a rendszer kiszámíthatatlan, vagy épp feleslegesen akadályozza a tanulást.

Mire figyelj

  1. Hogyan alakul a „defer” minta: ha egy új modell rendszeresen egy régebbire passzol alap kérdéseket, az azt jelzi, hogy a termékélményben a biztonsági réteg legalább annyira meghatározó, mint maga a modell.
  2. Csökkennek-e a fals pozitívok: az Anthropic a The Verge-nek „túlzottan konzervatív” védelemről beszélt, és javulást ígért a téves riasztások csökkentésében. A kérdés, hogy ez hetek vagy hónapok alatt érezhető lesz-e.
  3. Lesz-e külön „kutatói” hozzáférés: elhangzott szándék, hogy a biológiai és élettudományi közösség később szélesebb korlátozások nélkül is hozzáférhet Mythos-osztályú modellekhez. Ha ez megvalósul, kétsebességes világ jöhet: a nagyközönség óvatosan korlátozott, a szakmai szereplők rugalmasabb eszközt kapnak.
  4. Új normává válik-e a részlegesen korlátozott premier: a nyilvános rajt „előbb kiadjuk, erős szűrőkkel” logikája termékstratégia is lehet, de könnyen bizalmi kérdéssé válik, ha a felhasználó azt érzi, hogy alap tudásanyaghoz sem jut hozzá megbízhatóan.