Ha egy AI-cég hónapokig azt kommunikálja, hogy a modellje túl veszélyes a nyilvánosságnak, előbb-utóbb valaki komolyan veszi. Most úgy tűnik, az amerikai kormány is így tett — és nem finomkodott.
Mi történt
Az Egyesült Államok kormánya pénteken utasította az Anthropicot, hogy azonnali hatállyal kapcsolja le két legerősebb modellje, a Claude Fable 5 és a Claude Mythos 5 elérését. Az Anthropic az X-en jelezte, hogy eleget tett az utasításnak, miközben egyértelműen vitatja a döntés megalapozottságát.A lépés exportkontroll-intézkedésként van keretezve, vagyis papíron a külföldi állampolgárok hozzáférésének korlátozásáról szól. A gyakorlatban viszont a cég állítása szerint a rendelkezés világszintű leállítást kényszerít ki: minden felhasználó elől elzárták a két modellt, nem csak a célzott csoportok elől. Az Anthropic többi modellje nem érintett.
Miért fontos
A Mythos 5 azért különösen érzékeny ügy, mert ezt a modellt az Anthropic eleve szűk körben tartotta, arra hivatkozva, hogy kivételesen jó szoftverbiztonsági sebezhetőségek felderítésében. Gondolj rá úgy, mint egy nagyon erős „digitális pentesterre”: képes kódot átnézni és megmondani, hol lehet rés a pajzson. Emiatt a cég kontrollált programban (Project Glasswing) nagyjából 50 átvilágított szervezetnek adta oda védelmi célú kiberbiztonsági munkára.A Fable 5 ezzel szemben egy „leszabályozott” változat volt: a Mythos képességeire épít, de korlátokkal (guardrails), amelyek elvileg blokkolják a magas kockázatú témákat — például a kiberbiztonsági és biológiai visszaéléseket. Ez a minta ismerős a piacról: olyan, mintha ugyanazt a motort betennéd egy autóba, de sebességkorlátozót és extra fékeket szerelnél rá, hogy közútra engedhető legyen.
Mire figyelj
- Mi volt a konkrét „jailbreak”? A vita kulcsa, hogy a kormány állítólag egy szűk, nem univerzális megkerülési lehetőséget látott a Fable 5-nél. A „jailbreak” itt azt jelenti, hogy a felhasználó trükkös utasításokkal ráveszi a modellt: lépjen túl a saját tiltásain, és adjon olyan választ, amit normálisan nem adna.
- Mennyit érnek a külső védelmi rétegek? Az Anthropic érvelése szerint a legerősebb biztosítékai nem magában a modellben vannak, hanem különálló osztályozó rendszerekben (classifier). Ezek úgy működnek, mint egy külön biztonsági kapu: hiába próbálsz „szebben beszélni” a modellel, a kimenetet egy másik rendszer még megfoghatja. A kérdés az, hogy a szabályozó ezt elhiszi-e, és milyen bizonyítékot vár.
- Precedens az egész iparágnak Az Anthropic azt állítja, ha egy „szűk potenciális jailbreak” miatt iparági szinten vissza kellene hívni modelleket, az gyakorlatilag lefagyasztaná az új, csúcskategóriás modellek bevezetését. Ez nem csak a cégről szól: arról is, milyen küszöböt állít a kormány a „még elfogadható kockázat” definíciójához.
- A biztonsági marketing ára A TechCrunch által is felidézett kritika lényege, hogy amikor egy cég hosszú ideig azt kommunikálja, hogy a modellje „különösen veszélyes”, akkor a hatóságok is hajlamosak úgy kezelni, mint egy kiemelt kockázatú technológiát — akár akkor is, ha hasonló képességek máshol már elérhetők. A következő hetekben az lesz beszédes, hogy az Anthropic kap-e lehetőséget célzott korlátozásra (például csak bizonyos régiókban vagy felhasználói körben), vagy ez a „globális lekapcsolás” marad a minta.