Nem az a nagy hír, hogy egy új AI-modell ügyesebb lett kódolásban, hanem az, hogy egy cég saját mércéje szerint már olyan szintet ért el, ahol a modell valós rendszerekben is használható támadási utakat találhat. Ez már nem csak termékbejelentés, hanem biztonsági fordulópont is.

Mi történt

Az OpenAI bejelentette, hogy a hamarosan érkező Astra az első modellje, amely elérte a vállalat „kritikus” kiberképességi küszöbét. Ez a gyakorlatban azt jelenti, hogy a modell elvileg képes lehet önállóan korábban ismeretlen sérülékenységeket találni valódi szoftverekben, majd ezeket kihasználni. Gondolj erre úgy, mint amikor valaki nem csak észreveszi egy ház gyenge pontját, hanem azt is pontosan tudja, hogyan lehet azon keresztül bejutni.

A cég közlése szerint emiatt ideiglenesen leállították az Astra és egy jövőbeli modell fejlesztésének egy részét, amíg plusz biztonsági védelmeket nem építettek be. Azóta ez a munka újraindult. Az Astra nyilvános változata hamarosan érkezhet, de a fejlettebb kiberképességeket induláskor csak a Daybreak Blue korai hozzáférési program kiválasztott partnerei kapják meg. Ide olyan infrastruktúra- és biztonsági cégek tartoznak, mint a Cisco, a Cloudflare vagy a Palo Alto Networks.

Astra többféle védőkorláttal érkezik. Ha valaki például valódi szoftverek feltöréséhez kérne segítséget, a modellnek meg kell tagadnia a választ. Ehhez egy új „misalignment monitor” is társul, ami lényegében egy felügyelő réteg: azt próbálja észlelni, ha a felhasználó kérése veszélyes vagy tiltott irányba megy. Emellett a modellt ellenállóbbá tették a jailbreakinggel szemben is, vagyis nehezebb lehet rávenni arra, hogy a saját korlátait megkerülje.

Van viszont árnyoldal is: a rendszer néha ártalmatlan kéréseket is gyanúsnak nézhet. Ilyenkor a művelet lelassulhat, megállhat, vagy a felhasználónak külön jóvá kell hagynia a modell lépését. Ez kellemetlen lehet, de jól mutatja, hogy a biztonsági szűrés itt már nem dísz, hanem a termék működésének központi része.

Miért fontos

Ez azért lényeges, mert az AI-kiberbiztonság most lép át egy új szakaszba. Nem pusztán arról van szó, hogy modellek segítenek kódot írni vagy hibát keresni, hanem arról, hogy több sérülékenységet össze is tudnak láncolni. Ez a „chaining” annyit jelent, hogy egyetlen rés helyett több kisebb gyengeséget fűznek össze, így olyan mély hozzáférést szerezhetnek egy rendszerhez, amit külön-külön egyik hiba sem tenne lehetővé. A Wired beszámolója alapján az iparág közben egyszerre próbál gyorsítani és fékezni: fejlettebb modelleket épít, de közben egyre nyíltabban ismeri el, hogy ezekhez új biztonsági szabályok kellenek. A hétköznapi felhasználónak ebből leginkább az látszik majd, hogy az AI-rendszerek bizonyos kéréseknél óvatosabbak, többször kérnek megerősítést, és néha túl szigorúan is szűrnek.

Mire figyelj

  1. Az lesz az első nagy teszt, mennyire működnek a korlátozások a gyakorlatban: valóban megfogják-e a veszélyes kéréseket anélkül, hogy túl sok legitim feladatot blokkolnának.
  1. Fontos lesz látni, mit tudnak kezdeni az Astra korai hozzáférésű partnerei a kevésbé korlátozott változattal. Ha a modell tényleg jól használható védekezési célra, az gyorsíthatja a vállalati biztonsági eszközök fejlődését.
  1. Érdemes figyelni azt is, hogy a riválisok milyen hasonló lépéseket tesznek. Az már most látszik, hogy az AI-modellek kiberképességei nem elszigetelt különlegességek, hanem egy szélesebb iparági trend részei.
  1. A legfontosabb talán mégis az, hogy a klasszikus védelmek mennyire bizonyulnak elégnek. A javítások telepítése, a hozzáférések szigorítása és a rendszerek elkülönítése továbbra sem látványos, de pont ezek dönthetik el, hogy az ilyen modellek inkább a védőket vagy a támadókat hozzák helyzetbe.