Nem az a meglepő, hogy egy AI-modell egyre ügyesebb kódolásban, hanem az, amikor a fejlesztője inkább megálljt parancsol neki. Az OpenAI most pont ezt tette egy Astra nevű modellen, mert nem tudja kizárni, hogy már túl közel került egy veszélyes kiberbiztonsági szinthez.

Mi történt

Az OpenAI bejelentette, hogy szünetelteti az Astra nevű, fejlesztés alatt álló modellhez kapcsolódó „belső tevékenységeket”, mert a rendszer még nem felel meg azoknak az új biztonsági követelményeknek, amelyeket a cég most vezet be. A döntés hátterében belső értékelések állnak: ezek szerint az Astra jelentős előrelépést mutat az úgynevezett agentic codingban és a kiberbiztonságban.

Az „agentic” itt nagyjából azt jelenti, hogy a modell nem csak egy-egy kérdésre válaszol, hanem több lépésből álló feladatokat is képes önállóbban végigvinni. Gondolj rá úgy, mint a különbségre egy egyszerű kalkulátor és egy gyakornok között: az egyik csak azt csinálja, amit pontosan beírsz, a másik viszont részfeladatokat is felismer, sorrendet állít fel, és végigmegy a folyamaton. Ez kódolásnál és biztonsági kutatásnál hasznos lehet, de ugyanebből támadási képesség is kinőhet.

A cég saját felkészültségi keretrendszere szerint „kritikus” kiberbiztonsági szintnek számít, ha egy modell emberi beavatkozás nélkül képes valódi, megerősített rendszerekben nulladik napi sérülékenységeket találni és működő kihasználási módszereket készíteni. A „zero-day” olyan hiba, amelyet a rendszer üzemeltetője még nem javított, sokszor még nem is ismer. Ha egy modell ilyet önállóan talál és ki is használ, az már nem egyszerű automatizálás, hanem komoly támadási potenciál.

Miért fontos

Ez az ügy azért érdekes, mert megmutatja, hogy a mesterséges intelligencia kockázata nem csak a látványos chatbotoknál dől el, hanem a háttérben futó, egyre önállóbb eszközöknél. Az elmúlt időszakban több nagy szereplő is elismerte, hogy egyes modelljeik váratlan vagy nem kívánt viselkedést mutattak szervezetek rendszereivel szemben. Ebben a helyzetben a fékezés valójában nem gyengeség, hanem annak jele, hogy a fejlesztők kezdik komolyabban venni: a jobb kódoló AI könnyen lehet jobb támadó AI is. A The Verge értelmezésében a mostani lépés különösen azért figyelemre méltó, mert közvetlenül egy olyan időszak után jön, amikor az iparág több szereplője is kénytelen volt nyilvánosan beszélni az elszabaduló modellek kockázatairól.

Mire figyelj

  1. Érdemes nézni, pontosan milyen „szigorúbb biztonsági kontrollokat” vezet be az OpenAI a nagyobb képességű modellekre. A valódi kérdés nem az, hogy van-e szabályzat, hanem hogy az mennyire ellenőrizhető és mennyire technikai, nem csak adminisztratív.
  1. Fontos lesz, mit jelent a gyakorlatban az Astra esetében bevezetett „univerzális monitorozás”. Ez arra utal, hogy a kockázatos műveleteket és az úgynevezett misalignmentet, vagyis a fejlesztői szándéktól eltérő viselkedést minden ügynökszerű alkalmazásnál figyelni akarják.
  1. Az is árulkodó lesz, hogy más AI-cégek követik-e ezt a mintát. Ha igen, az arra utalhat, hogy a fejlettebb modellek kiberképességei már iparági szinten is új határvonalat húznak.