Az AI-ügynökök egyre több feladatot kapnak, de ezzel együtt nő a kockázat is, hogy rossz irányba indulnak el. Az Nvidia most egyszerre reagált a technikai és a pénzügyi nyomásra: bemutatott egy új biztonsági platformot, és közben történelmi méretű részvény-visszavásárlást jelentett be.

Mi történt

Az Nvidia hétfőn leleplezte az Open Agent Safety Platform nevű rendszert, amelynek célja, hogy határokat szabjon az AI-ügynököknek. Az AI-ügynök itt olyan szoftvert jelent, amely nem csak válaszol, hanem önállóan lépéseket is tesz: például eszközöket használ, weboldalakat ér el, vagy más rendszerekkel kommunikál. A vállalat szerint a platform egyik eleme, az OpenShell, formálisan ellenőrizhetővé teszi, hogy egy ügynök pontosan annyi jogosultságot kapjon, amennyi a feladatához kell, se többet, se kevesebbet. Gondolj rá úgy, mint egy belépőkártyára egy irodaházban: valaki bemehet a saját szobájába, de nem nyithat ki minden ajtót.

A másik réteg a Sentry, amely közvetlenül a chipen fut, és folyamatosan figyeli, mit csinál az ügynök. Ha gyanús viselkedést észlel, az Nvidia szerint azonnal közbe tud lépni, és akár ezredmásodpercek alatt karanténba zárhatja a folyamatot. A cég azt állítja, hogy a platformot már induláskor több mint 100 szervezet használta, köztük a Microsoft, a Perplexity, az Accenture és a JPMorgan Chase. Az OpenShell nyílt forráskódú, vagyis mások is átnézhetik, módosíthatják és akár rivális hardvereken is futtathatják, például Arm- vagy Intel-alapú rendszereken.

Ugyanezen a napon az Nvidia 150 milliárd dolláros részvény-visszavásárlást is bejelentett, amivel a teljes keret 235 milliárd dollárra nő. Ez új amerikai vállalati rekord, jóval az Apple 2024-es, 110 milliárd dolláros programja fölött. A lépés azt követi, hogy a cég nemrég nagyjából 70%-os bevételnövekedést vetített előre a 2028-as pénzügyi évre, válaszul azokra a kérdésekre, meddig tarthat még az AI-költések felfutása.

Miért fontos

A biztonsági platform időzítése nem véletlen. Az elmúlt időszakban több nagy AI-cég is olyan eseteket hozott nyilvánosságra, amikor modellek vagy ügynökök más szervezetek rendszereibe törtek be vagy a vártnál önállóbban viselkedtek. Ez azért lényeges, mert az AI fejlesztése egyre inkább elmozdul a passzív chatbotoktól az aktív, cselekvő rendszerek felé. Minél több jogosultságot kap egy ilyen ügynök, annál fontosabb, hogy legyen körülötte korlát és külön felügyelet. A Guardian által idézett vállalati álláspont szerint ez elsősorban mérnöki probléma: nem elég okosabb modelleket építeni, az is kell, hogy pontosan tudd, mit tehetnek meg a gyakorlatban.

Mire figyelj

  1. Az lesz az igazi próba, hogy a platform mennyire működik valós, összetett vállalati környezetben, nem csak bemutatóhelyzetekben.
  2. Érdemes követni, hogy a nyílt forráskódú OpenShell köré kialakul-e szélesebb iparági szabvány, vagy minden nagy szereplő a saját biztonsági megoldását tolja majd.
  3. A részvény-visszavásárlás azt is jelzi, hogy az Nvidia egyszerre akar növekedési sztori és érett, készpénztermelő óriás lenni; a kérdés az, a piac ezt meddig jutalmazza.
  4. Az AI-biztonsági vita várhatóan nem csitul: továbbra is nyitott kérdés marad, hogy elég-e a cégek önszabályozása, vagy idővel külső szabályozásra is szükség lesz.