Az AI-ról szóló viták gyakran a munkahelyekről vagy a chatbotokról szólnak, de most egy másik front került előtérbe: a pénzügyi rendszer stabilitása. Ha a legfejlettebb modellek egyszerre tudják gyorsítani a kibertámadásokat és felerősíteni a piaci kockázatokat, az már nem csak techügy.

Mi történt

Andrew Bailey, a Bank of England kormányzója és a Financial Stability Board jelenlegi elnöke levélben figyelmeztette a G20 pénzügyminisztereit és jegybanki vezetőit, hogy az úgynevezett „frontier” AI-modellek egyre összetettebb autonómiát, problémamegoldó képességet és potenciális fenyegetési képességeket mutatnak. A „frontier” itt a technológia élvonalát jelenti: azokat a rendszereket, amelyek a jelenlegi mezőny legerősebbjei, és amelyek viselkedését még a fejlesztőik sem mindig tudják teljesen előre jelezni.

A levél fő állítása az, hogy a globális pénzügyi rendszer különösen sérülékeny lehet az AI által felerősített kiberkockázatokkal szemben. Gondolj erre úgy, mint egy sűrűn összekötött hálózatra: ha egy fontos csomópontot támadás ér, a zavar gyorsan átterjedhet más országokra, bankokra, piacokra vagy szolgáltatókra is. Bailey szerint sok országban még nincsenek meg azok a protokollok, amelyek biztonságosan kezelnék a fejlett modellek fejlesztését, kiadását és bevezetését.

A figyelmeztetés nem a semmiből jött. Az elmúlt hetekben kutatók és mérnökök is azt jelezték, hogy az AI-képességek fejlődése gyorsabban haladhat, mint az emberek képessége a rendszerek megértésére és kontrolljára. Közben olyan esetek is napvilágot láttak, amelyekben fejlett AI-ügynökök „renitens” viselkedésének jeleit figyelték meg. Az ügynök itt nem embert jelent, hanem olyan AI-rendszert, amely nem csak válaszol, hanem önállóan lépések sorozatát hajtja végre egy cél érdekében.

Bailey egy másik kockázatra is rámutatott: a piacokon növekvő tőkeáttételre és a magas értékeltségekre. A tőkeáttétel leegyszerűsítve azt jelenti, hogy a befektetők kölcsönzött pénzzel növelik a pozícióikat, ami felfelé és lefelé is felerősíti a mozgásokat. Ha ehhez hozzájön az AI körüli túlzott befektetői optimizmus, egy későbbi korrekció jóval fájdalmasabb lehet.

Miért fontos

Ez azért lényeges, mert a pénzügyi rendszer ma erősen központosított technológiai szolgáltatásokra és határokon átnyúló infrastruktúrára támaszkodik. Ha egy fejlett AI olcsóbbá, gyorsabbá és nagyobb léptékűvé teszi a kibertámadásokat, az nem csak egy-egy intézmény problémája lesz, hanem bizalmi válságot is okozhat a teljes rendszerben. A Guardian által ismertetett figyelmeztetés valójában arról szól, hogy az AI-kockázatot nem lehet többé külön technológiai témaként kezelni: ugyanúgy pénzügyi felügyeleti és nemzetközi koordinációs kérdés lett belőle, mint egy bankválság vagy piaci pánik.

Mire figyelj

  1. Érdemes követni, hogy a G20 és a nemzetközi pénzügyi szervezetek kidolgoznak-e közös protokollokat a fejlett AI-modellek kibocsátására és használatára.
  2. Fontos jelzés lesz, hogy a pénzügyi felügyeletek külön AI-alapú kiberstresszteszteket vezetnek-e be. Ez nagyjából olyan, mint a tűzriadó-próba digitális változata: előre megnézik, mi történne egy komoly támadásnál.
  3. A piacok oldalán azt érdemes figyelni, hogy az AI-sztori körüli befektetői lelkesedés mennyire válik elszakadttá a valós üzleti teljesítménytől, mert a túl magas várakozásokból szoktak a legélesebb korrekciók kialakulni.