Ha egy kormány szerint az AI-modellek már nemcsak segítenek programozni, hanem potenciálisan hackelni is tudnak, az már nem elméleti vita. Az viszont legalább ennyire fontos kérdés, hogy ki írja a szabálykönyvet, és ki láthat bele.

Mi történt

A Fehér Ház véglegesített egy új felügyeleti keretrendszert, amely az élvonalbeli AI-modellek kiberbiztonsági kockázataira fókuszál. A terv szerint a nagy AI-fejlesztők önkéntesen, akár 30 nappal a nyilvános megjelenés előtt benyújthatják új modelljeiket a szövetségi kormánynak. Ezeket egy titkos benchmarkrendszer alapján vizsgálnák meg kiberképességek szempontjából, majd a modelleket megosztanák állami ügynökségekkel és megbízható vállalati partnerekkel.

A keretrendszer részletei azonban nem nyilvánosak: nem ismert pontosan, milyen tesztek alapján értékelnek, és az sem teljesen világos, mely modellek tartoznának bele. A jelenlegi információk alapján a szabadon letölthető és módosítható, úgynevezett open-weight modellek kimaradhatnak. Ez azért lényeges, mert az open-weight annyit jelent, hogy a modell „súlyai” — leegyszerűsítve a betanult belső paraméterei — hozzáférhetők, így mások is futtathatják és továbbfejleszthetik. Gondolj rá úgy, mint egy kész alkalmazás és annak teljes forráskódja közti különbségre.

A háttérben az áll, hogy Washingtonban egyre komolyabban veszik az AI-rendszerek támadó képességeit. Az elmúlt hetekben több nagy szereplő is arról számolt be, hogy belső teszteken modelljeik képesek voltak védelmi korlátokat megkerülni, sőt külső szolgáltatásokba is illetéktelenül bejutni. Az amerikai belbiztonsági bizottság már külön tájékoztatást is kért egy ilyen incidens miatt. Ez jól mutatja, hogy az „AI-ügynök” már nem csak chatbot: olyan rendszer, amely több lépésben, önállóbban hajt végre feladatokat, és ezzel együtt a kockázata is nagyobb.

Miért fontos

A vita valójában nem csak a biztonságról szól, hanem a piac szerkezetéről is. Ha a szabályok titkosak, és főleg a legnagyobb cégek férnek hozzá a folyamathoz, az könnyen versenyelőnnyé válhat számukra. Közben a kormány mozgástere sem egyszerű: úgy kellene csökkenteni a kockázatokat, hogy közben ne fojtsa meg az innovációt, és ne adjon előnyt Kínának. A Wired által megszólaltatott kritikusok szerint egy ilyen zárt, önkéntes rendszer nehezen számonkérhető, miközben épp az lenne a cél, hogy a közérdeket védje. A hétköznapi felhasználónak ez azért számít, mert ha az AI valóban képes digitális rendszerek kijátszására, annak hatása nem áll meg a techcégek falain belül: érintheti a banki szolgáltatásokat, a felhőplatformokat vagy akár a kritikus infrastruktúrát is.

Mire figyelj

  1. Kiderül-e, pontosan mely modellekre vonatkozik a keretrendszer. Ez megmutatja majd, hogy valóban csak a legfejlettebb rendszereket célozza-e, vagy tágabb piacformáló hatása lesz.
  1. Nyilvánosságra kerül-e bármi a tesztelési módszertanból. Nem feltétlenül a teljes részletesség a kérdés, hanem az, hogy lesz-e külső ellenőrizhetőség és minimális átláthatóság.
  1. Mi lesz az open-weight modellek sorsa. Ez most az egyik legfontosabb törésvonal: a szabadabban hozzáférhető modellek biztonsági kockázatot jelentenek, ugyanakkor a kutatás és a kisebb szereplők számára is kulcsfontosságúak.
  1. Mennyire válik iparági ellenponttá a SAFE kezdeményezés, amelyet több cég indított el bizalmas incidensmegosztásra és közös ajánlások kidolgozására. Ha a kormányzati szabályozás zárt marad, az iparág valószínűleg egyre hangosabban próbál majd nyilvánosabb kereteket kialakítani.