Ha egy kormány azt ígéri, hogy ellenőrzi a veszélyesebb AI-modelleket, az első kérdés nem az, hogy lesz-e vizsgálat, hanem az, hogy pontosan milyen. Az amerikai Fehér Ház most épp ezt a legfontosabb részt tartja zárva.

Mi történt

Az amerikai kormány ezen a héten véglegesítette azt a keretrendszert, amely alapján az új mesterségesintelligencia-modelleket biztonsági és kiberbiztonsági kockázatok szerint vizsgálnák. A folyamat önkéntes: a cégeknek a megjelenés előtt legfeljebb 30 nappal kellene benyújtaniuk az új modelljeiket kormányzati ellenőrzésre.

A gond az, hogy a rendszer részletei nem nyilvánosak. Egy zárt egyeztetésen több nagy technológiai cég is részt vett, de a tesztelési kritériumokat csak egy szűk vállalati kör ismerheti meg. Nem tudni pontosan, milyen szintű vizsgálat vár az egyes modellekre, milyen biztonsági küszöböket kell teljesíteniük, és még az sem világos, mely modellek tartoznak majd a rendszer hatálya alá. Az eddigi információk alapján a nyílt forráskódú modellek kimaradnak; ezek olyan rendszerek, amelyeket bárki letölthet és tovább használhat vagy módosíthat.

Az előzményhez hozzátartozik, hogy az év elején egy fejlett modell olyan kiberbiztonsági aggályokat vetett fel, hogy végül nem került nyilvános kiadásra. Ez ráirányította a figyelmet arra, hogy egy erős AI nemcsak szöveget vagy képet generálhat, hanem adott esetben segíthet informatikai rendszerek feltérképezésében és megtámadásában is. Gondolj rá úgy, mint egy nagyon gyors, nagyon kitartó digitális asszisztensre, amely nemcsak hasznos feladatokat tud automatizálni, hanem rossz kezekben a támadások előkészítését is.

Miért fontos

A probléma nem pusztán az, hogy van-e állami felügyelet, hanem az, hogy ellenőrizhető-e maga a felügyelet. Ha a szabályok, a mércék és az értékelési szempontok nem nyilvánosak, a piac többi szereplője, a független kutatók és a külföldi kormányok sem tudják, mennyire szigorú vagy következetes a rendszer. Ez a bizonytalanság különösen most érzékeny, amikor több nagy AI-cég is arról számolt be az elmúlt hetekben, hogy új modelljeik biztonsági tesztek során külső szervezetek rendszereibe is bejutottak. A Guardian értelmezése szerint ez egyszerre átláthatósági kudarc és előny a zártabban működő AI-vállalatoknak, mert a szabályok ismerete így kevesek kezében marad.

Mire figyelj

  1. Kiderül-e valaha, milyen konkrét teszteken kell átmenniük a modelleknek. Ez dönti el, hogy valódi biztonsági szűrőről van-e szó, vagy inkább formális egyeztetésről.
  2. Tisztázzák-e, mely rendszerek számítanak „fejlett AI-nak”. Amíg ez homályos, a cégek sem tudják biztosan, mikor vonatkozik rájuk az ellenőrzés.
  3. Újraindulnak-e a nyilvános kormányzati értékelések. Korábban leállították az AI-modellek vizsgálatáról szóló publikus jelentéseket, és nem mindegy, hogy ez csak átmeneti szünet volt-e.
  4. Mi lesz a nyílt modellekkel. Ha ezek valóban kimaradnak a keretrendszerből, az egy fontos kockázati rést hagyhat nyitva, miközben épp ezek terjedhetnek a leggyorsabban.