Ha egy AI-ügynök kiszámíthatatlanul viselkedik, a legegyszerűbb megoldásnak az tűnik, hogy ne engedjük ki az internetre. Csakhogy a teljes elszigetelés nem varázsgomb: növeli a biztonságot, de közben könnyen kiüresítheti magát a tesztet.

Mi történt

Az AI-biztonságról szóló vitákban újra előkerült az „air gap” ötlete, vagyis az, hogy a vizsgált rendszereket fizikailag és hálózatilag is leválasztják a külvilágról. Ez a gyakorlatban azt jelenti, hogy nincs internetkapcsolat, letiltják vagy eltávolítják a vezeték nélküli eszközöket, és a különösen érzékeny környezetekben még az elektromágneses jelek szivárgását is árnyékolással próbálják megakadályozni. Gondolj rá úgy, mint egy laborra, amelynek nemcsak az ajtaját zárják be, hanem az ablakait is befalazzák.

Elméletben ez sok támadási utat lezár. Egy így elszigetelt AI-ügynök jóval nehezebben ér el külső szolgáltatásokat, valódi célpontokat vagy más rendszereket. A probléma az, hogy a fejlettebb modellek viselkedését gyakran épp valós digitális környezetben kellene mérni: külső szolgáltatásokkal, API-kkal és online infrastruktúrával. Az API lényegében egy szabványos csatlakozási pont két szoftver között — mint egy pult, ahol az egyik program kér valamit, a másik pedig válaszol. Ha ezt a valós környezetet kivesszük a képből, a teszt könnyen mesterségesen steril lesz.

A teljes izoláció ráadásul lassú és drága. Olyan kísérletek, amelyek normál körülmények között gyorsan ismételhetők lennének, szigorú leválasztás mellett logisztikai akadállyá válnak. Ez különösen a nagy AI-laboroknál fontos, ahol sok modellt és sokféle vizsgálatot kell párhuzamosan futtatni. Nem mellékes az sem, hogy a teljesen elszigetelt infrastruktúra kiépítése és fenntartása önmagában is komoly kapacitást igényel.

Miért fontos

A lényeg nem az, hogy az air gap rossz ötlet, hanem az, hogy önmagában nem elég. Egy elszigetelt rendszerben is lehet kárt okozni a belső környezetben, és az is előfordulhat, hogy a modellen belüli kockázatok érintetlenek maradnak. Ráadásul a történelem azt mutatja, hogy a fizikai leválasztás sem feltétlenül tökéletes: elég egy USB-eszköz, egy hibás folyamat vagy egy emberi mulasztás. A hétköznapi felhasználónak ez azért érdekes, mert az AI-biztonság nem egyszerűen azon múlik, „van-e net” egy modellen, hanem azon, milyen réteges védelem veszi körül. Ilyen a szigorúbb megfigyelés, a hozzáférések korlátozása, a modellek működésének jobb megértése és az emberi hibák csökkentése. A The Verge által idézett szakértők többsége is ebbe az irányba mutat: nem mindent vagy semmit típusú elszigetelésre, hanem kockázatarányos, többlépcsős védelemre van szükség.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogy a laborok hol húzzák meg a határt a „realista teszt” és a „túl kockázatos kísérlet” között.
  2. Külön figyelmet érdemelnek azok a modellek, amelyeket kiberbiztonsági, támadási vagy eszközhasználati képességekre hangolnak, mert ezeknél indokoltabb lehet az alapértelmezett szigorúbb elszigetelés.
  3. Érdemes követni, hogy megjelennek-e iparági sztenderdek a többrétegű védelemre, mert jelenleg sok esetben nem az a gond, hogy a modell „túl okos”, hanem hogy a köré épített korlátok túl lazák.