Kalifornia most nem csak beszél az AI-szabályozásról, hanem megpróbál konkrét eszközöket is köré építeni. A legérdekesebb ötlet egy úgynevezett „kill switch”, vagyis egy vészleállító mechanizmus, amelyet a legerősebb AI-modelleknél rendszeresen ellenőriznének.

Mi történt

Gavin Newsom kaliforniai kormányzó pénteken olyan rendeletet adott ki, amelynek célja az AI-felügyelet megerősítése az államban. A rendelet egy szakértői csoport összehívását írja elő, amelynek két hónapon belül javaslatokat kell tennie arra, hogyan lehetne szigorítani az AI-biztonsági szabályokat az állami jogban.

A vizsgálandó lehetőségek között több konkrét elem is szerepel. Ilyen az, hogy AI-cégeknél helyben dolgozó, független ellenőrző csoportok végezzenek rendszeres auditokat; hogy az átláthatósági jelentéseket és kockázatértékeléseket független auditorok egységes sztenderdek szerint vizsgálják; hogy legyen egy rendszeresen tesztelt vészleállító a frontier modellekhez; valamint hogy a cégeknek kötelező legyen jelenteniük az úgynevezett „loss-of-control” incidenseket. Ez utóbbi lényegében olyan esetet jelent, amikor egy rendszer működése, hozzáférése vagy viselkedése részben kicsúszik a tervezett kontroll alól. A rendelet emellett felgyorsítaná két frissen aláírt kaliforniai törvény végrehajtását is: az egyik a független AI-biztonsági ellenőrzés kereteit építi, a másik egy AI-auditorokat nyilvántartó állami regisztert hoz létre.

Miért fontos

Ez az ügy nem csak Kaliforniáról szól. Az állam gyakran úgy működik, mint egy szabályozási labor: ha ott megszületik egy keretrendszer, annak hatása könnyen túlnyúlhat az államhatárokon, különösen akkor, ha a nagy AI-cégek eleve ott működnek. A „kill switch” kifejezés elsőre drámainak hangzik, de érdemes inkább úgy gondolni rá, mint egy ipari vészleállító gombra: nem a normál működés része, hanem arra szolgál, hogy baj esetén legyen ténylegesen működő fék. A nagy kérdés az, hogy egy modern AI-modellnél ez technikailag és jogilag pontosan mit jelent, és mennyire lehet függetlenül ellenőrizni, hogy valóban működik-e.

A mostani lépés mögött az is ott van, hogy Washingtonban rövid távon kevés az esély egy átfogó szövetségi AI-törvényre. Ebben a helyzetben Kalifornia láthatóan nem megvárni akarja a központi szabályozást, hanem mintát próbál adni hozzá.

Mire figyelj

  1. Két hónapon belül érkezhetnek az első konkrét szakértői javaslatok arról, mit jelentene a gyakorlatban a vészleállító, a független audit és a kötelező incidensjelentés.
  1. Fontos lesz látni, hogy a „frontier modellek” definíciója mennyire lesz szűk vagy tág. Ez a kifejezés általában a legfejlettebb, legnagyobb képességű modelleket jelenti, de a pontos határvonal szabályozási szempontból kulcskérdés.
  1. Az is számít, lesz-e külön törvényhozási lépés. Newsom már felvetette egy rendkívüli törvényhozási ülés lehetőségét is, vagyis a mostani rendelet könnyen csak az első állomás lehet.
  1. Érdemes figyelni, hogy a szövetségi politika reagál-e erre. Ha nem, akkor Kalifornia kerete tényleg afféle minimális alapként kezdhet működni, ahogy azt a The Verge által idézett politikai üzenet is sugallja.