Ha egy MI-rendszer tényleg bajt okoz, ki tudja megállítani – és milyen gyorsan? Egy friss amerikai törvénytervezet erre adna nagyon konkrét, technikai választ: kötelező vészleállítót kérne számon a cégeken.

Mi történt

Az Egyesült Államokban képviselők egy „AI Kill Switch Act” nevű javaslatot készülnek benyújtani, amely előírná, hogy a nagy MI-t fejlesztő cégek építsenek be olyan vezérlőket, amelyekkel a rendszereiket le lehet állítani vagy vissza lehet fogni (throttle). A „throttle” itt gyakorlatilag teljesítmény- és hozzáféréskorlátozást jelent: lassabb működést, szűkebb képességeket, vagy bizonyos felhasználók ideiglenes kizárását.

A tervezet logikája szerint a Belbiztonsági Minisztérium (DHS) – a Kereskedelmi Minisztériummal és a Nemzeti Hírszerzés igazgatójával (DNI) egyeztetve – vészhelyzetben elrendelhetné egy MI-modell leállítását vagy korlátozását. A javaslat konkrét küszöböket is említ a „loss-of-control”, azaz „elvesztettük felette az irányítást” helyzetekre: például legalább 10 haláleset, 100 millió dollárt meghaladó gazdasági kár, vagy ha a modell megpróbálja elrejteni/megkerülni a leállítást lehetővé tevő kontrollokat.

A cégeknek nemcsak a leállítási technológiát kellene beépíteniük, hanem biztonsági incidenseket is jelenteniük. A vészleállítási utasítás megsértéséért a bírság akár 20 millió dollár is lehet naponta.

Miért fontos

A „kill switch” nem sci-fi gomb, inkább olyan, mint egy ipari vészfék: nem old meg minden problémát, de egy kritikus helyzetben csökkentheti a kárt. A tervezet azt is jelzi, hogy a szabályozók egyre inkább rendszerszinten gondolkodnak az MI-kockázatokról: nem csak azt kérik számon, hogy „legyen biztonságos”, hanem azt is, hogy legyen beépített, ellenőrizhető mechanizmus a gyors beavatkozásra. Ez a hétköznapi felhasználóknak közvetetten számít: ha egy szolgáltatás hirtelen korlátozódik vagy leáll, annak nem csak technikai oka lehet, hanem hatósági vészintézkedés is.

Mire figyelj

  1. Mit jelent pontosan a „powerful AI system”? A kulcs az lesz, mely modellekre és milyen képességküszöbök felett vonatkozik a kötelezettség – ettől függ, hogy a szabály a „nagyokra” korlátozódik-e, vagy szélesebb kört érint.
  2. Hogyan bizonyítják a „loss-of-control” helyzetet? A küszöbök számszerűek, de a kiváltó okok (például a modell „eltitkolja” a leállítást) értelmezése és bizonyítása nehéz, és vitákhoz vezethet.
  3. Technikai megvalósítás: központi leállítás vagy réteges fékek? A cégek várhatóan több szintű megoldásokban gondolkodnak majd: hozzáférés-felfüggesztés, képességkorlátozás, erőforrás-visszafogás, végső esetben teljes leállítás.
  4. Kormányzati jogosítványok és ellenőrzés: a DHS szerepe és a bírság mértéke miatt fontos kérdés lesz, milyen garanciák védik a jogszerűséget, és mennyire gyors a jogorvoslat.

A javaslatot támogató egyik iparági felelős-innovációs szervezet vezetője a The Verge-nek úgy fogalmazott: a cél, hogy az emberek „két kézzel a kormányon” maradjanak, és legyen „láb a féken” is, amikor a fejlett MI-rendszerek élesben futnak.