Eddig többnyire a cégek belső tesztjein és önkéntes vállalásain múlt, mi derül ki egy új AI-modellről még a rajt előtt. Most az Egyesült Államok kormánya hivatalosabban is belép a „megjelenés előtti” értékelésbe — a legnagyobb szereplők egy részével együtt.

Mi történt

A Google DeepMind, a Microsoft és Elon Musk xAI-ja megállapodott arról, hogy az amerikai kormány áttekintheti új AI-modelljeiket, mielőtt azok nyilvánosan elérhetővé válnának. A feladatot a Kereskedelmi Minisztériumhoz tartozó Center for AI Standards and Innovation (CAISI) végzi, amely „pre-deployment” (telepítés/élesítés előtti) értékeléseket és célzott kutatásokat ígér.

A CAISI nem a nulláról indul: 2024-ben már elkezdett modelleket értékelni az OpenAI és az Anthropic együttműködésével, és eddig összesen 40 review-t (értékelést) végzett. A háttérben az is látszik, hogy ezek a partnerségek a Trump-adminisztráció AI Action Planjéhez igazodva újratárgyalt formában futnak tovább.

Közben egy másik szál is erősödik: felmerült, hogy a Fehér Ház később még tovább vinné ezt a logikát, és egy elnöki rendelet tech-vezetőket és kormányzati szereplőket hozna össze az új AI-modellek felügyeletére.

Miért fontos

A „frontier AI” kifejezés a legfejlettebb, legnagyobb képességű modellekre utal — gondolj rá úgy, mint a Forma–1-re az autóiparban: itt jelennek meg először azok a teljesítmények (és kockázatok), amelyek később a hétköznapi termékekbe is leszivárognak. A megjelenés előtti állami értékelés tétje ezért nem az, hogy „jó-e” a modell, hanem hogy mérhetően feltárhatók-e a kritikus képességek és a nemzetbiztonsági szempontból érzékeny kockázatok (például visszaélésekre való alkalmasság, megbízhatósági határok, váratlan viselkedések). Chris Fall, a CAISI igazgatója ezt lényegében úgy fogalmazta meg, hogy független, szigorú mérés nélkül nehéz megérteni, mit tudnak ezek a rendszerek és milyen következményeik lehetnek.

Mire figyelj

  1. Mit jelent a „review” a gyakorlatban? Nem mindegy, hogy ez egy rövid, checklist-szerű audit, vagy mély, reprodukálható tesztelés. A későbbi részletek döntik el, mennyit ér a folyamat.
  2. Mennyire lesz egységes a mérés? Ha minden modell más tesztet kap, az olyan, mintha különböző mérlegeken mérnénk ugyanazt: lesz eredmény, csak nehéz összehasonlítani.
  3. Mi lesz nyilvános? A biztonsági tesztek egy része érthetően érzékeny, de ha semmi nem transzparens, a társadalmi bizalom és az elszámoltathatóság sérülhet.
  4. Önkéntes együttműködésből lesz-e kötelező keret? Az, hogy a Fehér Ház egy szélesebb felügyeleti modellt is mérlegel, arra utal: a „puha” megállapodások idővel könnyen átcsúszhatnak formális szabályozásba.