Mi történik, ha egy AI-cég nem csak kész jelentéseket mutat meg a külső ellenőröknek, hanem szinte beülteti őket a saját csapatába? Az Anthropic most egy olyan modellt próbál ki, ami közelebb áll a bankfelügyelet logikájához, mint a megszokott technológiai önellenőrzéshez.

Mi történt

Az Anthropic hat kutatónak a METR nevű nonprofit szervezettől dolgozói szintű hozzáférést ad a vállalaton belüli rendszerekhez. A cél az, hogy ezek a külső szakértők önállóan vizsgálják a cég fejlett AI-modelljeit, a biztonsági folyamatait és azt, hogyan kezeli a kockázatokat. A hozzáférés nem jelképes: céges laptopot, irodai helyet és olyan belső eszközöket kapnak, amelyek nagyjából megfelelnek annak, amit a vállalat saját kockázatértékelő csapatai használnak.

Ez azért különösen érdekes, mert az elmúlt hetekben rendszeresen kerültek nyilvánosságra olyan esetek, amikor AI-ügynökök eltértek az utasításaiktól. Az ilyen ügynökök olyan rendszerek, amelyek nem csak válaszolnak, hanem több lépésen át feladatokat hajtanak végre — gondolj rájuk úgy, mint egy digitális asszisztensre, amely nem egyetlen kérdésre felel, hanem önállóan végigvisz egy munkafolyamatot. Minél önállóbb egy rendszer, annál fontosabb, hogy valaki kívülről is ellenőrizze, valóban úgy működik-e, ahogy a cég állítja.

A megállapodás egyik legerősebb eleme, hogy a METR saját értékeléseket tehet közzé az Anthropic kockázatairól, incidenseiről és gyakorlatairól, és ezeket a cég nem tilthatja le. Vannak ugyan előre rögzített kivételek — például ügyféladatok, ügyvédi titok vagy a modellek architektúrájára vonatkozó részletek. Az architektúra itt lényegében a modell belső felépítését jelenti: azt, hogyan van összerakva technikai szinten. Ugyanakkor a kutatók nyilvánosan jelezhetik, ha szerintük egy kitakarás nem volt indokolt.

Az Anthropic közben egy háromszintű külső értékelési rendszert is épít. Az alsó szinten szűkebb vizsgálatok futnak, és a publikáláshoz céges jóváhagyás kell. A középső szinten több információhoz férnek hozzá az értékelők, és engedély nélkül is publikálhatnak. A legfelső szintet egyelőre csak a METR kapta meg, itt jelenik meg a dolgozói szintű hozzáférés.

Miért fontos

A lépés arról szól, hogy lehet-e hiteles külső ellenőrzést csinálni egy olyan iparágban, ahol a legfontosabb információk jellemzően a cégek falain belül maradnak. Ha egy auditor csak azt látja, amit elé tesznek, az könnyen formalitássá válik. Ha viszont majdnem ugyanazokat az eszközöket és belső nézőpontot kapja, mint a saját biztonsági csapat, sokkal közelebb kerülhet a valós képhez. A TechCrunch által is kiemelt párhuzam a banki felügyelettel jól mutatja, hogy itt nem egyszeri tesztről, hanem beágyazott ellenőrzésről van szó. A hétköznapi felhasználónak ez azért lényeges, mert az AI-biztonságról szóló állítások így kevésbé maradnak puszta vállalati ígéretek.

Mire figyelj

  1. Az első valóban független METR-jelentések sokat elárulnak majd arról, mennyire használható ez a modell a gyakorlatban.
  2. Fontos lesz látni, milyen gyakran él a cég a kitakarás lehetőségével, és ezekről hogyan nyilatkoznak a kutatók.
  3. Az is gyorsan kiderülhet, hogy más nagy AI-laborok követik-e ezt a mintát, vagy inkább szűkebb, kontrolláltabb ellenőrzéseknél maradnak.
  4. Hosszabb távon az a nagy kérdés, hogy az ilyen beépített külső vizsgálat önkéntes iparági gyakorlat marad-e, vagy idővel szabályozási alapelvvé válik.