Egyre több helyen használunk AI-t, de közben meglepően nehéz biztosan tudni, tényleg az a modell dolgozott-e a háttérben, amit a szolgáltató állít. Az Anthropic most egy olyan technológiát mutatott be, ami ezt nem bizalommal, hanem matematikai bizonyítékkal oldaná meg.

Mi történt

A cég egy FlashProve nevű, nyílt forráskódú rendszeren dolgozik, amely képes lehet igazolni, hogy egy adott AI-kimenetet valóban egy konkrét modell állított elő. A megközelítés az úgynevezett „bizonyítható inferenciára” épül: ez leegyszerűsítve azt jelenti, hogy a modell válaszához egy kriptográfiai bizonyíték társulhat. Gondolj rá úgy, mint az e-mailek digitális aláírására: nemcsak elhiszed, ki a feladó, hanem technikailag is ellenőrizni tudod.

A rendszer célja, hogy megnehezítse a modellcserét és a megtévesztést. Ha működik, akkor elvben még maga az AI-labort üzemeltető cég sem tudna észrevétlenül egy másik modellt a helyére tenni. Ez azért fontos, mert így könnyebben kiszűrhető lenne, ha valaki például egy olcsóbb modellt használna a költségek csökkentésére, miközben prémium modellt ígér, vagy épp egy drágább, erősebb rendszerrel próbálná mesterségesen javítani a teljesítményéről szóló eredményeket.

A FlashProve nemcsak közvetlen modellhasználatnál lehet érdekes. Harmadik felek állításait is ellenőrizhetőbbé teheti, például ha egy fejlesztő azt mondja, hogy a kódtárát egy fejlett kiberbiztonsági modell vizsgálta át, vagy egy cég azt állítja, hogy egy üzleti tervet egy adott AI-rendszer hagyott jóvá. Ilyenkor a kérdés nem az, hogy hihető-e az állítás, hanem az, hogy bizonyítható-e.

A működéshez az kell, hogy az AI-laborok minden kiadott modellhez közzétegyenek egy úgynevezett „ujjlenyomatot”. Ez nem a modell teljes belső szerkezetét árulja el, hanem egy olyan azonosító, amely később összepárosítható a válaszokkal, és kriptográfiailag ellenőrizhető. Fontos részlet, hogy ez az ujjlenyomat nem fedi fel a modell súlyait — vagyis azokat a belső számértékeket, amelyek meghatározzák, hogyan viselkedik a rendszer, és amelyeket a zárt modelleket fejlesztő cégek üzleti okból titokban tartanak. A tervek szerint az ellenőrzés elég könnyű lenne ahhoz is, hogy helyben, egy felhasználói eszközön fusson.

Miért fontos

Az AI-piac egyik kevésbé látványos, de annál fontosabb problémája a bizalom ellenőrizhetősége. Ma a legtöbb felhasználó, cég és fejlesztő lényegében elhiszi, hogy azt a modellt kapja, amit a szolgáltató mond. Ez sok helyzetben elég, de nem mindenhol: vállalati megfelelésnél, biztonsági auditnál, kutatásnál vagy szabályozott iparágakban már számíthat, hogy bizonyítható legyen a modell kiléte. A TechCrunch értelmezése szerint a mostani munka inkább egy infrastruktúra-ötlet, mint kész termék — és épp ettől érdekes, mert egy jövőbeli ellenőrizhetőbb AI-ökoszisztéma alapját rakhatja le.

Mire figyelj

  1. Az egész még kutatási fázisban van, és jelenleg nincs terv arra, hogy az Anthropic vagy más labor élesben bevezesse.
  2. A siker kulcsa az iparági elfogadás lesz: a rendszer csak akkor ér sokat, ha a modellfejlesztők tényleg közzéteszik ezeket az ujjlenyomatokat.
  3. Érdemes figyelni, hogy a nyílt forráskódú specifikációból lesz-e szélesebb szabvány. Ha igen, az hosszabb távon ugyanúgy alapfunkcióvá válhat az AI-szolgáltatásoknál, mint ma a titkosított kapcsolat a weben.