Az AI-versenyben nem csak az számít, ki tud gyorsabban új modellt tanítani, hanem az is, ki tudja megvédeni a már elkészült rendszereit. Most az amerikai hatóságok név szerint is megjelöltek hat kínai céget, amelyek szerintük ipari méretekben másolták a vezető amerikai modellek képességeit.

Mi történt

Az NSA, a CISA és az FBI közös közleményben azt állítja, hogy DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun és Z.AI legalább 2024 vége óta amerikai csúcskategóriás modellek képességeit próbálja kinyerni. A vád lényege nem az, hogy egyszerűen használták ezeket a rendszereket, hanem az, hogy szervezetten, nagy volumenben próbálták „lepárolni” a tudásukat.

A „distillation”, vagyis lepárlás itt azt jelenti, hogy egy erősebb modell válaszaiból és viselkedéséből egy másik rendszer megtanulja ugyanazokat a mintákat. Gondolj rá úgy, mint amikor valaki nem az eredeti receptet szerzi meg, hanem rengeteg kész ételt megkóstolva visszafejti, hogyan készülhetett. A hatóságok szerint ehhez hamis vagy tömegesen létrehozott fiókokat, proxyhálózatokat és összehangolt lekérdezéseket használtak, akár ezres vagy milliós nagyságrendben hasonló promptokkal.

A közlemény szerint gyakori módszer volt a prompt injection is, vagyis olyan speciális utasítások beadása, amelyekkel a modellt a normál korlátain kívül próbálják működésre bírni. Ennek egyik célja az lehetett, hogy a rendszer kiadja a rejtett következtetési lépéseit, az úgynevezett chain-of-thought folyamatot. Ez leegyszerűsítve a modell „belső jegyzetfüzete”: nem a végső válasz, hanem az a köztes gondolatmenet, amiből a válasz megszületik.

Miért fontos

Ez az ügy azért lényeges, mert jól mutatja, hogy a modern AI-nál a legértékesebb elem sokszor már nem pusztán a nyers számítási kapacitás, hanem a kész modellek viselkedése és finomhangolása. Ha valaki ezt nagy mennyiségben ki tudja nyerni egy API-n keresztül, azzal éveket és akár milliárdokat spórolhat a saját fejlesztésén. Ugyanakkor a védekezés ára valószínűleg a felhasználóknál csapódik le: szigorúbb fiókellenőrzés, több korlátozás, agresszívebb forgalomfigyelés és több téves riasztás jöhet. Az Ars Technica egyik fontos megfigyelése, hogy a szükséges védelem könnyen együtt járhat kényelmetlenebb AI-szolgáltatásokkal is.

Mire figyelj

  1. Érdemes nézni, hogy az amerikai AI-szolgáltatók milyen új védelmeket vezetnek be az API-k körül. Itt jöhet szigorúbb azonosítás, használati limitek és a gyanús mintázatok automatikus blokkolása.
  1. Fontos kérdés lesz, mennyire tudják megkülönböztetni a valódi fejlesztőket a támadóktól. Ha ez rosszul sikerül, a legitim kutatók és céges ügyfelek is könnyen fennakadhatnak a szűrőkön.
  1. Az is meghatározó lesz, hogy a vádakból lesz-e további szabályozási vagy diplomáciai lépés. Ha igen, az AI-piac egyre inkább nemzetbiztonsági kérdésként működhet tovább, nem csak technológiai versenyként.