Ha eddig azt hitted, hogy az AI-ipar „nyílt vs. zárt” vitája csak üzleti modellről szól, ez a történet megmutatja, mennyire gyorsan átcsúszik geopolitikába és nemzetbiztonságba.

Mi történt

Dario Amodei, az Anthropic alapító-vezérigazgatója nyilvánosan reagált azokra az iparági pletykákra, hogy a cég állítólag támogatná az amerikai kormány törekvéseit a kínai open-weight modellek (vagy akár általában az open-weight modellek) betiltására. Amodei ezt határozottan cáfolta: az Anthropic nem szorgalmazott open-weight tiltást.

A megszólalás időzítése nem véletlen. Nem sokkal korábban Jensen Huang, az Nvidia vezérigazgatója egy nyílt levélben (számos AI-cég társaságában) arra kérte a döntéshozókat, hogy ne vezessenek be „korai, széleskörű korlátozásokat” az open-weight modellekre. A levél nem Kínáról szólt, de a háttérvita erősen erre fut ki: sokan attól tartanak, hogy kínai labok képességnövekedése részben amerikai szellemi tulajdon „lecsapolásából” ered.

Itt jön képbe a „desztilláció” (distillation): gondolj rá úgy, mint egy tanulóra, aki nem a tankönyvből tanul, hanem folyamatosan kérdez egy nagyon okos embert, majd a válaszok stílusából és tartalmából összerakja a saját, hasonló tudását. Technikai értelemben egy modell rengeteg prompttal „bombáz” egy másik modellt, és a válaszok alapján betanít egy új modellt.

Miért fontos

Amodei érvelése szerint az open-weight nem azonos a „Kína-kockázattal”. Open-weight alatt azt érdemes érteni, hogy a modell „súlyai” (weights) elérhetők: ez a betanított neurális háló paraméterkészlete, ami lényegében a modell „memóriája és készségei” egy fájlban. Ettől még nem feltétlenül nyílt forráskódú minden, de a futtathatóság és finomhangolás sokkal szabadabb. Amodei azt mondja: a nem veszélyes képességű open-weight modellek közjószágnak tekinthetők, mert széles körben adnak értéket fejlesztőknek, kutatóknak és cégeknek, a fő költség a futtatáshoz szükséges számítási kapacitás.

A valódi félelme inkább az, hogy autoriter kormányok a világ legképzettebb modelljeit katonai fölényre, belső elnyomásra, illetve – a kiberbiztonság mellett – biológiai támadások előkészítésére használhatják. Ebben a keretben az open-weight különösen kényes: ha egy modell súlyai kikerülnek, nehéz rá „korlátokat” (guardrails) kényszeríteni vagy a használatát monitorozni, és a visszavonás gyakorlatilag lehetetlen.

Mire figyelj

  1. Chip-hozzáférés és exportkorlátozás: Amodei a legerősebb chipekhez való hozzáférés szűkítését kulcseszköznek tartja. Ez a gyakorlatban azt jelenti, hogy a csúcsteljesítményű AI-tréninghez szükséges hardver nélkül lassabb és drágább a legfejlettebb modellek építése.
  2. Desztilláció elleni fellépés: a „formális crackdown” ötlete azt jelzi, hogy a modellek közötti „kikérdezéses másolás” a következő nagy jogi és szabályozási front lehet, különösen, ha IP-lopás gyanúja merül fel.
  3. Globális biztonsági tesztelés: Amodei támogat egy nemzetközi modellbiztonsági tesztelő szervezetet, amely a legképességesebb modellekre fókuszálna ország- és licencmodelltől függetlenül, miközben a kisebb szereplőket (startupok, akadémia) nagyrészt mentesítené. A TechCrunch értelmezésében ennek a gyakorlati akadálya épp az, amitől a vita hangos: hatékony csak akkor lehet, ha globális, és ebbe Kínának is valamilyen formában bele kell állnia.

A következő hónapok nagy kérdése az lesz, hogy a „nyílt modellek szabadsága” és a „legveszélyesebb képességek kontrollja” közé tud-e az iparág és a politika olyan határt húzni, ami nem fojtja meg az innovációt, de nem is naiv a kockázatokkal szemben.