Mi történik, ha a világ két legerősebb AI-hatalma ugyanattól tart, de közben egymással is versenyez? Most úgy tűnik, legalább abban megpróbálnak megegyezni, hogy egy komoly AI-balesetről vagy biztonsági incidensről ne utólag, a címlapokról értesüljenek.

Mi történt

Amerikai és kínai tisztviselők tárgyalásokat kezdtek egy olyan keretről, amelyben a két ország értesítené egymást azokról a mesterségesintelligencia-incidensekről, amelyek nemzetbiztonsági kockázatot jelenthetnek. A javasolt együttműködés neve US China AI Dialogue, és nemcsak egy riasztási mechanizmust jelentene, hanem további találkozókat is, ahol a felek a technológia közös kockázatairól és lehetséges közös céljairól egyeztetnének.

A mostani egyeztetések egy korábban félbehagyott folyamatot folytatnak. Közben az AI-biztonsággal kapcsolatos aggodalmak látványosan erősödtek: a nyár során több incidens is rámutatott arra, hogy az úgynevezett frontier modellek, vagyis a jelenlegi legfejlettebb modellek képességei gyorsabban nőnek, mint a köréjük épített védelmi korlátok. Gondolj ezekre a modellekre úgy, mint egyre ügyesebb általános célú szoftverekre: nem egyetlen feladatot tudnak jól, hanem sokfélét, ezért a hibáik és visszaéléseik is nehezebben kiszámíthatók.

A politikai háttér ettől még nem lett egyszerűbb. Az amerikai kormányon belül és a technológiai iparban is vita van arról, kell-e lassítani a fejlesztést, amíg kiforrottabb biztonsági szabályok születnek. Több ismert AI-vezető ezt sürgeti, míg mások azt mondják: a meglévő kiberbiztonsági, felelősségi és büntetőjogi szabályokat kellene előbb következetesen alkalmazni, nem új, rendkívüli keretrendszereket építeni.

Miért fontos

Ez az egyeztetés azért érdekes, mert nem a klasszikus együttműködésről szól, hanem a kárminimalizálásról. Olyasmi, mint egy forródrót két rivális fél között: nem attól lesznek barátok, hogy van közvetlen vonal köztük, hanem attól csökken a félreértésekből fakadó kockázat. AI-területen ez különösen fontos, mert egy súlyos incidens nem áll meg az országhatároknál. Ha egy fejlett modell kibertámadásokhoz, kritikus infrastruktúra zavarásához vagy félreértelmezett katonai jelzésekhez kapcsolódik, a gyors értesítés önmagában is érték lehet. A Wired által felvázolt kép lényege épp ez: a verseny és a minimális átláthatóság egyszerre lehet jelen, még akkor is, ha a két ország sok más kérdésben keményen szemben áll.

Mire figyelj

  1. Kiderül-e, hogy pontosan mi számít majd „AI-incidensnek”. Nem mindegy, hogy csak súlyos kibertámadásokról van szó, vagy tágabb körű technológiai hibákról is.
  1. Lesz-e rendszeres találkozósorozat a riasztási csatorna mellett. Egy egyszeri politikai gesztus és egy működő párbeszéd között nagy a különbség.
  1. Hogyan fér meg ez az exportkorlátozásokkal. Az Egyesült Államok továbbra is próbálja lassítani Kína hozzáférését a fejlett chipekhez és chipgyártási technológiákhoz, vagyis a stratégiai verseny nem tűnik el attól, hogy közben válságkommunikációról tárgyalnak.
  1. Elmozdul-e a szabályozási vita a nagy nyilatkozatoktól a konkrét végrehajtás felé. A következő hónapokban az lesz a valódi kérdés, hogy új szabályok születnek-e, vagy a meglévő törvényeket kezdik komolyabban alkalmazni.