Az AI-versenyben eddig főleg arról szólt a vita, ki lesz gyorsabb. Most egy amerikai törvényhozó azt feszegeti, hogy mi történik, ha a legfejlettebb rendszerek egyszerűen kicsúsznak az emberi kontroll alól — és erre Washingtonnak és Pekingnek együtt kellene választ adnia.

Mi történt

Ro Khanna, a Képviselőház Kína-ügyekkel foglalkozó bizottságának vezető demokrata tagja amerikai-kínai AI-egyezményt sürget. Ennek célja az lenne, hogy a két ország közösen szabjon korlátokat a legnagyobb kockázatú fejlesztéseknek, különösen azoknak, amelyek a nagyon fejlett, úgynevezett „frontier” AI-modellekhez kapcsolódnak. Ez a kifejezés lényegében az iparág élvonalát jelenti: azokat a rendszereket, amelyek képességei gyorsan nőnek, miközben a működésük és a hibáik következményei egyre nehezebben beláthatók.

Khanna levelet küldött az amerikai nemzeti hírszerzés vezetésének, hogy mérjék fel: mennyire lenne képes az Egyesült Államok reagálni, ha egy AI-labor elveszítené az irányítást a saját rendszerei felett. Emellett kínai AI-cégektől — köztük a DeepSeek, az Alibaba és a Moonshot AI vállalatoktól — is információt kért arról, hogyan kezelik a katasztrofális kockázatokat, milyen védelmi megoldásaik vannak, és vállalnának-e külső ellenőrzést egy esetleges megállapodás részeként.

A levelek egyik központi témája az úgynevezett rekurzív önfejlesztés, röviden RSI. Ez azt jelenti, hogy egy AI-rendszer nemcsak feladatokat old meg, hanem egyre jobbá tudja tenni saját magát. Gondolj rá úgy, mint egy szoftverre, amely nemcsak frissítést kap, hanem maga írja a következő, okosabb verzióját. Elméletben ez drámai tempójú fejlődéshez vezethet, ezért Khanna ezt kifejezetten tiltandó területként említi egy jövőbeli egyezményben. Ugyanígy szóba kerültek a „kill switch” megoldások is: ezek olyan vészleállító mechanizmusok, amelyekkel egy rendszer működése gyorsan megszakítható, ha veszélyesen viselkedik.

Miért fontos

A történet nemcsak arról szól, hogy egy politikus újabb leveleket küldött ki. Inkább arról, hogy az AI körüli geopolitikai vita kezd két irányba szakadni: az egyik oldal a versenyt hangsúlyozza, a másik azt mondja, hogy bizonyos ponton a biztonság fontosabb, mint a tempó. A hétköznapi felhasználónak ez azért lényeges, mert a legfejlettebb modellek kockázatai nem elméleti kérdések maradnak, ha ezek a rendszerek beépülnek keresőkbe, munkahelyi szoftverekbe, ügyfélszolgálatokba vagy akár kritikus infrastruktúrákba. Ha nincs közös minimumszabály, az olyan, mintha két ország egyre gyorsabb autókat építene, de nem tudna megegyezni a fékrendszer alapkövetelményeiben. A The Verge-nek adott nyilatkozataiban Khanna különösen élesen bírálta azt az elképzelést, hogy a biztonsági szabályokat maguk a profitérdekelt cégek alakítsák ki.

Mire figyelj

  1. Kiderül-e, hogy az amerikai hírszerzés készít-e érdemi helyzetértékelést arról, mi történne egy elszabaduló AI-rendszer esetén.
  1. Reagálnak-e a megszólított kínai cégek, akár részben is. Már az is jelzésértékű lenne, ha nyilvánosan beszélni kezdenének a saját biztonsági elveikről.
  1. Lesz-e kézzelfogható amerikai-kínai együttműködés. Egy teljes egyezmény most távolinak tűnik, de egy közös szakértői munkacsoport már reálisabb első lépés lehet.
  1. Mennyire marad erős a „ne fékezzük az innovációt” politikai vonal Washingtonban. Ez döntheti el, hogy a következő hónapokban a szabályozás vagy a versenylogika kerül-e előtérbe.