Mi történik, amikor a világ legnagyobb AI-cégei azt ígérik, hogy saját magukat fogják kordában tartani? Az új amerikai megállapodás erre ad választ — de legalább ennyire fontos az is, hogy mire nem ad.

Mi történt

Donald Trump bejelentett egy új AI-biztonsági megállapodást, amelyben több vezető technológiai cég vállalja, hogy önszabályozással próbálja biztonságosabbá tenni a legfejlettebb mesterségesintelligencia-rendszereit. A dokumentum hivatalos neve Joint Commitment on Frontier Responsibilities, és olyan cégek vezetői írták alá, mint a Google, az Anthropic, a Meta, az OpenAI, az xAI és az Nvidia.

A vállalás négy fő elemet tartalmaz. A cégeknek belső ellenőrzéseket kell működtetniük, hogy figyeljék modelljeik képességeit és viselkedését a fejlesztés és az éles használat során, különösen kiberbiztonsági, biológiai és vegyi kockázatok körül. Emellett külön belső csapatot kell kijelölniük a kontrollok működésének felügyeletére, független külső auditort vagy értékelőt kell bevonniuk, végül pedig az igazgatótanács egy önálló bizottságának kell felügyelnie az egész folyamatot.

Érdemes lefordítani, mit jelentenek ezek a pontok a gyakorlatban. A „frontier AI modellek” a legfejlettebb, csúcskategóriás rendszereket jelentik — vagyis azokat, amelyek már nem csak szöveget írnak, hanem összetett feladatokat is végre tudnak hajtani. Az „alignment”, vagyis igazodás pedig azt jelenti, hogy a modell tényleg azt csinálja, amire szánták, és nem kezd váratlan vagy káros viselkedésbe. Gondolj rá úgy, mint egy nagyon okos, de néha kiszámíthatatlan gyakornokra: nem elég, hogy ügyes, azt is biztosítani kell, hogy a szabályok szerint dolgozzon.

Miért fontos

A megállapodás azért érdekes, mert jól mutatja, merre tolódik most az amerikai AI-politika: a közvetlen állami korlátozás helyett egyelőre inkább a cégek saját felelősségére épít. Ez gyorsabb lehet, mint egy hosszú törvényhozási folyamat, de gyengébb is, mert nincs egyértelmű szankció arra az esetre, ha valaki nem tartja be az ígéreteit. A külső audit elsőre erős biztosítéknak hangzik, de sok múlik azon, ki végzi, milyen módszerrel, és nyilvánosak lesznek-e az eredmények. A The Verge értelmezésében a mostani szöveg inkább egy erkölcsi vállalás, mint valódi kikényszeríthető szabályrendszer, különösen úgy, hogy az elmúlt hónapokban több nagy AI-rendszer is produkált nem várt, problémás viselkedést.

Mire figyelj

  1. Az lesz a kulcskérdés, hogy a cégek nyilvánosságra hoznak-e konkrét biztonsági eljárásokat, vagy minden megmarad általános ígéretek szintjén.
  2. Érdemes figyelni, kik lesznek a független auditorok, és mennyire lesz valóban független az ellenőrzés.
  3. Fontos jelzés lehet, ha a most önkéntes vállalásból később tényleges törvény vagy hatósági szabály lesz.
  4. A felhasználók szempontjából az számít majd igazán, csökkennek-e a látványos hibák, visszaélések és váratlan modellviselkedések — mert végül ezen mérhető, hogy az önszabályozás több-e egy jól hangzó ígéretnél.