Ha a következő generációs AI-modellek tényleg „túl erősek” lesznek, ki mondja ki időben, hogy most nem szabad kiadni őket? Demis Hassabis szerint itt az ideje egy olyan globális felügyeletnek, amelynek nemcsak ajánlásai, hanem tényleges fékező ereje is van.

Mi történt

A Google DeepMind vezérigazgatója és társalapítója egy új, nemzetközi „AI-őrkutya” (felügyeleti) szervezet létrehozását javasolja. A koncepció lényege, hogy a legfejlettebb, úgynevezett frontier (határterületi, csúcskategóriás) modelleket még a nyilvános kiadás előtt független értékelésnek vessék alá.

A javasolt intézmény az elképzelés szerint hasonlítana bizonyos iparági szabályozókhoz: szakértőkből állna, és helyet kapnának benne nyílt forráskódú közösségek képviselői is. A legfontosabb elem viszont a hatáskör: nem pusztán auditálna, hanem képes lenne iparági szintű „lassítást” koordinálni, ha egy modellt túl kockázatosnak ítélnek a bevezetéshez.

Hassabis azt is állítja, hogy a kezdeményezést az Egyesült Államoknak kellene vezetnie, mert szerinte az USA gazdasági és technológiai súlya miatt alkalmas globális standardok kijelölésére. Emellett arról is szó van, hogy a szervezet akár még az év vége előtt felállhatna, és a háttérben már hónapok óta épülhet hozzá a támogatás különböző kormányzati és iparági szereplők felé.

Miért fontos

A „frontier modellek” alatt a legnagyobb és legképességesebb AI-rendszereket érdemes érteni — azokat, amelyek már nemcsak szöveget írnak vagy képet generálnak, hanem egyre több területen képesek összetett feladatokra, eszközhasználatra, sőt más rendszerekhez való kapcsolódásra. Gondolj rá úgy, mint egy új gyógyszerre: nem elég, hogy hatásos, azt is tudni kell, milyen mellékhatásai vannak, és milyen környezetben válik veszélyessé. Hassabis érvelése szerint a technológia gyorsulása miatt egy „előzetes forgalomba helyezési vizsga” és egy koordinált vészfék mechanizmus reálisabb védőháló lehet, mint az utólagos kárenyhítés.

A javaslat másik nagy tétje geopolitikai: ha a globális AI-szabályok kialakítását egy USA-vezette intézmény fogja össze, az egyszerre ígérhet gyorsabb standardizációt és vet fel legitimációs kérdéseket arról, hogy ki képviseli a világ többi részének érdekeit.

Mire figyelj

  1. Mit jelent a „fékező erő” a gyakorlatban? Egy dolog kockázatértékelést készíteni, és másik dolog elérni, hogy a cégek tényleg késleltessenek egy kiadást. A kulcs az lesz, hogy önkéntes iparági megállapodásról, jogi felhatalmazásról vagy valamilyen piaci ösztönzőről beszélünk.
  2. Kik ülnek az asztalnál? A „független szakértők” és az open-source közösségek bevonása jól hangzik, de a részletek döntik el, hogy ez valódi ellensúly-e, vagy csak díszlet.
  3. Mi számít frontier modellnek? Ha a definíció túl szűk, a kockázatos rendszerek kicsúszhatnak a hálón; ha túl tág, a felügyelet könnyen innovációs fékké válhat.
  4. AGI-közelség és kommunikációs kockázat: Hassabis az AGI-t (általános mesterséges intelligenciát — emberi szintű, sokféle feladatra rugalmasan képes rendszert) „néhány éven belülre” teszi. A The Verge AI által idézett retorika erős, de a gyakorlati szabályozási munkát akkor is a mérhető kockázatokra, tesztekre és felelősségi keretekre kell lefordítani, különben a vita könnyen hitkérdéssé válik.

Ha tényleg létrejön egy ilyen szervezet, az nem az AI-fejlesztés végét jelenti, hanem annak kísérletét, hogy a legkockázatosabb lépések előtt legyen egy közösen elfogadott „stop tábla” — és ne csak akkor kezdjünk vitatkozni, amikor már kint van a rendszer a világban.