Mi történik, ha a politika azt mondja az AI-cégeknek: ne új szabályokat kérjetek, hanem egyszerűen viselkedjetek felelősen? JD Vance most lényegében ezt üzente, és ezzel újra fellángolt az egyik legfontosabb vita az iparágban: elég-e az önszabályozás, ha a tétet egyesek már civilizációs kockázatként írják le.

Mi történt

Az amerikai alelnök egy Los Angeles-i AI-csúcson elutasította azokat a felhívásokat, amelyek globális szintű AI-biztonsági szabályozást sürgetnek. Üzenete egyszerű volt: ha egy cég szerint olyan rendszert épít, amely már „Frankensteinhez” hasonló veszélyt jelenthet, akkor ne az államtól kérjen új szabályokat, hanem álljon le, és adjon védekezési eszközöket azoknak, akiknek szükségük van rá.

A megszólalás közvetlen háttere az, hogy az elmúlt napokban ismét felerősödtek a legsúlyosabb AI-kockázatokról szóló figyelmeztetések. Elhangzott olyan állítás is, hogy néhány hónapon belül AI-ügynökök tömege átvehetné az internet feletti ellenőrzést. Az AI-ügynök itt olyan rendszer, amely nem csak válaszol egy kérdésre, hanem önállóan lépések sorozatát hajtja végre: keres, dönt, eszközöket használ, sőt más rendszerekkel is kapcsolatba lép. Más szereplők ennél is tovább mentek, és nem elhanyagolható esélyről beszéltek egy emberiséget fenyegető kimenetelre. Közben nagy cégek és kutatók között vita alakult ki arról is, hogy lassítani kellene-e a fejlesztési tempót, illetve szükség van-e összehangolt állami beavatkozásra.

Miért fontos

A mostani vita valójában három külön kérdést mos össze. Az első: tényleg mennyire közeli és valós a katasztrofikus AI-kockázat. A második: ha van kockázat, azt a piac, a jogi felelősség és a céges belső kontrollok kezelik-e jobban, vagy új törvények kellenek. A harmadik: kinek áll érdekében a szabályozás. Itt jön be a „regulatory capture”, vagyis a szabályozás elfoglalásának problémája: gondolj rá úgy, mint amikor a legnagyobb szereplők olyan szabályokat támogatnak, amelyek papíron a biztonságot szolgálják, a gyakorlatban viszont megnehezítik a kisebb versenytársak dolgát. A Guardian által bemutatott ütközés ezért nem csak arról szól, hogy veszélyes-e az AI, hanem arról is, hogy ki írja a játékszabályokat.

Mire figyelj

  1. Érdemes nézni, hogy Washingtonban lesz-e kétpárti támogatás olyan AI-szabályokra, amelyek kifejezetten a „katasztrofikus” kockázatokat célozzák.
  1. Fontos kérdés, hogy a nagy AI-cégek valóban önként lassítanak-e vagy halasztanak-e modelleket biztonsági okokból, és ezt átláthatóan dokumentálják-e.
  1. Külön figyelmet érdemelnek az AI-ügynökökkel kapcsolatos incidensek. Ha ezek a rendszerek egyre önállóbban tudnak más szolgáltatásokba belépni, hibákat keresni vagy műveleteket végrehajtani, a vita gyorsan elmozdulhat az elméleti kockázatoktól a nagyon is gyakorlati biztonsági kérdések felé.
  1. Az is sokat számít majd, hogy a politikai vezetők egységesebben beszélnek-e a témáról. Ha ugyanazon kormányon belül is eltér, mennyire komolyan veszik az AI-veszélyeket, abból könnyen kiszámíthatatlan szabályozási környezet lesz.