Ha a legnagyobb AI-cégek egyszerre kezdenek a lassításról beszélni, az első kérdés nem az, hogy igazuk van-e, hanem az, hogy miért most. A biztonsági aggályok valósak, de ugyanilyen valós a gyanú is, hogy a piacvezetők közben a saját helyzetüket betonoznák be.

Mi történt

Sam Altman, Dario Amodei, Demis Hassabis és Elon Musk a hétvégén nagy vonalakban egyetértettek abban, hogy az AI-fejlesztést „a határterületen” lassabb tempóra kellene állítani. A felvázolt irány három fő elemből áll: külső auditálás, a hazai laborok szabályozása és valamilyen nemzetközi lassítási megállapodás.

Ez nem a semmiből jött. Az elmúlt hónapokban egyre hangosabbak lettek azok a figyelmeztetések, amelyek szerint a legfejlettebb modellek fejlesztése gyorsabban halad, mint ahogy a biztonsági kontrollok kiépülnek. Az úgynevezett frontier labok — vagyis a legnagyobb, legdrágább és technológiailag legelőrébb járó AI-laborok — már nem egyszerűen jobb chatbotokat építenek, hanem olyan rendszereket, amelyek képességeit még a fejlesztők sem mindig látják előre teljesen. Gondolj erre úgy, mint amikor egy autógyár már nemcsak gyorsabb motort rak a kocsiba, hanem félig kész önvezetést is, miközben a fékrendszer tesztje még fut.

A vita ettől még nem fekete-fehér. Többen régóta követelik, hogy a nagy laborok ne saját belső szabályzataikra bízzák a kockázatkezelést, hanem engedjenek be független ellenőröket. A külső audit itt nem könyvelési ellenőrzést jelent, hanem olyan szakértők jelenlétét, akik belelátnak a fejlesztésbe, mérik a kockázatokat, és jelezhetnek, ha egy modell veszélyes irányba tart.

Közben sok kritika éri az ötletet. A leggyakoribb ellenérv az, hogy az önkéntes lassítás könnyen lehet „safety-washing”: látványos biztonsági gesztusok valódi fék nélkül. Vagyis papíron szigorodnak a folyamatok, a gyakorlatban viszont a fejlesztési verseny alig lassul. Ez különösen érzékeny pont ott, ahol a szabályokat részben maguk az érintett cégek alakítanák.

Miért fontos

A tét nem csak az, hogy az AI gyorsabban vagy lassabban fejlődik. Hanem az is, hogy a szabályozás a közérdeket szolgálja-e, vagy inkább a jelenlegi nagy szereplőknek kedvez. Ha csak a legnagyobb cégek tudnak megfelelni a javasolt elvárásoknak, az könnyen megnehezítheti a kisebb versenytársak és a nyílt forráskódú közösségek helyzetét. Ugyanakkor az is igaz, hogy a legkomolyabb kockázatok ma főként azoknál jelennek meg, akik a legtöbb számítási kapacitással dolgoznak. A számítási kapacitás, vagyis compute, leegyszerűsítve az a nyers gépi erő, amiből egy AI-rendszer „építkezik”. Minél több van belőle, annál nagyobb és erősebb modellt lehet képezni. A The Verge által megszólaltatott szakértők közül többen ezért nem a lassítás elvét vitatják, hanem azt mondják: ennek csak akkor van értelme, ha mérhető, kikényszeríthető és nem a cégek jóindulatán múlik.

Mire figyelj

  1. Az lesz a döntő, hogy az informális vállalásból lesz-e konkrét, számon kérhető megállapodás. Szép nyilatkozatból már volt elég.
  1. Érdemes figyelni, kapnak-e valódi hozzáférést a független auditorok. Ha csak kirakatellenőrzés lesz, a lassítás inkább PR-eszköz marad.
  1. Kulcskérdés, hogy a szabályok pontosan kire vonatkoznának. Ha kizárólag a legnagyobb laborokra, az más helyzet, mintha a kisebb szereplőkre és a nyílt forráskódú fejlesztőkre is ráterhelnék ugyanazt.
  1. Az amerikai politikai környezet rövid távon nem ígér kemény állami beavatkozást, ezért most különösen fontos, hogy az iparági önkorlátozás valódi fék legyen, ne csak időnyerés.