Az AI egyik legismertebb úttörője most nem technológiai áttörésről, hanem fékrendszerről beszél. Geoffrey Hinton szerint könnyen lehet, hogy a következő nagy figyelmeztetés már nem laborban, hanem az energia- vagy pénzügyi rendszerekben érkezik.

Mi történt

Geoffrey Hinton, akit gyakran az AI egyik „keresztapjaként” emlegetnek, arról beszélt, hogy akár jobb is lehetett volna az emberiségnek, ha sosem fejleszti ki ezt a technológiát. Nem azért, mert szerinte az AI szükségszerűen katasztrófához vezet, hanem mert a következő években dőlhet el, hogy képesek vagyunk-e kezelni a vele járó kockázatokat.

Hinton úgy látja, már idén vagy jövőre bekövetkezhet egy nagyobb AI-hoz köthető incidens. Példaként ideiglenes pénzügyi leállást vagy az áramellátást érő, szélesebb körű zavart említett. Ezek nem végzetes, visszafordíthatatlan események lennének, inkább olyan figyelmeztetések, amelyek után a politikai és iparági szereplők kénytelenek lennének komolyabban venni a biztonságot. Gondolj erre úgy, mint egy súlyos, de túlélhető rendszerhibára, amely hirtelen mindenki számára láthatóvá teszi, mennyire sérülékeny lett a digitális infrastruktúra.

A 78 éves kutató közben nem vonta vissza korábbi alapállítását sem: az AI óriási hasznot is hozhat. Beszélt egy lehetséges „radikális bőségről”, vagyis arról az állapotról, amikor a technológia sok területen jelentősen növeli a termelékenységet és az elérhető javakat. A másik forgatókönyv viszont szerinte a társadalmi szakadékok mélyülése, tömeges munkaerőpiaci zavarok és kulturális feszültségek erősödése.

Miért fontos

A lényeg itt nem az, hogy egy ismert kutató drámai mondatokat használ, hanem az, hogy a vita fókusza egyre inkább a modellek képességeiről a bevezetés feltételeire tolódik. A „frontier” vagyis élvonalbeli modellek azok a rendszerek, amelyek már nem egyszerűen szöveget írnak vagy képet generálnak, hanem egyre önállóbban hajtanak végre összetett feladatokat. Minél nagyobb az önállóságuk, annál fontosabb, hogy legyen kötelező tesztelés, független értékelés és közös szabványrendszer. Hinton ebben gyógyszerengedélyezéshez hasonló modellt sürget: ne az legyen a logika, hogy előbb kiengedjük a rendszert, aztán utólag kezeljük a károkat. A Guardiannak adott nyilatkozatában különösen élesen bírálta azt a hozzáállást, amely szerinte a piaci versenyt a biztonság elé helyezi.

Mire figyelj

  1. Érdemes követni, lesz-e valódi előrelépés a kötelező modelltesztelésben. Ez most az egyik legfontosabb törésvonal az AI-szabályozásban.
  1. Fontos kérdés, hogy a nagy AI-cégek önszabályozása elegendőnek bizonyul-e, vagy a kormányok tényleg külső ellenőrzést írnak elő.
  1. Figyelni kell arra is, hogyan változik a beszédmód az AI-incidensekről. Ha a kisebb biztonsági eseteket már nem elszigetelt hibának, hanem rendszerszintű figyelmeztetésnek tekintik, az gyorsíthatja a szabályozást.
  1. A hétköznapi felhasználónak ebből az a tanulság, hogy az AI jövőjét nem csak az dönti el, mire képes a technológia, hanem az is, milyen feltételekkel engedik rá a valódi világ kritikus rendszereire.