Az AGI-ról szóló vita eddig gyakran két véglet között mozgott: vagy túl elvont volt, vagy túl hangos. A Google DeepMind új intézete most azt ígéri, hogy a nagy kérdéseket konkrét, vitatható és számon kérhető javaslatokra bontja le.

Mi történt

A Google és a Google DeepMind kutatói elindították a DeepMind Institute nevű kezdeményezést, amelynek célja, hogy szélesebb és nyíltabb szakmai párbeszédet teremtsen az AGI-ról. Az AGI, vagyis a mesterséges általános intelligencia leegyszerűsítve olyan rendszer lenne, amely nem egyetlen szűk feladatra jó, hanem sokféle problémát tudna emberi szinthez közel vagy azon túl kezelni. Az intézet vezetői között ott van Shane Legg, James Manyika és Demis Hassabis.

A nyitóanyag négy esszéből áll, és már a témaválasztás is jelzi az irányt: gazdaságpolitikai válaszok egy esetleges AGI-sokkra, a modellek ember által követhető gondolkodásának megőrzése, az emberi jóllétet szolgáló alapelvek, valamint egy keretrendszer a legfejlettebb AI-modellek értékelésére. A hangsúly azon van, hogy a különböző nézőpontok ne simuljanak össze egyetlen vállalati állásponttá, hanem ütközzenek, finomodjanak, és akár változzanak is új bizonyítékok hatására.

Két javaslat különösen kilóg a mezőnyből. Az egyik az AI-modellek átláthatóságáról szól: a kutatók szerint nem törvényszerű, hogy a legerősebb rendszerek működése egyre nehezebben legyen ellenőrizhető. Itt az átláthatóság azt jelenti, hogy valamilyen formában látható és vizsgálható marad a modell következtetési folyamata. Gondolj rá úgy, mint amikor nemcsak a matekpélda végeredményét látod, hanem a levezetést is. A másik javaslat egy, kezdetben amerikai vezetésű szabványügyi testület létrehozása, amely a legfejlettebb modelleket még megjelenésük előtt értékelné. Eleinte ez önkéntes lenne, később viszont akár kötelező feltétellé is válhatna a bevezetéshez.

Miért fontos

Az igazán érdekes fordulat nem maga az intézet létrejötte, hanem az, hogy a biztonsági vita egyre kevésbé elvi és egyre inkább gyakorlati. Már nem csak arról van szó, hogy „vigyázni kell”, hanem arról, hogy pontosan mivel: milyen tesztekkel, milyen átláthatósági minimumokkal, milyen külső ellenőrzéssel. Ez a hétköznapi felhasználónak is számít, mert a legfejlettebb modellek képességei egyre gyorsabban kerülnek be keresőkbe, irodai szoftverekbe és fejlesztői eszközökbe. Ha ezek ellenőrzése nem tart lépést a fejlődéssel, annak nemcsak technikai, hanem gazdasági és társadalmi következményei is lehetnek. A TechCrunch is arra helyezi a hangsúlyt, hogy az iparági beszélgetés most láthatóan a konkrét fékek és ellenőrzési mechanizmusok felé mozdul.

Mire figyelj

  1. Kiderül-e, hogy az intézet valóban teret ad eltérő álláspontoknak, vagy inkább vállalati gondolatműhely marad.
  1. Lesz-e gyakorlati következménye az átláthatósági javaslatoknak, például olyan elvárás, hogy a modellek „fekete doboz” részei korlátozottak legyenek. A fekete doboz itt azt jelenti, hogy a rendszer ad egy választ, de a belső lépések nem vagy csak nehezen ellenőrizhetők.
  1. Elindul-e valódi szabványosítás a frontier, vagyis a képességhatárt feszegető modellek körül. Különösen az lesz érdekes, hogy az előzetes tesztelés önkéntes gesztus marad-e, vagy idővel belépési feltétellé válik.
  1. Egyre komolyabban kerül-e napirendre az összehangolt lassítás gondolata. Ez nem fejlesztési stopot jelent automatikusan, inkább azt, hogy a szereplők bizonyos helyzetekben közösen visszavesznek a tempóból, ha a biztonsági garanciák nem elég erősek.