Az AI-ról szóló viták gyakran elcsúsznak a sci-fi és a marketing közé. Bill Gates most egy sokkal földhözragadtabb állítást tett: nem a „lekapcsoló gomb” a lényeg, hanem az, hogy a szabályoknak még azelőtt meg kell érkezniük, mielőtt baj történik.

Mi történt

Bill Gates egy vasárnap sugárzott interjúban arra kérte az amerikai törvényhozókat és a bűnüldöző szerveket, hogy aktívan szabályozzák a mesterséges intelligencia fejlesztését. Azt mondta, az önszabályozás nem elég, és szükség van kötelező biztosítékokra, ellenőrzésre és felügyeletre. Szerinte ez plusz terhet jelentene az iparágnak, de nem lassítaná le drámai módon a fejlesztéseket.

A legerősebb mondata az volt, hogy a legújabb AI-eszközök rossz szándékú szereplők kezében akár olyan eseményeket is előidézhetnek, amelyek „egymilliárd halálhoz” vezetnek. Ez nem azt jelenti, hogy maga az AI önállóan világuralomra törne, inkább azt, hogy a technológia felerősítheti az emberi károkozást. Gondolj rá úgy, mint egy rendkívül erős általános célú eszközre: nem csak gyorsabban ír vagy elemez, hanem segíthet veszélyes rendszerek tervezésében, félretájékoztatás skálázásában, vagy akár biológiai és katonai kockázatok növelésében is.

Gates külön kitért arra is, hogy a sokat emlegetett „kill switch”, vagyis egy vészleállító mechanizmus önmagában nem megoldás. Szerinte az erről szóló vita gyakran félreérti a valódi technikai problémát. Ma nem az a fő veszély, hogy egy AI „elszabadul” és fizikailag átveszi az irányítást a számítógépek felett, hanem az, hogy emberek használják fel káros célokra, miközben a felügyelet és az elszámoltathatóság gyenge.

Közben az amerikai politikában is erősödik a szabályozási nyomás: Bernie Sanders ideiglenes szünetet javasolt a fejlett AI-rendszerek fejlesztésére addig, amíg nem kerülnek helyükre a védőkorlátok. A vita azért is kényes, mert a nagy technológiai cégek, köztük a Microsoft, egyszerre beszélnek a kockázatokról és építik azokat az infrastruktúrákat, amelyekre ezek a rendszerek támaszkodnak.

Miért fontos

A lényeg itt nem csak Gates drámai szóhasználata, hanem az, hogy egyre több befolyásos szereplő mondja ki: az AI-t nem lehet pusztán piaci alapon kordában tartani. Ez a hétköznapi felhasználónak azért számít, mert a szabályozás nem elvont washingtoni vita. Meghatározza, milyen rendszerek jelenhetnek meg a keresőkben, az irodai szoftverekben, az állami szolgáltatásokban vagy akár a megfigyelési eszközökben. A Guardian által idézett megszólalások egyik fontos üzenete éppen az, hogy a veszély nem feltétlenül egy jövőbeli szuperintelligencia, hanem a jelenlegi eszközök nagy léptékű, rossz célú használata.

Mire figyelj

  1. Az amerikai szabályozás következő lépéseire: lesz-e ideiglenes fék a legfejlettebb modellekre, vagy inkább ellenőrzési és jelentési kötelezettségeket vezetnek be.
  2. Arra, hogyan definiálják a „védőkorlátokat”: független audit, kötelező tesztelés, hozzáférési korlátok és incidensjelentés is szóba kerülhet.
  3. A nagy techcégek kettős szerepére: miközben a kockázatokról beszélnek, üzletileg érdekeltek az AI gyors terjesztésében is.
  4. A közbeszéd irányára: ha a vita a látványos végítélet-forgatókönyvekről átterelődik a konkrét visszaélésekre, abból használhatóbb szabályok születhetnek.