Az AI-ról szóló vita egyre kevésbé arról szól, hogy „okos-e” egy modell, és egyre inkább arról, hogy ki tartja kézben. Geoffrey Hinton most megint ugyanarra a pontra tette a hangsúlyt: a legnagyobb veszély nem az, hogy biztosan bekövetkezik valami rossz, hanem hogy elég nagy az esélye ahhoz, hogy ne lehessen félvállról venni.

Mi történt

Geoffrey Hinton, a modern neurális hálózatok egyik legismertebb úttörője, egy nagy visszhangot kiváltó interjúban ismét arról beszélt, hogy a fejlett AI-modellek akár az emberi kontrollon is kicsúszhatnak. A neurális hálózat olyan gépi tanulási megközelítés, amely nagyon leegyszerűsítve az agy működéséből vesz ihletet: nem kézzel megírt szabályokból dolgozik, hanem rengeteg adatból tanul mintázatokat. Hinton szerint a pontos előrejelzés itt eleve nehéz, de ez nem ok arra, hogy a kockázatot figyelmen kívül hagyjuk.

Az interjúban keményen bírálta azt az elképzelést is, hogy az AI-ipar képes lenne saját magát érdemben szabályozni. Ezt történelmi párhuzamokkal támadta: szerinte ugyanúgy problémás lenne a cégekre bízni a korlátokat, mint ahogy más iparágaknál sem működött jól az önellenőrzés. Közben a vita egyre nyilvánosabb: Jensen Huang, az Nvidia vezére nyíltan vitatta Hinton 10–20%-os becslését arra, hogy az AI a következő évtizedekben akár emberi kihaláshoz vezető helyzetet is okozhat. Hinton erre azt mondta, a szám nem jóslat, hanem annak érzékeltetése, hogy komoly kockázatról van szó.

A megszólalás politikai síkra is átterjedt. Hinton Donald Trump AI-val kapcsolatos kijelentéseit tájékozatlannak nevezte, különösen azért, mert az elnök a „szuperintelligencia” kifejezést gyűjtőfogalomként használja az AI-ra. Pedig a szó eredetileg nem egyszerűen fejlett szoftvert jelent, hanem olyan rendszert, amely bizonyos értelemben meghaladja az emberi értelmi képességeket. Gondolj rá úgy, mint amikor valaki a „rakéta” szót minden repülő tárgyra ráhúzza: látványosnak hangzik, csak épp összemossa a lényeges különbségeket.

Miért fontos

A vita tétje nem pusztán elméleti. Hinton pályája azért számít különösen, mert korán hitt abban, amiben sokan még nem: hogy a nagy számítási kapacitással és sok adattal tanított neurális hálózatok áttörést hozhatnak. Ez végül be is igazolódott, és ma ezek adják a legerősebb AI-rendszerek alapját. Épp ezért érdemes komolyan venni, amikor azt mondja: attól, hogy valamit nem tudunk pontosan modellezni, még lehet rendszerszintű veszély. Ebben a keretben a kérdés nem az, hogy „öntudatra ébred-e” a gép, hanem hogy elég autonóm, elég gyors és elég összetett lesz-e ahhoz, hogy a felügyeletünk gyenge pontjait kihasználja.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogy a szabályozás valóban külső ellenőrzést jelent-e, vagy marad az iparági önszabályozás finomabb változata.
  1. Érdemes figyelni, hogyan beszélnek a politikusok az AI-ról. A pontatlan fogalmak nem csak kommunikációs hibák: később rossz szabályok alapjai is lehetnek.
  1. Fontos lesz az is, hogy a jövőbeli incidenseket hogyan értelmezik. Egy „elszabadult ügynök” nem feltétlenül sci-fi, de nem is biztos, hogy emberi értelemben vett szándék áll mögötte. Pont ez a nehézség: olyan rendszereket kell kordában tartani, amelyek nem úgy gondolkodnak, mint mi, mégis egyre több feladatot kapnak tőlünk.
  1. A Guardian által közölt interjú egyik legerősebb állítása talán az, hogy a most épülő rendszerek nem egyszerűen új szoftverek, hanem tőlünk eltérő működésű, mégis sok szempontból hozzánk hasonló „idegen lények”. Ha ez túlzónak hangzik, attól még a mögötte lévő kérdés valós: mennyire értjük azt, amit már most is egyre nagyobb hatáskörrel engedünk működni.