A légi irányításban nem fér bele a „nagyjából jó” válasz. Ezért az új AI-rendszer körüli legfontosabb kérdés most nem az, hogy modern-e, hanem az, hogy kiszámíthatóan és ellenőrizhetően működik-e ott, ahol a hibának nagyon magas az ára.

Mi történt

Az amerikai szövetségi kormány egy SMART nevű rendszert készül bevezetni a légtér és a repülési útvonalak kezelésének támogatására. A név mögött egy olyan AI-alapú eszköz áll, amely a légiforgalmi helyzetek elemzésében és a forgalom szervezésében segíthet, első körben a washingtoni régió különösen zsúfolt légterében.

A vita középpontjában az áll, hogy pontosan milyen szerepet kap majd ez a rendszer. Nem mindegy, hogy előrejelző eszközként működik-e — vagyis javaslatokat és becsléseket ad az irányítóknak —, vagy inkább előíró módon lép fel, és konkrét döntési irányt ad konfliktushelyzetekben. A légiforgalmi irányítás ugyanis folyamatosan változó környezet: időjárás, késések, torlódások, pályahasználat és emberi döntések egyszerre alakítják. Gondolj rá úgy, mint egy sakktáblára, ahol a figurák nem felváltva lépnek, hanem szinte egyszerre mozognak.

A kritikák egyik legerősebb pontja az úgynevezett hallucináció kockázata. Ez azt jelenti, hogy egy AI-rendszer magabiztosnak tűnő, de valójában hibás vagy nem ellenőrzött információt ad vissza. Egy chatbotnál ez kellemetlen, a légi irányításban viszont biztonsági kérdés. Emiatt kulcskérdés, hogy a rendszer milyen adatokból dolgozik, hogyan ellenőrzik az eredményeit, és minden helyzetben megmarad-e az emberi felülbírálat lehetősége.

Miért fontos

Ez az ügy jól mutatja, mennyire más mércével kell mérni az AI-t egy kritikus infrastruktúrában. Egy repülőtéri irányítótoronyban nem elég, ha a rendszer „általában hasznos”. Olyan működés kell, amelynek korlátai világosak, tesztelése valósághű, és amely nem terheli tovább a már most is érzékeny rendszert. Ezt a feszültséget erősíti, hogy nemrég egy fontos távközlési kapcsolat és a tartalék vonala is egyszerre esett ki Philadelphia közelében, ami jelentős késéseket okozott az amerikai keleti parton. A Futurism által idézett megszólalás lényege is ez: nem önmagában az AI a probléma, hanem az, ha éles üzemben derül ki, mire nem képes.

Mire figyelj

  1. Kiderül-e végre a SMART pontos szerepe: tanácsadó eszköz lesz, vagy a döntésekbe is közvetlenül beleszól?
  2. Milyen tesztelési protokollt alkalmaznak: szimulátoros, valósághű próbák jönnek-e, mielőtt szélesebb körben használni kezdik?
  3. Egyértelműen rögzítik-e az emberi felülbírálatot, vagyis hogy a szolgálatban lévő irányító bármikor felülírhatja a rendszer javaslatát?
  4. Nyilvánosságra hozzák-e, milyen adatforrásokból dolgozik a rendszer, és hogyan kezelik a hibás vagy elavult információkat?

Ha ezekre nincs világos válasz, akkor a bevezetésről szóló vita nem technológiai vita lesz, hanem bizalmi kérdés.