Amikor az állam mesterséges intelligenciát vet be a határon vagy a menekültügyben, nem csak egy új szoftver érkezik a rendszerbe. Ilyenkor az is eldől, mennyire látható, ellenőrizhető és vitatható az a folyamat, amely emberek sorsáról gyűjt adatot és készít elő döntéseket.

Mi történt

A brit Home Office több bevándorlási és menekültügyi feladatban is AI-eszközöket használ. Ezek közé tartozik a feltételezett érdekházasságok kiszűrése, a menedékkérők életkorának megállapítását segítő elemzés, az újonnan érkezők telefonjainak tartalmi vizsgálata, valamint a határmegfigyelés élő arcfelismeréssel, illetve AI-val támogatott drónokkal és műholdas rendszerekkel.

A technológia nem csak megfigyelésre jelenik meg. Használják menekültügyi interjúk összefoglalására, országinformációk rendezésére, sőt ügyek priorizálására is egy Ipic nevű eszközzel. Ez utóbbi lényegében egy rangsoroló rendszer: gondolj rá úgy, mint egy háttérben futó szűrőre, amely megpróbálja eldönteni, mely ügyek kerüljenek előrébb a sorban, milyen kockázatot vagy sürgősséget láthat bennük. A gond az, hogy ha egy ilyen eszköz működése nem átlátható, nagyon nehéz megérteni, mi alapján emel ki vagy sorol hátrébb embereket.

A belügyminisztérium álláspontja szerint ezek az eszközök nem váltják ki az emberi döntéshozókat. A menedékjogi döntéseket továbbra is képzett ügyintézők hozzák meg, az AI pedig csak segít eligazodni az interjújegyzetekben és a szakpolitikai háttéranyagokban. A rendszer teljesítményét állításuk szerint rendszeresen ellenőrzik, és további értékelések közzétételét is ígérik.

Miért fontos

A valódi kérdés itt nem egyszerűen az, hogy „dönt-e helyettünk a gép”. Sokkal inkább az, hogy mennyire tolódik át az állami működés egy olyan irányba, ahol algoritmusok készítik elő a legérzékenyebb ügyeket, miközben a nyilvánosság alig lát bele a működésükbe. Az AI nem varázslat: statisztikai mintákat keres nagy adathalmazokban, vagyis abból tanul, ami korábban történt. Ha a múltbeli adatokban torzítás, aránytalanság vagy politikai elfogultság van, azt a rendszer könnyen továbbviheti. Menekültügyi és bevándorlási ügyekben ez különösen kényes, mert itt gyakran hiányos információk, nyelvi nehézségek, trauma és sürgős emberi helyzetek találkoznak. Az Open Rights Group szerint épp ezért nem elég azt mondani, hogy ember is van a folyamatban: az is számít, milyen adatok, milyen modellek és milyen ellenőrzés mellett működnek ezek az eszközök.

Mire figyelj

  1. Átláthatóság: kulcskérdés lesz, hogy a brit kormány valóban nyilvánosságra hozza-e, pontosan milyen AI-eszközöket használ, milyen célra és milyen hibaaránnyal.
  1. Emberi felülvizsgálat: nem mindegy, hogy az ügyintéző tényleg önállóan mérlegel, vagy csak rábólint egy gép által előállított összefoglalóra vagy prioritási listára.
  1. Szabályozás: várhatóan erősödik a nyomás a kormányzati AI-nyilvántartás, a szűkebben értelmezett nemzetbiztonsági kivételek és a kockázatos felhasználások szigorúbb korlátozása felé.
  1. Precedenshatás: ami ma a bevándorlási rendszerben történik, az könnyen mintává válhat más állami területeken is. Ha egy fekete dobozhoz hasonló rendszer itt elfogadottá válik, később más, hasonlóan érzékeny ügyekben is megjelenhet.