Ha egy algoritmus beleszól abba, ki kap támogatást, hol épülnek lakások, vagy milyen szabályok születnek, akkor nem mindegy, hogyan működik. Most úgy tűnik, egy szövetségi ügynökség inkább elzárná a részleteket, mintsem megmutatná, mire támaszkodott.

Mi történt

A magát „Department of Government Efficiency” (DOGE) néven emlegetett csapat tagjai a US Department of Housing and Urban Developmentnél (HUD) dolgozva mesterséges intelligenciát használtak szakpolitikai döntések informálására. Ez a gyakorlat önmagában nem meglepő: az AI-t gyakran vetik be nagy adathalmazok gyors elemzésére, mint amikor egy táblázatkezelő helyett egy „autopilóta” próbál mintázatokat találni.

A gond ott kezdődik, hogy a HUD látszólag elutasítja azokat a Freedom of Information Act (FOIA) megkereséseket, amelyek az AI-eszközök fejlesztésére, használatára és a döntéshozatalban betöltött szerepére kérdeznek rá. A FOIA lényegében az amerikai közérdekű adatigénylés rendszere: arra szolgál, hogy a nyilvánosság rálásson, hogyan dolgozik az állam, különösen akkor, ha döntések emberek életére hatnak.

A történethez kapcsolódó dokumentumok egy nonprofit jogi szervezet, a Democracy Forward FOIA-eljárása révén kerültek elő. A lényeg: volt AI-használat, de a „hogyan” és a „mennyire” kérdésekre az érintett ügynökség nem ad érdemi választ.

Miért fontos

Az AI a közpolitikában olyan, mint egy nagyon gyors tanácsadó: sok adatot képes átnézni, de nem magyarázza el automatikusan, miért jutott egy következtetésre, és könnyen „átveheti” az adatok torzításait. Ha egy modell például korábbi döntésekből tanul, akkor könnyen konzerválhatja a régi hibákat is. Lakhatási ügyekben ez különösen érzékeny, mert a döntések közvetlenül érinthetik a támogatásokhoz való hozzáférést, a városrészek fejlesztési prioritásait, vagy akár azt is, hogy milyen problémákat tekintenek „sürgősnek” a statisztikák alapján. Itt nem elég annyit mondani, hogy „AI segített” — tudni kell, milyen adatokból dolgozott, milyen korlátai voltak, és ki vállalta a felelősséget az eredményekért.

Mire figyelj

  1. Mit tekintenek „AI-eszköznek” a gyakorlatban? Nem mindegy, hogy egy egyszerű szövegösszefoglalóról, egy előrejelző modellről (prediktív analitika), vagy döntéstámogató rendszerről van szó. Az előbbi inkább adminisztratív gyorsítás, az utóbbi már érdemben alakíthatja a politikát.
  2. Adatok és minőségbiztosítás: Kiderül-e, milyen adatforrásokat használtak (belső nyilvántartások, külső adatbázisok), és volt-e ellenőrzés a pontosságra, torzításra, hibaarányra? Gondolj rá úgy, mint egy mérlegre: ha nincs hitelesítve, hiába mér gyorsan.
  3. Átláthatóság és elszámoltathatóság: A FOIA-kérelmek kezelése jelzi, mennyire tekinti az ügynökség közérdekűnek az AI-ról szóló információkat. Ha a döntések logikája zárt doboz marad, a hibák kijavítása és a jogorvoslat is nehezebb.
  4. Döntési lánc: A legfontosabb kérdés, hogy az AI csak javasolt-e, vagy ténylegesen „szűrőként” működött-e. Az előbbi esetben az emberi döntéshozó valóban mérlegel; az utóbbiban az AI könnyen kapuőrré válhat.

A WIRED anyaga alapján a vita nem az AI létjogosultságáról szól, hanem arról, hogy egy demokratikus rendszerben mennyi betekintést kap a nyilvánosság abba, amikor algoritmusok is alakítják a közpolitikai döntéseket.