Egy börtönben nem adminisztratív apróság, hogy valakit hová sorolnak be: ezen múlhat, milyen körülmények közé kerül, milyen programokhoz fér hozzá, és kikkel kell együtt élnie. Michigan most részben egy AI-rendszerre bízná ezt a döntést.

Mi történt

Michigan állam börtönrendszere egy új, mesterséges intelligenciával támogatott besorolási rendszert készül bevezetni, amely az elítéltek „veszélyességét” és jövőbeli erőszak-kockázatát próbálja megbecsülni. A rendszer célja, hogy segítsen eldönteni, ki melyik biztonsági és elhelyezési szintre kerüljön az öt fokozatból álló börtönbesorolási struktúrában.

Korábban ezt a szűrést intézményenként, a börtönigazgató által kijelölt dolgozói bizottság végezte. Az új megközelítésben egy Recidiviz nevű nonprofit technológiai szervezet szoftvere is szerepet kap. A pilotprogram decemberben indul több férfiintézetben. Az állami büntetés-végrehajtás azt állítja, hogy az eszköz nagyjából 30 százalékkal javíthatja a jövőbeli erőszak kockázatának előrejelzését, de egyelőre nem világos, ezt pontosan milyen mérés vagy összehasonlítás alapján számolták ki.

A Recidiviz eredetileg a Google környezetéből indult adatkezelési projekt volt, és olyan szoftverplatformot kínál, amely bűnügyi és büntetés-végrehajtási adatok egységesebb kezelését ígéri. A gyakorlatban ez jelentheti például annak azonosítását, hogy ki lehet jogosult állami programokra, átsorolásra vagy akár szabadítási folyamatokra. Michigan esetében most elsőként az elhelyezés „optimalizálása” a cél.

Miért fontos

Az ilyen rendszereknél a legfontosabb kérdés nem az, hogy „AI van-e benne”, hanem az, hogy milyen adatokból dolgozik, és ezek mennyire tükröznek korábbi torzításokat. Gondolj rá úgy, mint egy nagyon gyors mintafelismerő gépre: ha múltbeli, egyenlőtlen vagy hibás döntésekből tanul, akkor nem kijavítja, hanem felerősítheti azokat. Ez különösen érzékeny terület a büntetés-végrehajtásban, mert egy besorolás nemcsak papírmunka: befolyásolhatja a napi életkörülményeket, a rehabilitációs lehetőségeket és közvetve a későbbi esélyeket is. A Futurism által idézett aggályok lényege épp ez: egy nehezen átlátható modell könnyen adhat nagy súlyt olyan adatoknak, amelyek társadalmi vagy faji egyenlőtlenségeket hordoznak.

Mire figyelj

  1. Kiderül-e, pontosan milyen adatokat használ a rendszer. Ez dönti el, mennyire lehet megbízható vagy torz az eredmény.
  2. Nyilvánosságra hozzák-e, hogyan jött ki a 30 százalékos pontosságjavulás. Módszertan nélkül ez inkább ígéret, mint ellenőrizhető állítás.
  3. Megmarad-e az emberi felülvizsgálat valódi szerepe. Nem mindegy, hogy a szoftver csak ajánlást ad, vagy a gyakorlatban meghatározza a döntést.
  4. A pilot után mérik-e a valós következményeket. Az lesz a lényeg, javulnak-e a körülmények és a döntések minősége, vagy csak egy újabb feketedoboz kerül a rendszer közepébe.