Mi történik, ha a rendőrség és az önkormányzat „összekever” egy városnyi érzékeny adatot, majd mindenkinek kockázati pontszámot ad? A bristoli történet azért fontos, mert nem egy sci-fi pilot, hanem egy több évig futó, nehezen átlátható gyakorlat.

Mi történt

Bristolban 2016-ban indult a Think Family Database nevű adatbázis, amely közel félmillió helyi lakosról tartalmazott rekordokat. Nem csak klasszikus rendőrségi információkat: szerepeltek benne lakhatási helyzetre, mentális egészségre, iskolai támogatásokra (például ingyenes iskolai étkezésre), sőt tinédzserterhességre és szülői tanfolyamokra vonatkozó adatok is.

Erre az adathalmazra gépi tanulási (machine learning) modelleket építettek, amelyek „kockázati pontszámokat” számoltak felnőtteknek és gyerekeknek. A gépi tanulást úgy érdemes elképzelni, mint egy statisztikai mintázatkeresőt: korábbi adatokból próbál összefüggéseket találni, majd ezek alapján becslést ad. A rendőrség prediktív analitikai programja azonban nem állt meg ennél: legalább 23 külön modell készült, például annak becslésére, hogy valaki betörést követhet el, nem jelenik meg a bíróságon, eltűnhet, vagy családon belüli erőszak áldozatává válhat.

A nyilvánosság számára közben sokáig nem volt világos, pontosan milyen eszközök futnak, kik kerülnek be, és mit jelent egy pontszám a gyakorlatban. Egy helyi rendőrségi elszámoltathatósági csoport vezetője csak évekkel később értesült egy olyan alkalmazásról (Offender Management App), amelyet a térségben akár százezres nagyságrendű adatkör kezelésére terveztek. Amikor adatigényléssel próbálta megtudni, hogyan használják az adatait, a rendőrség kezdetben nem adott érdemi választ; később megerősítette, hogy szerepel az appban, de részleteket akkor sem közölt.

Miért fontos

A prediktív rendészet ígérete általában az, hogy kevesebb erőforrásból „okosabban” lehet dolgozni. Csakhogy itt a tét nem egy marketingdashboard: ha egy rendszer kockázatosnak címkéz valakit, az befolyásolhatja, hogyan közelít hozzá a hatóság, milyen gyakran kerül a látómezőbe, és milyen döntések születnek róla. Ráadásul az ilyen modellek minősége nem csak azon múlik, mennyi adat van, hanem azon is, hogy az adatok mit tükröznek (például korábbi rendőrségi fókuszokat és torzításokat), és hogy a modell ténylegesen mennyire jó előrejelző.

Mire figyelj

  1. Átláthatóság és hozzáférés: ha valaki nem tudja, hogy pontozzák-e, milyen adatokból, és mire használják az eredményt, akkor érdemi kontroll sincs a rendszer felett.
  2. Modellek megbízhatósága: a feltárt dokumentumok alapján legalább két kockázati modellt csendben elhagytak, miután az önkormányzati szereplők már nem bíztak bennük; ez arra utal, hogy a „működik” és a „használható” nem ugyanaz.
  3. Teljesítménymérés a valóságban: a több tízezer teljesítményértékelésből álló adatsor egyes esetekben kifejezetten gyenge előrejelző képességre utalt, és ez a mindennapi rendőri döntéseknél különösen kockázatos.
  4. Országos terjesztés logikája: miközben az Egyesült Királyság a büntető igazságszolgáltatásban szélesebb AI-használatra készül, a történet egyik tanulsága, hogy a „terjesszük ki” előtt a szigorú, független értékelés és a demokratikus kontroll nem opcionális extra, hanem alapfeltétel.

A bristoli példa végső soron nem arról szól, hogy lehet-e adatot használni a közbiztonságban, hanem arról, hogy milyen feltételekkel szabad — és mi történik, ha a pontszámok gyorsabban terjednek, mint a bizonyíték arra, hogy tényleg jobbak a döntések tőlük.