Egy százalékokkal kifejezett „egyezés” elsőre technikai részletnek tűnik. Csakhogy ha ezt a számot a rendőrségi rutin bizonyítékként kezeli, könnyen lehet belőle több mint 50 nap jogtalan fogvatartás.
Mi történt
Jalil Richardsont Észak-Karolinában tartóztatták le, miután a floridai Jacksonville-ben elkövetett járműlopás ügyében a rendőrség egy magánvállalkozás megfigyelőkamerás felvételét betáplálta egy AI-val kiegészített arcfelismerő rendszerbe. A rendszer 85%-os arcfelismerési egyezést jelzett, és ezt két „szemtanú” vallomásával együtt elégnek tekintették a megalapozott gyanúhoz.A gond csak az, hogy Richardson a bűncselekmény idején több száz mérföldre volt: munkahelyén be volt jelentkezve, tehát papíron igazolható alibije volt. Ennek ellenére közel két hónapot töltött őrizetben, mire ő és az ügyvédei a bíróságon érdemben érvényesíteni tudták az alibit. A vádat végül ejtették.
Miért fontos
Az arcfelismerés nem „felismer”, hanem valószínűsít: mint amikor egy keresőmotor hasonló képeket ajánl, csak itt a találatnak bilincs a következménye. A 85% ráadásul nem azt jelenti, hogy 85% eséllyel bűnös valaki; inkább azt, hogy a rendszer ennyire hasonlónak találta a képet a nyilvántartásban szereplő arcokhoz egy adott beállítás mellett. Ha ezt a valószínűségi jelzést a nyomozás helyettesítésére használják, a hiba nem „rossz találat” lesz, hanem elveszett munka, otthon, családi stabilitás. Richardson esetében a fogvatartás után munkahelyet, otthont és két gyermeke felügyeletét is elveszítette.Mire figyelj
- Mit jelent jogilag az „egyezés” százaléka? Kulcskérdés, hogy a rendőrség és az ügyészség milyen belső szabályok alapján kezeli az arcfelismerés eredményét: nyomként, vagy kvázi bizonyítékként.
- Milyen gyorsan ellenőrzik az alibit? A történet tanulsága nem csak a technológia pontatlansága, hanem az eljárási fegyelem hiánya: ha az alibi ellenőrzése nem első körös lépés, a rendszer a tévedést konzerválja.
- Hogyan kezelik a „szemtanú” vallomásokat AI-találat mellett? A két, egymást erősítőnek tűnő elem (AI + szemtanú) könnyen hamis biztonságérzetet adhat, miközben mindkettő tévedhet.
- Diszkriminációs kockázat és auditálhatóság: Az Electronic Frontier Foundation egyik jogásza, Adam Schwartz arra hívta fel a figyelmet, hogy a dokumentált téves letartóztatások aránytalanul gyakran érintenek színes bőrűeket, különösen feketéket. Ha egy rendőrség ezt vitatja, akkor is elvárható lenne a független mérés, az átlátható hibastatisztika és a felelősségi lánc tisztázása.
A kérdés innentől nem az, hogy az arcfelismerés „hasznos-e”, hanem az, hogy milyen korlátok között engedhető meg úgy, hogy egy gépi tipp ne válhasson emberi sorsokat bedaráló rutinná.