Amikor egy chatbot „magabiztosan” kitalál valamit, az kellemetlen. Amikor ez egy bírósági ügyben történik, és egy nem létező precedensre hivatkozva próbálnak érvelni, az már nem technológiai baki, hanem a jogrendszerbe épülő kockázat.

Mi történt

Egy vezető brit ügyész egy magasabb szintű bírósági eljárásban olyan jogesetre hivatkozott, amely valójában nem is létezik. Az ügy különösen érzékeny volt: arról szólt, hogy vádat emeljenek-e egy fiú ellen, aki 11 éves volt az állítólagos bűncselekmény idején. A bírósági iratok szerint a benyújtott hivatkozás teljesen fiktív volt, és később kiderült, hogy egy internetes keresés során megjelenő AI-összefoglaló alapján került az anyagba.

A hibát később elismerték, azzal a magyarázattal, hogy valójában egy másik, valóban létező, de jóval korábbi döntésre akartak utalni. A bíróság szerint a téves hivatkozás végül nem befolyásolta az ügy kimenetelét. Ettől még a probléma súlyát nem csökkenti: két magas rangú bíró elégtelennek nevezte a magyarázatot, és az eset újra ráirányította a figyelmet arra, hogy az AI úgynevezett „hallucinációi” — vagyis amikor a rendszer hihetőnek hangzó, de hamis információt gyárt — már nemcsak esszékben vagy e-mailekben, hanem hivatalos jogi iratokban is megjelennek.

Nem elszigetelt hibáról van szó. Az Egyesült Királyságban idén már számos olyan bírósági ügy került elő, ahol AI-hoz köthető tévedések bukkantak fel, köztük hamis idézetek és nem létező jogi források. Ez már a második ismert eset, amely az angliai és walesi ügyészségi rendszert is érinti. Bár a belső szabályok elvileg kizárják, hogy az AI jogi döntéseket hozzon, és emberi ellenőrzést írnak elő, itt épp az látszik, hogy az ellenőrzési lánc nem működött elég jól.

Miért fontos

A jogban a hivatkozás nem díszítés, hanem az érvelés tartóoszlopa. Gondolj rá úgy, mint egy építési tervre: ha az egyik fő teherhordó elem csak oda van rajzolva, de a valóságban nem létezik, az egész szerkezet megbízhatósága kérdésessé válik. A generatív AI különösen veszélyes ezen a terepen, mert folyékonyan, magabiztos stílusban tud hibázni. Itt nem egyszerűen arról van szó, hogy valaki rossz kulcsszóra keresett rá, hanem arról, hogy az internetes keresőkbe épített AI-válaszok könnyen „első rétegként” ülnek rá a kutatásra. Ez plusz terhet rak a jogászokra is: nem elég megtalálni egy hivatkozást, annak valódiságát is külön ellenőrizni kell. A Guardian által idézett jogi szakértő szerint ez különösen súlyos, ha az állam nevében eljáró szereplő követ el ilyen hibát, mert ott nemcsak szakmai pontatlanságról, hanem a közhatalom hitelességéről is szó van.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogy a bíróságok és szakmai testületek szigorítják-e az AI használatának szabályait a jogi kutatásban és beadványok készítésében.
  1. Érdemes figyelni, hogy a „megbízható forrás” a gyakorlatban mit jelent majd: nyílt webes keresés helyett valószínűleg egyre inkább zárt, hiteles jogtárak és adatbázisok felé terelik a munkát.
  1. Nem csak pontossági kérdésről van szó. Az ilyen rendszerek használata adatvédelmi és titoktartási kockázatot is felvet, különösen érzékeny büntetőügyekben, ahol a beadott információk eleve szigorúan védettek.
  1. A legfontosabb tanulság talán az, hogy az AI a jogban nem „gyorsabb Google”, hanem olyan eszköz, amelyet csak akkor lehet biztonságosan használni, ha minden állítását elsődleges forrásból visszaellenőrzik.