Az AI jó gyorsító lehet, de a bíróságon nem fér bele a „majd biztos jól összefoglalja” hozzáállás. Egy új-mexikói ügyvéd most kézzelfogható árat fizetett azért, mert ellenőrzés nélkül bízott a generatív AI-ban.
Mi történt
Új-Mexikó legfelsőbb bírósága 5 ezer dollárra bírságolta Stephen Aaronst, és a bíróság megsértése miatt elmarasztalta, miután egy gyilkossági ügy fellebbezésében AI által előállított, valótlan tartalmak szerepeltek. A bírósági beadvány szerint a dokumentum kitalált tanúk vallomásait, valamint hamis állításokat tartalmazott a lövöldöző ruházatáról és megjelenéséről.A probléma nem pusztán az volt, hogy az ügyvéd AI-eszközt használt, hanem az, hogy nem ellenőrizte a benne szereplő tényállításokat és jogi hivatkozásokat. A generatív AI ugyanis nem „tudja”, mi igaz: mintázatok alapján állít elő hihető szöveget. Gondolj rá úgy, mint egy rendkívül magabiztos asszisztensre, amely néha akkor is válaszol, amikor valójában nem biztos a dolgában. Aarons egy augusztusi meghallgatáson elismerte, hogy ChatGPT-t használt, és azt várta tőle, hogy egyfajta „golyóálló” összefoglalót készít a tárgyalásról.
Miért fontos
Ez az ügy azért lényeges, mert jól elválasztja egymástól az AI hasznos és veszélyes használatát. Egy vázlat, összefoglaló vagy első verzió elkészítésében sokat segíthet, de ahol bizonyítékok, tanúvallomások és jogi hivatkozások számítanak, ott az ellenőrzés nem opcionális. A bíróság számára nem az a kérdés, hogy ember vagy gép írta-e a szöveget, hanem az, hogy igaz-e. Az ilyen esetek ráadásul szaporodnak: egyre több ügyvéd használ AI-eszközöket, és ezzel együtt nő azoknak az ügyeknek a száma is, ahol utólag kiderül, hogy idézetek, hivatkozások vagy akár teljes állítások egyszerűen nem léteznek. A The Verge által idézett bírósági reakció is ezt tükrözi: a technológia kockázata ma már annyira közismert, hogy a tudatlanság egyre kevésbé elfogadható mentség.Mire figyelj
- Várhatóan több bíróság és ügyvédi kamara pontosabban szabályozza majd, hogyan lehet AI-t használni jogi munkában.
- Egyre fontosabb lesz az úgynevezett „human in the loop” elv, vagyis hogy ember nézze át és hitelesítse a gép által készített anyagot, mielőtt az hivatalos helyre kerül.
- Nem csak a jogi szakmának szól a tanulság. Ha AI-val készítesz összefoglalót, kutatást vagy üzleti anyagot, a hihető megfogalmazás még nem bizonyíték arra, hogy az állítás igaz is.
- Érdemes figyelni arra is, hogy a szolgáltatók milyen figyelmeztetéseket, forráskezelést és ellenőrzési funkciókat építenek be, mert hosszabb távon ezek dönthetik el, mennyire biztonságosan használható az AI nagy tétű helyzetekben.