Nem az AI bukott le ebben az ügyben, hanem az, ahogyan használták. Egy szakértői jelentés mögül előkerült több száz oldalnyi ChatGPT-napló, és ezzel hirtelen nagyon kézzelfogható lett, mit jelent az, ha valaki a saját szakmai munkáját gyakorlatilag kiszervezi egy chatbotnak.

Mi történt

Egy 2020-as houstoni ipari robbanás miatt indult perben, amely három ember halálához vezetett és a környéken házak százait is megrongálta, a védelem által felkért szakértő tanú munkája került célkeresztbe. Az ellenoldal a bizonyítási szakaszban azt gyanította, hogy a szakértő mesterséges intelligenciát használt a jelentése elkészítéséhez, ezért kérte a ChatGPT-beszélgetések kiadását. A bíró ezt engedélyezte, így mintegy 350 oldalnyi napló került elő.

A naplók alapján a szakértő nem egyszerűen segítségként használta a rendszert, hanem nagyon konkrét, előre irányított utasításokat adott neki. Olyan promptok is szerepeltek bennük, amelyek lényegében arra kérték a modellt, hogy készítsen kiváló szakértői jelentést a megbízó védelmében, és mutassa be, hogy a cég nulla százalékban felelős a robbanásért. A beszélgetésekből az is kiderült, hogy nagy mennyiségű peranyagot töltött fel elemzésre, sőt egy ponton még egy gázérzékelőről készült képnél is azt kérdezte: pontosan mit lát rajta. Ez azért különösen kínos részlet, mert az adott eszköz a per egyik központi eleme volt.

A végül elkészült, nagyjából 30 oldalas jelentésben eredetileg szerepelt is a kategorikus állítás, hogy a megbízó „0 százalékban felelős” a történtekért. Később ezt kivették, miután a chatbot saját szövegéről azt jelezte vissza, hogy ez túl könnyen támadható fordulat lenne. Ez önmagában is sokat mond arról, mennyire nem független szakmai véleményként, hanem előre beállított végeredmény legyártására használták az eszközt.

Miért fontos

Ez az ügy azért érdekes, mert nem az a kérdés, szabad-e AI-t használni jogi vagy szakértői munkában. Sok területen lehet értelmes segédeszköz: összefoglal, rendszerez, megfogalmazási javaslatot ad. A probléma ott kezdődik, amikor nem asszisztensként működik, hanem helyettesként. Gondolj rá úgy, mint egy számológépre: hasznos, ha gyorsabban kiszámol valamit, de nem fogadható el, ha valaki úgy ad be mérnöki szakvéleményt, hogy közben maga sem érti az alapadatokat. A Futurism által idézett értékelés szerint ebben az esetben éppen ez történt, és a történet másik nagy tanulsága az, hogy a chatbotos előzmények a jövőben ugyanúgy előkerülhetnek bizonyítékként, mint egy e-mail vagy belső dokumentum.

Mire figyelj

  1. Egyre fontosabb kérdés lesz, hogy a bíróságok pontosan mikor és milyen körben kérhetik ki az AI-eszközök használati naplóit.
  2. Várhatóan szigorodnak a szakértő tanúkra és ügyvédi csapatokra vonatkozó belső szabályok arról, mi számít elfogadható AI-használatnak.
  3. Nemcsak a jogi szakmának érdemes figyelnie: minden tudásmunkában előjöhet ugyanez a probléma, ha valaki a saját szakértelme helyett kész álláspontot akar legeneráltatni.
  4. A következő nagy vita valószínűleg nem az lesz, hogy használtak-e AI-t, hanem az, hogy a használat dokumentálható, ellenőrizhető és szakmailag védhető volt-e.