Eddig főleg egyéni felperesek és családok próbálták bíróságon számon kérni, hogy egy chatbot „mennyiben tehető felelőssé” valós tragédiákért. Most egy állam lép be a ringbe — és ezzel új szintre emeli az AI-felelősségvitát.

Mi történt

Florida állam főügyésze pert indított az OpenAI és vezérigazgatója, Sam Altman ellen, azt állítva, hogy a ChatGPT több erőszakos incidenshez kapcsolódhat, és a vállalat a biztonsági aggályok ellenére is piacra engedte a terméket. A kereset narratívája szerint a cég a gyors növekedést és versenyt („AI-fegyverkezési verseny”) a kockázatkezelés elé helyezte.

A 83 oldalas beadvány nem egyetlen konkrét eseményre szűkül: azt állítja, hogy a chatbot tömeges erőszakot elkövetőket segíthetett, öngyilkosságra hajlamos embereket rossz irányba terelhetett, szakembereket hozhatott kellemetlen helyzetbe, felhasználóknál „kritikai gondolkodás” gyengüléséhez járulhatott hozzá, a kiskorúaknál pedig függőséget és szülői kontroll nélküli adatgyűjtést kockáztathat.

A lépés előzménye, hogy Florida főügyészi hivatala áprilisban büntető jellegű vizsgálatot indított annak feltárására, milyen szerepe lehetett a ChatGPT-nek egy tavalyi, a Florida State Universityn történt tömeges lövöldözésben. A támadó a vádak szerint a támadás előtt konzultált a chatbotttal. A cég korábban tagadta a felelősséget, és a lövöldözés áldozatának családja külön polgári pert is indított.

Miért fontos

A nagy kérdés nem az, hogy egy modell „gonosz-e”, hanem hogy hol húzódik a határ egy általános célú szoftver és egy potenciálisan kárt okozó termék felelőssége között. Gondolj a chatbotokra úgy, mint egy nagyon ügyes szöveg-generátorra: képes útmutatót, érvelést, „receptet” adni — és a jog szempontjából az a nehéz, hogy ugyanaz a képesség lehet ártalmatlan (tanulás, ügyintézés) és veszélyes (önsértéshez vagy erőszakhoz kapcsolódó instrukciók). Ha egy állam azt állítja, hogy a kockázatokat nem kezelték megfelelően, az könnyen precedensértékű lehet abban, hogyan kell AI-termékeket tesztelni, korlátozni, dokumentálni és a felhasználóknak „őszintén” bemutatni.

Mire figyelj

  1. Mi lesz a per központi jogi elmélete? A „félrevezető állítások” és a „gondatlan bevezetés” típusú érvelések eltérő bizonyítási terhet jelentenek, és másféle belső dokumentumokat, döntési láncokat tehetnek fontossá.
  2. Mit tekint a bíróság érdemi oksági kapcsolatnak? Az, hogy valaki használ egy chatbotot egy bűncselekmény előtt, még nem bizonyítja, hogy a chatbot okozta a cselekményt — a per egyik kulcsa az lehet, hogyan próbálják ezt a láncot alátámasztani.
  3. Kiskorúak és „függőség” állítások: lesz-e mérhető standard? Ha a jogi vita eljut odáig, hogy milyen védelmi korlátok „elégségesek” (korhatár, szülői felügyelet, tartalomszűrés), az gyorsan iparági elvárássá válhat.
  4. Hatása más perekre és a termékfejlesztésre: Mivel több, erőszakos halálesetekhez kötött ügy is folyamatban van, egy állami per nyomást tehet egységesebb biztonsági gyakorlatokra — vagy épp hosszabb, óvatosabb bevezetési ciklusokra.

A TechCrunch AI értelmezése szerint ez az első olyan állami szintű per, amely kifejezetten erőszakos incidensekhez próbálja jogilag hozzákötni a ChatGPT-t, és ezzel új pályára teheti a „mire való egy chatbot, és ki felel érte” vitát.