Ha egy AI nem vesz észre egy daganatot a röntgenen, és emiatt késik a kezelés, ki viszi el a balhét? A brit egészségügyben ez nem elméleti kérdés: a technológia terjed, a felelősségi szabályok viszont nem feltétlenül követik.

Mi történt

Brit minisztereket arra figyelmeztetnek, hogy az orvosokat és az NHS-t (a brit állami egészségügyet) orvosi műhibaperekben felelősségre lehet vonni olyan károkért is, amelyek AI-eszközök tévedéseiből erednek. A jelenlegi jogi keretek mellett a klinikus és az ellátórendszer akkor is „végső felelőssé” válhat, ha a diagnosztikai vagy döntéstámogató rendszer hibázott, és ez vezetett a beteg sérüléséhez vagy halálához.

Az NHS közben egyre több feladatra vet be AI-t: képalkotó vizsgálatok (röntgen, CT, MR) értelmezésének támogatására, orvos–beteg beszélgetések összefoglalására, illetve levelek és adminisztratív szövegek megfogalmazására. Gondolj rá úgy, mint egy „digitális rezidensre”, aki gyorsan dolgozik, de nem vállal jogi felelősséget — a kérdés az, hogy a rendszer ezt mennyire kezeli reálisan.

A kockázatot két példán keresztül is könnyű megfogni. Az egyik: a mellkasröntgent értelmező AI nem jelzi a tüdődaganatot, a beteg pedig hamis megnyugtatást kap, így elmarad a kezelés és a rák továbbterjed. A másik: egy döntéstámogató rendszer tévesen javasolja a warfarin (véralvadásgátló, pitvarfibrillációban gyakran használt gyógyszer) dózisának emelését, ami súlyos vérzéshez, műtéthez és intenzív ellátáshoz vezet.

Miért fontos

Az AI az egészségügyben tipikusan nem „autopilóta”, hanem döntéstámogató eszköz: javasol, rangsorol, kiemel — és az orvosé a végső döntés. Csakhogy a valós munkafolyamatban az ajánlások erősen befolyásolhatják a döntést, különösen túlterhelt rendszerekben. Ha a jogi felelősség automatikusan az orvosnál csapódik le, az két irányba torzíthat: vagy óvatosságból kevesebb AI-t használnak (elveszhetnek valódi hatékonysági és minőségi nyereségek), vagy „papíron” mindenki mindent felülvizsgál, a gyakorlatban viszont mégis ráhagyatkozik a rendszerre. A bizalom szempontjából pedig kulcs, hogy baj esetén ne legyen felelősségi vákuum, és ne is egyetlen szereplőn csattanjon minden.

Mire figyelj

  1. Termék-e az AI a jog szemében? Felmerült javaslat, hogy az AI-eszközöket sorolják egyértelműen „termék” kategóriába, hogy a termékfelelősségi szabályok (gyártó/forgalmazó felelőssége) jobban alkalmazhatók legyenek. Ez nem mentesítené automatikusan a klinikust, de kiegyensúlyozhatná a kockázatot.
  2. Milyen irányelvek jönnek a kárigényekre? Az NHS Resolution (az angliai kórházi kártérítési ügyek kezelője) AI-felelősségi útmutatókon dolgozik. A részletek döntik el, hogy egy AI-hiba „eszközhiba”, „folyamat-hiba” vagy „felügyeleti hiba” címkét kap-e.
  3. Hogyan bizonyítják majd, mi történt? A peres helyzetekben kulcskérdés lesz az auditálhatóság: mit javasolt az AI, milyen adatokból, milyen verzióval, és mit tett az orvos. Ha a rendszerek „fekete dobozként” működnek, a felelősség tisztázása is nehezebb.
  4. Bizalom és átláthatóság a betegek felé: a Health Foundation egyik elemzője, Ahmed Binesmael arra mutat rá, hogy a közbizalom nem csak a technológián múlik, hanem azon is, milyen garanciák és felügyelet épül köré. A következő időszak tétje, hogy ez a felügyelet kézzelfogható szabályokban és gyakorlatban is megjelenik-e, nem csak elvi ígéretekben.

A legéletszerűbb irány az, hogy az AI-t nem „orvosként”, hanem nagy hatású orvostechnikai infrastruktúraként kezelik: hasznos, de csak akkor skálázható biztonságosan, ha a felelősség és az ellenőrzés ugyanilyen skálázható hozzá.