Az orvosi adminisztrációt gyorsító AI-jegyzetelők (medical scribe-ok) papíron áldásnak tűnnek: leveszik a terhet a túlterhelt rendelőkről. Csakhogy ha a kórlapba „szépen megfogalmazott”, de hibás mondatok kerülnek, az már nem kényelmi kérdés, hanem betegbiztonsági kockázat.

Mi történt

Ontario tartomány főellenőre (auditor general) átnézett egy olyan tesztsorozatot, amelyben két szimulált orvos–beteg beszélgetést íratott le és foglaltatott össze 20, a tartomány által előminősített és beszerzésre ajánlott AI-jegyzetelő beszállítóval. A cél az volt, hogy kiderüljön: mennyire pontosan és hiánytalanul készülnek a strukturált orvosi jegyzetek, amelyekből később a betegút és a kezelési döntések dokumentációja felépül.

A vizsgálat eredménye kijózanító: mind a 20 beszállítónál előfordult pontossági vagy teljességi probléma legalább az egyik egyszerű tesztben. Kilenc rendszer „hallucinált” (vagyis kitalált) betegadatot, 12 helytelenül rögzített információt, és 17 kihagyott kulcsfontosságú részleteket a mentális egészséggel kapcsolatos témákból.

A jelentés konkrét példákat is említ: volt, ahol a rendszer nem létező beutalókat „írt bele” (például vérvizsgálatra vagy terápiára), máshol félrehallotta vagy rosszul írta le gyógyszerek nevét, illetve úgy hagyott ki lényeges mentális egészségügyi részleteket, hogy az a későbbi ellátást is félreviheti.

Miért fontos

Ezek az eszközök jellemzően úgy működnek, mint egy nagyon gyors gépíró és szerkesztő egyben: meghallgatják a beszélgetést, majd összerakják a „szép”, rendezett orvosi jegyzetet. A gond az, hogy a generatív AI nem csak másol: következtet, kitölt, „kerekít” – gondolj rá úgy, mint egy asszisztensre, aki néha túl magabiztosan egészíti ki a hiányzó mondatokat. Egy kórlapnál viszont a „valószínűleg ez lehetett” típusú kitöltés nem elfogadható, mert egy téves gyógyszernév, egy kitalált vizsgálat vagy egy kihagyott mentális egészségügyi részlet nagyon is valódi döntéseket indíthat el.

Mire figyelj

  1. Ellenőrzési rutin a rendelőben: az AI által generált jegyzetet ne tekintsétek kész dokumentumnak; legyen kötelező, gyors, pontokra bontott átolvasás (gyógyszerek, diagnózisok, beutalók, kockázati tényezők).
  2. „Hallucináció” elleni védőkorlátok: különösen a beutalók, vizsgálatkérések és terápiás javaslatok legyenek olyan mezők, amelyeket az orvos explicit módon jóváhagy.
  3. Mentális egészség külön kezelése: ha a tesztekben pont itt volt a legtöbb hiány, érdemes célzottan figyelni arra, hogy ezek a részletek ne vesszenek el az összefoglalóban.
  4. Beszerzésnél ne a demó döntsön: az Ars Technica által ismertetett audit üzenete az, hogy a „jól hangzó” összefoglaló nem egyenlő a klinikailag megbízható dokumentációval; mérni kell a hibaarányt és a tipikus tévedéseket is.

A végső tanulság nem az, hogy az AI-jegyzetelők használhatatlanok, hanem az, hogy az egészségügyben a pontosság nem opcionális extra – és ezt a munkafolyamatnak kell kikényszerítenie.