Ha valaki krízisben van, a „kérj segítséget” tanács sokszor kevés: kell egy konkrét ember, akit fel lehet hívni. Az OpenAI most ezt próbálja beépíteni a ChatGPT-be egy új, opcionális biztonsági funkcióval.

Mi történt

Az OpenAI bejelentette a Trusted Contact (megbízható kontakt) funkciót: egy felnőtt ChatGPT-felhasználó a fiókjában megadhat egy harmadik személyt (barátot, családtagot), akit a rendszer krízishelyzet gyanújánál bevonhat.

Ha egy beszélgetésben önsértésre vagy öngyilkossági gondolatokra utaló jeleket észlel a rendszer, a ChatGPT egyrészt arra bátorítja a felhasználót, hogy vegye fel a kapcsolatot ezzel a személlyel, másrészt automatikus riasztást is küld a megbízható kontaktnak. Az értesítés mehet e-mailben, SMS-ben vagy alkalmazáson belül.

A folyamat nem teljesen automata: az OpenAI a potenciálisan veszélyes esetek kezelésére automatizált jelzéseket és emberi felülvizsgálatot kombinál. Bizonyos „triggerek” (kulcsmondatok, mintázatok) jelzik a lehetséges szuicid gondolatokat, ez eljut egy emberi biztonsági csapathoz, és a cég állítása szerint minden ilyen jelzést ember néz át, célként „egy órán belüli” reakcióidővel. Ha a belső csapat úgy ítéli meg, hogy komoly biztonsági kockázat áll fenn, akkor küldik ki a Trusted Contact riasztást.

Az OpenAI azt is hangsúlyozza, hogy az üzenet rövid, és nem tartalmaz részleteket a beszélgetés tartalmáról — ez adatvédelmi okból fontos fék.

Miért fontos

Ez a lépés egyszerre technológiai és társadalmi válasz egy kényes problémára: a chatbotok gyakran kerülnek olyan helyzetbe, ahol a felhasználó mentális krízisben van, miközben a rendszer nem terapeuta. Gondolj a Trusted Contactra úgy, mint egy „vészcsengőre”: nem oldja meg a helyzetet, de esélyt ad arra, hogy egy valós ember időben ránézzen a másikra. A háttérben ott van az is, hogy az OpenAI-t több per is érte olyan esetek miatt, ahol családok szerint a chatbot károsan reagált; a TechCrunch értelmezésében a Trusted Contact ennek a bizalom- és kockázatkezelési nyomásnak is része.

Mire figyelj

  1. Opcionális védelem, megkerülhető keretek: a Trusted Contact nem kötelező, és több ChatGPT-fiók is létrehozható — ez csökkenti a lefedettséget azoknál, akik eleve elkerülnék a védőkorlátokat.
  2. Hamis riasztások vs. elmulasztott riasztások: a „triggerek” és a felülvizsgálat egyensúlya kulcs. Túl sok riasztás terhelheti a kapcsolatokat; túl kevés riasztás viszont pont a lényeget veszíti el.
  3. Adatvédelem és bizalom: az, hogy az értesítés nem tartalmaz részleteket, védi a privát szférát — de kérdés, hogy a kontakt így kap-e elég kontextust a jó reakcióhoz.
  4. Kapacitás és reakcióidő: az „egy órán belüli” cél ambiciózus; érdemes figyelni, hogyan skálázódik ez nagy felhasználói bázison, és mennyire konzisztens a gyakorlatban.