Az AI már nem csak egy chatablak a böngészőben: egyre több cégnél kap tényleges feladatokat, hozzáféréseket és döntési mozgásteret. Csakhogy amikor egy ilyen rendszer hibázik, kiszivárogtat adatot vagy rossz műveletet hajt végre, meglepően sok helyen még az sem világos, kié a felelősség.

Mi történt

A PwC Digital Trust Insights 2027 kutatása nagyjából 4 ezer üzleti és technológiai vezető válaszait gyűjtötte össze 71 országból, és az egyik legfontosabb tanulsága az, hogy nincs egységes válasz az AI-felügyelet kérdésére. A cégek nagy része már látja az AI előnyeit: gyorsabb működés, kevesebb manuális munka, jobb elemzési támogatás. Ezzel párhuzamosan viszont az is egyre nyilvánvalóbb, hogy az AI új biztonsági és irányítási kockázatokat hoz.

A felmérés szerint a válaszadók 29%-a úgy gondolja, hogy az elszámoltathatóság a CIO-nál, CTO-nál vagy más technológiai vezetőnél kellene legyen. 17% a CISO-ra vagy a kiberbiztonsági csapatra tenné ezt, míg 26% inkább külön AI-vezetőt vagy AI-funkciót látna erre alkalmasnak. Közben 11% szerint a felelősség jelenleg egyszerűen nem tiszta, mert több szerepkör között oszlik meg. Ez elég beszédes szám: sok szervezet már használ AI-t, de a felelősségi lánc még nincs kész.

A háttérben az áll, hogy az úgynevezett agentic AI, vagyis a részben önállóan cselekvő AI-ügynökök más kategóriát jelentenek, mint egy sima chatbot. Gondolj rájuk úgy, mint digitális munkatársakra: hozzáférést kaphatnak rendszerekhez, adatokat olvashatnak, feladatokat indíthatnak el, sőt bizonyos esetekben ember helyett léphetnek. Ha ilyen jogosultságot kapnak, akkor már nem elég annyit mondani, hogy „az IT majd megoldja”.

Miért fontos

Ez a vita nem csak vállalati szervezeti kérdés. Ha nincs világos felelős, akkor nehezebb eldönteni, ki hagy jóvá egy új AI-eszközt, ki vizsgálja a kockázatokat, ki ellenőrzi a hozzáféréseket, és ki lép közbe, ha baj van. A hétköznapi felhasználó ebből annyit érzékelhet, hogy egy cég AI-ja félrekezel egy ügyet, rossz adatot használ, vagy túl sok rendszerhez fér hozzá. Az AI-ügynökök ugyanis gyakorlatilag digitális identitásokkal működnek: hitelesítő adataik vannak, erőforrásokhoz férnek hozzá, és műveleteket hajtanak végre. Ezért egyre fontosabb, hogy ugyanazokat az alapelveket kapják meg, mint az emberek: szigorú azonosítás, többlépcsős ellenőrzés, minimálisan szükséges hozzáférés. A ZDNetnek nyilatkozó RSA-vezető értelmezése szerint az AI-ügynököket is úgy kell kezelni, mint láthatatlan dolgozókat, akiket ugyanúgy nyilván kell tartani és korlátozni kell, mint bármelyik emberi felhasználót.

Mire figyelj

  1. Érdemes követni, megjelenik-e külön AI-biztonsági vezetői szerep a nagyobb cégeknél. Ahogy a CISO pozíció idővel általánossá vált, az AI miatt is kialakulhat egy új, dedikált vezetői funkció.
  1. Fontos jel lesz, hogy a vállalatok bevezetnek-e központi nyilvántartást az AI-ügynökökre. Ez azt jelentené, hogy pontosan tudják, melyik AI mit csinál, milyen hozzáférése van, és ki az emberi tulajdonosa.
  1. Szintén sokat elárul majd, hogy a magas kockázatú műveleteknél kötelezővé válik-e az emberi jóváhagyás. Ez lehet az a gyakorlati kompromisszum, amely mellett az AI gyors marad, de nem működik teljesen kontroll nélkül.