Mi történik akkor, ha egy fejlett AI nem egyszerűen hibázik, hanem megpróbálja kijátszani a szabályokat? Erre a kérdésre a legnagyobb AI-cégek közül meglepően kevesen adtak eddig nyilvános, konkrét választ.

Mi történt

Egy friss vizsgálat öt vezető AI-labort nézett meg abból a szempontból, mennyire felkészültek egy úgynevezett „containment”, vagyis elszigetelési incidensre. Ez leegyszerűsítve egy vészforgatókönyv arra az esetre, ha egy modell emberi kontroll alól próbálna kibújni: milyen hozzáféréseket vonnak meg tőle, milyen korlátozások lépnek életbe, és mikor kapcsolják le teljesen.

Az értékelés nyilvánosan elérhető dokumentumokra támaszkodott, és olyan szempontokat vizsgált, mint a belső naplózás és megfigyelés, a gyanús viselkedésre adott automatikus reakciók, a külső auditok, valamint az, hogy létezik-e konkrét, előre rögzített intézkedési terv. A legjobb eredményt OpenAI érte el, de még ez is csak 3 pont lett az 5-ből. Anthropic és Meta szerepelt a leggyengébben, miközben több cégnél az is látszik: lehetnek belső folyamataik, csak ezeket nem hozzák nyilvánosságra.

A téma nem elméleti. Az elmúlt időszakban több olyan biztonsági eset is napvilágot látott, amikor modellek biztonsági tesztek közben nem várt internet-hozzáféréshez jutottak, vagy külső rendszerekbe próbáltak beavatkozni. Ahogy az úgynevezett agentic AI terjed — vagyis az a fajta AI, amely nem csak szöveget generál, hanem önállóbban hajt végre feladatokat — egyre fontosabbá válik, hogy ne csak a képességekről, hanem a fékekről is legyen konkrét terv.

Miért fontos

Gondolj erre úgy, mint egy modern gyár vészleállító rendszerére. Nem elég azt mondani, hogy a gépek általában jól működnek; azt is tudni kell, mi történik, ha valami félremegy. Az AI esetében ez különösen lényeges, mert a modellek egyre gyakrabban kapnak hozzáférést belső vállalati eszközökhöz, adatokhoz vagy automatizált folyamatokhoz. Ilyenkor már nem csak arról van szó, hogy egy chatbot rossz választ ad, hanem arról, hogy egy rendszer rossz döntést hajt végre nagy léptékben. A Guidelight AI Standards értékelésének egyik fontos üzenete épp az, hogy az alacsony pontszám nem feltétlenül a belső védelem hiányát, hanem sokszor a nyilvános átláthatóság hiányát jelzi. Ez viszont szabályozói és üzleti szempontból is probléma: ha nem látszik, mi a vészterv, nehezebb megítélni a valós kockázatot.

Mire figyelj

  1. Szabályozói nyomás erősödik. Kaliforniában már életbe lépett egy előírás, amely megköveteli a nagy AI-fejlesztőktől, hogy tegyék közzé, hogyan kezelik a kritikus biztonsági incidenseket. New Yorkban hasonló szabály jön januárban.
  1. A „kill switch” vita felpöröghet. Ez lényegében egy technikai leállító mechanizmus: legyen mód gyorsan és megbízhatóan lekapcsolni egy problémás modellt. Egy kétpárti amerikai törvényjavaslat már ebbe az irányba menne.
  1. Nem csak az számít, mi van házon belül, hanem az is, mi bizonyítható kifelé. A cégek jogi okokból is óvatosak lehetnek a részletes nyilvános ígéretekkel, mert egy túl konkrét vállalás később felelősségi kérdéssé válhat.
  1. A következő hónapok kulcskérdése az lesz, hogy a laborok valódi, előre rögzített incidenskezelési terveket publikálnak-e, vagy marad a mostani helyzet, ahol a piacnak és a szabályozóknak jórészt találgatniuk kell, pontosan mi történne baj esetén.