Az AI-ról sokszor úgy beszélünk, mint ami segít gyorsabban dolgozni. A gond az, hogy ugyanez a gyorsaság a támadók oldalán is megjelent — és ezzel a védekezés ideje látványosan összement.

Mi történt

Egy friss vállalati fenyegetési jelentés arra figyelmeztet, hogy az AI ma már egyszerre támadóeszköz és támadási felület. Magyarul: nemcsak az történik, hogy a kiberbűnözők AI-val írnak meggyőzőbb adathalász üzeneteket vagy automatizálják a támadásaikat, hanem maguk az AI-rendszerek is célponttá váltak. Ide tartoznak a nagy nyelvi modellekhez kapcsolódó hozzáférések, a felhős API-kulcsok, az AI-ügynökök és azok a vállalati munkafolyamatok, amelyekbe ezeket a rendszereket beépítették.

A jelentés több beszédes példát is említ. Az egyik az úgynevezett LLMJacking: ilyenkor a támadó megszerzi azokat a kulcsokat vagy hitelesítő adatokat, amelyekkel egy cég AI-modellje elérhető. Ha ez sikerül, nemcsak adatot vihet el, hanem ráterhelheti a modellt drága vagy kártékony feladatokra is. Egy dokumentált esetben közel 200 ezer API-hívás futott le két perc alatt. Az API-hívás leegyszerűsítve olyan, mint amikor egy program „szól” egy másik szolgáltatásnak, hogy végezzen el egy feladatot — ha ebből hirtelen tömegesen érkezik kérés, annak komoly pénzügyi és működési következménye lehet.

A másik nagy változás a tempó. A nyilvánosságra kerülő sérülékenységek kihasználása egyre gyorsabb: az év első felében az észlelt exploitok 88%-át 48 órán belül bevetették azután, hogy megjelent a nyilvános mintakód. Az exploit olyan módszer vagy program, amellyel egy ismert hibát ténylegesen ki lehet használni. Gondolj rá úgy, mint egy betörési útmutatóra, ami a zár hibáját nemcsak leírja, hanem meg is mutatja, hogyan lehet rajta bejutni. Ha ezt AI segíti felgyorsítani, a védelmi csapatok mozgástere tovább szűkül.

Miért fontos

Ez nem csak a nagy techcégek problémája. Ahogy a vállalatok egyre több AI-eszközt kötnek rá belső rendszerekre, ügyféladatokra, dokumentumokra és felhős szolgáltatásokra, úgy nő a „láthatatlan” támadási felület is. Különösen veszélyes, hogy az AI által generált normál működés és a rosszindulatú aktivitás egyre jobban hasonlíthat egymásra. Ha egy rendszer sok automatizált kérést küld, nem mindig könnyű első pillantásra megmondani, hogy hasznos munkát végez vagy épp visszaélnek vele. A ZDNet által idézett megállapítás lényege éppen ez: a védelemnek már nem elég reagálnia, mert a támadók sebessége kezd túlnőni az emberi tempón.

Mire figyelj

  1. Az AI-hozzáférések védelme felértékelődik. Az API-kulcsok, szolgáltatásfiókok és modellhozzáférések ugyanolyan érzékenyek, mint a hagyományos adminjelszavak.
  1. Az identitásvédelem központi kérdés marad. A többfaktoros hitelesítés, a legkisebb szükséges jogosultság elve és a gyanús bejelentkezések figyelése most még fontosabb, mert a támadások gyakran fiókátvétellel indulnak.
  1. A javítási ciklusoknak rövidülniük kell. Ha egy sérülékenység kihasználására már egy-két nap is elég, a régi, kényelmes patch-elési ritmus egyszerűen nem biztos, hogy tartható.
  1. Érdemes figyelni a szokatlan AI-költségeket és használati mintákat. Egy hirtelen megugró számla vagy rendellenes API-forgalom nemcsak pénzügyi anomália lehet, hanem egy folyamatban lévő támadás első látható jele is.