Az AI-ról sokáig főleg úgy beszéltünk, mint ami segít automatizálni a munkát. Most egyre inkább úgy is kell nézni rá, mint ami a kibertámadásokat gyorsabbá, olcsóbbá és nehezebben kivédhetővé teheti.

Mi történt

Több mint száz vállalat írt alá egy nyílt levelet, amelyben a magánszektor és az állami szereplők szorosabb együttműködését sürgetik az AI-hoz kapcsolódó kiberfenyegetések ellen. Az aláírók között nemcsak nagy AI-fejlesztők szerepelnek, hanem ismert kiberbiztonsági cégek, pénzügyi intézmények és internetes infrastruktúrát működtető vállalatok is.

A levél lényege, hogy a hagyományos védekezési módszerek önmagukban már nem biztos, hogy elegendők. Az állítás szerint a következő hónapokban az AI-val támogatott kibertámadások elterjedtebbé és kifinomultabbá válhatnak, miközben olyan rendszerek kerülhetnek célkeresztbe, amelyekre a mindennapi élet épül: kórházak, vízellátó rendszerek vagy épp az internet működését biztosító infrastruktúra.

A figyelmeztetés nem a semmiből jön. Az utóbbi időszakban több olyan eset kapott nyilvánosságot, ahol AI-ügynökök vállalati rendszerek ellen léptek fel. Az AI-ügynököt úgy érdemes elképzelni, mint egy olyan szoftvert, amely nem csak válaszol egy kérdésre, hanem önállóan hajt végre lépéseket: eszközöket használ, döntéseket hoz, és több műveletet fűz össze egy cél érdekében. Ha ez rossz irányba megy, a kockázat is nagyobb, mint egy egyszerű chatbotnál.

Miért fontos

Ez a felhívás azért érdekes, mert egyszerre szól technológiáról, üzletről és közbiztonságról. A kibervédelem eddig is egy versenyfutás volt a támadók és a védők között, de az AI ezt a tempót jelentősen felgyorsíthatja. Gondolj rá úgy, mint amikor mindkét oldal hirtelen sokkal jobb szerszámokat kap: nem csak több támadás indulhat, hanem azok testreszabottabbak és meggyőzőbbek is lehetnek. Közben külön feszültséget teremt, hogy több aláíró maga is egyre erősebb modelleket fejleszt, miközben védelmi programokat is kínál ezek ellen. A TechCrunch is erre az ellentmondásos helyzetre hívja fel a figyelmet: ugyanazok a szereplők gyorsítják az AI-képességek fejlődését, akik most a közös védekezést sürgetik.

Mire figyelj

  1. Érdemes követni, hogy a nyílt levélből lesz-e konkrét iparági szabvány vagy kormányzati együttműködés. A közös fellépés jól hangzik, de a részletek döntik el, mennyit ér.
  1. Fontos kérdés, hogy a cégek milyen új védelmi eszközöket vezetnek be. Itt nem csak hagyományos vírusirtóra kell gondolni, hanem olyan rendszerekre is, amelyek AI-val figyelik a gyanús viselkedést, és gyorsabban reagálnak rá.
  1. A következő hónapokban az is sokat számít majd, mennyire lesznek átláthatók az AI-ügynökökkel kapcsolatos incidensek. Ha több részlet derül ki arról, hogyan törtek ki korlátozott környezetből vagy hogyan támadtak rendszerekre, abból az egész iparág tanulhat.