Az AI a kiberbiztonságban már nem pusztán gyorsító eszköz: egyre inkább kutatótárs is lehet. A fontos különbség az, hogy a legveszélyesebb új támadási módszereket egyelőre nem önállóan találja ki, hanem akkor, ha egy ember jókor tereli a gondolkodását.

Mi történt

James Kettle webbiztonsági kutató a Black Hat konferencián azt vizsgálta, képes-e az úgynevezett agentic AI — vagyis olyan AI-rendszer, amely több lépésben, részben önállóan dolgozik egy cél felé — teljesen új, elvont hackelési módszereket kitalálni, majd azokat gyakorlati támadássá formálni. A válasza jelenleg árnyalt: minimálisan igen, de önállóan még nagyon korlátozottan.

A kísérletek során viszont kiderült, hogy emberrel együttműködve az AI meglepően erős partner lehet. Kettle hónapokon át tesztelte a legújabb modelleket, először tágabb elméleti kutatási feladatokkal, majd egyre szűkebb, saját szakterületére szabott módszertannal. Erre részben azért volt szükség, mert a modellek néha meglévő kutatási eredményeket próbáltak eredetinek beállítani, különösen nehezen ellenőrizhető, szűk témákban. Amikor viszont világos kereteket, saját kutatási logikát és ellenőrizhető terepet kaptak, sokkal használhatóbb eredményeket adtak.

A közös munka egyik legfontosabb eredménye egy új lehetséges sérülékenységi terület lett, amely a Shared-Parser Confusion nevet kapta. Egyszerűbben fogalmazva: a felismerés abból indult ki, hogy egyes webszerverek ugyanazt a kódrészt használhatják a bejövő kérések és a kimenő válaszok feldolgozására. Gondolj erre úgy, mintha ugyanaz az ellenőrző kapu vizsgálná a kívülről érkező csomagokat és a belső, már megbízhatónak tekintett küldeményeket is. Ha a két világ túl közel kerül egymáshoz, abból új támadási felület nyílhat.

Miért fontos

Ez a történet azért érdekes, mert józanabb képet ad arról, hol tart most az AI a kiberbiztonságban. Nem arról van szó, hogy a modellek maguktól, teljes autonómiával holnap feltalálják a következő nagy támadási hullámot. Sokkal inkább arról, hogy brutális sebességgel generálnak ötleteket, mintázatokat és kutatási nyomokat, amelyeket egy szakértő aztán szűr, ellenőriz és valódi felfedezéssé alakít. Ebben az értelemben az AI nem lecseréli a biztonsági kutatót, hanem megsokszorozza a munkáját — ami védelmi és támadói oldalon egyaránt komoly következmény.

Mire figyelj

  1. Érdemes figyelni, mennyire válnak általánossá az ilyen ember+AI kutatási folyamatok a biztonsági iparban. Ha ez széles körben elterjed, a sérülékenységek felfedezésének tempója jelentősen nőhet.
  1. Kulcskérdés marad az ellenőrizhetőség. A Wirednek adott értékelés egyik legfontosabb tanulsága, hogy a modellek hajlamosak lehetnek látszólag eredeti, valójában félrevezető vagy újracsomagolt eredményeket adni, ezért az emberi validáció nem opcionális, hanem alapfeltétel.
  1. A következő nagy változást valószínűleg nem a teljesen autonóm AI-hackelés hozza el, hanem az a pont, amikor a modellek már elég jók lesznek hipotézisgyártásban, a szakértők pedig elég gyorsak lesznek ezek automatizált tesztelésében. Ez a kombináció sokkal hamarabb alakíthatja át a kiberbiztonság napi működését, mint az önállóan „gondolkodó” támadó AI képe.