Egy új AI-modell nemcsak gyorsabban írhat kódot, hanem sebezhetőségeket is találhat, sőt védekezésben is segíthet. A kérdés az, hogy ha ezek az eszközök szabadon letölthetők, akkor ez inkább biztonsági háló vagy új kockázat.
Mi történt
A francia Mistral véglegesítette Le Chonk nevű modelljét, amelyet most már szabadon elérhetővé tett. A vállalat állítása szerint ez jelenleg a legerősebb nyílt súlyú modell az automatizált kódolás és a kiberbiztonsági feladatok terén, és már felveszi a versenyt, sőt egyes mérésekben meg is előzi a vezető kínai laborok hasonló modelljeit.A „nyílt súlyú” azt jelenti, hogy a modell belső paraméterei is hozzáférhetők, nem csak egy online felületen keresztül lehet használni. Gondolj rá úgy, mint a különbségre egy bérelt szoftver és egy teljesen birtokolt, helyben futtatható rendszer között: az utóbbit nem lehet egy távoli kapcsolóval leállítani. A Mistral szerint a javulást az hozta, hogy egyre nehezebb programozási és kiberbiztonsági feladatokkal tréningezték az óriási, ezermilliárd paraméteres modellt.
Miért fontos
Ez a bejelentés túlmutat azon, hogy ki vezet egy ranglistán. A kiberbiztonságban az AI már nem csak segédeszköz: képes hibákat keresni szoftverekben, támadási láncokat modellezni, vagy épp védekezési forgatókönyveket gyorsítani. Ha ezek a képességek valóban alapinfrastruktúrává válnak, akkor sok szervezet nem akar majd kizárólag olyan zárt modellekre támaszkodni, amelyeket egy külső szolgáltató bármikor korlátozhat. Ugyanakkor itt jön a kellemetlen rész: ami a védőknek hasznos, az a támadóknak is az. A Sophos egyik biztonsági vezetője is arra hívta fel a figyelmet, hogy a technológia eleve kettős felhasználású, és a valódi kérdés nem az, melyik országból jön a modell, hanem hogy milyen felügyelet, naplózás és korlátozás veszi körül.Mire figyelj
- Érdemes nézni, milyen független tesztek jelennek meg Le Chonkról. Egy gyártói állítás önmagában kevés, különösen olyan területen, ahol a mérési módszerek sokat számítanak.
- Fontos lesz, hogyan használják a modellt vállalati és állami környezetben. A helyben futtatható AI vonzó, de csak akkor, ha megfelelő ellenőrzésekkel együtt vezetik be.
- A következő nagy vita valószínűleg nem a teljesítményről, hanem a hozzáférésről szól majd: mennyire legyen szabadon terjeszthető egy olyan modell, amely védelmi és támadó célokra egyaránt alkalmas.
- Felhasználóként és döntéshozóként is azt érdemes figyelni, hogy a nyílt modellek köré épül-e érett biztonsági gyakorlat. Önmagában a nyitottság nem garancia a biztonságra, de a teljes zártság sem az.