Nem sci-fi, hanem nagyon is földi biztonsági probléma: kutatók egy rivális AI-cég eszközével jutottak be az OpenAI egyik alkalmazottjának ChatGPT-fiókjába. Ez azért érdekes, mert megmutatja, hogy az AI-versenyben nem elég erős modellt építeni, a teljes környezetet is meg kell védeni.
Mi történt
Egy háromfős kiberbiztonsági csapat hozzáférést szerzett egy OpenAI-alkalmazott ChatGPT-fiókjához. Ez lehetővé tette számukra, hogy nem nyilvános szoftveres információkat olvassanak, sőt módosításokat is javasoljanak. Fontos részlet, hogy nem bűncselekményről, hanem engedélyezett biztonsági tesztről volt szó: a kutatók egy hibavadász program keretében dolgoztak, vagyis azért kerestek sebezhetőségeket, hogy azokat a cég még a valódi támadók előtt javíthassa.A munkához egy Anthropic által kifejezetten biztonsági szakembereknek készített eszközt használtak. A hibavadász program lényege nagyjából az, mint amikor egy cég felkér valakit, hogy próbálja meg feltörni a saját házát, mielőtt valódi betörő érkezne. A kutatók ezért 6500 dolláros jutalmat kaptak. Az ügy különösen azért kapott figyelmet, mert a világ egyik vezető AI-laborját sikerült viszonylag gyorsan kompromittálni, még ha ellenőrzött körülmények között is.
Miért fontos
Az eset arra emlékeztet, hogy az AI-biztonság nem csak arról szól, mit tud egy modell, hanem arról is, mennyire védettek a hozzá kapcsolódó fiókok, belső eszközök és munkafolyamatok. Gondolj rá úgy, mint egy modern irodaházra: hiába erős a páncélterem ajtaja, ha egy oldalsó bejáratnál gyengébb a zár. Most, amikor egyre nagyobb a nyomás az AI-cégeken a biztonság, a modellkiadás és a visszaélések megelőzése miatt, az ilyen incidensek különösen érzékenyek. Az Ars Technica által kiemelt tágabb kép az, hogy a hatóságok és a piac figyelme egyszerre irányul a modellek képességeire és arra, mennyire lehet ezeket a rendszereket rosszindulatú célokra felhasználni.Mire figyelj
- Érdemes nézni, hogy az OpenAI változtat-e a belső fiókvédelem, jogosultságkezelés vagy a munkatársi hozzáférések szabályain. Sokszor nem maga a modell a leggyengébb pont, hanem az ember és a köré épített rendszer.
- Fontos kérdés lesz, mennyire terjednek el a kifejezetten etikus hackereknek szánt AI-eszközök. Ezek hasznosak lehetnek a védelemben, de ugyanaz a képesség rossz kezekben támadóeszközzé is válhat.
- A szabályozói reakciót is érdemes követni. Az elmúlt hónapokban már most is vita tárgya volt, hogyan kell ellenőrizni és kiengedni a legfejlettebb modelleket, és az ilyen esetek könnyen újabb szigorításhoz vezethetnek.