Az AI-biztonságról szóló vita gyakran elcsúszik a távoli, látványos jövőképek felé. Közben a közelebbi veszélyek már itt vannak: fegyverek, megfigyelés és potenciálisan veszélyes biológiai kutatások támogatására is próbálják használni a nagy nyelvi modelleket.
Mi történt
Az Anthropic egy 154 oldalas fenyegetési jelentésben sorolta fel, milyen visszaéléseket azonosított a saját AI-rendszereinél. A dokumentum szerint bűnözői csoportok, államilag támogatott szereplők, kémszoftveres cégek, propagandahálózatok és kutatók is megpróbálták a modelleket rakéták, bombák, fegyveres drónok és más hagyományos fegyverek fejlesztéséhez, illetve megfigyelési és kiberműveletekhez használni. Szó volt orosz kémkedési és gyors pénzszerzésre építő kibertámadásokról, ujgurokat és belső ellenzékieket célzó megfigyelési programokról, valamint több országot érintő propaganda-kampányokról is.A jelentés egyik legsúlyosabb része öt biológiai kutatási esettanulmány. Ezekben kutatók úgy próbálták használni a modellt, hogy közben megkerülték a földrajzi hozzáférési korlátozásokat, és igyekeztek elrejteni a munkájuk valódi célját. Az egyik esetben egy tudós a chikungunya vírussal kapcsolatos, államilag finanszírozott pályázati anyagon dolgozott. Ez a vírus szúnyogok által terjed, és hosszan tartó, súlyos fájdalmat, lázat és más komoly tüneteket okozhat. Az ilyen kutatás lehet legitim, például vakcinafejlesztési céllal, de ugyanaz a tudás rossz irányba fordítva biológiai fegyverekhez is hozzájárulhat. Az érintett fiókokat letiltották, de az intézmények és országok nevét nem hozták nyilvánosságra.
Miért fontos
A lényeg nem az, hogy az AI „magától” fegyvert épít, hanem az, hogy felgyorsíthatja és megkönnyítheti a veszélyes munkát. Gondolj rá úgy, mint egy nagyon gyors, mindig elérhető kutatási asszisztensre: nem helyettesíti a laboratóriumot, a mérnököt vagy a katonai infrastruktúrát, de lerövidítheti az utat az információtól a megvalósításig. Ez azért számít, mert a valós kockázat rövid távon nem feltétlenül egy emberfeletti szuperintelligencia, hanem az, hogy meglévő rosszindulatú szereplők hatékonyabb eszközt kapnak a kezükbe. A Guardian által idézett szakértői álláspont szerint ezek a közeli, gyakorlati fenyegetések sokkal kézzelfoghatóbbak a következő néhány évben, mint a távoli apokaliptikus forgatókönyvek.Mire figyelj
- Az AI-cégek mennyire részletesen és rendszeresen publikálnak hasonló visszaélési jelentéseket. Ez mutatja meg, mennyire látható a probléma kívülről is, nem csak a vállalatokon belül.
- Erősödnek-e a védelmek a megkerülési kísérletek ellen. Ilyen lehet a hozzáférési korlátozások szigorítása, a gyanús használati minták felismerése és a fiókok gyors letiltása.
- Lesz-e iparági együttműködés és szabályozói reakció. Az ilyen kockázatokat egyetlen cég önmagában nehezen kezeli, mert a támadók egyszerűen más szolgáltatóhoz mehetnek.
- Hogyan változik a nyilvános vita fókusza. Ha a figyelem a távoli sci-fi forgatókönyvekről a dokumentált, jelen idejű visszaélésekre kerül át, az a biztonsági munkát is józanabb irányba tolhatja.