Az AI-biztonságról sokszor elvont elméleti viták folynak, de ez most nagyon is gyakorlati ügy. Több felhasználó úgy próbálta használni a Claude-ot érzékeny biológiai kutatásokhoz, hogy közben elrejtette a valódi célt a rendszer elől.
Mi történt
Az Anthropic közlése szerint idén több olyan kísérletet is leállított, amelyekben tudományos hátterű felhasználók a cég modelljeit olyan kutatáshoz akarták használni, amely hozzájárulhat biológiai fegyverek fejlesztéséhez. A vállalat öt konkrét példát osztott meg arról, hogyan próbálták egyes szereplők megkerülni a beépített védelmeket, illetve hogyan ködösítették a kutatás valódi célját, hogy átjussanak a szűrőkön.A bemutatott esetek között szerepelt egy olyan kutató is, aki egy nem támogatott régióból heteken át madárinfluenzával kapcsolatos kísérleteket tervezett a Claude segítségével. A cég szerint a biztonsági szűrők miatt ez a munka csak a modellek leggyengébb változataira korlátozódott. Az érintett fiókokat végül letiltották, de az intézmények nevét és az esetek pontos helyszínét nem hozták nyilvánosságra. A példák között olyan országokból érkező felhasználók is voltak, amelyekből a szolgáltatás hivatalosan nem elérhető, például Oroszországból, Kínából és Iránból.
Miért fontos
Ez az ügy azért lényeges, mert jól mutatja: a kockázat nem csak abban áll, hogy egy modell mire képes, hanem abban is, hogyan próbálják használni. A biológiai kutatás tipikus „kettős felhasználású” terület: ugyanaz az információ, amely segíthet egy vakcina fejlesztésében, elvileg káros célokra is felhasználható. Gondolj rá úgy, mint egy nagyon részletes laborasszisztensre, amely gyorsan rendszerezi az ismereteket és kísérleti terveket javasol — önmagában nem dönt a célról, de felgyorsíthatja a munkát. Éppen ezért a valódi kérdés ma már nem csak az, hogy az AI mit tud, hanem az is, mennyire jól működnek a hozzáférési korlátok, a tartalomszűrés és a gyanús minták felismerése. Az Ars Technica által ismertetett esetekből az látszik, hogy a szolgáltatók már nem pusztán hipotetikus veszélyként kezelik a biológiai visszaélések lehetőségét.Mire figyelj
- Fontos lesz, hogy a nagy AI-cégek mennyire részletesen osztanak meg hasonló incidenseket. A nyilvánosság segíthet megérteni, milyen trükkökkel próbálják kijátszani a védelmeket.
- Érdemes figyelni, fejlődnek-e a „védőkorlátok”. Ide tartozik a felhasználók azonosítása, a tiltott régiókból érkező hozzáférések kiszűrése és a gyanús kérdéssorozatok felismerése.
- Szabályozási oldalról is jöhet reakció. Ha az AI-rendszerek egyre hasznosabbak lesznek speciális tudományos területeken, a kormányok várhatóan nagyobb átláthatóságot és szigorúbb jelentési kötelezettséget kérnek majd a fejlesztőktől.
- A legfontosabb nyitott kérdés az marad, hogyan lehet megkülönböztetni a legitim kutatást a veszélyes szándéktól anélkül, hogy közben a valódi tudományos munkát indokolatlanul akadályoznák.