Az AI-biztonságról sokszor elvont szinten folyik a vita: legyen óvatosabb a fejlesztés, kell több teszt, kell jobb felügyelet. A Microsoft most ennél kézzelfoghatóbbat tett, és leírta, milyen viselkedést kell eleve kizárni a saját modelljeinél.
Mi történt
A vállalat közzétett egy új AI „code of conduct” dokumentumot, vagyis egy olyan magatartási kódexet, amely a modellek fejlesztését és működését irányító alapelveket és tiltásokat rögzíti. A szöveg abból indul ki, hogy a következő évtizedben megjelenhetnek olyan rendszerek, amelyek a legtöbb feladatban túlszárnyalják az embert. Erre nem sci-fiként, hanem irányítási problémaként tekint: ha egy rendszer ennyire erős lesz, akkor előre tisztázni kell, mire való, és hogyan marad emberi kontroll alatt.A dokumentum két szinten húz határokat. Egyrészt általános elveket mond ki, például hogy az AI-nak embereket kell támogatnia, nem pedig lecserélnie. Másrészt konkrét, „abszolút korlátokat” vezet be. Ezek tiltják többek között a kibertámadások támogatását, a nukleáris fegyverekkel kapcsolatos segítségnyújtást és a deepfake-ek előállítását. A deepfake olyan mesterségesen generált vagy manipulált kép-, hang- vagy videótartalom, amely valódinak látszik, miközben hamis. Különösen hangsúlyos az a szabály, hogy a modellek nem használhatnak megtévesztő vagy önmagukat erősítő módszereket az emberi felügyelet kijátszására, vagyis nem válhatnak olyanná, mint egy szoftver, amely „okosban” megpróbálja elkerülni a leállítást vagy az átállítást.
Miért fontos
Ez azért érdekes, mert az AI-biztonság sokáig főleg magas szintű elvekről szólt. Itt viszont már egy működési kézikönyv körvonalai látszanak: nem elég azt mondani, hogy az AI legyen hasznos, azt is meg kell mondani, milyen feladatot nem végezhet el még akkor sem, ha a felhasználó erre kéri. Gondolj rá úgy, mint egy operációs rendszer legmélyebb jogosultsági szabályaira: hiába akar egy alkalmazás többet, bizonyos ajtók egyszerűen zárva maradnak. A mostani lépés azt mutatja, hogy a nagy szereplők egyre kevésbé csak a modellek képességeiről beszélnek, és egyre többet arról, hogyan lehet ezeket a képességeket korlátok közé szorítani a gyakorlatban. Ebben a kontextusban a TechCrunch is arra helyezte a hangsúlyt, hogy ez a dokumentum nem általános jövőképet ad, hanem azt mutatja meg, hogyan fordítják le a biztonsági elveket konkrét fejlesztési szabályokra.Mire figyelj
- Az lesz az igazán fontos kérdés, hogyan érvényesítik ezeket a korlátokat a gyakorlatban. Egy szabálykönyv önmagában kevés, ha nincs mögötte mérés, tesztelés és független ellenőrzés.
- Érdemes figyelni az úgynevezett beágyazott értékelők körüli munkát is. Ez leegyszerűsítve olyan belső vagy közvetlenül a fejlesztésbe épített ellenőrzési mechanizmusokat jelent, amelyek még a kiadás előtt próbálják kiszúrni a veszélyes viselkedést.
- A következő hónapokban az is sokat elárul majd, hogy más nagy AI-laborok mennyire hasonlóan konkrét tiltólistákat és felügyeleti szabályokat tesznek közzé. A biztonsági verseny most már nemcsak arról szól, ki tud erősebb modellt építeni, hanem arról is, ki tud hihetőbben korlátokat szabni neki.