A választási manipuláció régen emberekből, hamis profilokból és komplett álhírgyárakból álló, drága művelet volt. Most egyre inkább úgy néz ki, hogy ugyanezt kisebb csapatok is megpróbálhatják elérni AI-val, gyorsabban és jóval olcsóbban.

Mi történt

Egy friss fenyegetésértékelés feltárt egy malajziai politikai befolyásolási kísérletet, amelyben Claude-ot használták egy választási manipulációs platform felépítésére. A művelethez nagyjából 1000 X-fiókból álló hálózat, egy „Malaysia Pulse” nevű hamis híroldal és több kitalált dokumentum tartozott. A rendszer népszámlálási és választási adatokat is felhasznált, hogy érzékeny törésvonalakra célozzon rá, például etnikai, vallási és monarchiával kapcsolatos témákra Malajzia mind a 222 parlamenti körzetében.

A kísérletet végül megakasztották, mielőtt valóban hatékonnyá válhatott volna, de a módszer ettől még figyelmeztető. A lényeg nem az, hogy az AI „magától” manipulál választásokat, hanem az, hogy jelentősen felgyorsítja a tartalomgyártást. Gondolj rá úgy, mint egy propaganda-összeszerelő sorra: amihez korábban sok ember, sok idő és sok különálló eszköz kellett, azt most néhány jól megírt utasítással is el lehet indítani. A terjesztéshez továbbra is közösségi platformok, hamis profilok és médiának látszó oldalak kellenek, de a belépési küszöb látványosan lejjebb került.

A jelentés szerint nem elszigetelt esetről van szó. Az érintett szereplők között kormányokhoz köthető propagandaintézmények, állami média és politikai befolyásolást árusító magáncégek is megjelentek. A hamis malajziai oldal ráadásul valós híreket gyűjtött be, majd a modellt többszöri átírásra használta, végül kitalált szerzőnevekkel publikálta újra őket. Ez különösen nehézzé teszi a felismerést, mert nem teljesen légből kapott szövegekről van szó, hanem részben valós anyagok újracsomagolásáról.

Miért fontos

Délkelet-Ázsia már most is különösen sérülékeny a dezinformációval szemben: fiatal, folyamatosan online lévő társadalmakról van szó, ahol a politikai és társadalmi megosztottság könnyen felerősíthető. Az AI ebben nem új problémát teremt, hanem a meglévőt skálázza fel. Személyre szabottabb üzeneteket lehet gyártani, gyorsabban lehet reagálni a napi eseményekre, és olcsóbban lehet „elárasztani” a nyilvánosságot tartalommal. A Guardian által idézett szakértők szerint ez nemcsak a választók meggyőzéséről szól, hanem arról is, hogy a közbeszédet zajjal töltsék meg, így a hiteles információ nehezebben találjon utat az emberekhez. Ráadásul a célpont nem csak az emberi olvasó lehet: ha elegendő mennyiségű félrevezető tartalom kerül a nyilvános térbe, az idővel azokat a nagy nyelvi modelleket is befolyásolhatja, amelyek nyilvános szövegekből tanulnak vagy azokra támaszkodnak.

Mire figyelj

  1. A következő választási ciklusokra: Malajziában 2027 végén jöhet parlamenti választás, a Fülöp-szigeteken és Kambodzsában 2028-ban, Indonéziában pedig 2029-ben. Ezek fontos tesztek lesznek arra, mennyire vált tömeges eszközzé az AI-alapú befolyásolás.
  1. A terjesztési csatornákra: az AI önmagában nem elég, a döntő kérdés az lesz, mennyire hatékonyan tudják a hamis hálózatok használni az X-et, a Facebookot, a TikTokot és a helyi híroldalakat.
  1. A „valódi hírből átírt álhír” jelenségre: ez sokkal nehezebben szűrhető, mint a teljesen kitalált tartalom, mert külsőre hitelesebbnek tűnik.
  1. Arra, hogyan reagálnak a modelleket fejlesztő cégek: a gyorsabb letiltás, a jobb visszaélés-felismerés és az iparági együttműködés sokat számít majd, de a következő években valószínűleg ez egy folyamatos versenyfutás marad.