Amikor egy „chatbot” szóba kerül, legtöbben ügyfélszolgálatra vagy szövegírásra gondolunk. Most viszont ugyanaz a technológiai kategória – nagy nyelvi modellek – a háborús célpontkijelölés környékén bukkan fel, ráadásul egy teljesen más ügy, egy Clean Air Act-per mellékszálaként.

Mi történt

Egy, a Pentagon mesterségesintelligencia-vezetőjétől, Cameron Stanley-től származó, eskü alatt tett nyilatkozat arra utal, hogy Elon Musk xAI-jának Grok nevű chatbotját is bevonták nemzetbiztonsági felhasználásba az Egyesült Államok és Izrael Irán elleni háborújának korai szakaszában. A dokumentum szerint a rendszer „több mint 2 000 lőszert” segített „2 000 különálló célpontra” alkalmazni 96 órán belül.

A nagy nyelvi modell (LLM) olyan AI, ami rengeteg szövegből tanulva képes nyelvi mintákat felismerni és válaszokat generálni. Gondolj rá úgy, mint egy nagyon erős „szöveg-alapú elemzőre”, amely összefoglal, következtet, listáz és javaslatokat ad – csak épp nem garantáltan tévedhetetlen, és nem „érti” a világot emberi értelemben.

A háború elején már nyilvánosságot kapott, hogy amerikai katonai személyzet az Anthropic Claude modelljét is használta bizonyos célpontok kiválasztásához. A forrásanyag civil célpontokat is említ – például a teheráni Azadi Sportkomplexumot és egy lányiskolát –, és jelentős civil áldozatokról ír.

Miért fontos

A történet nem csak arról szól, hogy „AI-t használtak”, hanem arról, milyen szerepet kaphat egy LLM a katonai döntéshozatalban. Egy ilyen modell képes lehet gyorsan feldolgozni nagy mennyiségű jelentést, hírszerzési összefoglalót vagy nyílt forrású információt, és prioritási listákat, lehetséges összefüggéseket adni. De pont ez a veszélye is: ha egy rendszer magabiztosan fogalmaz, az könnyen „döntési gravitációt” hoz létre – a kezelők hajlamosak lehetnek túl sokat ráhagyni, vagy a saját előfeltevéseikhez igazodó válaszokat kérni tőle. Ráadásul itt nem egy elszigetelt kísérletről van szó: a nyilatkozat szerint Grok egyike annak a négy modellnek, amely jelenleg „képes nemzetbiztonsági alkalmazások támogatására”, és „kiemelten fontos nemzetbiztonsági ügyként” kezelték.

Mire figyelj

  1. Mit jelent pontosan a „használat”? Célpont-azonosítás, rangsorolás, szöveges összefoglalás, vagy tényleges célkijelölési javaslat? A különbség nem nyelvészet: ettől függ, hol van az emberi felelősség és ellenőrzés határa.
  2. Milyen adatokból dolgozott a modell? Egy LLM kimenete nagyrészt attól függ, milyen inputot kap, és milyen forrásokból származik az információ. A „gyorsaság” itt könnyen a minőség és a verifikáció rovására mehet.
  3. Miért egy környezetvédelmi perben derült ki mindez? A nyilatkozat egy NAACP által indított, a Clean Air Act megsértését állító ügyben került elő, ahol az xAI adatközponti energiaellátásával kapcsolatos szennyezési vádak merültek fel. A Futurism AI értelmezése szerint ez ritka, éles példája annak, amikor a nemzetbiztonsági érvelés egyszerre jelenik meg külföldi hadműveletek és belföldi szabályozási viták igazolására.
  4. Átláthatóság és auditálhatóság: Ha a döntés-előkészítésben LLM-ek szerepet kapnak, kulcskérdés lesz, hogy később visszakereshető-e: ki mit kérdezett, milyen válasz jött, és az hogyan befolyásolta a döntést.

Ha a következő hetekben további részletek derülnek ki, a lényeg nem az lesz, hogy „melyik chatbot” volt a soros, hanem az, hogy milyen szabályok és ellenőrzések mellett engedünk be valamit a döntési láncba, ami gyors, meggyőző – és időnként téved.