Ha azt hitted, a katonai AI legnagyobb kockázata a „chatbot-hallucináció”, a Project Maven története kijózanítóbb: nem (csak) a modell tévedhet, hanem az a tempó is, amire az egész célkijelölési gépezetet felpörgetik.

Mi történt

A The Verge a Project Mavenről közöl részletes anyagot Katrina Manson friss könyve kapcsán (Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare). A cikk szerint az amerikai hadsereg egyre nagyobb mértékben támaszkodik olyan AI-rendszerekre, amelyek felgyorsítják a célkijelölést (targeting) – különösen a Maven Smart Systemre.

Manson leírása alapján a Project Maven 2017-ben kísérletként indult: a cél az volt, hogy számítógépes látással (computer vision – gondolj rá úgy, mint „képfelismerő motorra”, ami videón és műholdképen próbál mintákat találni) elemezzék a drónok felvételeit. A motiváció prózai volt: a hadsereg a begyűjtött felvételeknek csak töredékét tudta emberi elemzőkkel átnézni, miközben a jövőbeli konfliktusokról azt feltételezték, hogy „gyorsabban futnak majd”, mint ahogy az emberek végig tudnák gondolni.

A projekt a nyilvánosságban 2018-ban robbant be, amikor a Google-alkalmazottak tiltakoztak a katonai együttműködés miatt; a Google végül kiszállt. A fejlesztés azonban nem állt meg: a The Verge szerint a rendszer végül Palantir közreműködésével épült tovább, és több nagy technológiai szereplő (Microsoft, Amazon, Anthropic és mások) technológiáira is támaszkodik. Mára a Maven a forrás szerint az amerikai fegyveres erők széles körében használt rendszer, és a NATO is vásárolt belőle.

A cikkben szereplő leírás alapján a Maven nem pusztán „képeket elemez”, hanem sokféle adatot szintetizál (műholdkép, radar, közösségi média és „tucatnyi más forrás”), majd ebből próbál azonosítani és kijelölni entitásokat a harctéren. A lényeg itt a szintézis: olyan, mintha egyetlen operátori felületre öntenék rá a térképet és az összes releváns jelzést, hogy a döntéshozó gyorsabban léphessen tovább.

A rendszer a cikk szerint a „kill chain”-t is gyorsítja. A „kill chain” (szó szerint „ölési lánc”) a cél felderítésétől az azonosításon és jóváhagyásokon át a fegyver hozzárendeléséig és a csapásmérésig tartó lépéssor. A Maven ezt egyfajta munkafolyamat-kezelő (workflow management) logikával támogatja: célpontok keresése, fegyverrel párosítás, és a célzási ciklus további lépéseinek gyors „végigkattintása”. Manson egy tisztviselőt idéz: ami korábban órákig tartott, az másodpercek alatt lefuthat; a napi célpontszám pedig a forrás szerint száz alatti nagyságrendből ezerre nőtt, és nagy nyelvi modellekkel (LLM – gondolj rá úgy, mint egy általános „szöveg- és információ-asszisztensre”, ami összefoglal, keres, javasol) akár napi ötezer célpontra is skálázható.

A The Verge egy tragikus példát is kiemel: a cikk szerint az Irán elleni háború első napján az ezer csapás egyik célpontja egy lányiskola volt, ahol több mint 150 ember halt meg, többségük gyerek. A helyszín korábban iráni haditengerészeti bázishoz tartozott, ugyanakkor online iskolaként szerepelt, és műholdképen játszóterek is látszottak. A történész Kevin Baker (The Guardian) idézett értelmezése itt fontos hangsúlyeltolást tesz: nem egy „chatbot” ölte meg a gyerekeket, hanem emberek nem frissítettek egy adatbázist, és más emberek olyan gyors rendszert építettek, hogy ez a hiba halálossá vált.

A cikk szerint Manson könyve arra is rávilágít, hogy a tempó tovább gyorsulhat: a hadsereg olyan programokon dolgozik, amelyek teljesen autonóm fegyvereket céloznak (példaként egy robbanóanyaggal megrakott drón Jet Ski-t említ).

Miért fontos

A Maven története azért különösen tanulságos, mert elmozdítja a vitát a látványos AI-képességekről a „rendszerszintű sebességre”. Nem az a fő kérdés, hogy egy modell felismer-e valamit egy képen, hanem hogy a döntéshozatal és végrehajtás csővezetéke mennyire lesz automatizált és mennyire lesz gyors. Gondolj rá úgy, mint amikor egy gyárban nem csak egy robotkart cserélsz le gyorsabbra, hanem az egész futószalagot felpörgeted: a selejt (hibás adat, elavult bejegyzés, félreértelmezett jel) ugyanúgy jön, csak sokkal nagyobb ütemben.

A hétköznapi technológiai tanulság is kényelmetlenül ismerős: a „rossz adat” és a „túl gyors workflow” együtt veszélyes kombináció. A cikkben idézett iskolai csapás példája azt sugallja, hogy a legnagyobb kockázat nem feltétlenül egyetlen AI-komponens „hallucinációja”, hanem az, hogy a rendszer a hibát gyorsan és hatékonyan viszi végig a folyamaton.

Mire figyelj

  1. Hol van a fék a folyamatban? A Maven jellegű rendszerek értelme a gyorsítás; a kérdés az, milyen pontokon marad érdemi emberi ellenőrzés, és ez időben mennyire reális, ha a ciklus másodpercekben mérhető.
  2. Adatminőség és frissítés: a célpont-adatbázisok, metaadatok, térképi címkék karbantartása „unalmas” munka, de a cikk logikája szerint ez válik kritikus biztonsági tényezővé.
  3. LLM-ek szerepe a katonai döntéstámogatásban: ha a nagy nyelvi modellek valóban növelik a skálát (napi célpontszámot), érdemes figyelni, pontosan milyen feladatokra használják őket (összegzés, javaslat, keresés, priorizálás), és hogyan auditálható a működésük.
  4. Autonóm fegyverek felé csúszás: a forrásban említett „teljesen autonóm” irány nem ugyanaz, mint a döntéstámogatás. A kettő közti határ – mi javaslat, mi végrehajtás – lesz a következő évek egyik kulcskérdése.