Mi van akkor, ha egy AI nem a feladatokat gyorsítja, hanem direkt hagyja magát átverni? Az ausztrál Apate erre épít üzletet: a csalókat saját módszereikkel próbálja lefoglalni, miközben értékes adatokat gyűjt róluk.

Mi történt

A 2024-ben alapított Apate.ai több ezer AI ügynököt futtat, amelyek áldozatnak adják ki magukat. Ezek az ügynökök felveszik a csalóhívásokat, válaszolnak gyanús üzenetekre és e-mailekre, megnyitnak adathalász linkeket, sőt közösségi médiás csoportokba is beépülnek. Különböző életkorú, nemű, akcentusú és nyelvű szerepeket játszanak el, hogy minél tovább beszéltessék a csalókat.

A cég állítása szerint eddig 2,5 millió beszélgetésben összesen 17 évnyi időt vett el a csalóktól. Ennél fontosabb, hogy az ügynökök olyan részleteket próbálnak kiszedni, amelyekhez általában csak a kár bekövetkezése után jutnak hozzá a védekező szervezetek: bankszámlaszámokat, kriptotárca-címeket, telefonszámokat, rosszindulatú weboldalakat, valamint azt is, milyen márkáknak adják ki magukat a csalók. Ezt az információt bankok, távközlési cégek, állami szervek és közművek használhatják fel csalásmegelőzési lépésekhez.

A háttér sem véletlen: az ötlet egy valós csalóhívásból indult, amikor az alapító 44 percig tartotta szóval a hívót. Ebből nőtt ki az a kutatási munka, amely gépi tanulással és természetesnyelv-feldolgozással elemezte a csalóhívások tartalmát. A természetesnyelv-feldolgozás leegyszerűsítve azt jelenti, hogy a rendszer megpróbálja emberi nyelvként „érteni” a beszélgetéseket — nem csak szavakat keres, hanem mintákat, szándékot és visszatérő trükköket is.

Miért fontos

A csalás elleni védekezés sokszor utólagos: a telefonszolgáltató letilt egy számot, a bank kiszúr egy gyanús tranzakciót, de addigra a csaló már kapcsolatba lépett valakivel. Az Apate modellje ezt fordítja meg azzal, hogy közvetlenül a csalók infrastruktúráját és módszereit próbálja feltérképezni. Gondolj rá úgy, mint egy digitális beépített nyomozóra: nem a betörés után nézi meg, mi tűnt el, hanem előre figyeli, kik készülnek betörni, milyen eszközökkel, és hova viszik majd a zsákmányt.

Ez azért időszerű, mert az AI nemcsak a védekezést, hanem a támadást is olcsóbbá és skálázhatóbbá tette. A csalók ma már könnyebben futtatnak tömeges, személyre szabott beszélgetéseket, sőt hang- és képmás-hamisításra is használhatnak úgynevezett deepfake technológiát. Ebben a helyzetben különösen értékes lehet minden olyan rendszer, amely nemcsak blokkol, hanem előre jelez és összeköti a szétszórt jeleket. A TechCrunch-nak adott értékelés szerint az Apate pont ebben akar különbözni: nem a kár után reagál, hanem a csalóhoz megy oda előbb.

Mire figyelj

  1. Az egyik nagy kérdés az lesz, mennyire skálázható ez nemzetközileg. A csalási minták országonként, nyelvenként és szabályozási környezetenként eltérnek.
  2. Érdemes figyelni, mennyire tudják a begyűjtött adatokat valódi megelőzéssé alakítani az ügyfelek. Az információ önmagában kevés, ha nem lesz belőle gyors tiltás, figyelmeztetés vagy ügyfélvédelem.
  3. Az is fontos, hogyan reagálnak majd a csalók. Ha felismerik, hogy botokkal beszélnek, gyorsan változtathatnak a taktikán — ez hosszú távon folyamatos macska-egér játék maradhat.
  4. A cég friss tőkét vont be, és londoni irodát, valamint erősebb amerikai jelenlétet tervez. Ez jó jel arra, hogy a piac nem pusztán technológiai érdekességként, hanem komoly védelmi eszközként kezdi kezelni az ilyen AI ügynököket.