A generatív AI nemcsak jobb szövegeket, hanem jobb spameket is hozott: olcsóbb, gyorsabb és „emberibb” lett a zaj. Most a Reddit ugyanazzal a fegyverrel próbál rendet tenni, amivel a problémát részben felerősítették.

Mi történt

A Reddit arról számolt be, hogy nagy nyelvi modellekre (LLM-ekre) épülő eszközöket fejlesztett a spam visszaszorítására. Az LLM olyan AI-modell, ami rengeteg szövegből tanul, és képes emberihez hasonló mondatokat generálni — gondolj rá úgy, mint egy nagyon jó „szöveg-autokorrektorra és szövegíróra” egyben, ami viszont vissza is tudja fejteni a mintázatokat.

A platform állítása szerint naponta 23 millió spammegtekintést blokkol, és nagyjából 25 ezer új spamposztot és -kommentet fog meg naponta. A közösségi oldalak régóta használnak automatizált szűrőket, de a Reddit azt mondja, az új LLM-alapú megközelítés nagyobb arányban találja meg a problémás tartalmat, mert a korábbi rendszerekhez képest jobban észreveszi a finom, összehangolt viselkedési mintákat.

Miért fontos

A spam elleni harc eddig is macska-egér játék volt, de az LLM-ekkel az „egér” hirtelen megtanult folyékonyan, változatosan és konzisztensen írni. Ez azért számít, mert a modern spam nem feltétlenül tele van nyelvtani hibákkal vagy gyanús linkekkel: sokszor inkább mesterséges hype, koordinált vélemény- és narratívaépítés, vagy látszólag ártalmatlan kommentáradat, ami torzítja a beszélgetéseket.

Ha egy platform gyorsabban és pontosabban tudja felismerni az AI-val előállított vagy AI által támogatott visszaéléseket, az nemcsak a kéretlen reklámot csökkentheti, hanem elvileg a szabálysértő tartalmak (például gyűlöletkeltés) korábbi jelzését is segítheti. Ugyanakkor a moderálásnál a téves riasztások (ártatlan tartalom letiltása) és a kihagyások (problémás tartalom átcsúszása) ára is magas, ezért a hatékony működéshez jellemzően emberi felülvizsgálat is kell.

Mire figyelj

  1. Mit tekintenek „spamnek” a gyakorlatban? Nem mindegy, hogy tisztán automatizált reklámról, koordinált befolyásolásról vagy „mesterséges lelkesedésről” van szó — ezekhez eltérő szabályok és eltérő hibakockázatok tartoznak.
  2. Mennyire átlátható a mérés? A „20%-kal kevesebb kitettség” jól hangzik, de érdemes figyelni, hogy ezt milyen módszertannal számolják, és mennyire összevethető időszakok között.
  3. Hol a határ az AI-tartalom és a visszaélés között? Több platform engedi az AI-generált tartalmat, ha jelölve van; a kérdés az, hogy a jelölés, a rangsorolás és a moderálás hogyan áll össze egy következetes felhasználói élménnyé.

A TechCrunch AI által idézett vállalati állítások alapján a Redditnél most az a tét, hogy az LLM-ek ne csak a spamgyártást gyorsítsák fel, hanem a védekezést is érdemben hatékonyabbá tegyék — úgy, hogy közben ne sérüljön a valódi felhasználók beszélgetéseinek természetessége.