Nem az a legérdekesebb a Koa-ban, hogy „okosabb-e” a legismertebb modelleknél, hanem az, hogy más problémára készült. A Salesforce új modellje azt üzeni: a vállalati AI-piacon nem feltétlenül a legnagyobb általános modell nyer, hanem az, amelyik olcsóbban, biztonságosabban és kiszámíthatóbban végzi el a munkát.

Mi történt

A Salesforce a Dreamforce konferencián bemutatta első úgynevezett reasoning modelljét, a Koát, amely az Nvidia nyílt súlyú Nemotron modelljére épül. A reasoning modell leegyszerűsítve olyan rendszer, amely nem csak egyetlen kérdésre próbál válaszolni, hanem több lépésen át tud végigmenni egy feladaton — például ügyfélszolgálati helyzeteket kezel, értékesítési folyamatot támogat vagy több feltételből rak össze egy választ.

A Koa-t kifejezetten sales-, marketing- és ügyfélszolgálati feladatokra hangolták. Ez a „post-training”, vagyis utólagos finomhangolás lényege: van egy általános alapmodell, amelyet egy adott munkakörnyezetre tanítanak rá. A fontos rész itt az, hogy ehhez nem valódi ügyféladatokat használtak, hanem szintetikus adatokat — vagyis mesterségesen előállított, valós mintázatokat utánzó példákat. Gondolj rá úgy, mint egy pilótaszimulátorra: a rendszer életszerű helyzeteken gyakorol, de nem valódi ügyfelek érzékeny adataiból tanul.

A modell az Agentforce platformban jelenik meg alternatívaként más modellek mellett. Korábban, ha egy ügynöknek hosszabb, több lépésből álló feladatot kellett megoldania, a kérés gyakran külső, zárt modellekhez került. A Koa-val a Salesforce ezt a képességet részben házon belülre húzza vissza, miközben továbbra sem zárja ki a külső partnereket: az Anthropic Claude-ja például továbbra is része marad a kínálatnak.

Miért fontos

Ez a bejelentés azért érdekes, mert jól látszik belőle, hogy a vállalati AI kezd leválni a „mindent tudó” modellek logikájáról. Egy cégnek sokszor nem az a legfontosabb, hogy a modell bonyolult matematikai feladatokban vagy látványos benchmarkokon villogjon, hanem hogy megbízhatóan kezelje az ügyfélkéréseket, kevesebb tokenből dolgozzon, és illeszkedjen a meglévő adatvédelmi és biztonsági szabályokhoz. A token itt nagyjából az AI „üzemanyaga”: minél kevesebbet fogyaszt ugyanahhoz a feladathoz, annál olcsóbb lehet az üzemeltetés.

A TechCrunch értelmezése szerint ez az a pont, ahol a zárt, élvonalbeli AI-laboroknak érdemes figyelniük: ha a nagy vállalati szoftvercégek nyílt súlyú alapmodellekre építve saját, célfeladatra optimalizált rendszereket készítenek, akkor az ügyfeleknek kevésbé lesz természetes, hogy minden összetettebb feladatot külső modellekre bízzanak.

Mire figyelj

  1. Érdemes nézni, mennyire válik be a Koa valós ügyfélszolgálati és értékesítési helyzetekben, nem csak demókban.
  2. Fontos kérdés lesz a költség: ha tényleg kevesebb tokennel old meg hasonló feladatokat, az komoly érv lehet a vállalatoknak.
  3. Ugyanilyen lényeges, hogy más nagy szoftvercégek is követik-e ezt az utat, és saját, szűkebb célra optimalizált modelleket építenek-e nyílt alapokra.
  4. Az is beszédes lesz, hogy a Salesforce meddig megy el a saját modelljeivel, miközben továbbra is együttműködik olyan szereplőkkel, mint az Anthropic. Ez nem feltétlenül szakítás a nagy AI-laborokkal, inkább annak jele, hogy a vállalatok többmodelles, rugalmasabb AI-stratégiát akarnak.