A hangalapú AI ügyfélszolgálat papíron egyszerű: beszél, ért, válaszol. A gyakorlatban viszont elég egy kis késés vagy félrehallott név, és a „humán” élmény azonnal gépi bosszúsággá válik — különösen ott, ahol a hálózati feltételek és a nyelvi valóság nem a Szilícium-völgyre vannak szabva.

Mi történt

Az AethexAI nevű startup 3 millió dolláros pre-seed finanszírozást vont be 4DX Ventures vezetésével, többek között az Enza Capital, a Dorm Room Fund, a Mojo Ventures és a Stanford GSB 26 Fund részvételével. A cég egy vállalati platformot is elindít, ahol a cégek kipróbálhatják a technológiát, és API-kat/SDK-kat ad fejlesztőknek, hogy kísérletezhessenek a modellekkel.

A vállalkozást Mariama Diallo (CEO) és Ayooluwa Odemuyiwa (CTO) alapította: Diallo korábban a Goldman Sachsnál dolgozott, majd a YC-backed ModelML-nél vitt termék- és növekedési feladatokat; Odemuyiwa Caltech-végzett, a Metánál dolgozott, és a Stanford Business Schoolba is beiratkozott a cégalapítás előtt. A céljuk kifejezetten az volt, hogy feltörekvő piacokra építsenek, és ott oldjanak meg egy nagyon gyakorlati problémát: a voice AI sok helyen azért bukik el, mert nem elég gyors és nem érti elég jól a helyi beszédmintákat.

Ennek megfelelően nem kész „orchestration” (a beszédfelismerést, a nyelvi modellt és a hangszintézist összefűző vezérlőréteg) eszközökre építettek, hanem saját kisméretű modellt és saját orchestration réteget fejlesztettek. A logika egyszerű: ha a rendszer több lépésben, távoli szervereken gondolkodik, a hívás közben hallható késés és akadozás (latency és jitter) gyorsan tönkreteszi az élményt. Odemuyiwa érvelése szerint a régióban látott késés olyan mértékű volt, hogy minden lépésben „latency-t kell vágni”, amihez a kisebb modellek jobban illenek.

A cég a Kora modellcsaládot építi 300 millió és 1,7 milliárd paraméter közötti mérettel. A „paraméter” gondolj rá úgy, mint a modell belső „potmétereinek” száma: minél több van belőle, annál nagyobb és általában drágább/futásigényesebb a rendszer. Az AethexAI itt nem a legnagyobb modellt keresi, hanem a „pont elég jót”, ami gyorsan reagál és elég pontos.

Adatoldalon anonymizált call center felvételekkel tanítottak, emellett merevlemezeket küldtek afrikai rádióállomásoknak további hanganyag gyűjtésére. A címkézést (annotációt) egyetemistákból álló közreműködői hálózattal oldják meg, többek között helyi nevek kiejtésének rögzítésével. Állításuk szerint már napi 17 ezer hívást kezelnek.

Miért fontos

A voice AI-t sokan „plug-and-play” szoftverként képzelik el: bekötöd, és már megy is. Csakhogy a telefonos ügyfélszolgálat valójában infrastruktúra- és nyelvfüggő ipar: a hálózati késleltetés, a helyi telekommunikációs rendszerek, a dialektusok, a kódváltás (amikor egy beszélő mondaton belül is kever nyelveket) és az informális beszéd mind olyan tényező, amit a nyugati piacokra optimalizált rendszerek gyakran alulbecsülnek. Walter Baddoo, a 4DX Ventures vezetője ráadásul arra hívja fel a figyelmet, hogy Afrikában és a Közel-Keleten a vállalatok nagyjából háromszoros hívásvolument kezelnek a nyugati társaikhoz képest, mert a hang továbbra is domináns ügyfélcsatorna — vagyis a skálázás nem „nice to have”, hanem alapfeltétel.

Mire figyelj

  1. Késleltetés vs. pontosság trade-off: a kismodellek gyorsabbak, de kérdés, hogyan tartják a minőséget több nyelven/dialektusban, valós ügyfélszolgálati stressz alatt.
  2. Adatgyűjtés és minőség: az anonymizált call center adatok és rádiós hanganyagok hasznosak, de a lefedettség (mely dialektusok, mely országok) és a címkézés következetessége döntő lesz.
  3. Go-to-market realitás: a cég workshopokkal és „egy use case-szel indulj” megközelítéssel terelgeti az ügyfeleket, ami józan stratégia, de lassabb értékesítési ciklust is jelenthet.
  4. Telekom-partnerségek: ha tényleg nem működik a dobozos megoldás, akkor a helyi telephony integráció (csatornapartnerek, forward-deployed mérnökök) lesz a versenyelőny — és egyben a legnehezebben skálázható rész.