Mi történt
A Groq bejelentett egy 650 millió dolláros friss finanszírozási kört. A befektetést a Disruptive (egy dallasi késői fázisú befektetőcég, Alex Davis alapításával) és az Infinitum (floridai hedge fund) vezette. A vállalat nem közölt új értékeltséget; legutóbb 6,9 milliárd dollárra árazták be egy 750 millió dolláros kör után.A tőkebevonás nagyjából hat hónappal azután jött, hogy az Nvidia nem kizárólagos licencmegállapodást kötött a Groq technológiájára, és közben átigazolta a cég alapító-vezérigazgatóját, Jonathan Rosst, valamint több kulcsvezetőt és munkatársat. Ross korábban a Google-nél dolgozott, és az AI-chipek világában a Google TPU (Tensor Processing Unit) fejlesztésében játszott szerepe miatt lett ismert. A Groq társalapítója, Doug Wightman a megállapodás után a cégnél maradt, és vezérigazgató lett.
A Groq eredetileg egy saját chipet épített, amit LPU-nak (language processing unit) nevezett. Gondolj rá úgy, mint egy olyan, kifejezetten „szöveg- és token-gyártásra” optimalizált számológépre, amely főleg inference-re való — vagyis arra a fázisra, amikor a már betanított modell ténylegesen válaszol, kódot ír, összefoglal, fordít. A Groq ezt felhőszolgáltatásként vagy helyben telepíthető hardveres klaszterként adta.
Miért fontos
Az Nvidia közben megszerezte az LPU-khoz kapcsolódó IP-t (szellemi tulajdont), és márciusban egy saját, Groq-alapú inference klasztert is bejelentett. Ez a helyzet a Groq számára egyszerre jelent validációt és fenyegetést: a technológia elég értékes volt ahhoz, hogy az Nvidia ráépítsen, de ezzel a Groq hardveres megkülönböztetése is elvékonyodhat.A válasz egy pivot: a Groq azt mondja, most a neocloud üzletágára fókuszál. A „neocloud” itt lényegében egy új típusú felhőszolgáltató: nem általános célú infrastruktúrát árul, hanem AI-futtatásra optimalizált kapacitást. A cég állítása szerint 13 adatközponttal működik több régióban, és több millió fejlesztőt, illetve több ezer AI-céget szolgál ki, heti szinten trilliós tokenmennyiséget feldolgozva.
Mire figyelj
- Verseny az inference felhőben: a kereslet óriási, de a különbséget egyre inkább az ár/teljesítmény, a késleltetés (mennyi idő alatt jön válasz), a megbízhatóság és a fejlesztői élmény fogja adni, nem csak a chipmárka.
- Mennyire „kommoditizálódik” a hardverelőny: ha ugyanaz a mag-IP több szereplőnél is megjelenik, a Groq-nak szolgáltatási szinten kell tartós előnyt építenie.
- Új vezetők, új végrehajtás: a cég több kulcspozíciót újratöltött (COO, CTO, CPO). A következő 6–12 hónap arról szólhat, hogy ez a csapat mennyire tud stabil terméket, értékesítést és üzemeltetést hozni.
A TechCrunch értékelése szerint a Groq esélyei azon múlnak, mennyire marad versenyképes az inference felhője úgy, hogy a kulcs hardveres IP már az Nvidia ökoszisztémájában is ott van — és ez a kérdés most az egész „AI-infrastruktúra” piac egyik legérdekesebb tesztje.
