Mi történt
Az AI-hardverek piacán az Nvidia évek óta megkerülhetetlen: a legtöbb komoly modell tanítása és futtatása (különösen a felhőben) az ő GPU-in történik. A GPU (grafikus processzor) eredetileg képek párhuzamos feldolgozására készült, de pont ez a „sok mindent egyszerre” képesség teszi kiválóvá a neurális hálók számításaihoz is.Most viszont egyre több nagy technológiai és ipari szereplő épít saját chipet, hogy csökkentse a „single-supplier risket”, vagyis azt a kockázatot, amikor üzletkritikus kapacitás egyetlen beszállítótól függ. OpenAI például nyilvánosságra hozta, hogy egyedi, kifejezetten következtetési (inference) feladatokra szánt chipen dolgozik Broadcommal, Jalapeño néven. A következtetés itt azt jelenti, amikor a már betanított modell „élesben” válaszol: ez az a rész, ami a felhasználó számára a chatelést, képgenerálást vagy vállalati automatizálást jelenti.
A jelenség nem egyedi: Google és Apple régóta épít saját szilíciumot, és a kör bővül olyan nevekkel is, mint a SpaceX. A közös nevező: nem feltétlenül az Nvidia leváltása a cél, inkább egy második, kontrollálható út kiépítése.
Miért fontos
A saját chip fejlesztése elsőre luxusnak hangzik, de valójában stratégiai eszköz. Gondolj rá úgy, mint egy étterem konyhájára: ha mindig külsős beszállítótól függsz, akkor az ár, a szállítás és a választék is mások kezében van. Egyedi hardverrel viszont jobban hozzá lehet igazítani a számítást a konkrét igényekhez (például inference-ben alacsonyabb késleltetéshez vagy jobb energiahatékonysághoz), és kiszámíthatóbbá válhat a kapacitás. A TechCrunch értelmezése szerint ez inkább fedezeti lépés, mint „szakítás”: a cégek több lábon akarnak állni, miközben a piac továbbra is erősen Nvidia-központú.Mire figyelj
- Inference fókusz: ha a saját chipek főleg a modellfuttatásra optimalizálnak, az a felhőszolgáltatások és AI-termékek költségét és válaszidejét is érezhetően befolyásolhatja.
- Ellátási és tárgyalási erő: már az is számít, ha a nagy vevőknek van alternatívájuk — ez árban, hozzáférésben és ütemezésben is alkupozíciót ad.
- Szoftver-ökoszisztéma: a chip önmagában kevés; a fejlesztői eszközök, fordítók és könyvtárak döntik el, mennyire könnyű rá átállni.
- Nem mindenki tudja megcsinálni: az egyedi szilícium drága és lassú műfaj, így a trend hatása leginkább a legnagyobb szereplőknél és a felhőben fog először látszani.