Ha azt hitted, az AI-verseny csak jobb modellekről szól, érdemes ránézni a háttérben futó hardverháborúra: egyre több szereplő akar saját chipet, mert a számítási kapacitás lett az új szűk keresztmetszet.
Mi történt
Az Anthropic a jelek szerint komolyabban foglalkozik egy saját, egyedi AI chip ötletével. A mostani információk alapján a cég kapcsolatba lépett a Samsunggal, hogy egy lehetséges együttműködést feltérképezzenek egy készülő chip körül.A részletek egyelőre kifejezetten nyitottak: még nincs végleges döntés arról, pontosan mire használnák a chipet, hogyan illeszkedne a szerverekbe, vagy mekkora teljesítményt célozna. Közben az Anthropic kommunikációja alapján a „több lábon álló” hardverstratégia marad a központban — vagyis továbbra is többféle chipre támaszkodnának (különböző nagy beszállítóktól), nem egyetlen megoldásra tennének fel mindent.
Miért fontos
A saját chip fejlesztése az AI-cégeknek nagyjából olyan, mint amikor egy forgalmas étterem nem csak a beszállítókra hagyatkozik, hanem bizonyos alapanyagokat maga termel meg: nem feltétlenül azért, mert mindenben jobb lesz, hanem mert kiszámíthatóbbá válik a működés és jobban kézben tartható a költség. Az AI-nál a „konyha” a számítási infrastruktúra, a legdrágább és legszűkösebb erőforrás pedig a gyorsítóchip (tipikusan GPU), amiből a piacon továbbra is az Nvidia dominál. Egy egyedi chip két dolgot ígérhet:- hatékonyságot egy konkrét feladatra (például „inference”-re, azaz amikor a betanított modell válaszol a felhasználóknak),
- nagyobb függetlenséget a legkeresettebb beszállítótól és a hozzá kapcsolódó ellátási/költségkockázatoktól.
Mire figyelj
- Mire optimalizálják a chipet? Nem mindegy, hogy tanításra (training) vagy futtatásra (inference) készül. Előbbi brutális számítási igény, utóbbi pedig költség- és energiahatékonysági játék, ahol a „teljesítmény per watt” (mennyi munkát végez adott fogyasztás mellett) a kulcsmutató.
- Mennyire marad többbeszállítós a stratégia? Az Anthropic azt üzeni, hogy a vegyes hardverstack (különböző chipek kombinációja) marad. A kérdés az, hogy a saját chip „kiegészítő motor” lesz-e bizonyos feladatokra, vagy idővel a központi erőforrássá nő.
- Mit lép a piac az Nvidia-függőségre? A versenytársak is ebbe az irányba mennek: a custom chipek célja sokszor nem az, hogy „mindenben gyorsabbak”, hanem hogy olcsóbban, stabilabban és jobban tervezhetően lehessen AI-t szolgáltatni. A TechCrunch által idézett vállalati reakció alapján az Anthropic egyelőre óvatosan, opcióként kezeli a Samsung-szálat — ami arra utal, hogy a döntésnél a technikai előnyök mellett a beszállítói kockázat és a hosszú távú kapacitáslekötés is döntő lesz.
Ha az Anthropic tényleg belép a saját chip világába, az kevésbé látványos, mint egy új modellbemutató — de a következő évek AI-szolgáltatásainak árazását, elérhetőségét és megbízhatóságát sokkal közvetlenebbül befolyásolhatja.