Az AI-verseny nem csak modellekről szól, hanem arról is, kié a vas alattuk. A Microsoft új Maia 300 chipje azt mutatja, hogy a következő nagy csata a háttérben, az adatközpontokban dőlhet el.

Mi történt

A Microsoft bejelentette a harmadik generációs, házon belül fejlesztett AI chipjét, a Maia 300-at. Ezt a lapkát kifejezetten AI-inferenciára szánják — vagyis arra a fázisra, amikor egy már betanított modell ténylegesen válaszol a kérdéseidre, kódot ír, összefoglal vagy ügynökszerűen több lépésben hajt végre feladatokat. A terv szerint a Maia 300 2027-ben kezd megjelenni éles, termelési környezetben futó AI-terheléseknél.

A cég állítása szerint az új chip 40 százalékkal több tokent tud előállítani megawattként, mint a vezető GPU-alapú rendszerek. A „token” leegyszerűsítve a modell által feldolgozott vagy generált szövegegység, így ez a mutató azt jelzi, mennyi AI-munkát lehet elvégezni adott energiafelhasználás mellett. Egy 96 gyorsítóból álló konfigurációban a Maia 300 akár hétszeres rackszintű tokenátvitelt is elérhet a Maia 200-hoz képest. Ez utóbbi csak idén januárban lett bejelentve, de már most is több éles szolgáltatás alatt dolgozik, köztük a Microsoft Copilot, a GitHub Copilot és a Microsoft saját AI-modelljei mögött.

A hatékonyságjavulás egyik kulcsa az úgynevezett chiplet architektúra. Erre úgy érdemes gondolni, mint amikor egy nagy, mindent egybeépítő alkatrész helyett több specializált elemből raknak össze egy rendszert. A számítási egységek, a memóriavezérlés és a be- és kimeneti funkciók külön válnak, így mindegyik rész a saját feladatára optimalizálható. Az új chip a TSMC N2P gyártástechnológiájára épül, ami szintén a jobb teljesítmény és energiahatékonyság irányába mutat.

Miért fontos

Ez a bejelentés valójában nem csak egy új chipről szól, hanem arról, hogy a Microsoft mennyire akarja kézben tartani az AI teljes technológiai láncát. Ha egy cég nem kizárólag Nvidia- vagy AMD-hardverre támaszkodik, jobban kontrollálhatja a költségeit, a kapacitásait és azt is, hogyan hangolja össze a saját modelljeit a saját infrastruktúrájával. Ez a hétköznapi felhasználónak közvetve gyorsabb válaszokat, olcsóbban skálázható szolgáltatásokat és stabilabban működő AI-termékeket jelenthet. A The Verge értelmezésében ez egyértelmű lépés afelé, hogy a Microsoft csökkentse a függését az Nvidia GPU-itól.

Mire figyelj

  1. A legfontosabb kérdés az lesz, hogy a 2027-re ígért éles bevezetés mennyire tartja az ütemtervet, mert az AI-hardverpiacon a csúszások gyakoriak.
  2. Érdemes figyelni, hogy a Maia 300 először mely szolgáltatások alatt jelenik meg nagyobb arányban: Copilot, Azure AI vagy a Microsoft saját modelljei alatt.
  3. Az is sokat elárul majd, hogy a gyakorlatban mennyire tudja kiváltani a külső GPU-kat, mert a papíron mért hatékonyság és a valós, vegyes terhelés alatt mért teljesítmény nem mindig ugyanaz.
  4. Hosszabb távon az lesz az igazán érdekes, hogy a saját chip és a saját modellek közös tervezése ad-e akkora előnyt, amivel a Microsoft közelebb kerülhet az AI-élmezőnyhöz.