A nyílt AI-modellek versenyében most nem csak az számít, ki a legerősebb, hanem az is, ki tud használható teljesítményt adni olcsóbban. A Reflection új modellje, a Beam pontosan erre épít: nagy tudás, kisebb futtatási költség ígéretével.

Mi történt

A brooklyni Reflection hivatalosan bemutatta a Beam nevű modelljét, amely a cég első úgynevezett frontier open-weight rendszere. Az open-weight azt jelenti, hogy a modell súlyai — leegyszerűsítve a betanult „belső beállításai” — elérhetők lesznek, így mások is könnyebben futtathatják, finomhangolhatják vagy beépíthetik saját rendszereikbe. A Beam szöveges modell, tehát nem képekkel vagy hanggal dolgozik, és úgynevezett mixture-of-experts felépítést használ: gondolj rá úgy, mint egy nagy szakértői csapatra, ahol egy feladathoz mindig csak a releváns specialisták kapcsolódnak be, nem az egész szervezet dolgozik egyszerre.

A cég közlése szerint a Beam összesen 501 milliárd paraméteres, de ebből egyszerre 23 milliárd aktív. Ez fontos különbség, mert a paraméterek száma önmagában nem mond el mindent: az számít igazán, mennyi részt kell ténylegesen megmozgatni egy válasz előállításához. A modellt 23,8 billió tokenen tanították elő, és 1 millió tokenes kontextusablakkal érkezik, vagyis nagyon hosszú dokumentumokat és beszélgetéseket is képes egyben kezelni. A Reflection azt állítja, hogy fejlett következtetési teszteken a Beam nagyjából egy szinten van a vezető kínai nyílt modellekkel, miközben 3-4-szer kevesebb számítási igénnyel futtatható. Ezt egyelőre nem erősítették meg független mérések.

A háttér legalább ennyire érdekes. A Reflection 2024-ben indult, alapítói korábban a Google DeepMindnál dolgoztak, és a cég már közel 4,7 milliárd dollárnyi tőkét vont be. Emellett több mint 7 milliárd dollár értékű megállapodásokat kötött a szükséges GPU-kapacitás biztosítására 2029-ig. Ez azért lényeges, mert a csúcskategóriás modellek fejlesztésében nem csak a kutatási ötlet számít, hanem a számítási infrastruktúra is — nagyjából úgy, ahogy egy modern autógyárnál sem elég a tervrajz, kell hozzá az üzem is.

Miért fontos

A Beam nem egyszerűen egy új modell a sok közül, hanem egy üzleti és geopolitikai pozicionálás része. A Reflection vállalatoknak és szuverén államoknak akar helyi, testre szabható „AI gyárakat” építeni, vagyis olyan rendszereket, amelyeket saját adatokon lehet továbbhangolni, helyben lehet futtatni, és nem kell teljesen külső szolgáltatókra bízni. Ez különösen ott lehet vonzó, ahol fontos az adatkontroll, a költség vagy a technológiai önállóság. Ha a cég teljesítményre és árra vonatkozó állításai megállják a helyüket, akkor a nyugati open modellek mezőnyében komoly új szereplő jelenhet meg a kínai fejlesztők és a zárt amerikai laborok mellett.

Mire figyelj

  1. A legfontosabb kérdés az, hogy a Beamről szóló teljesítményadatokat mikor és hogyan igazolják vissza független tesztek.
  2. Érdemes figyelni a hónapra ígért súlykiadásra és technikai dokumentációra, mert ezekből derül ki, mennyire lesz valóban használható a modell fejlesztőknek és cégeknek.
  3. Kulcstéma lesz az is, hogy a „helyi AI gyár” elképzelés mennyire válik valós termékké, nem csak jól hangzó stratégiává. Ebben a TechCrunch is azt emeli ki, hogy a célközönség már most a nagyvállalatok és az állami szereplők köre, nem elsősorban a hobbi-fejlesztők világa.