Az AI-verseny mostanra nem csak arról szól, ki tud nagyobb modellt építeni, hanem arról is, ki tud olyat adni, amit vállalatok és állami szereplők tényleg használni mernek. A Mistral új modellje pontosan erre a kényes egyensúlyra lő: erős legyen, nyitottabb legyen, de ne legyen kontroll nélkül szétszórva.

Mi történt

A francia Mistral AI bemutatta a Mistral Large 4-et, röviden ML4-et, egy új nagy, multimodális modellt. A „multimodális” itt azt jelenti, hogy nem csak szöveget kezel, hanem többféle bemenetet is képes értelmezni; gondolj rá úgy, mint egy olyan rendszerre, amely nem csak olvas, hanem más típusú információból is tud dolgozni. A modell beceneve „Le Chonk”, ami az 1 billió paraméterére utal. A paraméterek a modell belső beállításai: minél több van belőlük, annál nagyobb a rendszer kapacitása a mintázatok megtanulására, bár ez önmagában még nem garancia a jobb teljesítményre.

Az ML4 egyelőre nem nyílt súlyú modell. Ez fontos különbség: a „nyílt súlyú” azt jelenti, hogy a modell ténylegesen letölthető és helyben futtatható, nem csak egy online felületen érhető el. Most még csak egy nyilvános, védelmi korlátokkal ellátott végponton keresztül használható, vagyis a hozzáférés szabályozott. A cég terve szerint a modell súlyait három héten belül elérhetővé teszik, miután lefutnak a biztonsági tesztek. Közben megbízható partnerekkel és kormányzati szereplőkkel dolgoznak azon, hogy a nyílt hozzáférés inkább védelmi, ne pedig támadó célokat szolgáljon.

A háttérben legalább ennyire érdekes, hogy a modellt a vállalat saját számítási infrastruktúráján tanították be, 4 000 Nvidia GPU-val. A GPU olyan speciális processzor, amely különösen jól kezeli az AI-tanításhoz szükséges hatalmas párhuzamos számításokat; leegyszerűsítve ez a modern modellek „motorháza”. A cég állítása szerint ez jóval kevesebb erőforrás, mint amit több kínai vagy zárt modellre építő rivális használ, ami arra utal, hogy a Mistral a hatékonyságot is versenyelőnynek tekinti.

Miért fontos

Az ML4 nem pusztán egy újabb nagy modell a listán. A lényeg inkább az, hogy a Mistral megpróbál pozíciót fogni a zárt és a nyílt AI közötti résben. A zárt modellek sokszor kényelmesebbek és jobban kontrollálhatók, viszont kevésbé átláthatók. A nyílt súlyú modellek auditálhatók és testre szabhatók, cserébe nagyobb a visszaélés kockázata. Vállalatoknak és intézményeknek ez nem elméleti vita: nekik az számít, hogy a modell ellenőrizhető legyen, megfeleljen a biztonsági elvárásoknak, és közben ne kösse őket teljesen egyetlen szolgáltatóhoz. A TechCrunchnak nyilatkozó Pierre Stock szerint épp ezért fókuszálnak olyan területekre, mint a kiberbiztonság, a pénzügy vagy a chiptervezés, ahol a teljesítmény mellett az auditálhatóság és a kontroll is kulcskérdés.

Mire figyelj

  1. A legfontosabb kérdés az lesz, hogy a független benchmarkok mit mutatnak. A paraméterszám jól hangzik, de a valós összevetések döntik el, mennyire erős a modell a gyakorlatban.
  1. Érdemes figyelni, valóban megnyílnak-e a súlyok néhány héten belül. Ez meghatározza, hogy az ML4 tényleg nyíltabb alternatívává válik-e, vagy inkább csak részben kontrollált hozzáférésű termék marad.
  1. Az is sokat elárul majd, hogy a vállalati felhasználók mely területeken kezdik el alkalmazni. Ha a kiberbiztonságban, pénzügyben vagy chiptervezésben gyorsan megjelenik, az azt jelezheti, hogy a Mistral nem csak látványos modellt épített, hanem valódi piaci rést talált.