Ha eddig azt érezted, hogy a legerősebb AI-k egyre inkább „felhőbe zárt” szolgáltatások, az Inkling megjelenése egy másik irányt képvisel: letölthető, alakítható, és nem csak szövegre épít.

Mi történt

A Thinking Machines Lab kiadta az első saját AI-modelljét, az Inklinget. A modell open-weight (nyílt súlyú): a fejlesztők és kutatók nem csak használhatják, hanem le is tölthetik a modell tanult paramétereit, és igény szerint módosíthatják, finomhangolhatják. Ez a gyakorlatban olyan, mintha nem csak egy kész alkalmazást kapnál, hanem hozzáférnél a „motor beállításaihoz” is.

Az Inklinget nulláról tanították (nem egy meglévő modellre „ráépítve”), és multimodális: képes szöveget, hangot és videót értelmezni. A cég állítása szerint nem minden népszerű mérőszámon (benchmarkon) a legerősebb, de sok feladatban jól teljesít, és összetett következtetésre (reasoning) valamint kódolásra is alkalmas.

A modell mérete viszont önmagában jelzi, hogy ez nem „laptopon futtatható” kategória: 975 milliárd paraméteres. A paraméterek leegyszerűsítve a modell „memóriájának és készségeinek” számszerűsített lenyomatai; minél több van belőlük, annál nagyobb a potenciál, de annál nagyobb a számítási igény is. Az Inkling futtatásához jellemzően speciális chipekből álló кластер kell.

Érdekes részlet, hogy a labornál az Inklinget arra is használták, hogy saját magát finomhangolja és javítsa. A tréning során pedig megfigyeltek egy jelenséget: a modell belső „gondolatmenete” (chain-of-thought — az a köztes lépéssor, amivel eljut a válaszig) idővel tömörebbé vált, kevesebb nyelvtani „körítéssel”, miközben a végső válasz nem romlott. Gondolj rá úgy, mint amikor valaki ugyanazt a feladatot egyre rutinosabban oldja meg: kevesebb magyarázkodással, gyorsabban, de ugyanoda jut.

Miért fontos

Az open-weight modellek azért vonzók, mert testre szabhatók, és sok esetben olcsóbban üzemeltethetők, mint a kizárólag előfizetésért elérhető zárt rendszerek. Ugyanakkor az Inkling mérete azt is üzeni: a „nyíltság” önmagában nem egyenlő a széles hozzáféréssel, mert a komoly futtatási költség és hardverigény továbbra is belépési küszöb. Piaci szempontból a Thinking Machines ezzel a kiadással azt is jelzi, hogy a nagy költésű AI-versenyben nem csak eszközöket és ígéreteket, hanem tényleges alapmodellt is le tud tenni az asztalra.

Mire figyelj

  1. Licenc és felhasználási feltételek: a „nyílt súly” nem mindig jelent teljesen szabad felhasználást; a gyakorlati mozgásteret a licenc részletei adják meg.
  2. Valódi hozzáférhetőség: érdemes figyelni, milyen infrastruktúrán futtatható reálisan (milyen chip, mennyi gép), és lesz-e kisebb, olcsóbban futó változat.
  3. Multimodális minőség a gyakorlatban: a hang- és videóértésnél különösen számít, mennyire stabil a modell zajos, valós helyzetekben.
  4. „Önfinomhangolás” következményei: a tömörebb gondolatmenet hatékonyabb lehet, de kérdés, hogyan hat az átláthatóságra és a hibakeresésre, amikor egy modell egyre inkább „belső rövidítésekkel” dolgozik.

A Wired értelmezése alapján az Inkling egyszerre technikai bemutatkozás és állásfoglalás amellett, hogy az AI ne néhány szereplő kezében koncentrálódjon, hanem többek számára legyen építhető és alakítható infrastruktúra.