Mi történt
Az Anthropic bemutatta az Opus 5.5 modellt, az OpenAI pedig a GPT-6 Sol és Luna modelleket. Ezek nem azért érdekesek, mert teljesen új kategóriát nyitnának, hanem azért, mert ugyanazt a vállalati logikát követik: elfogadható vagy kicsit jobb teljesítmény, érezhetően alacsonyabb költség és gyorsabb működés mellett.Az Opus 5.5 az Anthropic fő, széles körben használható modelljének új verziója, főleg programozási és összetettebb tudásmunkára. A cég közlése szerint az input tokenek ára 4 dollár, az output tokeneké 20 dollár egymillió tokenenként, ami 20 százalékos csökkenés az Opus 5-höz képest. A cache read ára pedig 0,20 dollár egymillió tokenenként, ami 60 százalékos mérséklés. A „token” leegyszerűsítve az a szövegegység, ami alapján a modellek ára és terhelése számolható; gondolj rá úgy, mint egy AI-számlálóegységre. A cache read pedig olyan újrahasznosított köztes adat, ami különösen az ügynökszerű, több lépésből álló vagy kódolási feladatoknál számít sokat a végső költségben.
Miért fontos
A lényeg most nem az, hogy valamelyik modell minden benchmarkban látványosan leveri a másikat. Sokkal inkább az, hogy a nagy szolgáltatók egyre erősebb nyomás alatt vannak az olcsóbb alternatívák miatt. A vállalatok már nem feltétlenül akarják minden feladatra a legdrágább csúcsmodeleket használni: egyre többen váltogatnak több modell között, vagy úgynevezett modellroutereket használnak, amelyek automatikusan eldöntik, melyik kéréshez melyik AI a leggazdaságosabb. Ez olyan, mintha nem minden útra sportautót küldenél, hanem a feladathoz választanád ki a megfelelő járművet. Ebben a helyzetben a „kicsit jobb, sokkal olcsóbban” ígéret üzletileg fontosabb lehet, mint egy új, látványos képesség.Mire figyelj
- Érdemes nézni, hogy a valós használatban mennyit számít a gyorsulás és az alacsonyabb cache-költség, mert ezek főleg a soklépéses, automatizált munkafolyamatoknál hozhatnak nagy megtakarítást.
- Fontos lesz, hogy a vállalati ügyfelek elfogadják-e a szerény teljesítményjavulást elég jó kompromisszumnak a jelentősen alacsonyabb árért.
- Az is beszédes lesz, hogy az OpenAI és az Anthropic mennyire tudja feltartóztatni az olcsóbb, nyíltabb modellek térnyerését, mert most már nem csak a tudás, hanem az egységköltség is a verseny fő terepe.
