Mi történt
Az AI-ipar ma már nemcsak modelleket és termékeket gyárt, hanem új fogalmakat is. A leggyakrabban emlegetett rövidítések és kifejezések közé tartozik az LLM, vagyis a nagy nyelvi modell; az AI agent, azaz olyan rendszer, amely több lépésből álló feladatokat képes végrehajtani helyetted; a chain-of-thought reasoning, ami leegyszerűsítve azt jelenti, hogy a modell köztes lépésekre bont egy problémát, hogy pontosabb választ adjon.Ide kapcsolódik a coding agent is, amely nemcsak kódrészleteket javasol, hanem képes írni, tesztelni és hibát keresni is. Az API endpointokat érdemes úgy elképzelni, mint rejtett gombokat egy szoftver hátulján: más programok ezeken keresztül tudják „megnyomni” a funkciókat. Ez különösen fontos az ügynökök világában, mert így tudnak más szolgáltatásokkal együttműködni emberi kattintgatás nélkül.
A háttérben gyakran előkerül a compute fogalma is, ami egyszerűen a szükséges számítási kapacitást jelenti — azokat a chipeket és infrastruktúrát, amelyek nélkül a modellek sem betanítani, sem futtatni nem lehet. A deep learning, vagyis a mélytanulás ennek az egyik alaptechnikája: többrétegű neurális hálózatokkal dolgozik, amelyek nagy mennyiségű adatból tanulnak mintázatokat. A diffusion modellek zajból építenek vissza képet, hangot vagy más tartalmat, mintha egy összezavart kirakóst raknának újra össze. A distillation pedig afféle tudásátadás egy nagyobb és egy kisebb modell között: a „tanár” modell viselkedését próbálják átültetni egy gyorsabb, olcsóbban futtatható „diák” modellbe. A fine-tuning ezzel szemben utólagos specializálás: egy általános modellt ráhangolnak egy konkrét feladatra vagy iparágra.
Miért fontos
Ezek a kifejezések nem puszta divatszavak, mert mindegyik valamilyen gyakorlati különbséget takar. Nem ugyanaz, ha egy chatbot csak válaszol, vagy ha ügynökként önállóan műveleteket is végez. Nem mindegy, hogy egy modell általános célú, vagy finomhangolt egy szűk területre. És az sem mellékes, hogy egy rendszer miért gyorsabb vagy olcsóbb: lehet mögötte desztilláció, több számítási kapacitás vagy más architektúra. Az olyan új fogalmak, mint az „opaque recurrence” pedig azért kapnak figyelmet, mert olyan működési módokra utalnak, amelyeket még a kutatók sem látnak teljesen át — ez már nemcsak termékes, hanem biztonsági kérdés is, ahogy azt a TechCrunch által összegyűjtött példák is jól mutatják.Mire figyelj
- Nézd meg mindig, hogy egy cég mit ért „ügynök” alatt. Van, ahol ez valódi önálló végrehajtást jelent, máshol csak egy fejlettebb chatbotot.
- Figyeld, hogy a pontosságot milyen módszerrel javítják. A láncolt gondolkodás, a finomhangolás és a desztilláció nagyon különböző megközelítések, még ha kívülről hasonló eredményt is ígérnek.
- Az új, nehezen értelmezhető technikai fogalmaknál érdemes külön figyelni arra, hogy van-e mögöttük világos magyarázat. Ha nincs, az sokszor nem a te hiányosságod, hanem annak a jele, hogy maga a terület is még formálódik.
