Mi lenne, ha az AI-asszisztensed nem egy távoli szerveren dolgozna, hanem közvetlenül a saját gépeden? A Perplexity új megoldása ezt ígéri, és ezzel egy olyan irányt erősít, ami sokaknak fontosabb lehet, mint maga a nyers modellméret: a sebességet, a kontrollt és az adatvédelmet.

Mi történt

A Perplexity bemutatta a Portable Computer nevű új, úgynevezett „local-first” AI-ügynökét. Ez lényegében a korábbi Personal Computer ügynök új változata, azzal a különbséggel, hogy a feladatokat elsősorban helyben futó modellek végzik el, nem a felhőben. Magyarul: a modellek, a fájljaid és a munka nagy része a saját gépeden marad, és csak akkor megy online a rendszer, ha egy feladat ezt tényleg megköveteli.

A funkciók ettől még nem szűkülnek be látványosan. Az ügynök továbbra is képes külső szolgáltatásokhoz kapcsolódni, például Google Drive-hoz, Gmailhez, Slackhez vagy GitHubhoz, ha erre szükség van. A helyi futtatás előnye, hogy gyorsabb válaszidőt adhat, nem fogyaszt folyamatosan felhős krediteket vagy tokeneket, és csökkenti annak kockázatát, hogy érzékeny adatok feleslegesen elhagyják a gépedet. Gondolj rá úgy, mint amikor egy dokumentumot nem egy külső irodában dolgoznak fel, hanem a saját zárt tárgyalódban.

A gond inkább az, hogy ez most még nem egy széles tömegeknek szánt funkció. A Portable Computer csak fizetős előfizetőknek érhető el, és jelenleg Linuxon használható, Windows-támogatást szeptemberre ígérnek. Emellett komoly hardver kell hozzá: Linuxon Nvidia RTX GPU-val szerelt gép vagy Nvidia DGX Spark, Windowson pedig legalább 24 GB VRAM-mal rendelkező NVIDIA RTX videokártya. A VRAM a videokártya saját memóriája, ami az AI-modellek futtatásánál kulcsfontosságú; minél nagyobb a modell, annál több kell belőle.

A helyben futó modellek között szerepel a Qwen 3.8 27B, illetve egy továbbhangolt változat, a PPLX 27B. A „27B” itt nagyjából 27 milliárd paramétert jelent, vagyis olyan belső beállításokat, amelyek meghatározzák, hogyan „gondolkodik” a modell. Érkezik még az Nvidia Nemotron 3.5 Lightning is, amelyet hosszabb és nagy terhelésű feladatokra szánnak.

Miért fontos

Ez a bejelentés azért érdekes, mert jól mutatja, merre mozdul az AI-eszközök következő hulláma. Az elmúlt években a legtöbb szolgáltatás a felhőre épült: kényelmes, de cserébe lassabb lehet, pénzbe kerül minden lekérés, és az adataid egy része szükségszerűen külső rendszerekbe kerül. A helyi AI ezzel szemben több kontrollt ad. Különösen azoknak lehet vonzó, akik érzékeny dokumentumokkal dolgoznak, fejlesztenek, kutatnak, vagy egyszerűen nem akarnak minden automatizált feladatért külön tokenköltséget fizetni. A ZDNet értékelésének lényege is ez: a koncepció valóban erős, csak jelenleg még drága belépőt kér.

Mire figyelj

  1. A hardverkövetelmények sokat számítanak. Ha a helyi AI-ügynökök terjedni akarnak, ezeknek idővel lejjebb kell menniük.
  2. A Windows-verzió fontos teszt lesz, mert ott derül ki igazán, mennyire válhat ez szélesebb körben használhatóvá.
  3. Érdemes figyelni a modellválasztékot is: a helyi AI sikerét nemcsak a sebesség, hanem a pontosság és a hosszabb feladatok megbízható kezelése dönti el.
  4. A nagyobb kérdés az, hogy ez rétegfunkció marad-e a profi gépekkel dolgozóknak, vagy pár éven belül alapelvárás lesz, hogy az AI legalább részben a saját eszközödön fusson.