Ha eddig az Apple-t a „minél több minden helyben, a telefonon” megközelítéssel azonosítottad, a Siri következő nagy frissítése könnyen lehet, hogy más irányt vesz. A kérdés most az: mennyi „okosság” fér el egy iPhone-ban, és mennyit kell ebből a felhőbe kiszervezni?

Mi történt

A tervek szerint a Siri még idén összekapcsolódik a Google Gemini modelljeivel, miután az Apple többször is csúsztatta a 2024-ben megígért, generatív AI-val felturbózott verziót. A cél egy olyan asszisztens, amivel természetes beszélgetésben tudsz intézni feladatokat, nem csak előre betanított parancsokat adsz neki.

A technikai realitás viszont az, hogy egy okostelefon erőforrásai korlátozottak. A modern mobilchipekben van dedikált AI-gyorsító (Apple-nél a Neural Engine), de ez inkább hatékony, „kontekstus-közeli” feladatokra ideális. Gondolj rá úgy, mint egy nagyon gyors, takarékos futárra, aki rövid távon remekel. Egy óriási nyelvi modell viszont olyan, mintha egy komplett könyvtárat kellene állandóan kéznél tartani: nem csak számítási kapacitás kell, hanem rengeteg memória (RAM) is, hogy a modell „bent legyen” a készülékben.

A telefonokon futó modellek ezért jellemzően jóval kisebbek (néhány milliárd paraméter nagyságrend), és gyakran „kvantáltak” is: ez azt jelenti, hogy alacsonyabb számábrázolási pontossággal dolgoznak, ami gyorsít és csökkenti a memóriaigényt, de ronthat a válaszok minőségén. Ehhez képest a Gemini legnagyobb változatai több ezermilliárd (trilliós) paramétert is elérhetnek, ami teljesen más kategória.

Miért fontos

A felhő és az eszköz közti megosztás nem csak technikai döntés, hanem felhasználói élmény és adatkezelés kérdése is. A nagy, felhős modellek általában jobban „értik” a bonyolult kéréseket és stabilabban tartják a beszélgetés fonalát, de cserébe a kéréseid (legalább részben) szerveroldali feldolgozáson mennek át. Ha a Siri valóban beszélgetős asszisztenssé válik, az sokkal több helyzetet érinthet a naptártól az üzeneteken át a keresésekig — vagyis azt, hogy mikor mi hagyja el a készüléket, hirtelen sokkal fontosabb gyakorlati kérdéssé válik.

Mire figyelj

  1. Mely feladatok futnak majd helyben? Érdemes figyelni, hogy a „gyors, privát” funkciók (pl. egyszerű összefoglalás, kontextusos javaslatok) maradnak-e on-device, és csak a valódi beszélgetés megy-e felhőbe.
  2. Milyen adatkezelési garanciákat adnak? A hibrid működésnél a részletek számítanak: mi kerül továbbításra, mennyi ideig tárolódik, és milyen azonosítókkal kapcsolható össze.
  3. Mit jelent ez a függetlenség szempontjából? Ha a Siri „okos része” érdemben felhőfüggő, akkor a szolgáltatás minősége és elérhetősége jobban kötődik külső infrastruktúrához. Az Ars Technica által ismertetett kép alapján ez a gyakorlatban azt jelentheti, hogy a Siri okosabb lesz, de kevésbé „csak Apple”.

A következő hetekben az lesz az igazán beszédes, hogy az Apple milyen arányban tud értelmes, beszélgetős élményt helyben megoldani, és mennyit kell ebből végül a felhőre bíznia.