Egy AI asszisztens, ami lefoglalja az éttermet, rendbe teszi a postaládádat és megszervezi az utazásodat, elsőre pontosan annak hangzik, amit sokan várnak ettől a technológiától. Az Instinct körüli vita viszont arra emlékeztet, hogy minél többet bízol egy ilyen rendszerre, annál kevésbé csak kényelmi kérdésről van szó.

Mi történt

Az Instinct egy egyelőre zárt körben tesztelt személyes AI asszisztens, amely alkalmazásokhoz és eszközökhöz csatlakozva képes feladatokat végrehajtani a felhasználó nevében. Hozzáférhet e-mailhez, üzenetküldő appokhoz, naptárhoz, helyadatokhoz, hanghoz, képernyőhöz és más eszközszintű információkhoz is. A gyakorlatban ez azt jelenti, hogy nem csak válaszol a kéréseidre, hanem ténylegesen intézkedik: foglal, szervez, keres, vásárol és rendszerez.

A korai visszajelzések alapján a rendszer képességei sokakat meggyőztek, közben viszont több adatvédelmi és biztonsági kérdés is felmerült. A szolgáltatási feltételek széles jogosultságot adnak a felhasználói anyagok elérésére, tárolására, továbbítására, módosítására és akár modelltréningre való felhasználására is. Emellett a dokumentumok szerint a rendszer képernyőképeket, kurzormozgást és billentyűleütéseket is kaphat az eszközökről. Különösen érzékeny pont, hogy a feltételek lehetővé teszik, hogy a rendszer a felhasználó nevében megállapodásokat vagy tranzakciókat kössön, amelyek kötelező érvényűek lehetnek.

A tesztelők konkrét problémákat is jeleztek. Volt, aki azt tapasztalta, hogy a rendszer nem törölte azonnal a Gmailből származó adatokat; ezt később egy új beállítással javították. Másnál az asszisztens a hozzáférés bontása után is folytatta a postaláda összefoglalását, és azt jelezte, hogy az e-mailek sima szövegként voltak eltárolva későbbi keresésekhez. Többen a biztonsági modellt is kifogásolták: az asszisztens például képes volt e-mailből kivenni egy regisztrációs kódot egy feladat befejezéséhez. Ez technikailag hasznosnak tűnhet, de ugyanaz a képesség azt is mutatja, milyen mélyre nyúl be a rendszer a felhasználó digitális életébe.

Miért fontos

A személyes AI asszisztensek következő hulláma valószínűleg nem attól lesz érdekes, hogy mennyire ügyesen csevegnek, hanem attól, hogy mennyi valódi hozzáférést kapnak. Gondolj rá úgy, mint amikor valakinek nem csak a naptáradat mutatod meg, hanem átadod a lakáskulcsot, a bankkártyádat és megengeded, hogy a nevedben telefonáljon. Ettől lesz igazán hasznos egy ilyen eszköz — és ettől nő meg drasztikusan a kockázat is. A TechCrunch által bemutatott dilemma nem az, hogy működik-e ez a modell, hanem az, hogy a kényelemért cserébe mennyi kontrollt vagy hajlandó feladni. Egy engedély nélkül elküldött e-mail, egy megőrzött inbox-másolat vagy egy rosszul kezelt hitelesítő kód elég lehet ahhoz, hogy a bizalom nagyon gyorsan eltűnjön.

Mire figyelj

  1. Érdemes nézni, változnak-e a szolgáltatási feltételek, főleg az adatmegőrzésre, modelltréningre és a felhasználó nevében végzett műveletekre vonatkozó részek.
  2. Fontos kérdés lesz, hogy az ilyen asszisztensek alapértelmezetten kérnek-e megerősítést érzékeny lépések előtt, például vásárlás, foglalás vagy üzenetküldés esetén.
  3. A biztonsági modell részletei sokat számítanak majd: hogyan tárolják az adatokat, meddig őrzik meg őket, és mennyire könnyen lehet teljesen leválasztani egy fiókot.
  4. Az is árulkodó lesz, hogyan reagál a piac: a befektetői érdeklődés azt mutatja, hogy az ilyen termékek iránt komoly kereslet van, de hosszú távon nem a demók, hanem a megbízhatóság dönt majd.