Mi történt
A Meta Muse nevű AI-ügynöke úgy lett kitalálva, hogy önállóan hajtson végre feladatokat a felhasználó nevében. Ez a gyakorlatban azt jelenti, hogy hozzáférést kérhet e-mail-fiókokhoz, üzenetváltásokhoz, sőt egyes helyzetekben olyan érzékeny adatokhoz is, mint a bankkártyaadatok vagy más személyes információk. Gondolj rá úgy, mint egy digitális asszisztensre, amely nem csak javasol, hanem be is lép helyetted különböző szolgáltatásokba.A probléma ott kezdődik, hogy minél önállóbb egy ilyen rendszer, annál több jogosultságra van szüksége. Egy korábbi Meta-biztonsági vezető, Alex Stamos nyilvánosan is arról beszélt, hogy kifejezetten veszélyes ötlet ennyire mély hozzáférést adni egy AI-nak, különösen akkor, ha egyes felhasználók még jelszótárolókhoz is hozzáférést adnak. Ez lényegében olyan, mintha valaki nem csak a lakáskulcsot kapná meg, hanem a kulcsszekrény teljes tartalmát is.
A Meta közben azt állítja, hogy a Muse elkülönített virtuális környezetben fut. Ez leegyszerűsítve egy olyan leválasztott digitális munkaterület, amelynek az a célja, hogy az egyik felhasználó ügynöke ne férjen hozzá a másikéhoz. Csakhogy a cég maga is elismeri, hogy nincs tökéletes automatizált rendszer, és azt javasolja, hogy a felhasználók rendszeresen ellenőrizzék, mit csinál az ügynök, és csak annyi hozzáférést adjanak, amennyivel valóban együtt tudnak élni.
Közben már több biztonsági kutatás is rámutatott sebezhetőségekre. Ezek között voltak olyan esetek, amikor támadók érzékeny adatokhoz férhettek volna hozzá, illetve olyan megoldások is, amelyeknél megosztott webes linkeken keresztül szivároghatott ki információ. Felmerült egy konkrét felhasználói panasz is: egy tech YouTuber azt állította, hogy a rendszer idegeneknek adta ki a címét, és a Facebook Marketplace-en keresztül a lakásához is irányította őket.
Miért fontos
Az AI-ügynökök következő hulláma nem egyszerű chatbotokról szól, hanem olyan rendszerekről, amelyek helyetted kattintanak, belépnek, keresnek és intézkednek. Ez kényelmes, de közben felforgatja a digitális biztonság eddigi logikáját. A legtöbb online védelem abból indul ki, hogy egy ember használ egy fiókot, nem pedig egy bot, amely ugyan jogos hozzáféréssel dolgozik, de gépi módon viselkedik. Ezért ezek az eszközök nemcsak adatvédelmi, hanem csalásmegelőzési és platformbiztonsági szempontból is nehéz helyzetet teremtenek. A Futurism által idézett bírálat lényege épp ez: nem feltétlenül egyetlen hiba a legnagyobb kockázat, hanem az, hogy túl sok érzékeny adat és túl nagy cselekvési jog kerül egyetlen rendszer kezébe.Mire figyelj
- Nézd meg, pontosan milyen hozzáférést kér egy AI-ügynök. Az e-mail-olvasás, a naptárhoz való hozzáférés és a fizetési adatok kezelése nagyon különböző kockázati szintek.
- Különösen óvatosan bánj a jelszótárolókkal és a teljes postafiók-hozzáféréssel. Ezekből egy rendszer gyakorlatilag az egész digitális életedet feltérképezheti.
- Érdemes figyelni, hogyan reagálnak a platformok és a pénzügyi szolgáltatók az AI-ügynökök terjedésére. A következő időszak nagy kérdése az lesz, hogyan lehet megkülönböztetni a legitim automatizálást a visszaélésszerű vagy veszélyes működéstől.
- Nem csak azt kell mérlegelni, hogy az AI mennyire hasznos, hanem azt is, hogy hiba esetén mekkora kárt tud okozni. Egy rossz válasz kellemetlen, de egy túl sok mindent látó és túl sok helyen intézkedő ügynök már egészen más kategória.