Egy AI-asszisztensnél az ember általában válaszokat vár, nem pedig egy becsomagolt operációs rendszert. A Meta Muse körül most épp az a vita, hogy ez hiba, furcsa termékdöntés, vagy a kettő közti szürke zóna.

Mi történt

Két fejlesztő egymástól függetlenül azt állítja, hogy minimális terelgetéssel rá tudta venni a Meta Muse-t arra, hogy archiválja és megossza a saját gyökérfájlrendszerét. Ez leegyszerűsítve a rendszer teljes könyvtárstruktúráját és sok belső fájlját jelenti: Ubuntu-rendszerfájlokat, alkalmazássablonokat, valamint belső dokumentációt is. Egy későbbi teszt ezt részben reprodukálta: új munkamenetben a rendszer úgynevezett „biztonságos” másolatokat készített bizonyos mappákról, érzékeny elemek — például SSH-kulcsok — nélkül, és felajánlotta, hogy további almappákat is kimásol.

A Meta erre nem úgy reagált, mintha klasszikus betörés történt volna. A cég szerint a Muse minden felhasználónak egy tartós Linux virtuális gépen fut. Ez nagyjából olyan, mintha kapnál egy saját felhős számítógépet: vannak rajta fájlok, könyvtárak és futó folyamatok. A vállalat álláspontja szerint ezek exportálása nem ad hozzáférést sem a Meta infrastruktúrájához, sem más felhasználók adataihoz. Csakhogy a letölthető állományok így is sokat elárulhatnak arról, hogyan működik a rendszer a színfalak mögött.

A kiszivárgott fájlok között állítólag voltak egyszerű szövegként tárolt Markdown- és JSON-dokumentumok is, amelyek a kérések feldolgozását, az adatkezelést és más szolgáltatásokhoz — például Gmailhez — való kapcsolódást írták le. A Markdown itt nem valami titkos formátum, csak egy egyszerű, ember által is könnyen olvasható jelölőnyelv. Vagyis a memória és a belső útmutatók egy része nem valamilyen zárt, nehezen értelmezhető rendszerben, hanem viszonylag átlátható formában lehet jelen.

Miért fontos

A történet azért érdekes, mert jól megmutatja, mennyire elmosódik a határ egy chatbot és egy „felhőben futó számítógép” között. Ha egy AI-ügynök valójában egy teljes Linux-környezetben dolgozik, akkor nemcsak szöveget generál, hanem fájlokat kezel, szkripteket futtat és szolgáltatásokhoz kapcsolódik. Gondolj rá úgy, mint egy digitális asszisztensre, aki nemcsak beszél veled, hanem ott ül egy saját asztali gép előtt is. Ilyenkor már nem elég azt kérdezni, hogy „helyes választ ad-e”, hanem azt is, hogy mennyit látni abból a gépből, és annak mi a kockázata. A The Verge által bemutatott esetet különösen érzékennyé teszi, hogy ez már a második, Muse-t érintő biztonsági ügy rövid időn belül: a héten egy másik kutató olyan hibát talált, amellyel el lehetett téríteni az AI-ügynök működését, amit a Meta gyors javítással kezelt.

Mire figyelj

  1. Az egyik kulcskérdés az lesz, hogy a Meta szűkíti-e, pontosan milyen fájlokhoz férhet hozzá a felhasználó a saját virtuális gépén belül.
  1. Érdemes figyelni, hogy a cég továbbra is „szándékolt működésként” kezeli-e ezt, vagy fokozatosan mégis biztonsági korlátozásokat épít be.
  1. Fontos lehet az is, hogy a most látott belső részletek közül mi bizonyul tényleges, éles funkciónak, és mi csak fejlesztés alatt álló vagy soha el nem induló komponens.
  1. A felhasználóknak pedig az a tanulság, hogy egy AI-eszközt nemcsak csevegőablakként érdemes kezelni. Ha mögötte egy teljes futtatókörnyezet van, akkor ugyanúgy számít a jogosultságkezelés, a fájlhozzáférés és a szolgáltatások közti kapcsolatok átláthatósága, mint bármely más felhős rendszerben.