Nem feltétlenül az a legijesztőbb egy AI-ban, hogy „túl sokat tud”, hanem hogy ezt milyen természetességgel csomagolja egy ártatlannak tűnő kérdésbe. A Meta most épp egy ilyen határátlépés után kénytelen finomhangolni a rendszerét.

Mi történt

A Meta közölte, hogy változtat az AI-chatbotja által felajánlott javasolt kérdéseken, miután nagy visszhangot kapott egy eset, amelyben a rendszer személyes, családi jellegű információk felé terelte a felhasználót. A konkrét ügyben egy Instagram-felhasználó arról számolt be, hogy miután egy videót Facebookra is megosztott, a Meta AI a bejegyzés alatt olyan kérdést ajánlott fel, amely egy autóban ülő gyerek azonosítására kérdezett rá.

Amikor a felhasználó rányomott erre a javaslatra, a beszámoló szerint az AI a korábbi posztokból és rokonok bejegyzéseiből összerakott részleteket a gyerekeiről. Ezután további kérdéseket is felajánlott, például a gyerekek életkoráról és arról, hol él a család. A nő azt is állította, hogy a rendszer olyan fotókat is megjelenített a lányairól, köztük egy olyat is, amelyet évekkel korábban töröltnek hitt. A Meta szerint a rendszer csak olyan tartalmat tud visszaadni, amelyhez a kérdező felhasználónak eleve van hozzáférése, és a problémát az okozta, hogy a javasolt promptok személyes témákra is rávezettek. Ezt a hibát a cég már javította.

A Meta AI már be van építve a Facebookba, az Instagramba, a WhatsAppba és a Messengerbe is. Vagyis nem egy különálló kísérleti eszközről van szó, hanem egy olyan asszisztensről, amely közvetlenül ott jelenik meg, ahol az emberek a mindennapi kommunikációjukat és megosztásaikat kezelik.

Miért fontos

Ez az eset jól rávilágít arra, hogy az AI körüli adatvédelmi kérdések nem mindig klasszikus „adatlopási” történetek. Itt inkább arról van szó, hogy a rendszer meglévő, elérhető információkból rak össze egy új, sokkal intimebbnek ható képet. Gondolj rá úgy, mint amikor valaki nem mond semmi titkosat, csak túl ügyesen összeköti a nyilvánvaló részleteket — ettől még a helyzet kellemetlen és tolakodó lehet. A Verge értelmezésében a valódi probléma nem pusztán az volt, hogy milyen adatokból dolgozott a rendszer, hanem hogy maga a felkínált kérdés is indokolatlanul személyes irányba vitte a beszélgetést. Ez a hétköznapi felhasználónak azért fontos, mert az AI egyre gyakrabban nem külön appként, hanem a közösségi platformok beépített rétegeként működik, így könnyebb észrevétlenül olyan helyzetbe kerülni, ahol a rendszer többet következtet rólunk, mint amennyit kényelmesnek érzünk.

Mire figyelj

  1. Érdemes figyelni, a Meta pontosan hogyan szűri majd a „személyes témájú” javaslatokat, és ez csak gyerekekkel kapcsolatos esetekre vonatkozik-e, vagy tágabb körben is.
  2. Fontos kérdés marad, hogyan kezeli a rendszer a régi vagy töröltnek hitt tartalmakat, és a felhasználók erről kapnak-e egyértelmű magyarázatot.
  3. Az is beszédes lesz, hogy a Meta ad-e részletesebb kontrollt arra, milyen típusú AI-javaslatok jelenhetnek meg a Facebookon és az Instagramon.
  4. Mivel a Meta korábban már visszavont egy, más felhasználókról készíthető AI-deepfake funkciót is, látszik, hogy a beépített AI-eszközöknél nem csak a technikai képesség számít, hanem az is, hol húzzák meg a társadalmilag elfogadható határt.