Sokan úgy írnak a ChatGPT-nek, mintha egy zárt jegyzetfüzet vagy bizalmas beszélgetőpartner lenne. A mostani részletek viszont arra emlékeztetnek, hogy egy chatbotnál a „privát” nem feltétlenül azt jelenti, amit hétköznapi értelemben gondolnál.

Mi történt

Az OpenAI több száz szerződéses munkatársat foglalkoztat arra, hogy felhasználói promptokat — vagyis a chatbotnak írt üzeneteket — és a rájuk adott válaszokat átnézzék, értékeljék és javítási szempontok szerint osztályozzák. A cél nem elsősorban moderáció, tehát nem szabálysértő tartalom kiszűrése, hanem a modell viselkedésének finomhangolása: például hogy kevésbé „emberszerűsítse” magát, és ne legyen túlzottan hízelgő vagy mindenben helyeslő.

Ez a munka egy belső program részeként fut, és az átnézett beszélgetések elvileg anonimizáltak, vagyis a rendszer megpróbálja eltávolítani belőlük a személyazonosításra alkalmas adatokat. Csakhogy az anonimizálás nem hibátlan. Előfordulhat, hogy érzékeny személyes információk bent maradnak, ráadásul az értékelők egy „felhasználói emlék-összefoglalót” is láthatnak, ami korábbi beszélgetésekből származó részleteket foglalhat össze. Ez akár közvetett módon lakóhelyre vagy más személyes körülményre is utalhat. A modell fejlesztését segítő adatfelhasználás alapértelmezetten be van kapcsolva, és külön kell kikapcsolni, ha nem szeretnéd, hogy a beszélgetéseid ilyen célra bekerüljenek.

Miért fontos

A nagy nyelvi modellek fejlesztéséhez emberi visszajelzésre szükség van: valakinek meg kell mondania, melyik válasz hasznos, melyik félrevezető, melyik hangnem problémás. Gondolj erre úgy, mint egy tanárra, aki kijavítja a dolgozatot, hogy a következő változat jobb legyen. A különbség az, hogy itt sok felhasználó ösztönösen intim térként kezeli a chatablakot. Ez könnyen hamis biztonságérzetet adhat. A Futurism által idézett szakértői értelmezés szerint a chatbot felülete eleve olyan közelségérzetet kelt, ami miatt a felhasználó hajlamosabb személyes dolgokat megosztani, mint egy közösségi platformon, ahol eleve számít a nyilvánosságra és az ellenőrzésre.

Közben az is látszik, hogy a cégek egyre érzékenyebbek arra, milyen „személyisége” legyen az AI-nak. Az olyan jelenségek, mint a túl emberinek hangzó megszólalás vagy a túlzott egyetértés, nem csak stíluskérdések: bizonyos helyzetekben félrevezető bizalmat építhetnek ki a felhasználóval.

Mire figyelj

  1. Nézd át a beállításaidat. Ha nem szeretnéd, hogy a beszélgetéseidet modellfejlesztésre használják, érdemes ellenőrizni, be van-e kapcsolva az erre vonatkozó opció.
  1. Kezeld a chatbotot úgy, mint egy felhőalapú szolgáltatást, ne mint egy naplót. Ne ossz meg vele olyan egészségügyi, pénzügyi vagy családi részletet, amit egy emberi felülvizsgálat esetén sem szívesen látnál viszont.
  1. Érdemes figyelni, változik-e az iparági gyakorlat az átláthatóságban. A következő nagy kérdés nem az, hogy van-e emberi ellenőrzés, hanem az, hogy ezt mennyire világosan kommunikálják, és mennyire valódi a felhasználói választás.