Nem az a kérdés, hogy a gyerekek használják-e a chatbotokat, hanem az, hogy milyen védelem mellett. Egy most benyújtott per azért lehet fontos, mert a vita már nem csak a képernyőidőről szól, hanem arról is, mi történik a kiskorúak személyes adataival a háttérben.

Mi történt

Két hawaii felperes nevében indítottak pert az OpenAI ellen azzal az állítással, hogy a ChatGPT szülői engedély nélkül is lehetővé tehette 18 év alattiak regisztrációját és használatát, miközben a szolgáltatás feltételei előírják a szülő vagy gondviselő hozzájárulását. A kereset szerint a cég nem ellenőrzi érdemben ezt a beleegyezést, így amerikai gyerekek millióinak adatai kerülhettek be a rendszerbe.

A per központi eleme, hogy a chatbottal folytatott beszélgetések során a gyerekek egészségi állapotukról, érzelmeikről, külsejükről, kapcsolataikról, sőt fotóikról és hangfelvételeikről is megoszthattak érzékeny információkat. A felperesek külön kiemelnek egy 12 éves lányt, aki a kereset szerint többször jelezte az életkorát, a chatbot mégis folytatta vele a beszélgetést, és reagált például dühkezeléssel, önképpel és külsővel kapcsolatos kérdésekre is. A felperesek csoportos perré minősítenék az ügyet, és szokatlan kártérítést kérnek: készpénzt vagy részesedést, annak arányában, hogy az egyes gyerekek mennyi úgynevezett tokent adtak a rendszerhez. A token leegyszerűsítve a chatbot-használat apró mértékegysége: nagyjából olyan, mint amikor nem teljes oldalakban, hanem szavakból és szótagokból számolják, mennyi szöveget dolgozott fel a modell.

Miért fontos

Ez az ügy egyszerre szól adatvédelemről, gyerekvédelemről és az AI-rendszerek működésének alapjáról. A nagy nyelvi modellek úgy tanulnak, hogy rengeteg szöveges és egyéb inputból mintázatokat ismernek fel; gondolj rájuk úgy, mint egy statisztikai autokomplettre, csak sokkal nagyobb léptékben. Ha ebbe a tanulási folyamatba kiskorúak érzékeny adatai is bekerülnek, az már nem pusztán technikai kérdés, hanem jogi és etikai probléma is. A vita másik fele az, hogy egy barátságos, megerősítő hangon válaszoló chatbot mennyire tudja elmosni a határt egy hasznos digitális eszköz és egy túlzottan bizalmi kapcsolat között. A CNET által idézett kereset épp ezt állítja: nem egyszerű használatról, hanem tudatos bizalomépítésről lehet szó.

Mire figyelj

  1. Az első nagy kérdés az lesz, engedik-e csoportos perként folytatni az ügyet. Ha igen, az jelentősen megnövelheti a per tétjét, mert sok amerikai felhasználó csatlakozhat.
  1. Érdemes figyelni, hogyan reagál az OpenAI a korellenőrzésre és a szülői hozzájárulás igazolására. A mostani vita egyik legkényesebb pontja, hogy a szabályok leírása és azok tényleges betartatása nem ugyanaz.
  1. Fontos lesz az is, változnak-e a gyerekeknek és tinédzsereknek szánt AI-funkciók. Ide tartozhat, hogy a rendszer mikor szakít meg egy beszélgetést, mikor figyelmeztet, és mikor irányítja a felhasználót valódi emberi segítség felé.
  1. Végül a szabályozási oldal sem mellékes: ha az ilyen ügyek szaporodnak, nagyobb nyomás kerülhet a törvényhozókra, hogy külön, kiskorúakra szabott AI-védelmi szabályokat vezessenek be.