A deepfake-ekről sokáig főleg hírességek és politikusok kapcsán beszéltünk. Mostanra viszont egy sokkal hétköznapibb és nyugtalanítóbb terepre is megérkeztek: az iskolákba.

Mi történt

Több amerikai tanár arról számolt be, hogy diákok mesterséges intelligenciával készített, hamis képeket és videókat terjesztettek róluk a közösségi platformokon és privát csoportokban. Ezek között voltak szexualizált fotók, álprofilok, valamint olyan videók is, amelyekben a tanárok látszólag obszcén dolgokat mondanak vagy teljesen valótlan helyzetekben szerepelnek. A deepfake lényege, hogy valódi fotók, videók vagy hangminták alapján a rendszer meggyőzőnek tűnő, de hamis tartalmat állít elő. Gondolj rá úgy, mint egy digitális jelmezre: a külső ismerős, de amit látsz, nem történt meg.

Az egyik helyettesítő tanár esetében a történet néhány üzenettel indult, majd több iskolán át húzódó üggyé vált. Egy AI-val manipulált, fehérneműs képet terjesztettek róla, később pedig egy álprofil is megjelent a nevével. Bár az iskola vizsgálatot és fegyelmi lépéseket ígért, a kép tovább terjedt, más platformokon is felbukkant, sőt az osztályteremben is érezhető volt a jelenléte. Más tanárok hasonló élményekről beszéltek: diákok elhitték, hogy a hamis fiókok valódiak, a zaklatás pedig online térből személyes sértegetésbe is átcsúszott.

Miért fontos

Ez az ügy nem egyszerűen technológiai kellemetlenség, hanem munkahelyi és oktatási probléma. Ha egy tanárról beleegyezés nélkül intim vagy megalázó hamis tartalom készül és terjed, az nemcsak a hírnevét sérti, hanem a munkavégzés biztonságát is. Különösen nehéz helyzet, hogy az iskoláknak nincs egységes, kiforrott forgatókönyvük az ilyen esetek kezelésére: mikor elég a platformos jelentés, mikor kell rendőrségi ügy, és hogyan lehet megállítani a privát csoportokban terjedő másolatokat. A Wired által megszólaltatott jogi szakértő szerint ez egyértelműen szexuális zaklatásként is értelmezhető lehet a munkahelyen, vagyis az iskola feladata nem merül ki abban, hogy „megnézi, mit lehet tenni”.

Mire figyelj

  1. Várhatóan egyre több iskola kénytelen külön szabályokat alkotni az AI-val készült zaklató tartalmakra, mert a hagyományos fegyelmi rendszerek nem erre lettek kitalálva.
  1. Fontos kérdés lesz, hogy a platformok mennyire gyorsan és hatékonyan reagálnak. A nyilvános posztok eltávolítása egy dolog, de a zárt csoportokban, üzenetekben és AirDropon terjedő másolatok kezelése sokkal nehezebb.
  1. Érdemes figyelni a jogi környezetet is. Az Egyesült Államokban már vannak olyan szabályok, amelyek a beleegyezés nélküli intim képek közzétételét büntethetik akkor is, ha azok számítógéppel készültek.
  1. A hétköznapi tanulság talán az, hogy a deepfake már nem csak a nagy nyilvánosság problémája. Ha egy iskola nem tud gyorsan, érthetően és következetesen reagálni, a technológiai visszaélés nagyon gyorsan bizalmi válsággá válhat az osztályteremben.