Egy meggyőző hamis videó vagy hangfelvétel ma már nem technológiai trükk, hanem nagyon is gyakorlati probléma. Az EU most azt próbálja elérni, hogy legalább tudd, mikor van dolgod mesterségesen előállított, valódinak látszó tartalommal.

Mi történt

Augusztus 2-tól az EU-ban az újonnan piacra kerülő AI-rendszerekre kötelező átláthatósági szabályok lépnek életbe az AI Act részeként. A lényeg: ha egy kép, videó, hang vagy szöveg mesterségesen készült vagy manipulált, és úgy van kialakítva, hogy hitelesnek, valósnak tűnjön, azt láthatóan jelölni kell. Emellett digitális vízjelet is kell kapnia, vagyis egy olyan technikai azonosítót, amely segít visszakövetni, hogy a tartalom mesterséges eredetű.

A szabály nemcsak a látványos deepfake-ekre vonatkozik. A deepfake leegyszerűsítve olyan mesterségesen előállított vagy átalakított tartalom, amely valós személyt vagy eseményt utánoz. A kötelezettség kiterjedhet közérdekű témákról szóló AI-szövegekre is, ha nincs mögöttük emberi szerkesztői ellenőrzés. A már piacon lévő rendszerek négy hónap haladékot kapnak. A személyes felhasználói tartalmak kimaradnak, és kivételt élveznek a nyilvánvalóan művészi, szatirikus vagy fiktív művek is. Aki nem felel meg a szabályoknak, akár 15 millió eurós bírságot vagy a globális éves árbevétel 3%-át kockáztatja.

Miért fontos

Ez a változás valójában egy egyszerű elvet próbál átültetni az internetre: ha valami megtévesztően hasonlít a valóságra, legyen mellette egy figyelmeztetés. Gondolj rá úgy, mint az élelmiszerek címkézésére: nem tiltja meg a terméket, csak több információt ad róla. Ez különösen fontos politikai, közéleti vagy egészségügyi témáknál, ahol egy hamis hangfelvétel, orvosnak tűnő AI-szereplő vagy manipulált fotó nagyon gyorsan bizalmi károkat okozhat. Ugyanakkor itt jön a nehezebb rész is: ha túl sok minden kap címkét, az emberek egy idő után ugyanúgy átnézhetnek rajta, mint a sütibannereken. A Guardiannek nyilatkozó iparági és politikai szereplők között épp ezen megy a vita: hol van az egyensúly a hasznos figyelmeztetés és a címkezaj között.

Mire figyelj

  1. Nem csak a közösségi médiában lesz több jelölés. Valószínűleg a reklámokban, filmekben, kiadványokban és más, eddig kevésbé AI-közelinek tartott területeken is gyakrabban találkozol majd ilyen címkékkel.
  1. Fontos kérdés lesz, mennyire egységesek a jelölések. Az EU készített használható fekete-fehér címkéket, de a cégek saját megoldásokat is tervezhetnek, ami könnyen széttartó felhasználói élményt hozhat.
  1. Érdemes figyelni, hogyan működik majd a gyakorlatban a digitális vízjelezés. Ez nem ugyanaz, mint egy szemmel látható felirat: inkább olyan rejtett technikai nyom, amelyet rendszerek tudnak ellenőrizni, ha felmerül a kérdés, honnan származik egy tartalom.
  1. A következő hónapokban az is kiderül, hogy a platformok és AI-szolgáltatók mennyire tudnak valóban hasznos, nem pusztán kipipálható megfelelési rendszert építeni. A szabály ugyanis önmagában még nem oldja meg a megtévesztést, de jelentősen megemeli az átláthatóság minimumszintjét.