Mi történik, ha egy széles körben megbízhatónak tartott térképes szolgáltatásban bárki néhány szóval átírhatja a valóságot? A Google Earth új AI-eszköze erre adott volna választ, de a kísérlet mindössze egy napig tartott.
Mi történt
A Google csütörtökön indított el egy új funkciót a Google Earthben, amely lehetővé tette, hogy a felhasználók szöveges utasításokkal módosítsák a műholdképeket. Ez a gyakorlatban azt jelentette, hogy valós helyszínekről készült képekbe lehetett AI-val új elemeket generálni — vagyis olyan tartalmakat létrehozni, amelyek úgy néznek ki, mintha a valóság részei lennének.A funkció gyorsan vitát váltott ki, mert rövid idő alatt olyan példák jelentek meg, amelyek érzékeny vagy félrevezető jeleneteket ábrázoltak, például menekülteket a mexikói határ közelében vagy bombakrátert egy gázai kórház mellett. A Google először azzal érvelt, hogy a generált képek digitális vízjellel voltak ellátva, és a rendszer elvileg blokkolta a káros témákat. Egy nappal később azonban már vissza is vonta a funkciót, arra hivatkozva, hogy a Google Earth különösen nagy bizalmat élvez mint megbízható világkép, és erősebb védelmi korlátokra van szükség.
Miért fontos
Ez az ügy nem egyszerűen egy félresikerült termékfunkció története. A térképek, műholdképek és helyadatok sok ember számára alapvetően „bizonyítékszerű” információk: ha valamit ott látsz, hajlamos vagy azt valósnak tekinteni. Gondolj rá úgy, mint a fotószerkesztés és a térképészet keverékére: míg egy sima AI-kép esetén eleve gyanakvóbb vagy, egy ismert földrajzi felületen megjelenő manipuláció sokkal könnyebben félrevezethet. Külön gond, hogy a vízjel önmagában nem feltétlenül elég, ha a tartalmat képernyőképként vagy videóként terjesztik tovább. A The Verge által idézett teszt szerint még egy AI-detektor kijátszása sem bizonyult különösebben nehéznek.Mire figyelj
- Az egyik kulcskérdés az lesz, milyen „guardrail”, vagyis beépített biztonsági korlát kerülhet egy ilyen eszközbe. Nem elég a tiltólista: a rendszernek a kontextust is értenie kellene, főleg konfliktusokkal, választásokkal vagy katasztrófákkal kapcsolatos helyzetekben.
- Érdemes figyelni, hogy a Google visszahozza-e a funkciót, és ha igen, milyen korlátozásokkal. Elképzelhető, hogy csak szakmai, tervezési vagy látványtervezési célokra marad meg, nem általános felhasználásra.
- Tágabb értelemben ez precedens lehet más térképes és geoadatos szolgáltatásoknak is. Ha a „valós világ” képi rétegébe belép a generatív AI, akkor a hitelesség védelme legalább annyira fontos termékfunkció lesz, mint maga a látványos technológia.