Egy új AI-eszköz lehet inspiráló kreatív játék — vagy gyors út a bizalomvesztéshez. Az Instagramon most az utóbbi történt: egy frissen bevezetett funkció pár nap alatt annyira vitatott lett, hogy a Meta inkább kihúzta a konnektorból.

Mi történt

A Meta eltávolított egy olyan Instagramhoz kapcsolt AI-funkciót, amely lehetővé tette, hogy felhasználók nyilvános Instagram-fiókok fotóit „referenciaként” használva (például egy @-említéssel) generáljanak vagy módosítsanak képeket mesterséges intelligenciával. A funkció egy nagyobb AI-eszközcsomag részeként jelent meg a héten, majd rövid időn belül megszűnt.

A kritikus pont az volt, hogy a rendszer nem arra készült, hogy értesítse azt a felhasználót, akinek a nyilvános fotóit „alapanyagként” felhasználták. Vagyis hiába volt a tartalom nyilvános, a felhasználó nem feltétlenül tudta, hogy a képeiből valaki AI-val új tartalmat állít elő. A Meta egy pénteki blogposztban azt írta: az eszközt hasznos kreatív funkciónak szánták, és kontrollt akartak adni a nyilvános tartalmak ilyen jellegű felhasználására — de a visszajelzések alapján „mellément”, ezért már nem elérhető.

Miért fontos

Ez a történet nem csak egy elhibázott termékdöntésről szól, hanem arról is, hogyan változik meg a „nyilvános” tartalom jelentése az AI-korszakban. Gondolj rá úgy, mint amikor egy nyitva hagyott kirakatot nem csak megnéznek, hanem 3D-ben lemásolnak, átfestik, és új termékként kezdik terjeszteni — a tulajdonos tudta nélkül. Jogilag és etikailag is más súlya van annak, ha valaki egy fotót megnéz, mintha ugyanazt a fotót egy generatív modell „stílus- és arcmintaként” használja.

Ráadásul a generatív AI-t a közösségi platformok környezetében már sokszor használták visszaélésszerűen, például intim vagy meztelen képek előállítására (különösen nőkről, gyakran hírességekről). Ebben a fénytörésben egy olyan funkció, amely könnyen „ráhúzható” bárkire nyilvános fotók alapján, eleve magas kockázatú.

Mire figyelj

  1. Értesítés és beleegyezés: a jövőben kulcskérdés lesz, hogy az ilyen „referenciahasználat” csak opt-in (kifejezett hozzájárulás) mellett működhet-e, és kap-e róla automatikus értesítést az érintett.
  2. Visszaélés elleni korlátok: nem elég annyit mondani, hogy „lesznek guardrail-ek”. A lényeg, hogy ezek a korlátok mennyire működnek a gyakorlatban: blokkolják-e a szexuális tartalmakat, a kiskorúakra utaló mintákat, a személyazonosítható arcok manipulálását.
  3. Külső nyomás szerepe: az ügy gyors lezárása arra utal, hogy nem csak a felhasználói felháborodás számít, hanem az is, ha ügynökségek és iparági szereplők is belépnek a képbe — a TechCrunch által idézett Dylan Byers szerint ilyen scrutiny a CAA részéről is érkezett.

A tanulság egyszerű: ha egy AI-funkció úgy ad „kreatív szabadságot”, hogy közben a másik fél nem is tud róla, az előbb-utóbb termékből reputációs kockázattá válik.