Mi történik, ha az AI-rendszerek épp azokat a tartalomgyártókat gyengítik meg, amelyekből tanulnak? Egy frissen nyilvánosságra került belső megfogalmazás szerint ez nem elméleti kockázat, hanem egy önrontó kör, amely végül magát az AI-t is rosszabbá teheti.

Mi történt

Bírósági eljárásban nyilvánosságra került dokumentumok alapján a Microsoft vezetői és szakemberei belsőleg arról beszéltek, hogy a nagy nyelvi modellekre épülő AI-üzlet egy „doom loopot”, vagyis egy lefelé húzó önfenntartó spirált indíthat el. Ennek lényege, hogy az AI-rendszerek a médiacégek tartalmaiból építkeznek, miközben egyre inkább saját felületükön adják oda a választ a felhasználónak, így kevesebb ok marad arra, hogy valaki átkattintson az eredeti forrásra.

Ez a helyzet a New York Times és az OpenAI közötti szerzői jogi perben került elő, amelyben a Microsoft is érintett az OpenAI legnagyobb befektetőjeként. A nyilvánosságra hozott anyagok között szerepel egy olyan belső szöveg, amely szerint az AI-tartalomstratégia egyszerre árthat a modellek teljesítményének és az egész webnek. Gondolj erre úgy, mint amikor egy gyár fokozatosan tönkreteszi a saját beszállítóit: rövid távon még működik a rendszer, de idővel romlik az alapanyag minősége, drágább lesz a beszerzés, végül pedig maga a gyár is megszenvedi.

A peranyagban olyan állítások is szerepelnek, hogy a chatbotos válaszadás kiváltja a forrásoldalak közvetlen felkeresését, vagyis az információ a platformon marad, nem jut vissza forgalom és bevétel azokhoz, akik előállították. Emellett az is előkerült, hogy az OpenAI-n belül felmerültek fizetőfalak megkerülésére alkalmas módszerek. Ezek az állítások a per részei, és jogi szempontból még nem tekinthetők lezárt megállapításnak, de jól mutatják, mennyire központi kérdéssé vált a tanítóadatok eredete és a tartalomszolgáltatók ellentételezése.

Miért fontos

Ez az ügy túlmutat azon, hogy egy AI-modell pontosan honnan tanult. A tét az, hogy fenntartható-e az a webes modell, amelyben újságok, szaklapok és más kiadók költséges munkával információt állítanak elő, miközben az AI-rendszerek ezt egyre gyakrabban közvetlen válaszként csomagolják újra. Ha a forrásoldalak bevétele és látogatottsága tartósan csökken, kevesebb eredeti tartalom készülhet. Az pedig végül az AI-nak sem jó: ha romlik vagy szűkül a friss, megbízható nyilvános tartalomkínálat, a modellek is gyengébb alapanyagból dolgoznak. A Futurism értelmezése szerint épp ez a legfontosabb felismerés a kiszivárgott belső anyagokból.

Mire figyelj

  1. A bírósági ügyek kimenetele sokat számít majd abban, hogyan lehet AI-modelleket tartalmakkal tanítani, és milyen engedélyek vagy díjazási modellek válnak iparági normává.
  2. Érdemes figyelni, kötnek-e a nagy AI-cégek több licencmegállapodást kiadókkal. Ez lehet az egyik út arra, hogy a tartalom ne csak bemenet legyen, hanem üzletileg is visszacsorogjon valami a forrásokhoz.
  3. A termékoldalon az lesz kulcskérdés, hogy a chatbotok mennyire terelik vissza a felhasználót az eredeti oldalakra hivatkozásokkal, idézési gyakorlattal és forgalomtereléssel.
  4. Hosszabb távon az is látszani fog, hogy a nyílt web mennyire tud megmaradni elsődleges információforrásnak egy olyan környezetben, ahol a válasz egyre gyakrabban nem a forrásoldalon, hanem egy AI-felületen jelenik meg.