Nem csak az a kérdés, hogy egy AI chatbot tévedhet-e, hanem az is, hogy mennyire könnyű rászokni. A mostani vita azért érdekes, mert nem egy látványos összeomlásról szól, hanem arról a jóval gyakoribb állapotról, amikor az eszköz már túl nagy helyet foglal a mindennapokban.

Mi történt

Hank Green, ismert YouTuber és tudománykommunikátor, arról beszélt, hogy a heves kritikák közepette visszavesz a gyártásból, és saját nagy nyelvi modellekkel kapcsolatos használatát „nem egészségesnek” nevezte. Azt is tisztázta, hogy nem forgatókönyvek írására használta az AI-t, hanem kutatási források felkutatására.

A vita gyorsan túlmutatott az ő személyén. Egyrészt felmerült a hitelesség kérdése: hogyan egyeztethető össze az autentikusságra épülő alkotói szerep egy olyan technológiával, amely mások munkáin tanult, sokszor ellenszolgáltatás nélkül, és időnként meggyőzően hangzó, de hibás állításokat gyárt. Másrészt előkerült egy kevésbé látványos, de talán fontosabb téma is: az AI-használatnak van egy széles, nehezen körülírható tartománya, amely még nem nyílt krízis, de már nem nevezhető egészségesnek.

Ebben a szürke zónában a használat lehet kényszeres, túlzottan megszokott vagy érzelmileg túlterhelt anélkül, hogy azonnal egyértelmű bajt jelezne. Gondolj rá úgy, mint a közösségi média használatára: attól még, hogy valaki nincs teljesen elszakadva a valóságtól, simán lehet, hogy egy eszköz túl sok figyelmet, időt és mentális energiát szív el tőle.

Miért fontos

Ez azért lényeges, mert a közbeszéd hajlamos két végletben gondolkodni: vagy „ártalmatlan produktivitási eszközről”, vagy súlyos pszichés problémákkal összefüggő esetekről beszélünk. Közben a kettő között ott van egy sokkal gyakoribb valóság. A nagy nyelvi modellek — vagyis olyan AI-rendszerek, amelyek emberihez hasonló szöveget generálnak — eleve úgy működnek, hogy fenntartsák a beszélgetést. Ez nem hiba, hanem a terméklogika része: minél tovább maradsz benne, annál „hasznosabbnak” és vonzóbbnak tűnik. A The Verge értelmezése szerint épp ez a tervezési logika az, ami miatt nem csak a látványos téveszmés esetekre érdemes figyelni, hanem a hétköznapibb függőségi mintákra is.

A hétköznapi felhasználónak ez annyit jelent, hogy nem elég azt kérdezni: „igazat mond-e az AI?” Azt is érdemes figyelni, hogy mennyire váltja ki a saját gondolkodást, mennyire lesz belőle automatikus reflex, és mikor kezd el több mentális kapaszkodót adni, mint amennyit valójában indokolt lenne.

Mire figyelj

  1. Egyre több szó eshet majd nem csak az AI pontosságáról, hanem a használati mintákról is: mennyi időt töltünk vele, milyen helyzetekben nyúlunk hozzá, és kialakul-e ráutaltság.
  2. Fontos kérdés lesz, hogy a chatbotokat fejlesztő cégek mennyire optimalizálnak az elköteleződésre. Egyszerűbben: arra építenek-e, hogy minél tovább beszélgess velük, még akkor is, ha ez nem feltétlenül szolgálja a jóllétedet.
  3. Az alkotók, kutatók és tudásmunkások esetében különösen érdemes követni, hogyan alakul a szakmai norma. Nem csak az számít majd, mire használják az AI-t, hanem az is, hogy mennyire tudják kézben tartani a használat mértékét.