A tudomány egyik csendes szuperereje, hogy vissza tudsz menni a forrásig: megnézed, mire hivatkozik egy állítás, és ellenőrzöd. Most pont ez a lánc kezd recsegni, mert a generatív AI egyre gyakrabban „kitalál” hivatkozásokat — és ezek bekerülnek a publikációkba.

Mi történt

Egy kutatócsoport 2,5 millió tudományos cikk 111 millió hivatkozását vizsgálta, és 146 900 olyan citációt azonosított, amelynek címét nem tudták egyetlen valódi publikációhoz sem hozzárendelni. Nem minden eltérés volt csalás vagy AI-hiba (akadnak egyszerű elgépelések is), de a mintázat alapján jelentős részük olyan „hallucináció”, amikor a nyelvi modell hihetően hangzó, de valótlan információt generál.

A jelenség különösen 2023 után ugrott meg látványosan, amikor a nagy nyelvi modellek (LLM-ek) — például a ChatGPT vagy a Gemini — széles körben elterjedtek. Fontos részlet: a hibás hivatkozások nem néhány „problémás” cikkben koncentrálódtak, hanem sok publikációban szóródtak szét. Ez arra utal, hogy nem elszigetelt trükkről van szó, hanem hétköznapi munkafolyamatokba csúszik be: valaki AI-t használ irodalomjegyzékhez, majd nem ellenőrzi tételesen.

A hamis citációkat négy nagy tudományos repozitóriumban találták: arXiv, bioRxiv, SSRN és PubMed Central. Ezek olyan nyilvános gyűjtemények, ahová a szerzők gyakran már a folyóiratbírálat előtt feltöltik a kéziratot, hogy gyorsan látható és hozzáférhető legyen a közösségnek.

Miért fontos

A hivatkozás a tudományban olyan, mint a számla a könyvelésben: nem dísz, hanem bizonyíték és nyomkövetés. Ha a citáció kitalált, akkor a levezetés ellenőrizhetetlen, a szakirodalmi háttér „papírból van”, és a peer review (szakmai bírálat) is rossz alapanyagból dolgozik. Ráadásul a kutatási eredmények nem a fióknak készülnek: a mindennapi technológiák (az internettől az akkumulátorokig) sokszor publikációkból nőnek ki. Ha a tudományos rekord zajjal telítődik, az lassítja a valódi eredmények megtalálását, és félre is vihet további kutatásokat.

Mire figyelj

  1. Repozitóriumok szigorítása: az arXiv már jelezte, hogy kitilthatja azokat a szerzőket, akik hallucinált hivatkozásokkal vagy ellenőrizetlen AI-tartalommal töltenek fel anyagot. Érdemes figyelni, követik-e ezt más gyűjtemények, és milyen automatikus ellenőrzéseket vezetnek be.
  2. Ellenőrzési kultúra a kutatásban: a generatív AI hasznos lehet vázlatolásra vagy nyelvi javításra, de a hivatkozáslista különösen „kritikus infrastruktúra”. Várható, hogy intézményi irányelvek és folyóiratkövetelmények egyre konkrétabban írják majd elő a citációk tételes validálását (DOI, adatbázis-ellenőrzés, linkelhető források).
  3. A bizalom ára: Usha Haley egyetemi professzor megfogalmazása szerint ez nem pusztán technikai kellemetlenség, hanem a tudományos nyilvántartásba vetett bizalom eróziója — és különösen aggasztó, hogy a kétely már a tudományon belül, a pályakezdők körében is megjelenik.

A generatív AI nem „gonosz” ettől, csak nagyon rossz abban, amiben a tudomány nem engedhet meg kompromisszumot: a pontos, visszakereshető hivatkozásokban.