Ha egy AI nemcsak ötleteket gyárt, hanem azt is eldönti, hogy azok valóban újak-e, akkor egy nagyon érzékeny szerepet kap a tudományos folyamatban. Az új eredmények alapján ez a szerep ma még jóval ingatagabb, mint amilyennek elsőre tűnhet.

Mi történt

Megjelent egy új kutatás és benchmark, amely azt méri, mennyire megbízhatóak a nagy nyelvi modellek akkor, amikor kutatási ötletek újdonságát kell megítélniük. A feladat elsőre egyszerűnek hangzik: egy modellnek el kell döntenie, hogy egy ötlet mennyire számít új hozzájárulásnak a korábbi szakirodalomhoz képest. A gyakorlatban viszont ez nem pusztán szövegértés, hanem tudományos kontextus, összehasonlítás és ítélőképesség keveréke.

A kutatók két értékelési helyzetet építettek. Az egyikben ember által írt kutatási ötleteket hasonlítottak össze olyan ICLR-bírálatok alapján, ahol a bírálók kifejezetten dicsérték vagy vitatták az újdonságot. Ez fontos különbség: nem az elfogadás vagy elutasítás volt a fő jel, hanem az, hogy a bírálatok mit mondtak az eredetiségről. A másik helyzetben ezeket a validált emberi ötleteket egyszerű LLM-ek által generált ötletekkel párosították.

Hat különböző modellt teszteltek „újdonságbíróként”, vagyis olyan bíróként, amelyik megpróbálja eldönteni, melyik ötlet újabb. A legfontosabb eredmény az volt, hogy a beállítás apró módosításai is nagyon nagy eltérést okoztak. Egy kísérletben ugyanannál a modellnél néhány szónyi promptváltozás 93,5 százalékos pontosságról 40,9 százalékra vitte le a teljesítményt az emberi és AI-generált ötleteket keverő adathalmazon. Ez már nem egyszerű finomhangolási különbség, hanem annak jele, hogy maga az ítélet instabil.

A vizsgálat azt is megnézte, segít-e a több „gondolkodási idő” vagy a kapcsolódó cikkek visszakeresése. Röviden: nem következetesen. Vagyis attól, hogy a modell több lépésben indokol, vagy kap hozzá szakirodalmi találatokat, még nem lesz megbízhatóbb az eredmény. Gondolj erre úgy, mint egy bírálóra, aki hosszabban magyarázza a döntését, de ettől még nem biztos, hogy ugyanarra jutna holnap ugyanazzal az anyaggal.

Miért fontos

Az AI-alapú tudományos eszközök egyre több helyen jelennek meg: ötletgenerálásban, hipotézisalkotásban, szakirodalmi összefoglalásban. De ha a rendszer nem tudja stabilan megkülönböztetni az igazán új ötletet a régi elemek újracsomagolásától, akkor könnyen félreértékelheti a saját vagy más modellek javaslatait. Ez a hétköznapi felhasználónak is ismerős probléma más területekről: nem elég, hogy egy modell néha jól válaszol, az is kell, hogy hasonló helyzetekben hasonló mércével döntsön. A Hugging Face felületén közzétett munka azért érdekes, mert nem azt állítja, hogy az LLM-ek alkalmatlanok erre, hanem azt mutatja meg elég világosan, hogy ma még nincs stabil, általánosan megbízható módszer az újdonság gépi megítélésére.

Mire figyelj

  1. Érdemes követni, kialakulnak-e szabványosabb értékelési eljárások. Jelenleg túl sok múlik azon, hogyan fogalmazzák meg a kérdést a modellnek.
  1. Fontos kérdés lesz, hogy az újdonságbírókat mennyire emberi kutatási ötleteken, és mennyire valódi AI-generált ötleteken tesztelik. A kettő között a viselkedés látványosan eltérhet.
  1. Az is sokat számít majd, hogy a jövőbeni rendszerek nemcsak egyetlen ítéletet adnak-e, hanem bizonytalanságot is jeleznek. Egy ilyen feladatnál sokszor nem az a legjobb bíró, amelyik mindig magabiztos, hanem az, amelyik tudja, mikor nem biztos a dolgában.