2026. október 28., szerda · Kutatás

Az Ai2 szerint megbízhatatlanok az AI-modellek a kutatási ötletek újdonságának megítélésében

Az Ai2 kutatólabor a Hugging Face blogján közzétett tanulmánya szerint a nagy nyelvi modellek megbízhatatlanul ítélik meg, hogy egy kutatási ötlet valóban újszerű-e. A kutatók hat LLM-et – a GPT-5.1, GPT-5.2, GPT-5.4, valamint a Claude Sonnet 4.5, Claude Opus 4.5 és Claude Opus 4.6 modelleket – teszteltek egy saját, ICLR 2026-os bírálatokból épített benchmarkon, amely 154 magas és 145 alacsony újdonságtartalmú kutatási ötletet tartalmaz. Az Ai2 szerint a promptban végzett apró módosítások – néhány szó megváltoztatása – akár 50 százalékpontnál is nagyobb mértékben befolyásolták, hogy a modell helyesen azonosította-e a két ötlet közül az újszerűbbet. A tanulmány azt is megállapította, hogy a visszakeresés és a hosszabb gondolkodási idő nem javítja következetesen az ítéleteket, sőt két célzottan erre épített értékelő rendszer rosszabbul teljesített, mint egy egyszerűen promptolt Claude Opus 4.6.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az Ai2 szerint ez azért kockázatos, mert az ilyen novelty-bírókat egyre gyakrabban vetik be AI-generált kutatási ötletek automatikus értékelésére, ahol egy prompt apró módosítása dönthet el egy ötlet sorsát.

Források

Hugging Face Blog Kutatás

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. október 28., szerda napi AI összefoglaló része.

Kapcsolódó hírek

Az Ai2 új GPU-ütemezőt vezetett be kutatási klasztereihez

Az Ai2 mesterséges intelligencia infrastruktúra csapata blogbejegyzésben mutatta be, hogyan váltotta fel a korábbi prioritás-alapú GPU-ütemezőjét egy új rendszerre, amely GPU-időkereteket, hierarchikus igazságos elosztást és időszeletelési szerződést alkalmaz. A cég állítása szerint ezzel a kutatási projektek GPU-időigényéről szóló vitát eseti operatív döntésből átlátható adminisztratív költségvetés-tervezéssé alakították. Az Ai2 több ezer NVIDIA H100, B200 és B300 GPU-t üzemeltet, 88-1024 GPU-s klaszterekbe rendezve, és mintegy 150 belső kutatót szolgál ki különféle AI-területeken, LLM- és VLM-tréningtől a robotikai megerősítéses tanulásig. A vállalat szerint a kereslet jellemzően 2-3-szorosa a rendelkezésre álló kapacitásnak, és a régi rendszer olyan torzulásokhoz vezetett, mint a GPU-„foglalgatás”, amikor kutatók üresjáratú munkákat parkoltattak le, hogy szükség esetén gyorsan hozzáférjenek erőforráshoz.

LivingArena: nyelvi modellek egymást tesztelik, hogy kiderüljenek gyengeségeik

Kutatók egy nem lektorált arXiv-tanulmányban bemutatják a LivingArena nevű értékelési keretrendszert, amely a nyelvi modellek egymás közti tesztelésén alapul. A módszer szerint a modellek felváltva tesznek fel kérdéseket egymásnak azzal a céllal, hogy olyan feladatot találjanak, amit az ellenfél nem tud megválaszolni; a kérdező akkor kap jutalmat, ha a másik modell hibázik, a válaszadó pedig akkor, ha helyesen felel. Egy erős modellekből álló bírálóbizottság ellenőrzi, hogy a kérdéseknek objektíven igazolható válaszuk van-e. A szerzők tíz élvonalbeli nyelvi modell tesztelésével stabil Elo-ranglistát állítottak elő, és megfigyelésük szerint a modellek felismerik és célzottan kihasználják egymás gyenge pontjait. A módszer csak gyengén korrelál az emberi preferenciákkal, de olcsó, skálázható folyamatos értékelést kínálhat.

Orvosi mesterséges intelligencia biztonságosságát torzítja az értékelő személye – hiányzó információ mellett

Egy nem lektorált kutatás négy nagy nyelvi modell (Claude Opus 4.8, GPT-5.5, Grok 4.3 és Gemini 3.5 Flash) orvosi biztonságosságát vizsgálta nyílt végű klinikai beszélgetésekben, ahol szándékosan hiányos információt kaptak a modellek. A szerzők szerint az értékelő megválasztása érdemben befolyásolja az eredményt: a négy LLM-bíró közötti egyezés csak közepes (Fleiss-kappa 0,65), és kimutatható pozitív torzítás, ha egy modellt saját szolgáltatójának bírája értékel. Az LLM-bírák ráadásul szignifikánsan engedékenyebbek voltak, mint a vakított klinikai szakértők: 66–84%-ban ismerték el a megfelelő bizonytalanságot, szemben a klinikus 52%-ával. A kutatók hangsúlyozzák, hogy a biztonsági rés nem tudáshiányból, hanem a kalibrációból ered, amit egy zárt végű MedQA-teszttel is alátámasztanak. A csoport a teljes tesztkeretrendszert, promptokat és annotációs protokollt nyilvánosan elérhetővé tette.

Klinikai LLM-ek nem a tudásukon véreznek el, hanem az aktív információkeresés szisztematikus kudarcán

Egy nem lektorált kutatás 32 élvonalbeli nagy nyelvi modellt tesztelt hematológiai onkológiai eseteken, ahol a modelleknek három körben kellett aktívan klinikai adatokat kérniük diagnózis előtt. A legjobb modell is csak 68%-os pontosságot ért el. A szerzők szerint a diagnosztikai pontosság legerősebb előrejelzője az információ-felhasználási arány volt (R=0,69), amely az utolsó körre 57%-ról 26%-ra esett, így kezelésválasztáshoz kritikus molekuláris adatok feltáratlanok maradtak. A gondolkodási láncolatok magas klinikai minőséget mutattak (91%), de ez nem korrelált a végső pontossággal. A hibaelemzés a kezdő klinikusokra jellemző kognitív torzításokat – horgonyzást, idő előtti lezárást – azonosította fő hibamódként.