2026. július 15., szerda · Kutatás

Klinikai LLM-ek nem a tudásukon véreznek el, hanem az aktív információkeresés szisztematikus kudarcán

Egy nem lektorált kutatás 32 élvonalbeli nagy nyelvi modellt tesztelt hematológiai onkológiai eseteken, ahol a modelleknek három körben kellett aktívan klinikai adatokat kérniük diagnózis előtt. A legjobb modell is csak 68%-os pontosságot ért el. A szerzők szerint a diagnosztikai pontosság legerősebb előrejelzője az információ-felhasználási arány volt (R=0,69), amely az utolsó körre 57%-ról 26%-ra esett, így kezelésválasztáshoz kritikus molekuláris adatok feltáratlanok maradtak. A gondolkodási láncolatok magas klinikai minőséget mutattak (91%), de ez nem korrelált a végső pontossággal. A hibaelemzés a kezdő klinikusokra jellemző kognitív torzításokat – horgonyzást, idő előtti lezárást – azonosította fő hibamódként.

Miért fontos?

A kutatás szerint az LLM-ek orvosi tudása önmagában nem elegendő: a valós klinikai döntéshozatalhoz szükséges aktív információkeresés szisztematikusan kudarcot vall.

Források

arXiv cs.AI Preprint

Kapcsolódó témák

Napi összefoglalók AI kutatás #klinikai döntéshozatal#LLM-értékelés

Napi összefoglaló

Ez a hír a 2026. július 15., szerda napi AI összefoglaló része.

Kapcsolódó hírek

Ötezer Kaggle-versenyző tanulságai az AI-következtetés javításáról az NVIDIA Nemotron kihívásban

Az NVIDIA Nemotron Model Reasoning Challenge keretében több mint 5000 résztvevő dolgozott azon, hogyan javítható egy nyílt modell következtetési pontossága azonos infrastruktúra és korlátok mellett. Az NVIDIA technikai blogja szerint a legsikeresebb megoldások a következtetési lépések ellenőrzésére, a gondolati láncok tömörítésére a tokenkorláthoz, valamint célzott megoldók építésére összpontosítottak a legnehezebb feladattípusokhoz. A versenyzők LoRA-adaptereket tanítottak a Nemotron-3-Nano-30B modellhez, szintetikus gondolati lánc adatkészleteket építettek, és több mint ezer közösségi fórumbejegyzésben osztották meg tapasztalataikat. A szervezők kiemelik, hogy a közösségi tudásmegosztás és a teljes munkafolyamat-szemléletű mérnöki megközelítés bizonyult fontosabbnak, mint pusztán a végső válaszok finomhangolása.

Digitális ikrek és modell-prediktív irányítás a szepsziskezelés optimalizálására

Egy többközpontú kutatás keretében a Mass General Brigham egészségügyi rendszer nyolc kórházának intenzív osztályos adatain tesztelték az EHR-MPC nevű keretrendszert, amely a szepsziskezelés optimalizálását a betegdinamika tanulásától elkülönítve, generatív digitális iker modellel és modell-prediktív irányítással valósítja meg. A megközelítés lényege, hogy a beteg elektronikus egészségügyi adataiból tanult generatív modell szimulálja a klinikai trajektóriákat különböző beavatkozások mellett, majd a kezelést futásidejű tervezéssel optimalizálja. A szerzők szerint az EHR-MPC a megerősítéses tanulási alapvonalakhoz képest hasonló off-policy és javuló szimulációs teljesítményt ért el. A tanulmány nem lektorált preprint, eredményei így további független validálást igényelnek.

MIT kutatók AI-ügynökökkel építenek virtuális tereket robotok betanításához

Az MIT CSAIL és a Toyota Research Institute kutatói kifejlesztették a SceneSmith nevű rendszert, amely három mesterséges intelligencia alapú ügynök együttműködésével hoz létre valósághű háromdimenziós virtuális környezeteket robotok betanításához. A rendszer egy tervező, egy kritikus és egy szervező ügynökből áll, amelyek mindegyike vizuális-nyelvi modellre (VLM) támaszkodik a terek megtervezésekor. A kutatók szerint a SceneSmith által generált belső terek – például éttermek, szállodai szobák és hálószobák – részletesebbek és valósághűbbek, mint a korábbi megoldások, így a robotok sokféle feladatot gyakorolhatnak fizikai szimulációban, mielőtt a valós világban tesztelnék őket. A rendszer célja a robotika egyik fő szűk keresztmetszetének, a változatos betanítási adatok hiányának enyhítése, mivel a fizikai környezetben végzett tanítás munka- és időigényes.

MIT-kutatók új módszere felismeri a gyermekbántalmazó tartalom előállítására alkalmassá tett AI-modelleket

Az MIT kutatói a Thorn gyermekvédelmi szervezettel közösen olyan auditálási eljárást dolgoztak ki, amely képes megállapítani, hogy egy nyílt forráskódú generatív AI-modellt illegális gyermekszexuális visszaélési anyagok (CSAM) előállítására optimalizáltak-e – anélkül, hogy ehhez képet kellene generálni. A módszer a modell belső, rejtett reprezentációit vizsgálja, és a tesztek során 100 százalékos pontossággal azonosította a CSAM előállítására specializált modellváltozatokat – az MIT közleménye szerint. A probléma súlyát jelzi, hogy az Egyesült Államok Nemzeti Eltűnt és Kizsákmányolt Gyermekek Központja 2025-ben már több mint 1,5 millió bejelentést kapott AI-generált CSAM-ról, szemben a 2024-es 67 ezres számmal. A technika lehetővé teheti, hogy a modelleket tárhelyplatformok még feltöltés előtt kiszűrjék.