2026. július 20., hétfő · Kutatás

Az AI-chatbotok veszélyesen magabiztosak a röntgendiagnózisban, még akkor is, ha tévednek

A RadLE 2.0 nevű benchmark 200 radiológiai eseten 16 mesterségesintelligencia-modellt tesztelt, és az eredményeket tapasztalt radiológusok teljesítményéhez hasonlította. Az Ashoka Egyetem CRASH Lab csapata által fejlesztett teszt nemcsak a diagnózis pontosságát, hanem a modell magabiztossági szintjét és a bizonytalanság beismerésének képességét is méri. A humán szakértők 988,7 pontot értek el a maximális 2000-ből, míg a legjobb AI-modell 758-at. A tanulmány szerint egyetlen modell sem győzött minden kategóriában: az Anthropic Claude Fable 5 a megbízhatóságban, a Google Gemini 3 Pro a nyers találati arányban, a Meta Muse Spark 1.1 pedig a saját korlátainak felismerésében teljesített a legjobban. A pontozás bünteti a magabiztos tévedést, mivel az orvoslásban egy hamisan határozott diagnózis sokkal veszélyesebb, mint a bizonytalanság őszinte bevallása.

Miért fontos?

A teszt rámutat, hogy az AI-modellek túlzott magabiztossága a radiológiában közvetlen betegbiztonsági kockázatot jelent.

Források

The Decoder

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 20., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

Új keretrendszer az AI gondolatmenet-konzisztenciájának ellenőrzésére biztonsági értékelésekben

Kutatók egy még nem lektorált tanulmányban bemutatták a reasoning consistency scanning módszert, amely az AI-modellek gondolatmenet-típusú (chain-of-thought) válaszainak belső logikai konzisztenciáját vizsgálja biztonsági értékelési kontextusban. A megközelítés lényege, hogy a hűség (faithfulness) vizsgálatával ellentétben a konzisztencia egyetlen átiratból is ellenőrizhető, kísérleti beavatkozás nélkül. A szerzők hatféle inkonzisztencia-típust azonosítanak, és egy 60 átiratból álló, kézzel validált benchmarkot építettek. Az InspectScout nevű szkennert négy generátor modellen és három biztonsági értékelési feladaton tesztelték, és azt találták, hogy a gondolatmenet-inkonzisztencia kimutatható, jelen van, és szisztematikusan változik modellek és feladattípusok között.

A Google DeepMind GenCeption rendszere videógenerátorból csinál univerzális látómodellt

A Google DeepMind kutatói kifejlesztették a GenCeption nevű rendszert, amely az Alibaba nyílt forráskódú Wan2.1 videómodelljét klasszikus számítógépes látási feladatokra – mélységbecslésre, szegmentálásra és 3D-s pózbecslésre – használja egyetlen előrecsatolt lépésben. A modell kis mennyiségű szintetikus videón tanult, mégis felveszi a versenyt specializált modellekkel, és valós felvételekre, valamint korábban nem látott kategóriákra is általánosít. A szerzők szerint ez a vitatott elképzelést támasztja alá, miszerint a videógenerátorok univerzális világmodellként szolgálhatnak. A tanulmány nem lektorált, eredményeit független szakértői vizsgálat még nem erősítette meg.

A kontextus minősége előre jelzi az AI-ágensek megbízhatóságát – kutatás és ipari megoldás

Egy nem lektorált kutatási tanulmány szerint az AI-ágensek hibáinak gyökere jellemzően a kontextusban keresendő: az utasítások, eszközleírások, védőkorlátok és betáplált tudás minősége határozza meg a viselkedést. A szerzők hét kritérium mentén értékelték a kontextusminőséget, és kimutatták, hogy az egyes szempontok szisztematikusan előrejelzik a hallucinációval szembeni ellenállást vagy az utasításkövetést. Eközben a Pinecone piacra dobta Nexus nevű tudásmotorját, amely a vállalati kontextust strukturált rétegbe rendezi. A cég állítása szerint a korai felhasználók a jogi szektorban jelentős pontosságjavulást és kilenc-tizenötszörös tokenköltség-csökkenést tapasztaltak a hagyományos RAG-rendszerekhez képest.

A nyílt súlyú AI-modellek kiberképességei már csak hónapokkal maradnak el a zárt rendszerektől

A brit AI Biztonsági Intézet (AISI) első nyilvános elemzése szerint a nyílt súlyú AI-modellek kiberképességekben már csak négy-hét hónappal maradnak el a vezető zárt rendszerektől, míg 2025 nagy részében ez hat-tíz hónap volt. Az AISI tesztjei alapján a GLM-5.2 és a DeepSeek V4-Pro konkrét kibertámadási feladatokban és szimulált hálózati gyakorlatokon elérték a korábbi zárt modellek szintjét, lényegesen olcsóbb futtatás mellett. Az intézet figyelmeztet, hogy a nyílt modellek biztonsági korlátai könnyen megkerülhetők, mivel bárki letöltheti és felügyelet nélkül módosíthatja őket – ezt tartós és visszafordíthatatlan visszaélési kockázatnak nevezi. Az elemzés ugyanakkor elismeri a nyílt modellek előnyeit is, és a kockázatok kiegyensúlyozott mérlegelését szorgalmazza.