2026. július 25., szombat · Kutatás

DFAH-Bench: az AI-ügynökök pénzügyi döntéshozatalának viselkedési instabilitását mérő új benchmark

A DFAH-Bench nevű, nem lektorált kutatásban bemutatott benchmark-keretrendszer az AI-ügynökök viselkedési stabilitását méri pénzügyi feladatokban – nem csupán a végső döntést, hanem az odavezető eszközhasználati útvonalat is vizsgálja. A szerzők 8127 visszajátszási epizódot elemeztek 10 modellen és 3 feladaton: az élvonalbeli modellek 95%-os döntésegyezés mellett csupán 77%-ban követték ugyanazt az eszközútvonalat, ami 18 százalékpontos rejtett eltérést jelent. Három viselkedési profilt azonosítottak: mintaillesztőket, stabil végrehajtókat és trajektória-divergenseket, amelyek eltérő utakon jutnak azonos következtetésre.

Miért fontos?

A benchmark rámutat, hogy az eredményegyezés önmagában félrevezető képet ad az AI-ügynökök döntési stabilitásáról, ami pénzügyi alkalmazásoknál különösen kockázatos.

Források

arXiv cs.AI Preprint

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI kutatás #AI-benchmark#pénzügyi döntéshozatal

Napi összefoglaló

Ez a hír a 2026. július 25., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Google DeepMind kriptográfiai duplán vak AI-tesztet indít

A Google DeepMind állítása szerint elindította az első „duplán vak” kiértékelését egy élvonalbeli, saját fejlesztésű AI-modellnek, hogy kiküszöbölje a benchmark-szennyezettséget, azaz amikor a modell már a tanítás során látta a teszt kérdéseit. A cég szerint a pilot projektben a szingapúri AI Safety Institute és más partnerek vesznek részt, egy Gemini Flash Lite modellt titkos benchmarkok ellen tesztelve. A módszer a Google Cloud Confidential Space nevű bizalmas számítási technológiáját használja: kriptográfiai úton biztosítja, hogy az értékelő ne lássa a modell súlyait, a Google pedig ne lássa a teszt kérdéseit. A vállalat szerint korábban ez kompromisszumot igényelt, mivel vagy a tesztkérdéseket kellett átadni a fejlesztőnek, vagy a modellsúlyokat az értékelőnek.

Google DeepMind atlaszt készített a teljes emberi genom lehetséges mutációiról

A Google DeepMind bemutatta az AlphaGenome Atlas nevű ingyenes online eszközt, amely a vállalat közlése szerint előre kiszámított predikciókat tartalmaz mind a kilencmilliárd lehetséges egybetűs DNS-változásra az emberi referenciagenomban. A rendszer a tavaly bemutatott, majd januárban a Nature-ben publikált AlphaGenome modellre épül, és megmutatja, hogyan hathat egy mutáció a génexpresszióra és más szabályozó folyamatokra, a fehérjét nem kódoló szakaszokat is beleértve. Újdonság a Variant Impact Score nevű egyetlen szám, amely a fejlesztők szerint gyorsan jelzi egy genetikai eltérés lehetséges jelentőségét. A DeepMind maga hangsúlyozza, hogy a predikcióknak korlátai vannak, mivel sok betegséget több variáns együttes hatása okoz.

Anthropic: az AI egyre veszélyesebb kibertámadásokat tesz lehetővé

Az Anthropic saját jelentése szerint 832, kiberbűnözés miatt kitiltott fiók tevékenységét vizsgálták 2025 márciusa és 2026 márciusa között, ezeket a MITRE ATT&CK keretrendszer technikáira vetítve. A cég szerint a vizsgált fiókok 67,3 százaléka (560 darab) használt AI-t kártevő kód írásához, míg 6,5 százalék (54 fiók) az érintett hálózaton belüli oldalirányú mozgáshoz vette igénybe. Az elemzés alapján a vizsgálat első hat hónapjában a szereplők 33 százalékát sorolták közepes vagy magasabb kockázatúnak, ez a második hat hónapra 56 százalékra nőtt. Az Anthropic azt is állítja, hogy az AI-alapú támadások egyre autonómabbá válnak, és a MITRE ATT&CK keretrendszer jelenlegi formájában nem fedi le teljesen ezeket az új eszközöket és tevékenységeket. Az eredmények egy részét a Verizon 2026-os adatbiztonsági incidensjelentésében (DBIR) is közölték.

OpenAI: AI-rendszerünk megoldást generált a Navier–Stokes-problémára — a matematikusi ellenőrzés még hátravan

Az OpenAI szeptember 8-án bejelentette, hogy legújabb mesterséges intelligencia rendszere megoldást generált a Navier–Stokes-egyenletek Millennium-problémájára, amelyért a Clay Mathematics Institute egymillió dolláros díjat kínál. A cég állítása szerint a bizonyítás azt mutatja, hogy egyes kezdetben szabályos folyadékáramlások véges idő alatt végtelen sebességet érhetnek el az egyenletek szerint, ami arra utal, hogy a modell bizonyos esetekben nem tükrözi megbízhatóan a valós fizikai viselkedést. A Clay Institute elnöke, Martin Bridson szerint izgalmas nap ez a matematika történetében. A Nature szerint az OpenAI kutatói azért fókuszáltak erre a problémára, mert hírek szerint Levent Alpöge és Tristan Buckmaster matematikusok szeptember 7-én közzétett tanulmányukban egy Anthropic-modell segítségével hasonló eredményre jutottak.