2026. október 25., vasárnap · Kutatás

Kudarc-előrejelző világmodell javítja a nagy nyelvi modell ügynökök teljesítményét

Egy kutatócsoport új módszert mutatott be, amely segít a fekete dobozos nagy nyelvi modell (LLM) ügynököknek elkerülni a hibákat hosszú, több lépéses feladatokban. A Pitfall Anticipation World Model (PAWM) nevű rendszer nem minden lépésnél próbálja megjósolni a következő megfigyelést, hanem csak akkor avatkozik be, amikor egy lehetséges kudarc körvonalazódik, és előre jelzi azt, hogy elterelje az ügynököt a hibás útról. A modellt két lépésben tanították: előbb felügyelt finomhangolással szintetikus, hibákkal címkézett adatokon, majd GRPO-alapú együtt-tanítással egy fekete dobozos LLM-mel. A kutatók szerint a PAWM 24,3 százalékkal javította a Claude Sonnet 4.5 teljesítményét a ScienceWorld tesztkörnyezetben, és 7,7 százalékkal a WebArena-Lite benchmarkon, meghaladva több alapmódszert is. Az eredmények egy lektorálatlan arXiv-preprintből származnak, független megerősítés egyelőre nincs.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A módszer azt mutatja, hogy a fekete dobozos ügynökök irányítása nem igényli a modell belső paramétereinek hozzáférését, csak egy külső, kudarcra összpontosító segédmodellt a feladatkörnyezethez illesztve.

Források

arXiv cs.AI Preprint

Kapcsolódó témák

Napi összefoglalók AI kutatás #LLM ügynökök#világmodell

Napi összefoglaló

Ez a hír a 2026. október 25., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Új teszt méri, hogyan boldogulnak az AI-ügynökök valós időben futó játékokban

Egy kutatócsoport preprintben mutatta be a RealtimeBench nevű tesztkörnyezetet, amely 180 feladatot tartalmaz hat játéktípusban, és azt méri, miként teljesítenek a nagy nyelvi modell alapú ügynökök, ha a játék a válaszadás közben is tovább fut. A kutatók szerint a GPT-6.1-sol nevű modell jobban teljesít, mint a gyorsabb Jev, ha a játékot megállítják, de lemarad, ha az folyamatosan fut. A csapat egy TORSI nevű módszert is bemutatott: egy lassú „tanár” modell megállított játékokban elemzi a hibákat és újrahasználható utasításokat ír egy gyors „diák” modellnek, amely tanári beavatkozás nélkül cselekszik játék közben. A nem lektorált tanulmány szerint két ilyen tanítási kör a Jev átlagos pontszámát 13,51-ről 24,19-re emelte egy 0–100-as skálán, és az utasítások más modellek eredményét is javították újratanítás nélkül.

PHP-sebezhetőségek: az AI felgyorsítja a kihasználást

A Wired cikke szerint a nyilvánosságra hozott PHP-hibák, gyűjtőnevükön PHP2Shell, néhány órán belül milliós nagyságrendű kihasználási kísérletet váltottak ki a Cloudflare elemzése szerint. A PHP Foundation közlése szerint eddig nem történt sikeres támadás, és sok nyilvánosan terjedő exploit hatástalannak bizonyult. A lap szerint a Calif nevű biztonsági cég fedezte fel elsőként a hibákat augusztus elején, részben az OpenAI Patch the Planet programjának AI-eszközeivel; egyes mögöttes problémák már 2024 óta ismertek voltak, de korábban túl bonyolultnak tartották a kihasználásukat. Ezt követően az OpenAI és a Google tulajdonában álló Wiz kutatói egymástól függetlenül, szintén AI-eszközökkel találtak PHP2Shell-hibákat. Wiz biztonsági kutatója, Sagi Tzadik szerint a sebezhetőség évek óta ismert volt a PHP-csapat előtt, de mivel ember korábban nem tudta kihasználni, nem javították ki. A cikk megemlíti, hogy a Microsoft e havi frissítése rekordszámú, 1453 biztonsági hibát tartalmazott, a Bank of America pedig 1000 tanácsadót vett fel az Anthropic Mythos eszköze által feltárt hibák javítására.

Tanulmány: a Grok a republikánust, a GPT a demokratát ajánlja a félidős választásokon

A TechCrunch beszámolója szerint a Convovo nevű, Tapan Parikh Cornell-professzor vezette kutatóműhely tanulmánya azt találta, hogy amikor API-n keresztül kényszerítették választásra, az xAI Grok 4.7 modellje az esetek 92%-ában a republikánus jelöltet, az OpenAI GPT-6.1 Sol modellje pedig 97%-ban a demokrata jelöltet ajánlotta. Közel 500 versenyben vizsgálva a két modell válaszai kevesebb mint 10%-ban egyeztek meg. A kutatók kifejezetten olyan API-promptot adtak meg, amely határozott jelöltnevet követelt, míg a fogyasztói chatbot-alkalmazások (ChatGPT, Grok) a cikk szerint megtagadták a direkt ajánlást. Az OpenAI szóvivője szerint ez a teszt egy fejlesztői API-t vizsgált, nem azt a tapasztalatot, amit a felhasználók a ChatGPT-vel kapnak, és a cég szerint a ChatGPT alapértelmezetten objektív akar lenni politikai kérdésekben. Parikh szerint a modellek mögött megbúvó implicit értékek befolyásolják, milyen keresési szempontok alapján döntenek.

Fehérjenyelvi modellek jósolják meg a fehérjék elektrosztatikáját

Kutatók a Nature Communications folyóiratban bemutatott KaML-ESM nevű neurális hálózatokat fejlesztettek, amelyek az ESM2 és ESMC fehérjenyelvi modellekre épülnek, és a GAINES-sel kibővített PKAD-3r adatkészleten tanultak. A szerzők szerint a módszer négy benchmarkon is felülmúlja az alternatív megközelítéseket, és a nativ fehérjékben lévő Asp, Glu, His, Cys, Tyr és Lys aminosavak ionizációs állandóit (pKa) mintegy 0,5 egységes hibával (RMSE) jósolja meg. A kutatók ugyanakkor jelzik, hogy a teljesítmény romlik 89 olyan, mesterségesen beépített, a fehérje belsejébe rejtett mutáció esetén, amelyeket nem támogat evolúciós háttér — ez a felügyelt tanítással javítható korlátot jelez. A szerzők értelmezése szerint ez arra utal, hogy a fehérjeszekvencia az evolúciós kontextuson keresztül közvetve az elektrosztatikus tulajdonságokat is kódolja. A módszert a teljes emberi proteomra alkalmazva a kutatók funkcionális helyeket azonosítottak és katalitikus mechanizmusokat következtettek ki a jósolt pKa-értékek alapján.