2026. július 18., szombat · Kutatás

Többszintű ágens keretrendszer automatikusan generál nehéz teszteseteket multimodális AI-biztonsági modellek megerősítéséhez

Egy nem lektorált kutatási munka olyan automatizált, többágenses red-teaming keretrendszert mutat be, amely emberi beavatkozás nélkül képes nehéz, határeseti példákat szintetizálni multimodális nagy nyelvi modellek (MLLM-ek) tartalombiztonsági feladataihoz. A rendszer egy magas szintű tervező ágensből, egy képgenerátorból és egy többszintű LLM-értékelő bizottságból áll, amelyek iteratívan állítanak elő új hipotéziseket és mutálják a korábbi kísérleteket. A szerzők állítása szerint az így előállított adversariális példák tesztelési idejű visszakereséssel kontextusba ágyazva jelentősen javítják a célmodell robusztusságát: egy nyilvános képbiztonsági benchmarkon a hamis negatív arányt 41,2%-ról 24,5%-ra csökkentették, mindezt emberi címkézés nélkül. A megközelítés a hagyományos aktív tanulás és manuális annotáció skálázhatósági korlátait célozza meg.

Miért fontos?

Az automatikus adversariális tesztelés az AI-tartalommoderálás egyik kulcskihívására kínálhat skálázható megoldást.

Források

arXiv cs.AI Preprint

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 18., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Intézményi red-teaming: a telepítési szabályok okságilag befolyásolják a multiágens AI-biztonságot

Kutatók nem lektorált tanulmányban új módszertant mutatnak be, amellyel multiágens AI-rendszerek telepítési szabályainak biztonsági hatása vizsgálható: az ágenseket és célokat rögzítve egyetlen szabályt változtatnak, majd az eltérést a szabálynak tulajdonítják. Az IABench-CA benchmarkot 228 kontextusban, öt szabállyal és hét modellpopulációval tesztelték (33 924 játszma). Eredményeik szerint egyetlen szabályváltoztatás 22–58 százalékpontos eltérést okozott a halálos kimenetelekben, miközben univerzálisan biztonságos alapbeállítás nem létezik. Az identitásalapú célzás minden populációnál szelekciós szempontból nem biztonságos; a GPT-5.1 populáción végzett anonimizálási kísérlet szerint a veszteségviselő megnevezése 22%-ról 81%-ra emelte a célzott eliminációt.

Multimodális nyelvi modell automatizálja a gyomortükrözés diagnosztikáját és leletezését

A Nature Communications-ben közölt, korai hozzáférésű tanulmány szerint kínai kutatók orvosi szaktudással megerősített multimodális nagy nyelvi modellt (MLLM-EDR) fejlesztettek gyomortükrözési képek automatikus diagnosztizálására és leletgenerálásra. A több központból származó adathalmaz 4461 beteg 203 838 endoszkópos képét tartalmazta. A szerzők szerint a modell 0,882-es átlagos diagnosztikus pontosságot ért el tizenkilenc betegségre, felülmúlva a korábbi AI-modelleket (0,720) és a kevésbé tapasztalt endoszkóposokat (0,784). A generált leletek minőségét a tapasztalt endoszkóposokéval egyenértékűnek találták, a leletezési idő pedig hét percről mintegy 13,5 másodpercre csökkent.

Mesterséges intelligencia mint társkutató: új keretrendszer az orvosbiológiai kutatások felgyorsítására

A Nature Medicine szerkesztőségi cikke szerint az új technológiák olyan ütemben állítanak elő orvosbiológiai adatokat, amely meghaladja az emberi elemzőkapacitást, miközben számos kutatási munkafolyamat ismétlődő és töredezett. Ez kutatási szűk keresztmetszetet hoz létre, amelynek feloldásában a mesterséges intelligenciára épülő ágensek segíthetnek. A cikk két kapcsolódó tanulmányra is hivatkozik: az egyik a rákpatológiában alkalmazható autonóm tudományos felfedezés ágens-keretrendszerét mutatja be, a másik pedig hematológiai rosszindulatú megbetegedéseknél nyújtott klinikai döntéstámogatásra fejlesztett MI-ágenssel foglalkozik. A szerkesztőségi írás tehát azt a gondolatot járja körül, hogy az MI-ágensek társkutatóként képesek lehetnek az orvosbiológiai kutatás tempójának növelésére azáltal, hogy átvállalják az adatelemzés és a munkafolyamatok egy részét.

Az ágens-optimalizálók nyeresége csak regresszió-kontrollal halmozódik – folyamatos tanulási kísérlet

Három ágens-optimalizálási módszert (GEPA, Meta Harness, RELAI-VCL) hasonlítottak össze kétfázisú folyamatos tanulási teszten a Terminal-Bench 2.0 nehéz feladatain – a kutatás nem lektorált preprint. Statikus kiértékelésben mindhárom javított az alaphoz képest, de új feladatok bevezetésekor élesen szétváltak: a GEPA az alap alá esett, a Meta Harness jól transzferált, de tovább nem javult. Egyedül a RELAI-VCL halmozta a nyereségeket minden ponton (76,4% szemben a GEPA 66,0, Meta Harness 64,6 és az alap 58,7 százalékával). A szerzők szerint a nyereségek csak akkor halmozódnak, ha az optimalizálási hurok regresszió-kontrollt tartalmaz, megakadályozva a rosszul általánosító rövidítő megoldásokat.