2026. július 18., szombat · Kutatás

Többszintű ágens keretrendszer automatikusan generál nehéz teszteseteket multimodális AI-biztonsági modellek megerősítéséhez

Egy nem lektorált kutatási munka olyan automatizált, többágenses red-teaming keretrendszert mutat be, amely emberi beavatkozás nélkül képes nehéz, határeseti példákat szintetizálni multimodális nagy nyelvi modellek (MLLM-ek) tartalombiztonsági feladataihoz. A rendszer egy magas szintű tervező ágensből, egy képgenerátorból és egy többszintű LLM-értékelő bizottságból áll, amelyek iteratívan állítanak elő új hipotéziseket és mutálják a korábbi kísérleteket. A szerzők állítása szerint az így előállított adversariális példák tesztelési idejű visszakereséssel kontextusba ágyazva jelentősen javítják a célmodell robusztusságát: egy nyilvános képbiztonsági benchmarkon a hamis negatív arányt 41,2%-ról 24,5%-ra csökkentették, mindezt emberi címkézés nélkül. A megközelítés a hagyományos aktív tanulás és manuális annotáció skálázhatósági korlátait célozza meg.

Miért fontos?

Az automatikus adversariális tesztelés az AI-tartalommoderálás egyik kulcskihívására kínálhat skálázható megoldást.

Források

arXiv cs.AI Preprint

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI kutatás #red-teaming#tartalombiztonság

Napi összefoglaló

Ez a hír a 2026. július 18., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Intézményi red-teaming: a telepítési szabályok okságilag befolyásolják a multiágens AI-biztonságot

Kutatók nem lektorált tanulmányban új módszertant mutatnak be, amellyel multiágens AI-rendszerek telepítési szabályainak biztonsági hatása vizsgálható: az ágenseket és célokat rögzítve egyetlen szabályt változtatnak, majd az eltérést a szabálynak tulajdonítják. Az IABench-CA benchmarkot 228 kontextusban, öt szabállyal és hét modellpopulációval tesztelték (33 924 játszma). Eredményeik szerint egyetlen szabályváltoztatás 22–58 százalékpontos eltérést okozott a halálos kimenetelekben, miközben univerzálisan biztonságos alapbeállítás nem létezik. Az identitásalapú célzás minden populációnál szelekciós szempontból nem biztonságos; a GPT-5.1 populáción végzett anonimizálási kísérlet szerint a veszteségviselő megnevezése 22%-ról 81%-ra emelte a célzott eliminációt.

Microsoft hatékonyabb kórszövettani AI-modelleket mutatott be

A Microsoft Research bemutatta a GigaPath-Flash és GigaTIME-Flash nevű kórszövettani alapmodelleket, amelyek a korábbi GigaPath és GigaTIME desztillált, gyorsított változatai. A vállalat állítása szerint a lepárolt modell jelentősen csökkenti a számítási igényt anélkül, hogy a teljesítmény romlana, így nagyobb beteg-kohorszokon lehet ismételt elemzéseket futtatni. A modellek nyílt kutatási eszközök, céljuk a betegségbiológia, biomarkerek és klinikai kimenetek vizsgálata rákos adathalmazokon populációs szinten. A Microsoft hangsúlyozza, hogy ezek kutatási célú modellek, klinikai használatra – diagnózisra, prognózisra vagy kezelésválasztásra – nincsenek validálva. Az eredmények egy vállalati blogbejegyzésben szerepelnek, nem lektorált tudományos publikációban, így független szakmai bírálaton még nem mentek keresztül.

Kutatás: az AI-kódolóügynökök nem érzik az idő múlását

Egy nem lektorált tanulmány, amelyet két független kutató készített a MATS kutatói program keretében, azt vizsgálta, mennyire tudják az AI-kódolóasszisztensek megbecsülni egy feladat elvégzéséhez szükséges időt. Az Anthropic Claude Code és az OpenAI Codex ügynökeit 200 feladaton (ProgramBench) és egy 18 tesztes saját csomagon tesztelték. Mindkét modell rendszeresen túlbecsülte az időigényt: a ProgramBench-en a nehézségtől függetlenül kb. 90 percet jósoltak, a második körben a Claude háromszor, a Codex hat-tízszer tévedett, főleg rövid feladatoknál. A futásidő a szoftverkörnyezettől is függött: a Claude Code addig dolgozik, amíg készen nem véli a feladatot, míg a Codex szinte mindig fél óra után leáll. Az ügynökök saját munkájukat is túlértékelték: az Opus 4.8 és a GPT-5.5 átlag 20 ponttal adott magának jobb jegyet, egy esetben 70 százalékos sikert állítva a valós 7-14,5 százalék helyett.

LAION kiadta a 10 millió órás nyílt videó-adathalmazt AI-kutatáshoz

A LAION közzétette a Big Video Dataset (BVD) nevű gyűjteményt, amely a CommonCrawlben talált 1,3 milliárd videó-URL-ből építkezik. A csapat 80 millió videót töltött le, ez összesen 10 millió óra anyagot jelent, ebből 55 millió klipet vágtak ki automatikusan generált videó- és hangleírásokkal, valamint 300 millió állóképet nyertek ki. A kísérő, egyelőre nem lektorált tanulmány szerint a BVD-n tanított modellek a videó-szöveg benchmarkokon akár 2,1 százalékponttal jobban teljesítenek, mint az InternVid adathalmazon tanítottak, ezt egyelőre csak a LAION saját közleménye állítja. A szervezet a 2024-es hamburgi bírósági döntésre hivatkozva kizárólag nem kereskedelmi kutatási célra teszi elérhetővé az adatokat, és kéri a felhasználókat, hogy tartsák tiszteletben az eredeti tartalomkészítők jogait.