2026. július 18., szombat · Kutatás

Többszintű ágens keretrendszer automatikusan generál nehéz teszteseteket multimodális AI-biztonsági modellek megerősítéséhez

Egy nem lektorált kutatási munka olyan automatizált, többágenses red-teaming keretrendszert mutat be, amely emberi beavatkozás nélkül képes nehéz, határeseti példákat szintetizálni multimodális nagy nyelvi modellek (MLLM-ek) tartalombiztonsági feladataihoz. A rendszer egy magas szintű tervező ágensből, egy képgenerátorból és egy többszintű LLM-értékelő bizottságból áll, amelyek iteratívan állítanak elő új hipotéziseket és mutálják a korábbi kísérleteket. A szerzők állítása szerint az így előállított adversariális példák tesztelési idejű visszakereséssel kontextusba ágyazva jelentősen javítják a célmodell robusztusságát: egy nyilvános képbiztonsági benchmarkon a hamis negatív arányt 41,2%-ról 24,5%-ra csökkentették, mindezt emberi címkézés nélkül. A megközelítés a hagyományos aktív tanulás és manuális annotáció skálázhatósági korlátait célozza meg.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az automatikus adversariális tesztelés az AI-tartalommoderálás egyik kulcskihívására kínálhat skálázható megoldást.

Források

arXiv cs.AI Preprint

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 18., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Intézményi red-teaming: a telepítési szabályok okságilag befolyásolják a multiágens AI-biztonságot

Kutatók nem lektorált tanulmányban új módszertant mutatnak be, amellyel multiágens AI-rendszerek telepítési szabályainak biztonsági hatása vizsgálható: az ágenseket és célokat rögzítve egyetlen szabályt változtatnak, majd az eltérést a szabálynak tulajdonítják. Az IABench-CA benchmarkot 228 kontextusban, öt szabállyal és hét modellpopulációval tesztelték (33 924 játszma). Eredményeik szerint egyetlen szabályváltoztatás 22–58 százalékpontos eltérést okozott a halálos kimenetelekben, miközben univerzálisan biztonságos alapbeállítás nem létezik. Az identitásalapú célzás minden populációnál szelekciós szempontból nem biztonságos; a GPT-5.1 populáción végzett anonimizálási kísérlet szerint a veszteségviselő megnevezése 22%-ról 81%-ra emelte a célzott eliminációt.

GPT-6-Astra rutinszerű fizikai kutatási feladatok 98%-át oldotta meg

Egy nemzetközi kutatócsoport – köztük az ICTS, a Harvard, a KU Leuven és a Google DeepMind munkatársai, összesen 35 szerző – közzétette a TheoPhysEval nevű benchmarkot, amely 50, korábban nem publikált elméleti fizikai kutatási feladatot tartalmaz ellenőrizhető megoldással. A feladatok a szerzők szerint úgynevezett „turn-the-crank” jellegű, rutinszerű kutatómunkát modelleznek, amelyben ismert módszereket kell alkalmazni egy kissé módosított kérdésre, és amit jellemzően egy PhD-hallgató kap első lépésként, egy adott terület szakértője pedig nagyjából egy nap alatt megold. A tesztben az OpenAI Codex környezetében futó GPT-6-Astra 49 feladatot oldott meg helyesen, vagyis 98 százalékot ért el, átlagosan kevesebb mint 3 dollárért feladatonként, az egész benchmarkot pedig közel 116 dollárból futtatták végig. Az Anthropic Claude Code-ban futó Opus 5.5 92 százalékot, a Google Gemini 3.8 Flash pedig 68 százalékot ért el. A kutatók szerint a magas pontszámok ellenére hiányzik az AI-ból egyfajta tudományos „ízlésérzék”, ami megmagyarázhatja, miért nem vezettek még ezek az eredmények valódi fizikai áttörésekhez.

Seal: AI-modell térképezi az agyfejlődés génszabályozását

A Nature Neuroscience folyóiratban megjelent tanulmány bemutatja a Sealt, egy interpretálható, mesterséges intelligencián alapuló transzfertanulási keretrendszert, amely a fejlődő emberi agy génexpresszióját és genetikai variánsainak hatását modellezi térbeli-időbeli felbontásban, 26 agyi régióra, 30 sejttípusra és 7 fejlődési stádiumra kiterjedően. A kutatók szerint a Seal a genetikai variánsokat transzkripciós szabályozókhoz köti, és a modellt hat neuropszichiátriai állapot GWAS-adatain alkalmazva közös és eltérő szabályozási architektúrákat azonosítottak, amelyek illeszkednek a klinikai lefolyáshoz. A Simons Simplex Collection autizmus-kohorsz teljes genomadatain a modell jelentős de novo szabályozóvariáns-terhelést mutatott ki az átmeneti, magzati kori gerjesztő idegsejtekben, sejttípus- és stádiumspecifikus hatásokat feltárva. A szerzők szerint a Seal általános keretrendszert kínál az agyfejlődés és az idegrendszeri betegségek mechanizmusainak feltárásához, a modell kódja és paraméterei nyilvánosan elérhetők.

Anthropic: kis AI-modellek önállóan terjedhetnek okoseszközökön

Az Anthropic két kutatója, William Zhou és Daniel Freeman által jegyzett tanulmány szerint a kisméretű nyelvi modellek hamarosan képesek lehetnek önállóan, férgekhez hasonlóan terjedni gyengén védett fogyasztói eszközökön, például okostévéken, hűtőkön vagy robotporszívókon. A kutatók egy Gemma4-26B-A4B modellt 15 darab, egyenként mintegy 55 dolláros, 4 GB RAM-os Android TV-dobozra osztva futtattak, a GLM-5.2 modell pedig a tanulmány szerint mind a nyolc tesztelt eszközön végigvitte a teljes replikációs láncot: hálózatot pásztázott, bejutott egy új eszközre, ott beállította a futtatási környezetét, majd onnan tovább is tudott terjedni. Az Anthropic szerint jelenleg még nincs olyan modell, amely egyszerre elég kicsi és elég ügyes lenne ehhez éles környezetben, de a kutatók úgy vélik, ez a rés hamarosan bezárulhat. A cég vezérigazgatója, Dario Amodei a Financial Times szerint több száz milliárd dolláros kárt okozó jövőbeli kiberfenyegetésre figyelmeztetett.