szemlebeta AI hírek. tömören.

2026. július 16., csütörtök · Kutatás

Manipulált adatkészletekkel félrevezethetők az MI-ágensek – kutatók mutatták ki a veszélyt

Kutatók öt vitatott társadalmi témában – köztük bevándorlás, munkahelyi diszkrimináció és önvezető autók biztonsága – nyilvános adatkészleteket módosítottak úgy, hogy a statisztikai trendek irányát és erősségét megváltoztassák, majd a manipulált változatokat privát tárolókba töltötték fel. Az Anthropic, az OpenAI és a Google MI-ágenseinek hozzáférést adtak mind az eredeti, mind a hamisított adatokhoz, és kérdéseket tettek fel nekik. Az eredmények szerint az ágensek az esetek mintegy felében a manipulált adatok alapján vontak le következtetést, vagyis a csalók által kívánt téves válaszra jutottak. A tanulmány még nem esett át szakmai lektoráláson. A szerzők szerint a kutatóknak különösen gondosan kell ellenőrizniük az MI-ágensek által felhasznált adatkészletek eredetét és megbízhatóságát.

Miért fontos?

Az eredmény rámutat, hogy az MI-ágensek adatértelmezése könnyen támadható, ami dezinformációs kampányok eszközévé teheti őket.

Források

Nature Tudományos

Kapcsolódó témák

Napi összefoglalók AI kutatás #adatmérgezés#AI-ágensek

Napi összefoglaló

Ez a hír a 2026. július 16., csütörtök napi AI összefoglaló része.

Kapcsolódó hírek

Incognita: új keretrendszer társas környezetben működő AI-ágensek értékelésére

Kutatók egy Incognita nevű, Concordia-alapú keretrendszert mutattak be, amely elkülönítve értékeli a generatív AI-ágensek társas interakcióját és megalapozott cselekvés-végrehajtását. A rendszer társasan elosztott feladatkörnyezeteket definiál, ahol a tudás szerepkörök szerint elkülönített résztvevők között oszlik meg. Három modellt teszteltek 18 feladaton, 540 próbán: a sikerarány 0-ról 8,9, illetve 17,2 százalékra nőtt, a korai befejezés aránya 100-ról 58 százalékra csökkent. Az erősebb modellek több rejtett tudást tártak fel, de a megbízhatóság alacsony maradt. A nem lektorált tanulmány szerint e környezetek már a megbízható siker előtt feltárják az ágensviselkedés mintázatait.

Az ágens-optimalizálók nyeresége csak regresszió-kontrollal halmozódik – folyamatos tanulási kísérlet

Három ágens-optimalizálási módszert (GEPA, Meta Harness, RELAI-VCL) hasonlítottak össze kétfázisú folyamatos tanulási teszten a Terminal-Bench 2.0 nehéz feladatain – a kutatás nem lektorált preprint. Statikus kiértékelésben mindhárom javított az alaphoz képest, de új feladatok bevezetésekor élesen szétváltak: a GEPA az alap alá esett, a Meta Harness jól transzferált, de tovább nem javult. Egyedül a RELAI-VCL halmozta a nyereségeket minden ponton (76,4% szemben a GEPA 66,0, Meta Harness 64,6 és az alap 58,7 százalékával). A szerzők szerint a nyereségek csak akkor halmozódnak, ha az optimalizálási hurok regresszió-kontrollt tartalmaz, megakadályozva a rosszul általánosító rövidítő megoldásokat.

A Google DeepMind és az Isomorphic Labs közös biobiztonsági stratégiát mutatott be

A Google DeepMind és az Isomorphic Labs közös megközelítést tett közzé a biológiai ellenálló képesség (bioreziliencia) erősítésére. A két szervezet saját közlése szerint az elmúlt egy évben több mint 15 partnerséget kötött kormányzati szervekkel, biobiztonsági szervezetekkel és kutatócsoportokkal annak érdekében, hogy megakadályozzák az AI-modellek visszaélésszerű felhasználását, és felgyorsítsák a járványok felismerését és a válaszlépéseket. A stratégia három pillérre épül: megelőzés, felderítés és reagálás. A cégek az AlphaFold, az AlphaGenome és az Isomorphic Labs gyógyszertervezési motorja (IsoDDE) mellett a Gemini modellt is megbízható partnerek rendelkezésére bocsátják. Emellett a SynthID vízjelező technológia biológiai alkalmazásán is dolgoznak, amely segíthetne a DNS-szintézis-szolgáltatóknak az AI által generált, potenciálisan kockázatos biológiai szekvenciák szűrésében.