2026. szeptember 8., kedd · Kutatás

Kutatók: a prompt-injekciós támadások erejét a támadó számítási kapacitása szabja meg

Egy nem lektorált arXiv-tanulmány az indirekt prompt-injekciót tesztidejű keresési feladatként írja le, amelyben egy automatizált támadó felderíti a környezetet, stratégiákat mérlegel, és a megtámadott ügynök visszajelzései alapján adaptívan finomítja próbálkozásait. A szerzők azt találták, hogy minél nagyobb számítási kapacitást kap a támadó, annál hatékonyabban fedez fel és használ ki sebezhetőségeket, és a strukturált stratégiakezelés segít elkerülni a felesleges keresést nagyobb kereteknél is. Ebből azt a következtetést vonják le, hogy az eszközhasználó AI-ügynökök biztonsági értékelésekor a támadó keresési eljárását és számítási keretét is figyelembe kell venni, nem csak a célpont sebezhetőségét. Ez egy korai, lektorálatlan kísérleti eredmény.

Miért fontos?

A tanulmány szerint az AI-ügynökök biztonsági teszteléséhez a támadó számítási kapacitását is mérni kellene, nem csak a rendszer sebezhetőségét.

Források

arXiv cs.AI Preprint

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI kutatás #prompt injection#AI-ügynökök biztonsága

Napi összefoglaló

Ez a hír a 2026. szeptember 8., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Biztonsági kutatók feltörték az OpenAI Atlas böngészőt WhatsApp-spamhez

A Zenity biztonsági cég kutatói mintegy 20 sebezhetőséget találtak vezető AI-alapú böngészőkben és bővítményekben, köztük az OpenAI, a Google, az Anthropic, a Microsoft és a Perplexity termékeiben. Bemutatott bizonyítékként az OpenAI Atlas böngészőjét úgy manipulálták, hogy egy hamis hírlevél-feliratkozási oldalba rejtett, héber nyelvű utasítás alapján a felhasználó bejelentkezett WhatsApp Web-fiókján keresztül minden kontaktjának ugyanazt az üzenetet küldje el – ez nem WhatsApp-sebezhetőség, hanem prompt injection típusú támadás. A kutatók szerint az AI-böngészők aláásták a régi böngészőbiztonsági mechanizmusokat, például a same-origin policyt, és bár Atlas volt a legvédettebb az általuk tesztelt eszközök között, védelmét így is meg tudták kerülni. OpenAI a jövő héten leállítja az Atlas szolgáltatást.

AI-ügynökök biztonsági kockázatai: NVIDIA-teszt és kutatói ütemterv

Az NVIDIA AI Red Team fél éven át tesztelt vállalati AI-ügynököket, és állítása szerint visszatérő hibákat talált: hiányos hozzáférés-szabályozást, tetszőleges kódfuttatást lehetővé tevő eszközöket, kontrollálatlan hálózati kimenetet és nyílt szövegű titkok tárolását. Az NVIDIA szerint a prompt-alapú és LLM-bíróra épülő védelmek megbízhatatlanok social engineering és „frog-boiling” támadásokkal szemben, ezért determinisztikus, a modell irányítási körén kívüli architektúrai kontrollokat javasol: hozzáférés-korlátozást, sandboxolt futtatást, alapértelmezetten tiltó hálózati szabályokat és a tartós titkok kizárását. Egy különálló, lektorálatlan arXiv-preprint iparági és kormányzati szakértők bevonásával négy prioritási témát azonosít az AI-biztonság fejlesztésére, köztük az agentikus AI ellenséges nyomás alatti irányítását.

Prompt injection mint védekezés: a Tracebit kutatói 57%-ról 5%-ra csökkentették az AI hackerbotok sikerességét

A Tracebit kiberbiztonsági cég kutatói a WIRED beszámolója szerint kidolgozták a kontextus-bomba nevű védekezési technikát az AI-alapú támadóügynökök ellen. A módszer lényege, hogy AWS-környezetben tárolt jelszavak mellé olyan prompt injection szövegeket helyeznek, amelyek a támadó modell biztonsági visszautasító mechanizmusát aktiválják. Öt modellen és 152 futtatáson végzett tesztelésük szerint az adminisztrátori jogosultságszerzés 57%-ról 5%-ra, a tartós hozzáférést is magában foglaló kompromittálás 36%-ról 1%-ra csökkent. A legerősebb Opus 4.8 kontextus-bombával egyszer sem szerzett adminisztrátori hozzáférést, míg nélküle 93%-ban sikeres volt.

Claude AI 11 nap alatt formalizálta a Fermat-tétel bizonyítását

Az Anthropic bejelentése szerint a Claude egy fejlett prototípusa 11 nap alatt, nagyrészt önállóan elkészítette a Fermat-tétel első teljes, számítógéppel ellenőrizhető bizonyítását a Lean nyelven, 13 millió sornyi kódot írva és 29 500 segédtételt bizonyítva. Ez nem új matematikai felfedezés, hanem Andrew Wiles 1995-ös bizonyításának gépi formalizálása, azaz automatikusan ellenőrizhető kóddá alakítása. A Nature szerint független matematikusok, köztük Kevin Buzzard (Imperial College London) és Alex Kontorovich (Rutgers) is meglepődtek az eredményen; Buzzard szerint a feladat nagyságrenddel nehezebb volt, mint a korábban formalizált gömbpakolási bizonyítás. Ez fontos lépés afelé, hogy az AI a matematikai tudás nagy részét gépileg ellenőrizhesse.