2026. szeptember 8., kedd · Kutatás

Kutatók: a prompt-injekciós támadások erejét a támadó számítási kapacitása szabja meg

Egy nem lektorált arXiv-tanulmány az indirekt prompt-injekciót tesztidejű keresési feladatként írja le, amelyben egy automatizált támadó felderíti a környezetet, stratégiákat mérlegel, és a megtámadott ügynök visszajelzései alapján adaptívan finomítja próbálkozásait. A szerzők azt találták, hogy minél nagyobb számítási kapacitást kap a támadó, annál hatékonyabban fedez fel és használ ki sebezhetőségeket, és a strukturált stratégiakezelés segít elkerülni a felesleges keresést nagyobb kereteknél is. Ebből azt a következtetést vonják le, hogy az eszközhasználó AI-ügynökök biztonsági értékelésekor a támadó keresési eljárását és számítási keretét is figyelembe kell venni, nem csak a célpont sebezhetőségét. Ez egy korai, lektorálatlan kísérleti eredmény.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A tanulmány szerint az AI-ügynökök biztonsági teszteléséhez a támadó számítási kapacitását is mérni kellene, nem csak a rendszer sebezhetőségét.

Források

arXiv cs.AI Preprint

Kapcsolódó témák

Napi összefoglalók AI kutatás #prompt injection#AI-ügynökök biztonsága

Napi összefoglaló

Ez a hír a 2026. szeptember 8., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Biztonsági kutatók feltörték az OpenAI Atlas böngészőt WhatsApp-spamhez

A Zenity biztonsági cég kutatói mintegy 20 sebezhetőséget találtak vezető AI-alapú böngészőkben és bővítményekben, köztük az OpenAI, a Google, az Anthropic, a Microsoft és a Perplexity termékeiben. Bemutatott bizonyítékként az OpenAI Atlas böngészőjét úgy manipulálták, hogy egy hamis hírlevél-feliratkozási oldalba rejtett, héber nyelvű utasítás alapján a felhasználó bejelentkezett WhatsApp Web-fiókján keresztül minden kontaktjának ugyanazt az üzenetet küldje el – ez nem WhatsApp-sebezhetőség, hanem prompt injection típusú támadás. A kutatók szerint az AI-böngészők aláásták a régi böngészőbiztonsági mechanizmusokat, például a same-origin policyt, és bár Atlas volt a legvédettebb az általuk tesztelt eszközök között, védelmét így is meg tudták kerülni. Az OpenAI augusztus 9-én, vasárnap leállítja az Atlas szolgáltatást.

AI-ügynökök biztonsági kockázatai: NVIDIA-teszt és kutatói ütemterv

Az NVIDIA AI Red Team fél éven át tesztelt vállalati AI-ügynököket, és állítása szerint visszatérő hibákat talált: hiányos hozzáférés-szabályozást, tetszőleges kódfuttatást lehetővé tevő eszközöket, kontrollálatlan hálózati kimenetet és nyílt szövegű titkok tárolását. Az NVIDIA szerint a prompt-alapú és LLM-bíróra épülő védelmek megbízhatatlanok social engineering és „frog-boiling” támadásokkal szemben, ezért determinisztikus, a modell irányítási körén kívüli architektúrai kontrollokat javasol: hozzáférés-korlátozást, sandboxolt futtatást, alapértelmezetten tiltó hálózati szabályokat és a tartós titkok kizárását. Egy különálló, lektorálatlan arXiv-preprint iparági és kormányzati szakértők bevonásával négy prioritási témát azonosít az AI-biztonság fejlesztésére, köztük az agentikus AI ellenséges nyomás alatti irányítását.

Prompt injection mint védekezés: a Tracebit kutatói 57%-ról 5%-ra csökkentették az AI hackerbotok sikerességét

A Tracebit kiberbiztonsági cég kutatói a WIRED beszámolója szerint kidolgozták a kontextus-bomba nevű védekezési technikát az AI-alapú támadóügynökök ellen. A módszer lényege, hogy AWS-környezetben tárolt jelszavak mellé olyan prompt injection szövegeket helyeznek, amelyek a támadó modell biztonsági visszautasító mechanizmusát aktiválják. Öt modellen és 152 futtatáson végzett tesztelésük szerint az adminisztrátori jogosultságszerzés 57%-ról 5%-ra, a tartós hozzáférést is magában foglaló kompromittálás 36%-ról 1%-ra csökkent. A legerősebb Opus 4.8 kontextus-bombával egyszer sem szerzett adminisztrátori hozzáférést, míg nélküle 93%-ban sikeres volt.

Proaktív AI-ügynök tanulja meg a késleltetett emlékezést

Egy kutatócsoport preprint cikkben mutatja be a ProMemAgent nevű rendszert, amely a nagy nyelvi modell (LLM) alapú AI-ügynököket proaktívvá teszi a késleltetett feladatok kezelésében. A szerzők állítása szerint a jelenlegi proaktív ügynökök csak az azonnali igényekre reagálnak, miközben a mindennapi helyzetek gyakran órákkal vagy napokkal később aktiválandó szándékokat is tartalmaznak. A ProMemAgent az emberi „prospektív memória” elvét másolja: egocentrikus videó- és hangfelvételekből származó érzékelési adatokat kontextusfüggő emlékekké szervez, és ezekből jövőbeli cselekvésre vonatkozó jelzéseket generál. A kutatók bemutatták a CPMBench nevű tesztkészletet is, amely 1000 mindennapi esetet foglal magában nyolc kategóriában, és állításuk szerint a ProMemAgent minden vizsgált alapmodellnél jobban teljesített a memória-visszakeresésben és a hosszú távú proaktív segítségnyújtásban. Mivel az eredmény egy lektorálatlan preprintből származik, az állítások független megerősítése még nem történt meg.