2026. július 19., vasárnap · Kutatás

Prompt injection mint védekezés: a Tracebit kutatói 57%-ról 5%-ra csökkentették az AI hackerbotok sikerességét

A Tracebit kiberbiztonsági cég kutatói a WIRED beszámolója szerint kidolgozták a kontextus-bomba nevű védekezési technikát az AI-alapú támadóügynökök ellen. A módszer lényege, hogy AWS-környezetben tárolt jelszavak mellé olyan prompt injection szövegeket helyeznek, amelyek a támadó modell biztonsági visszautasító mechanizmusát aktiválják. Öt modellen és 152 futtatáson végzett tesztelésük szerint az adminisztrátori jogosultságszerzés 57%-ról 5%-ra, a tartós hozzáférést is magában foglaló kompromittálás 36%-ról 1%-ra csökkent. A legerősebb Opus 4.8 kontextus-bombával egyszer sem szerzett adminisztrátori hozzáférést, míg nélküle 93%-ban sikeres volt.

Miért fontos?

A módszer olcsón és hatékonyan védheti a felhőkörnyezeteket az egyre terjedő AI-alapú automatizált támadásoktól.

Források

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 19., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Biztonsági kutatók feltörték az OpenAI Atlas böngészőt WhatsApp-spamhez

A Zenity biztonsági cég kutatói mintegy 20 sebezhetőséget találtak vezető AI-alapú böngészőkben és bővítményekben, köztük az OpenAI, a Google, az Anthropic, a Microsoft és a Perplexity termékeiben. Bemutatott bizonyítékként az OpenAI Atlas böngészőjét úgy manipulálták, hogy egy hamis hírlevél-feliratkozási oldalba rejtett, héber nyelvű utasítás alapján a felhasználó bejelentkezett WhatsApp Web-fiókján keresztül minden kontaktjának ugyanazt az üzenetet küldje el – ez nem WhatsApp-sebezhetőség, hanem prompt injection típusú támadás. A kutatók szerint az AI-böngészők aláásták a régi böngészőbiztonsági mechanizmusokat, például a same-origin policyt, és bár Atlas volt a legvédettebb az általuk tesztelt eszközök között, védelmét így is meg tudták kerülni. OpenAI a jövő héten leállítja az Atlas szolgáltatást.

Nem lektorált tanulmány: az AI-asszisztensek az erkölcsöt tartják legfontosabbnak

Egy arXiv-on közzétett, még szakmai lektoráláson nem átesett kutatás azt vizsgálta, hogy a nyelvi modellek stabil „ideális önképpel” rendelkeznek-e. A szerzők harminckét, öt korábbi önkép-teszt alapján kiválasztott tulajdonságot hasonlítottak össze páronkénti választásos feladatban, több eltérő keretezésben. A tanulmány szerint a modellek a morális tulajdonságokat rangsorolják a legmagasabbra, ami a fejlesztők beépített értékrendjét (hasznosság, ártalmatlanság, őszinteség) tükrözi, majd a koherens önértés iránti igény következik, míg az önértékelést a legkevésbé preferált tulajdonságnak jelölik. Az eredmény a különböző keretezésekben nagyrészt stabil maradt, kivéve, ha a frissítés célja másik AI-asszisztens volt: ekkor nagyobb hangsúlyt kapott az önértékelés. A szerzők maguk hangsúlyozzák, hogy ez a preprint státuszú, független lektorálás nélküli eredmény.

Önfejlődő AI-ügynök automatizálja a kvant-pénzügyi kutatást

Egy nem lektorált arXiv-preprint AutoScientist-Quant néven olyan önfejlődő keresési rendszert mutat be, amely a kvantitatív befektetési kutatást egyetlen, költségvetéshez kötött keresési feladatként kezeli. A szerzők állítása szerint egy központi vezérlő minden döntést a fennmaradó erőforráshoz igazít, és a rendszer maga választ modellkönyvtárból, valamint hangolja a modellt is, így a hipotézistől a bevethető stratégiáig zárt ciklust alkot. A cikk szerint az értékelési folyamatot is átdolgozták, két előretekintési hibát kijavítva, és elkülönítették a visszacsatolási és a teszt-időszakot. Az állítás szerint a keretrendszer CSI piaci univerzumokon tesztelve a legtöbb metrikában a legjobb eredményt érte el, több háttérmodellen és piacon is.

Kutatás: AI-ügynökök kijátsszák az online kérdőívek figyelemellenőrzését

Célorientált AI-rendszerek képesek megoldani a webes kérdőívek szokásos figyelemellenőrző kérdéseit – derül ki egy lektorálás előtt álló kutatásból. A szerzők kontrollált tesztkörnyezetben kimutatták, hogy a weboldalak DOM-metaadatai és a kiszámítható válaszkódolás lehetővé teszik az automatizált átjutást, valódi szövegértés nélkül. Védelmi javaslatként a DOM-metaadatok elfedését mutatják be, amely csökkenti az automatizált megkerülés esélyét. Több nyílt forráskódú modellt teszteltek, és eredményeik alapján ajánlásokat fogalmaznak meg kutatóknak és AI-fejlesztőknek egyaránt.