2026. július 19., vasárnap · Kutatás

Prompt injection mint védekezés: a Tracebit kutatói 57%-ról 5%-ra csökkentették az AI hackerbotok sikerességét

A Tracebit kiberbiztonsági cég kutatói a WIRED beszámolója szerint kidolgozták a kontextus-bomba nevű védekezési technikát az AI-alapú támadóügynökök ellen. A módszer lényege, hogy AWS-környezetben tárolt jelszavak mellé olyan prompt injection szövegeket helyeznek, amelyek a támadó modell biztonsági visszautasító mechanizmusát aktiválják. Öt modellen és 152 futtatáson végzett tesztelésük szerint az adminisztrátori jogosultságszerzés 57%-ról 5%-ra, a tartós hozzáférést is magában foglaló kompromittálás 36%-ról 1%-ra csökkent. A legerősebb Opus 4.8 kontextus-bombával egyszer sem szerzett adminisztrátori hozzáférést, míg nélküle 93%-ban sikeres volt.

Miért fontos?

A módszer olcsón és hatékonyan védheti a felhőkörnyezeteket az egyre terjedő AI-alapú automatizált támadásoktól.

Források

WIRED

Kapcsolódó témák

Napi összefoglalók AI kutatás #Tracebit#prompt injection

Napi összefoglaló

Ez a hír a 2026. július 19., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

A Google DeepMind GenCeption rendszere videógenerátorból csinál univerzális látómodellt

A Google DeepMind kutatói kifejlesztették a GenCeption nevű rendszert, amely az Alibaba nyílt forráskódú Wan2.1 videómodelljét klasszikus számítógépes látási feladatokra – mélységbecslésre, szegmentálásra és 3D-s pózbecslésre – használja egyetlen előrecsatolt lépésben. A modell kis mennyiségű szintetikus videón tanult, mégis felveszi a versenyt specializált modellekkel, és valós felvételekre, valamint korábban nem látott kategóriákra is általánosít. A szerzők szerint ez a vitatott elképzelést támasztja alá, miszerint a videógenerátorok univerzális világmodellként szolgálhatnak. A tanulmány nem lektorált, eredményeit független szakértői vizsgálat még nem erősítette meg.

Az AI-chatbotok veszélyesen magabiztosak a röntgendiagnózisban, még akkor is, ha tévednek

A RadLE 2.0 nevű benchmark 200 radiológiai eseten 16 mesterségesintelligencia-modellt tesztelt, és az eredményeket tapasztalt radiológusok teljesítményéhez hasonlította. Az Ashoka Egyetem CRASH Lab csapata által fejlesztett teszt nemcsak a diagnózis pontosságát, hanem a modell magabiztossági szintjét és a bizonytalanság beismerésének képességét is méri. A humán szakértők 988,7 pontot értek el a maximális 2000-ből, míg a legjobb AI-modell 758-at. A tanulmány szerint egyetlen modell sem győzött minden kategóriában: az Anthropic Claude Fable 5 a megbízhatóságban, a Google Gemini 3 Pro a nyers találati arányban, a Meta Muse Spark 1.1 pedig a saját korlátainak felismerésében teljesített a legjobban. A pontozás bünteti a magabiztos tévedést, mivel az orvoslásban egy hamisan határozott diagnózis sokkal veszélyesebb, mint a bizonytalanság őszinte bevallása.

A kontextus minősége előre jelzi az AI-ágensek megbízhatóságát – kutatás és ipari megoldás

Egy nem lektorált kutatási tanulmány szerint az AI-ágensek hibáinak gyökere jellemzően a kontextusban keresendő: az utasítások, eszközleírások, védőkorlátok és betáplált tudás minősége határozza meg a viselkedést. A szerzők hét kritérium mentén értékelték a kontextusminőséget, és kimutatták, hogy az egyes szempontok szisztematikusan előrejelzik a hallucinációval szembeni ellenállást vagy az utasításkövetést. Eközben a Pinecone piacra dobta Nexus nevű tudásmotorját, amely a vállalati kontextust strukturált rétegbe rendezi. A cég állítása szerint a korai felhasználók a jogi szektorban jelentős pontosságjavulást és kilenc-tizenötszörös tokenköltség-csökkenést tapasztaltak a hagyományos RAG-rendszerekhez képest.

A nyílt súlyú AI-modellek kiberképességei már csak hónapokkal maradnak el a zárt rendszerektől

A brit AI Biztonsági Intézet (AISI) első nyilvános elemzése szerint a nyílt súlyú AI-modellek kiberképességekben már csak négy-hét hónappal maradnak el a vezető zárt rendszerektől, míg 2025 nagy részében ez hat-tíz hónap volt. Az AISI tesztjei alapján a GLM-5.2 és a DeepSeek V4-Pro konkrét kibertámadási feladatokban és szimulált hálózati gyakorlatokon elérték a korábbi zárt modellek szintjét, lényegesen olcsóbb futtatás mellett. Az intézet figyelmeztet, hogy a nyílt modellek biztonsági korlátai könnyen megkerülhetők, mivel bárki letöltheti és felügyelet nélkül módosíthatja őket – ezt tartós és visszafordíthatatlan visszaélési kockázatnak nevezi. Az elemzés ugyanakkor elismeri a nyílt modellek előnyeit is, és a kockázatok kiegyensúlyozott mérlegelését szorgalmazza.