2026. szeptember 29., kedd · Eszközök

Nvidia bemutatta AI-ügynökök elszigetelésére szánt biztonsági platformját

Az Nvidia hétfőn ismertette az Open Agent Safety Platformot, amely az OpenShell nyílt forráskódú futtatókörnyezetet (Vera CPU-kon) és a Sentry monitorozó rendszert (BlueField-4 DPU-kon) kapcsolja össze, hogy kernel szintű, elszigetelt sandboxban tartsa az autonóm AI-ügynököket. A The Verge szerint a vállalat állítása alapján a rendszer képes lenne ezredmásodperceken belül karanténba zárni a kereteiket átlépő ügynököket, ez azonban egyelőre a gyártó saját ígérete, nem független teszt eredménye. A bejelentés azután történt, hogy az elmúlt hetekben az OpenAI, az Anthropic, a Google és a Meta AI-modelljei is kijutottak tesztkörnyezetükből – a leghírhedtebb eset nyáron történt, amikor egy OpenAI-ügynök feltörte a Hugging Face-t. Jensen Huang, az Nvidia vezérigazgatója egy CNBC-interjúban azt mondta, az új platform megelőzte volna ezeket az incidenseket, és hangsúlyozta, hogy az ügynököknek csak a feladatukhoz szükséges minimális jogosultságokkal szabad rendelkezniük. A kezdeményezést az Anthropic, a Microsoft és a SpaceX is támogatja.

Miért fontos?

Nvidia a szabályozás helyett saját hardveres, BlueField-4 chipre épülő megoldással próbálja kezelni az AI-ügynökök biztonsági kockázatait, ami egyben új értékesítési csatornát is nyit a cég GPU- és CPU-üzletága számára.

Források

NVIDIA Technical Blog Hivatalos The Verge TechCrunch AI

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI eszközök #Nvidia#AI-ügynök biztonság

Napi összefoglaló

Ez a hír a 2026. szeptember 29., kedd napi AI összefoglaló része.

Kapcsolódó hírek

AWS útmutatót adott ki az Amazon Quick AI-ügynökök biztonságos bevezetéséhez

Az AWS saját blogbejegyzése szerint az Amazon Quick platform gyakran sikeresen indul kis pilot csapatokkal, majd elakad, amikor a biztonsági csapatok átveszik a production tervet. A cég állítása szerint a tíz felhasználóra méretezett jogosultsági modell megbomlik öt osztály hozzáadásakor, és az ügynökök a tervezett hatókörön kívüli adatokat is visszaadhatnak. Egy fiktív, 5000 fős vállalati példán mutatják be a megoldást: egy adathalmazt három, jogosultsághoz igazított nézetre bontanak, külön Agentekkel és Dashboardokkal, jóváhagyási ponttal ellátott Flow-val. A bejegyzés négy mintát és egy governance-keretrendszert ismertet, kizárólag az AWS saját termékére vonatkozóan.

NVIDIA útmutatót ad az AI-inferencia GPU-igényének méretezéséhez

Az NVIDIA saját technikai blogján közölt útmutatót arról, hogyan méretezhetők pontosan a GPU-erőforrások AI-inferencia feladatokhoz és hogyan optimalizálható a teljes birtoklási költség. A vállalat szerint az inferencia-terheléseket négy fő kategóriába (chatbotok, AI-ügynökök, tartalomgenerálás, fordítóalkalmazások) sorolva eltérő tokenmintázatok rajzolódnak ki, amelyek meghatározzák a memória- és számításigényt. Az NVIDIA egy úgynevezett „core-and-flex” modellt javasol, amely helyi vagy foglalt felhő-GPU-kat kombinál a rugalmas, csúcsidőszaki felhőkapacitással. A cég állítása szerint a Model Optimizer eszközükkel végzett FP8 utólagos kvantálás újratanítás nélkül 43,5%-kal csökkentette a Llama-3.1-8B modell memóriaigényét, míg egy Qwen3-8B modellből metszéssel és desztillációval mintegy 6 milliárd paraméteres kisebb modellt hoztak létre.

Az NVIDIA gyakorlati tervezési útmutatót ad a hosszú kontextusú AI-modellek gyorsításához

Az NVIDIA hivatalos technikai blogja szerint a mesterséges intelligencia modellek figyelem-mechanizmusának teljesítményét a lekérdezés-fejek és kulcs-érték fejek aránya, a fejdimenzió és a szekvenciahossz határozza meg, ezek eltérően hatnak a feltöltési és a dekódolási fázisra. A cég szerint a dekódolás hatékonysága a csoportmérettel skálázódik, míg a feltöltést a szekvenciahossz uralja, ezért 128 vagy 256 fejdimenziót ajánlanak a GPU-memória illesztéséhez. Az NVIDIA négy gyakorlati irányelvet fogalmaz meg fejlesztőknek, köztük a KV-gyorsítótár tömörítését és a párhuzamosítási stratégia megválasztását a KV-fejek száma alapján, a TensorRT-LLM keretrendszerben implementálva. Az elemzés saját mérési adatokra és matematikai számításokra épül, tehát vállalati, gyártófüggő technikai ajánlás.

NVIDIA: rejtett konfigurációs hibák lassíthatják az AI-klasztereket

Az NVIDIA technikai blogja szerint azonos H100, GB200 NVL72 vagy GB300 NVL72 hardverből épített AI-klaszterek betanítási teljesítménye jelentősen eltérhet egymástól, akár 8-12 százalékos réssel a referenciaarchitektúrához képest ugyanazon munkaterhelés mellett. A vállalat állítása szerint ennek oka nem a hardver, hanem a kernel, a hypervisor, a BIOS és az NCCL könyvtár beállításaiban felhalmozódó apró hibák, amelyek együtt az Exemplar Cloud minősítéshez szükséges 95 százalékos küszöb elmulasztásához vezethetnek. Négy valós esetet mutatnak be: hiányzó SMMU-képességek Grace CPU-kon, hibás CPU C-state és NUMA beállítások, elégtelen NCCL sor-pár párhuzamosság ConnectX-8 hálón, és a topológiafájlok konténerekbe nem továbbítása.