2026. november 3., kedd · Eszközök

Az Nvidia új Workload Map eszközzel egyszerűsíti a Kubernetes AI-munkaterhelések kezelését

Az Nvidia bemutatta a Workload Map nevű, korábban Karta néven ismert nyílt forráskódú eszközt, amely a DSX AI Factory platform részeként egységes leírást ad a Kubernetesen futó elosztott AI-munkaterhelésekről. A vállalat szerint az eszköz egy Kubernetes CRD-ből és egy Go-könyvtárból áll, és előre elkészített, tesztelt definíciókat tartalmaz olyan keretrendszerekhez, mint a JobSet, PyTorchJob, RayCluster, KServe, MPIJob vagy az Nvidia NIM. A cég állítása szerint ezt a közös leírást használja a KAI Scheduler az ütemezéshez, az Nvidia Run:ai a munkaterhelés-kezeléshez és láthatósághoz, valamint az Elotl Nova nevű rendszere a több fürtöt érintő ütemezési döntésekhez. Az Nvidia szerint ezzel kiváltható, hogy minden új keretrendszerhez külön, kézzel írt adaptert kelljen fejleszteni.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az Nvidia szerint eddig minden új munkaterhelés-típus (pl. JobSet) támogatása külön adapterfejlesztést igényelt, ami gyakran egy-egy kiadásra váratott a fejlesztőkre – ezt a lépést küszöbölné ki a Workload Map egységes leírása.

Források

NVIDIA Technical Blog

Említve a tudásbázisban

szereplő Nvidia

Kapcsolódó témák

Napi összefoglalók AI eszközök #Nvidia Workload Map#Kubernetes

Napi összefoglaló

Ez a hír a 2026. november 3., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Az OpenAI közös token-keretet vezet be a ChatGPT és a Codex között

A The Decoder egy frissített OpenAI támogatási oldalra hivatkozva azt írja, hogy decembertől a Plus, Pro és Business előfizetések egyetlen közös token-keretet osztanak meg a ChatGPT és a Codex között. Az OpenAI ezzel olvasztja be a Work agentikus funkcióit a fő ChatGPT felületbe, amit korábban már bejelentett. A felhasználók a Beállításokban láthatják a fennmaradó keretet és a frissítés idejét; a limit elérésekor várhatnak a megújulásra, előfizetést válthatnak, vagy extra kreditet vásárolhatnak. Az Instant modellel folytatott beszélgetések nem számítanak bele a keretbe, így papíron marad a fix áras szolgáltatás, de a lap szerint az intenzív használat az olcsóbb csomagokon várhatóan gyengébb minőségű válaszokat eredményez majd. A cikk szerint a lépés feltehetően egyrészt a magasabb árú csomagok nemrég megduplázott limitjeire épít, másrészt valószínűleg válasz a ChatGPT egyre bonyolultabbá váló kezelőfelületét ért kritikákra.

Az NVIDIA TensorRT Edge-LLM egyszerűsíti az edge AI-fejlesztést a DGX Sparkon

Az NVIDIA bemutatta a TensorRT Edge-LLM nevű könnyűsúlyú C++ futtatókörnyezetet, amely a vállalat szerint lehetővé teszi, hogy fejlesztők néhány paranccsal AI-modelleket futtassanak és teszteljenek a most 64GB-os kiépítésben elérhető NVIDIA DGX Spark gépen. A trtedge parancssori eszköz letölti a kiválasztott modellt és optimalizált TensorRT motorokat épít, a cég bemutatója szerint a Nemotron-3.5 Lightning modellel néhány lépésben chat-munkamenet indítható, illetve OpenAI-kompatibilis API-kiszolgáló is futtatható helyben. Az NVIDIA közlése szerint a DSpark nevű spekulatív dekódolási módszer három draft tokennel a HumanEval promptokon átlagosan 73,4-ről 126,9 tokenre növelte a másodpercenkénti generálási sebességet, miközben a csúcsmemória-használat 27,9GB maradt. Ugyanez a futtatókörnyezet a vállalat szerint a fejlesztői DGX Sparkról közvetlenül átvihető a Jetson Thor, a DRIVE AGX Thor és az IGX Thor beágyazott платформokra.

A Netflix elosztott rendszerként kezeli a GPU-k megbízhatóságát

A Netflix saját cikkében bemutatta, hogyan épít megbízhatósági platformot nagy léptékű GPU-alapú tréning- és következtetési feladatokhoz. A vállalat szerint a rendszer többrétegű hardverellenőrzéseket (NVIDIA DCGM, hálózati adapter-figyelés), automatikus hibajavítást és hibatűrő tréninget kombinál Kubernetes és Karpenter alapon, hogy egyetlen hibás GPU vagy lassú gép ne állítsa meg a hetekig futó, több száz GPU-t használó modellbetanítást. A Netflix adatai szerint ezzel 99,95% feletti GPU-csomópont-rendelkezésre állást és a feladatok sikerességi arányának körülbelül 98%-ról 99,5% fölé emelését érték el. A platform checkpointingot, rugalmas workereket és az NVIDIA Multi-Instance GPU (MIG) technológiáját is használja, hogy a kisebb következtetési feladatok megosztva, izolált memóriával futhassanak egy GPU-n.

Az Nvidia NemoClaw nyílt blueprintjei AI-ügynök-stacket építenek

Az Nvidia bemutatta a NemoClaw nyílt blueprint-gyűjteményét, amely a már használt ügynök-keretrendszereket – az OpenClaw-t, a Hermes Agentet és a LangChain Deep Agentst – egészíti ki Nemotron modellekkel, NeMo optimalizálási eszközökkel és az OpenShell biztonságos futtatókörnyezettel. A vállalat szerint a LangChain a Deep Agents keretrendszerét a Nemotron 3 Ultra modellhez hangolta, így az a vezető zárt modellekhez közeli teljesítményt ér el, miközben a futtatási költség mintegy tízszer alacsonyabb. Az OpenShell szabályozza, hogy az ügynökök milyen fájlokhoz, hálózatokhoz, hitelesítő adatokhoz és eszközökhöz férhetnek hozzá, így szabályok kötik őket akkor is, ha a memória vagy a lehívott kontextus nem kívánt műveletre utalna. Az Nvidia szerint a NemoClaw-ügynökök felhőben, adatközpontban, DGX Spark eszközökön és RTX PC-ken is futtathatók.