2026. július 8., szerda · Kutatás

Az NVIDIA nemegyenletes tenzorpárhuzamossága csökkenti a GPU-kiesések hatását az LLM-tréningben

Az NVIDIA műszaki blogján bemutatott Nonuniform Tensor Parallelism (NTP) keretrendszer lehetővé teszi, hogy nagy léptékű LLM-tréningek dinamikusan alkalmazkodjanak az átmenetileg elérhetetlenné váló GPU-khoz. Az NVIDIA állítása szerint az NTP az aktív GPU-k órajelének ideiglenes növelésével (dinamikus teljesítménynöveléssel) kompenzálja a kiesést, miközben a tenzor-újrafelosztás okozta többletterhelés 1% alatt marad. A módszer a Blackwell és Blackwell Ultra rendszerek NVLink összeköttetésein akár 72 GPU-s tartományokra is skálázható. Az NTP kísérleti jellegű megközelítés, amely a meglévő rugalmas skálázási technikákat – mint az adatreplikák eldobása vagy gyors ellenőrzőpont-újraindítás – egészíti ki azzal, hogy az áteresztőképesség-veszteséget minimalizálja a csökkentett rendelkezésre állás időszakában.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A módszer a nagyszabású LLM-tréningek hasznos munkavégzési hatékonyságát (Goodput) védi GPU-kiesések esetén, csökkentve a költséges leállásokat.

Források

NVIDIA Technical Blog Hivatalos

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 8., szerda napi AI összefoglaló része.

Helyesbítés · 2026. október 1., csütörtök

Helyesbítés (2026-09-20): a hírhez utólag hozzáfűztük a nem lektorált (preprint) státusz jelzését, mert a megjelenéskor ez lemaradt. A hír címe, összefoglalója és forrásai változatlanok. Helyesbítés (2026-10-01): a hír alól eltávolítottuk az arXiv 2607.03394 hivatkozást („From Mobile Data to Business Insights: An End-to-End Analytics Framework for Large-Scale Urban Mobility Analysis and Decision Support”), mert nem erről a munkáról szól; vele együtt kikerült a „Miért fontos?”-ból a 2026-09-20-án hozzáfűzött „A mögöttes eredményt leíró tanulmány preprint” mondat, mert erre a téves hivatkozásra épült. A hír forrása az NVIDIA műszaki blogbejegyzése.

Kapcsolódó hírek

Nvidia-kutatás: SoL-Pi rendszer felére csökkenti a kódoló AI-ügynökök tokenfogyasztását

Az Nvidia kutatói egy tanulmányban mutatják be a SoL-Pi rendszert, amely a kódoló AI-ügynökök úgynevezett harnessét, vagyis a modell és a környezet közötti vezérlőréteget optimalizálja automatikusan. A The Decoder beszámolója szerint egy megfigyelő kutatási AI-ügynök elemzi a végrehajtási nyomokat, javaslatokat tesz a harness módosítására, majd teszteli azokat, és csak a teljesítményt megőrző, olcsóbb változatokat tartja meg. A kutatók állítása szerint az EdgeBench teszten a SoL-Pi 50 százalékkal kevesebb tokent használt a Codexhez, és 54,3 százalékkal kevesebbet a Claude Code-hoz képest, miközben a teljesítmény nagyjából változatlan maradt. A kutatás 535 futtatható környezetben 152 irányt vizsgált, ebből 495 feladat GitHub issue-pull request párokból származott, 40 pedig szintetikus teszteset volt, összesen több mint 3000 futtatással és 60 000 ügynök-környezet interakcióval, ami a kutatók szerint a keresés szélességét mutatja.

Nvidia: a szoftveres keret dönti el az AI-ügynök sikerét, nem a modell

Az Nvidia péntek óta ismert kutatása szerint hosszú távú, sok lépésből álló feladatoknál nem a modell, hanem a köré épített szoftveres keret (harness) a döntő tényező. A cég állítása szerint egy egyedi, memóriakezelésre optimalizált és „felügyelő” komponenssel ellátott keretben a Claude Opus 5 modell 100%-os eredményt ért el az ARC-AGI-3 benchmarkon, amely instrukció nélküli 2D-s játékokból áll. Ugyanez a modell harness nélkül csak 30%-ot ért el, ami így is a legjobb eredmény volt a tesztelt modellek között. Az Nvidia szakembere szerint az ügynök valójában nem csak a modellből áll, hanem az eszközökből, a futásidőből és a hozzáférhető könyvtárakból is, amelyek együtt adják a tényleges teljesítményt. A cikk kontrasztként megemlíti a Microsoft áprilisi kutatását is, amely szerint 19 nagy nyelvi modell mindegyike hibázott hosszú dokumentumszerkesztési feladatoknál.

NVIDIA RoboLab: új értékelési platform az általános célú robotirányítási modellek tesztelésére

Az NVIDIA Research bemutatta a RoboLab nevű platformot, amely a robotikában használt általános célú irányítási modellek (policy-k) szisztematikus értékelésére szolgál szimulált környezetben. A rendszer az NVIDIA szerint megoldja a korábbi benchmarkok fő problémáit: a vizuális és feladatbeli átfedést a tréning- és tesztadatok között, a benchmarkok telítődését, valamint a magas beállítási költséget, miközben robotfüggetlen, gyorsan skálázható feladat- és jelenetgenerálást kínál. A platform részletes diagnosztikai eszközöket integrál, köztük részleges pontszámítást, SPARC-alapú mozgásminőség-elemzést és hibaeseménynaplózást. Az NVIDIA tervei szerint a RoboLab funkcionalitása 2026 augusztusától beépül az NVIDIA Isaac Lab-Arena rendszerébe.

Kutatás: az AI-ügynökcsapatok alig jobbak, mint az önálló modellek

A Vals AI benchmarkja szerint az AI-ügynökcsapatok alig jobbak, mint az önálló ügynökök, miközben sokkal drágábbak. A cég a GPT-6 Sol és a Claude Opus 5.5 modelleket tesztelte a Vibe Code Bench feladatsoron, egyedül és csapatban, közepes és maximális következtetési szinten. A csapatos megoldás 1,8-5,1-szer többe került, de a négy összehasonlításból csak egy mutatott statisztikailag szignifikáns javulást: a GPT-6 Sol közepes szinten 7,3 ponttal jobb lett csapatban. Maximális következtetési erőforrásnál egyik modellnél sem jelentett előnyt a csapat. Az Anthropic saját tesztjei hasonlót mutattak: az Opus 5.5 tudásbázis-pontszáma 0,53-ról 0,74-re nőtt 1-ről 100 ügynökre váltva, de a javulás 10 ügynök után erősen lelassult. Noam Brown OpenAI-kutató a Dwarkesh Podcastben megerősítette: a több ügynökös rendszerek főleg sebességet hoznak, nem minőséget – négy ügynök kétszer gyorsabban dolgozott, de kétszer annyiba is került.