2026. szeptember 3., csütörtök · Eszközök

NVIDIA bemutatja a modern CUDA eszköztárat: akár 300-szoros gyorsulás

Az NVIDIA hivatalos technikai blogja egy lépésről lépésre bemutatott optimalizálási példán keresztül ismerteti a modern CUDA eszköztárat egy képfeldolgozó pipeline-on. A vállalat állítása szerint a CCCL könyvtár modern indexelési modellje és a Compute Sanitizer segítségével kiszűrhetők a memóriahibák, a CUB algoritmusok bevezetése pedig a számítási időt 2,1 másodpercről 773 mikroszekundumra, azaz 2717-szeresére gyorsította képenként. Az NVIDIA szerint a pool-alapú memóriakezelés 2,6-szoros, a pinned host-memória pedig 10-szeres gyorsulást hozott az adatátvitelben, míg a stream-enkénti párhuzamosítással a teljes futásidő 6,8 másodpercről 23 milliszekundumra, összesen 300-szorosára csökkent. A cikk kódpéldákkal és Google Colab notebookkal is szolgál a bemutatott technikák kipróbálásához.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A bemutatott CUDA eszközök és könyvtárak gyakorlati útmutatót adnak GPU-kódok hibáinak felderítésére és jelentős teljesítménynövelésre.

Források

NVIDIA Technical Blog Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #NVIDIA CUDA#GPU-optimalizálás

Napi összefoglaló

Ez a hír a 2026. szeptember 3., csütörtök napi AI összefoglaló része.

Kapcsolódó hírek

A TensorRT motorépítés immár valós időben nyomon követhető és megszakítható

Az NVIDIA technikai blogján bemutatta, hogyan használható a TensorRT-ben több kiadás óta elérhető IProgressMonitor API a motorépítés valós idejű követésére és megszakítására Python és C++ környezetben. A cég szerint nagy modellek és mély taktikakeresés akár percekig tartó építést eredményezhet, ami felügyelet nélkül elvesztegetett GPU-órákat okozhat. Az API három metódus felülírásával fa struktúrájú fáziskövetést és Ctrl-C vagy programozott leállítási jelekre való reagálást tesz lehetővé. Az integráció révén a haladási információ terminálba, IDE-be, HTTP-szolgáltatásba vagy ügynök-futtatókörnyezetbe továbbítható, de szálbiztonság és megszakítási késleltetés gondos kezelését igényli.

Az AWS folyamatos minőségellenőrzést épített AI-ügynökei alá

Az AWS saját blogbejegyzésében bemutatja, hogyan épített folyamatos minőségellenőrző keretrendszert AI-ügynökei számára az Amazon Bedrock AgentCore segítségével. A vállalat belső rendszerében eladók és értékesítési vezetők egyszerű nyelvű kérdéseket tehetnek fel az Amazon Quick felületén, a háttérben pedig több specializált alügynök dolgozik, köztük a Performance Insights, a Customer Insights és a Data Insights Agent. Az AWS szerint a bevezetés előtti tesztelés során a Customer Insights Agent egy 410,08 dolláros háromhavi bevételt „410,08 millió dollárként” jelentett, korrekciók nélküli bevételt tüntetett fel korrekciós adatként, saját számításait forrásból származó tényként mutatta be, és olyan éves ismétlődő bevétel-becslést adott, amely egyáltalán nem szerepelt az adatokban. A cég kiemeli, hogy ezek alatt a futások alatt a monitoring rendszer végig zöld állapotot jelzett, vagyis csak azt mutatta, hogy a rendszer válaszolt, nem azt, hogy a válasz helyes volt.

AI-ügynökök a bináris kódfejtésben: bemutatkozott a Reverse Engineer Anything

A Reverse Engineer Anything (REA) nyílt forráskódú projekt, amely a fejlesztők szerint MCP-szervereken keresztül köti össze a Claude Code és a Codex kódoló AI-ügynököket olyan visszafejtő eszközökkel, mint a Ghidra, a Hopper és az IDA. A projekt a GitHub-oldala szerint helyben fut, nem állítja, hogy visszaállítja az eredeti forráskódot, viszont lehetővé teszi függvényhívások nyomon követését és JavaScript, Electron, illetve.NET alkalmazások statikus elemzését. A bemutató példák közt szerepel a Notion Electron-alapú vágólap-kezelésének feltérképezése, valamint a DX-Ball játék hangpásztázó funkciójának rekonstrukciója, amely a projekt állítása szerint mind a 3205 eredeti x86 tesztesetre, mind a 63 lefordított függvénybájtra illeszkedik. A Hacker News fórumán egyes felhasználók vitatják, mi a projekt valódi hozzáadott értéke a Ghidra önálló AI-ügynökös használatához képest, mások viszont jobb eredményekről számolnak be korábbi próbálkozásaikhoz képest. A Redditen független fejlesztők aggodalmukat fejezték ki, hogy az AI-asszisztált visszafejtés megkönnyítheti játékaik és alkalmazásaik másolását, illetve fizetős funkcióik megkerülését.

AWS két nyílt forráskódú eszközt vezetett be AI-ágensek fejlesztéséhez

Az AWS bejelentése szerint két nyílt forráskódú projektet indított: a Strands Decider 2B egy kétmilliárd paraméteres modell, amely nem hosszú szöveget generál, hanem előre megadott opciók közül választ bizalmi pontszámmal, így modellirányításra, eszközválasztásra, osztályozásra és korlátozó szabályok betartatására használható. A Qwen3.5-2B alapú modellt egy rank-16 LoRA adapterrel finomhangolták, a nyelvi modell fejét egy pontozó fejjel helyettesítve; az AWS szerint a döntési késleltetés mediánja körülbelül 115 ezredmásodperc egy NVIDIA RTX 3090-en, 153 ezredmásodperc kisebb feladatoknál egy Apple M3 gépen, a JevBench teszten pedig 72,3 százalékos pontosságot ért el 231 nyilvános feladaton a v19 jelű változat. A másik, fejlesztői előnézetben elérhető Strands Box egy izolált futtatási környezet ágensekhez, amely operációsrendszer-szintű elkülönítést kombinál a Dogwood nevű nyílt szabálynyelvvel, így meghatározható, milyen parancsokat, Python-kódokat vagy hálózati hívásokat hajthat végre egy ágens, és ez a kontroll a nyelvi modellen kívül, kernel szinten érvényesül.