2026. július 23., csütörtök · Eszközök

A TensorRT motorépítés immár valós időben nyomon követhető és megszakítható

Az NVIDIA technikai blogján bemutatta, hogyan használható a TensorRT-ben több kiadás óta elérhető IProgressMonitor API a motorépítés valós idejű követésére és megszakítására Python és C++ környezetben. A cég szerint nagy modellek és mély taktikakeresés akár percekig tartó építést eredményezhet, ami felügyelet nélkül elvesztegetett GPU-órákat okozhat. Az API három metódus felülírásával fa struktúrájú fáziskövetést és Ctrl-C vagy programozott leállítási jelekre való reagálást tesz lehetővé. Az integráció révén a haladási információ terminálba, IDE-be, HTTP-szolgáltatásba vagy ügynök-futtatókörnyezetbe továbbítható, de szálbiztonság és megszakítási késleltetés gondos kezelését igényli.

Miért fontos?

A TensorRT motorépítés átláthatóbbá és megszakíthatóvá válásával csökkenthető az elvesztegetett GPU-idő és javítható a fejlesztői hatékonyság.

Források

NVIDIA Technical Blog Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #NVIDIA TensorRT#GPU-optimalizálás

Napi összefoglaló

Ez a hír a 2026. július 23., csütörtök napi AI összefoglaló része.

Kapcsolódó hírek

A Meta saját AI-vízjel rendszert fejlesztett, pedig a Google SynthID-je már létezik és elterjedt

A Meta júliusban bemutatta a Content Seal nevű láthatatlan vízjel-technológiát, amely az AI által generált képekbe ágyaz rejtett jelzéseket a hamisítások felismerése érdekében. A The Verge elemzése szerint a rendszer működése nagyon hasonló a Google már bevált SynthID megoldásához, amelyet az OpenAI is átvett. A cikk rámutat, hogy a Content Seal egyelőre csak egy külön webes eszközön keresztül használható, a Meta saját platformjaiba – például a Meta AI chatbotba – még nem építették be a felismerési képességet. A Meta szóvivője szerint vizsgálják, hogyan tudnák a felismerést közelebb vinni a felhasználókhoz. A The Verge szerzője megkérdőjelezi, miért nem csatlakozott a Meta inkább a SynthID-hez, különösen annak fényében, hogy a vállalat maga is tagja a C2PA tartalom-hitelesítési koalíciónak.

MI-eszközökkel percek alatt készíthető grafikus absztrakt tudományos cikkekhez

A Nature-ben megjelent útmutató szerint az MI-eszközök jelentősen megkönnyíthetik a tudományos grafikus absztraktok elkészítését, ha a kutatók felelősségteljesen használják őket. A Helsinki Egyetem doktorandusza saját tapasztalatai alapján mutatja be, hogy az MI ötletgenerálásra, színpaletta-optimalizálásra, vázlatok vektorizálására és egyedi munkafolyamatok kialakítására is alkalmazható. A szerző hangsúlyozza, hogy a végtermékért a kutató felel: a tudományos pontosság, a plágium elkerülése és a célfolyóirat MI-irányelveinek betartása a felhasználó kötelessége. Fontos tanács, hogy a tervezés előtt határozzuk meg a közlendő fő üzenetet, és az MI-t ennek szolgálatába állítsuk.

Az NVIDIA GB300 NVL72 világrekordot állított a DeepSeek-V3 671B MoE-modell előtanításában

Az NVIDIA saját technikai blogján jelentette be, hogy a GB300 NVL72 rendszer GPU-nként 1 648 TFLOPS teljesítménnyel világrekordot ért el a DeepSeek-V3 671B paraméteres Mixture of Experts (MoE) modell előtanításában. A vállalat szerint a teljesítmény kulcsa a teljes rack-szintű együttervezés: az ötödik generációs NVLink GPU-nként 1,8 TB/s sávszélességet és összesen 130 TB/s nem blokkoló all-to-all kommunikációt biztosít. Az NVIDIA állítása alapján szoftveres optimalizálásokkal – a Megatron Core, a TorchTitan és a JAX keretrendszerek révén – 3–10-szeres teljesítménynövekedést értek el az előző generációhoz képest, miközben a GPU-nkénti áteresztőképesség 256-ról 1 024 GPU-ra skálázva is 97% felett maradt. A MoE-architektúrák hatékonyságának lényege, hogy a tokenek csak a paraméterek kis részhalmazát aktiválják, ami viszont fokozott kommunikációs igényt támaszt a GPU-k között.

Az Adobe kísérleti kameraappja generatív AI-eszközökkel bővül, a Google modelljére támaszkodva

Az Adobe frissítette kísérleti iOS-kameraalkalmazását, a Project Indigót, amely az 1.1-es verzióval egy AI Playground nevű eszközkészlettel egészül ki. A The Verge és a TechCrunch beszámolói szerint a funkciók négy területet fednek le: stílusszűrők, objektumeltávolítás, AI-alapú fotókritika és szabad szöveges szerkesztési utasítások. Marc Levoy, az Adobe munkatársa szerint a legtöbb funkció előre tervezett promptokat használó gombokkal működik, így a felhasználóknak nem kell saját szöveges utasításokat megfogalmazniuk. Az Adobe a Google Nano Banana modelljére támaszkodik egyelőre, de a jövőben más modellek támogatását is tervezi. A funkciót kis felhasználói csoporttal tesztelik, és sikere esetén fizetős verzió is várható.