2026. július 30., csütörtök · Eszközök

Az NVIDIA útmutató: önhosztolt, ellenőrzött AI kódolóasszisztens NeMo Guardrails-szal

Az NVIDIA hivatalos technikai blogja útmutatót közöl, amellyel saját infrastruktúrán, StarCoder2-7B NIM végponttal futtatható AI kódolóasszisztens építhető ki. A vállalat állítása szerint ez megoldja három tipikus problémát: a forráskód nem hagyhatja el a hálózatot, a modell időnként kitalált csomagneveket javasol, ami ellátásilánc-kockázatot jelent, és nincs auditnyom, ha egy generált módosítás hibát okoz. A megoldás NeMo Guardrails házirend-réteget használ, amely megtagadja a hozzáférést emberi jóváhagyáshoz kötött fájlokhoz, egy CI-lépés kiszűri a hallucinált csomagokat, Prometheus/Grafana metrikák pedig mérik a hibaarányra gyakorolt hatást. Az NVIDIA szerint a validáció a modellen kívül történik, ami fokozatos bevezetést és auditálható munkafolyamatot tesz lehetővé, legalább 24 GB memóriájú GPU-t igénylő környezetben.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Konkrét, gyakorlatban követhető módszert kínál arra, hogyan lehet szabályozott vagy szuverenitási követelményű környezetben biztonságosan, auditálható módon üzemeltetni AI-kódolóasszisztenst.

Források

NVIDIA Technical Blog Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #NVIDIA NeMo Guardrails#StarCoder2

Napi összefoglaló

Ez a hír a 2026. július 30., csütörtök napi AI összefoglaló része.

Kapcsolódó hírek

Az Opera új webes szabvánnyal hozza a helyben futó AI-t a böngészőbe

Az Opera bejelentette a WebAI nevű új webes szabványt, amely lehetővé teszi, hogy a felhasználók felhő nélkül, közvetlenül a böngészőben futtassanak AI-modelleket. A cég szerint a szabvány nem kötődik egyetlen modellhez sem, példaként a Google nyílt súlyú Gemma modelljét említi, Mac gépeken pedig az Apple eszközön futó alapmodelljét is támogatja. A funkció egyelőre korai előnézetként érhető el az Opera One böngészőben, és a vállalat szerint hamarosan megkapja az Opera GX és az Opera Neon is; a használathoz a felhasználóknak be kell kapcsolniuk a funkciót. Az Opera szerint a helyi futtatás előnye, hogy a fejlesztőknek nem kell AI-infrastruktúrát üzemeltetniük vagy előfizetést fizetniük, a felhasználók adatai pedig a saját eszközükön maradnak, cserébe viszont a teljesítmény a hardvertől függ.

Az IEEE Xplore AI asszisztenst kapott a tudományos kereséshez

Az IEEE Spectrum beszámolója szerint az IEEE kiadta az IEEE Xplore AI Research Suite nevű eszközt, amely a digitális könyvtárban elérhető milliónyi lektorált publikáció teljes szövegére épül. A vállalat szerint a rendszer természetes nyelvű kereséseket és AI-összefoglalókat kínál, forráshivatkozásokkal, hogy a felhasználók ellenőrizhessék az állításokat. A fejlesztésbe több mint 3000 tesztelőt vontak be, és az IEEE belső tesztjei szerint a teljes szöveges alapozás háromszoros javulást hozott a találatok minőségében és pontosságában minden kulcsmutatóban. A csomag az intézményi IEEE Xplore-előfizetők számára opcionális, külön megvásárolható bővítésként érhető el. Az IEEE vezetői, köztük W. Clem Karl és Steven Heffner szerint a cél, hogy az AI-válaszok ne csak gyorsak, hanem ellenőrizhetők is legyenek, elkerülve a hallucinációkat.

A DigitalOcean új szolgáltatásokkal segíti az AI-ügynökök önfejlesztését

A DigitalOcean bejelentette a Learning Services és az Agent Data Services nyilvános előnézetét, amelyek a vállalat szerint lehetővé teszik, hogy az AI-ügynökök a valós interakciókból tanuljanak, azonosítsák hibáikat és teszteljék a javításokat, mielőtt élesben bevezetnék őket. A Learning Services három elemből áll: az Insights rögzíti az ügynökök tevékenységét, a Signals a hibákat és teljesítményhiányokat azonosítja, a Simulations pedig szimulált beszélgetésekkel teszteli a lehetséges javításokat. Az Agent Data Services a cég közlése szerint biztonságos, kezelt adatalapot biztosít dokumentumok, videó, hang, naplók és ügynöki munkamenetek indexeléséhez, és csak a felhasználó kifejezett hozzájárulása esetén táplálja az adatokat az Optimizer tanító- és tesztadatai közé. A DigitalOcean közlése szerint az Insights, a Signals és az Evaluations, köztük a Simulations nyilvános előnézetben, míg az Inference Router optimalizálása és az Agent Data Services zárt, privát előnézetben érhető el.

A Google és a Meta megnyitotta a TorchTPU natív PyTorch–TPU hátteret

A 2026-os San José-i PyTorch Conference keretében a Google és a Meta nyílt forráskódúvá tette a TorchTPU-t, egy natív PyTorch hátteret a Google TPU chipjeihez, amely felváltja a 2020-as PyTorch/XLA megoldást. A Google Cloud bejelentése szerint a kódváltás elvben annyi, hogy a model.to("cuda") helyett model.to("tpu") szerepel, bár a csúcsteljesítményhez további finomhangolás kell. Zongwei Zhou, a Meta szoftvermérnöke a keynote-előadáson elmondta: a Meta nagyobb léptékű nyelvi modell munkaterheket kíván TPU-kra költöztetni. A Google publikált tesztje szerint egy Qwen3 235B méretű keverék-szakértős modell 8192 TPU v7x chipen 28 százalékos FLOPS-kihasználtsággal futott. Az AWS ezzel egy időben nyilvános bétába állította a Trainium chipekhez készült TorchNeuron hátteret.