2026. július 7., kedd · Eszközök

Az Amazon Nova Forge: többkörös megerősítéses tanulás SageMaker HyperPod infrastruktúrán

Az AWS bemutatta, hogyan telepíthető többkörös megerősítéses tanulási (multi-turn RL) infrastruktúra az Amazon Nova modellekhez a SageMaker HyperPod platformon. A cég szerint a hagyományos RLHF egyetlen válasz optimalizálására korlátozódik, ami nem elegendő összetett, többlépéses munkafolyamatokat végrehajtó AI-ágensek betanításához. A megoldás három rétegből áll: a HyperPod klaszter végzi a válaszgenerálást és a GRPO súlyfrissítéseket, az ECS Fargate futtatja a jutalomazási környezetet, a Nova Forge SDK pedig az üzenetirányítást biztosítja. Az eseményvezérelt csővezeték az S3-ra feltöltött adatok alapján automatikusan indítja a tanítást – a bemutatóban Wordle-játékot használnak példafeladatként.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az AWS ipari szintű infrastruktúrát kínál többkörös RL-tanításhoz, ami az összetett döntési láncokat kezelő AI-ágensek fejlesztését támogatja.

Források

AWS Machine Learning Hivatalos

Említve a tudásbázisban

fogalom AI-ágens (AI agent) fogalom Emberi visszajelzésen alapuló megerősítéses tanulás (RLHF) fogalom Megerősítéses tanulás (Reinforcement Learning, RL)

Kapcsolódó témák

Napi összefoglalók AI eszközök #Amazon Nova#reinforcement learning

Napi összefoglaló

Ez a hír a 2026. július 7., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Az Amazon Nova alapú automatikus PII-redakció képekben: többlépcsős pipeline arcok, dokumentumok és rendszámok elfedésére

Az AWS hivatalos blogján bemutatott megoldás az Amazon Nova multimodális alapmodellt használja képeken található személyes azonosításra alkalmas információk (PII) automatikus felismerésére és elfedésére. Az AWS szerint a Nova kontextuális vizuális következtetéssel koordinál egy többlépcsős pipeline-t, amelyben a Meta nyílt forráskódú SAM 3 szegmentációs modelljét (SageMaker AI-on) és az Amazon Textract OCR-t vonja be pixelszintű redakcióhoz. A rendszer az összetett eseteket is kezeli, például tükröződésben megjelenő arcokat vagy ferde szögben látható dokumentumokat. A megoldás célja a GDPR és PCI DSS megfelelés támogatása valós képadatokon, megőrizve a képek felhasználhatóságát ML- vagy üzleti célokra.

Az OpenAI közös token-keretet vezet be a ChatGPT és a Codex között

A The Decoder egy frissített OpenAI támogatási oldalra hivatkozva azt írja, hogy decembertől a Plus, Pro és Business előfizetések egyetlen közös token-keretet osztanak meg a ChatGPT és a Codex között. Az OpenAI ezzel olvasztja be a Work agentikus funkcióit a fő ChatGPT felületbe, amit korábban már bejelentett. A felhasználók a Beállításokban láthatják a fennmaradó keretet és a frissítés idejét; a limit elérésekor várhatnak a megújulásra, előfizetést válthatnak, vagy extra kreditet vásárolhatnak. Az Instant modellel folytatott beszélgetések nem számítanak bele a keretbe, így papíron marad a fix áras szolgáltatás, de a lap szerint az intenzív használat az olcsóbb csomagokon várhatóan gyengébb minőségű válaszokat eredményez majd. A cikk szerint a lépés feltehetően egyrészt a magasabb árú csomagok nemrég megduplázott limitjeire épít, másrészt valószínűleg válasz a ChatGPT egyre bonyolultabbá váló kezelőfelületét ért kritikákra.

Az NVIDIA TensorRT Edge-LLM egyszerűsíti az edge AI-fejlesztést a DGX Sparkon

Az NVIDIA bemutatta a TensorRT Edge-LLM nevű könnyűsúlyú C++ futtatókörnyezetet, amely a vállalat szerint lehetővé teszi, hogy fejlesztők néhány paranccsal AI-modelleket futtassanak és teszteljenek a most 64GB-os kiépítésben elérhető NVIDIA DGX Spark gépen. A trtedge parancssori eszköz letölti a kiválasztott modellt és optimalizált TensorRT motorokat épít, a cég bemutatója szerint a Nemotron-3.5 Lightning modellel néhány lépésben chat-munkamenet indítható, illetve OpenAI-kompatibilis API-kiszolgáló is futtatható helyben. Az NVIDIA közlése szerint a DSpark nevű spekulatív dekódolási módszer három draft tokennel a HumanEval promptokon átlagosan 73,4-ről 126,9 tokenre növelte a másodpercenkénti generálási sebességet, miközben a csúcsmemória-használat 27,9GB maradt. Ugyanez a futtatókörnyezet a vállalat szerint a fejlesztői DGX Sparkról közvetlenül átvihető a Jetson Thor, a DRIVE AGX Thor és az IGX Thor beágyazott платформokra.

A Netflix elosztott rendszerként kezeli a GPU-k megbízhatóságát

A Netflix saját cikkében bemutatta, hogyan épít megbízhatósági platformot nagy léptékű GPU-alapú tréning- és következtetési feladatokhoz. A vállalat szerint a rendszer többrétegű hardverellenőrzéseket (NVIDIA DCGM, hálózati adapter-figyelés), automatikus hibajavítást és hibatűrő tréninget kombinál Kubernetes és Karpenter alapon, hogy egyetlen hibás GPU vagy lassú gép ne állítsa meg a hetekig futó, több száz GPU-t használó modellbetanítást. A Netflix adatai szerint ezzel 99,95% feletti GPU-csomópont-rendelkezésre állást és a feladatok sikerességi arányának körülbelül 98%-ról 99,5% fölé emelését érték el. A platform checkpointingot, rugalmas workereket és az NVIDIA Multi-Instance GPU (MIG) technológiáját is használja, hogy a kisebb következtetési feladatok megosztva, izolált memóriával futhassanak egy GPU-n.