2026. szeptember 16., szerda · Eszközök

Az AWS útmutatót adott ki termékcímkéző AI rendszer építéséhez SageMakerrel

Az AWS hivatalos blogbejegyzése egy gyakorlati útmutatót mutat be arra, hogyan lehet automatizált termékcímkéző rendszert építeni kiskereskedelmi katalógusokhoz az Amazon SageMaker szerver nélküli modell-testreszabási funkciójával. A leírás szerint a Qwen3-8B nyílt súlyú modellt előbb felügyelt finomhangolással (SFT), majd ellenőrizhető jutalmakon alapuló megerősítéses tanulással (RLVR, GRPO algoritmussal) optimalizálják egy rögzített címketaxonómiára. Az AWS állítása szerint ez a megközelítés jobban illeszkedik a szűk, programozottan pontozható feladatokhoz, mint egy általános célú frontier modell promptolása, mivel nem kell fizetni olyan széles körű képességekért, amelyekre a munkafolyamatnak nincs szüksége. A betanítást a SageMaker szerver nélkül kezeli, a végleges modellt pedig Amazon SageMaker Asynchronous Inference szolgáltatással telepítik kötegelt katalógus-feldolgozásra. A cikk technikai lépéseket és AWS-erőforrás-igényeket is részletez, IAM-jogosultságoktól kezdve az S3-tárolóig.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az AWS azt állítja, hogy a Qwen3-8B modell SFT+RLVR/GRPO kombinációval történő testreszabása olcsóbb és pontosabb megoldást ad ezres SKU-számú katalógusok címkézésére, mint egy frontier modell promptolása.

Források

AWS Machine Learning Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #Amazon SageMaker#Qwen3-8B

Napi összefoglaló

Ez a hír a 2026. szeptember 16., szerda napi AI összefoglaló része.

Kapcsolódó hírek

AWS: új SageMaker API-k egyéni betanítási ciklusokhoz

Az AWS bejelentette, hogy az Amazon SageMaker AI-hoz új training session API-kat vezetett be, amelyek feloldják az LLM-ek egyéni finomhangolásánál eddig szükséges kompromisszumot a teljes algoritmikus kontroll és az üzemeltetési egyszerűség között. A vállalat szerint az API-k nem az algoritmust, hanem a számítási infrastruktúrát absztrahálják: a forward_backward, optim_step és sample műveletek SageMaker API-hívásokká válnak, amelyeket a fejlesztők SFT-vé, preferencia-optimalizálássá vagy megerősítéses tanulássá (RL) fűzhetnek össze egy állapottartó munkamenetben, miközben a GPU-kezelést és az elosztott végrehajtást a szolgáltatás végzi. Az AWS emellett közzétette a SageMaker training sessions cookbookot, amely kész SFT- és RL-recepteket ad, köztük egy GSM8K-alapú és egy versenyprogramozási, unit tesztekkel kiértékelt RL-munkafolyamatot.

Az AWS automatizálja a generatív AI modellek üzembe helyezését a SageMaker-ben

Az AWS blogbejegyzése szerint az Amazon SageMaker AI 2026-ban eddig 13 új képességet vezetett be a generatív AI modellek üzemeltetésére, két úton: kezelt végpontokon, ahol az AWS kezeli az infrastruktúrát, illetve a Kubernetes-natív SageMaker HyperPod Inference megoldáson keresztül. A cég kiemeli az optimalizált következtetési ajánlásokat, amelyek automatizálják a megfelelő instancia, konténer és optimalizálási beállítás kiválasztását, ami a vállalat állítása szerint korábban 2-3 hetes manuális benchmarkolást igényelt több mint ezer kombináción. A háromlépéses folyamat (szűkítés, optimalizálás EAGLE 3.0 spekulatív dekódolással és tenzorparalelizmussal, majd NVIDIA AIPerf-fel végzett benchmarkolás) végén egy kész SageMaker modell jön létre. A bejegyzés az AWS saját terméke, így az állítások a vállalattól származnak, független megerősítés nem szerepel a forrásban.

Az AWS bemutatta a SageMaker Python SDK v3-at és annak új script mode-ját

Az AWS hivatalos blogbejegyzése szerint megjelent a SageMaker Python SDK v3, amely alapjaiból újratervezi a script mode funkciót, amelyet a vállalat először 2021-ben mutatott be. Az új verzió a keretrendszer-specifikus estimator osztályokat (SKLearn, PyTorch, XGBoost) egyetlen, egységes ModelTrainer és ModelBuilder osztállyal váltja fel a tanításhoz, illetve a modellek üzembe helyezéséhez. A SourceCode konfigurációs objektum futásidőben szinkronizálja a helyi kódkönyvtárat a tanítási feladatba, így egy Amazon ECR-ből származó konténerkép újraépítése nélkül is módosítható a kód. A bejegyzés két végpontig tartó példát mutat be: egy scikit-learn Random Forest tanítását és üzembe helyezését, valamint a Stable Diffusion 3.5 finomhangolását LoRA technikával, Hugging Face Accelerate segítségével, több GPU-n.

Az NVIDIA TensorRT Edge-LLM egyszerűsíti az edge AI-fejlesztést a DGX Sparkon

Az NVIDIA bemutatta a TensorRT Edge-LLM nevű könnyűsúlyú C++ futtatókörnyezetet, amely a vállalat szerint lehetővé teszi, hogy fejlesztők néhány paranccsal AI-modelleket futtassanak és teszteljenek a most 64GB-os kiépítésben elérhető NVIDIA DGX Spark gépen. A trtedge parancssori eszköz letölti a kiválasztott modellt és optimalizált TensorRT motorokat épít, a cég bemutatója szerint a Nemotron-3.5 Lightning modellel néhány lépésben chat-munkamenet indítható, illetve OpenAI-kompatibilis API-kiszolgáló is futtatható helyben. Az NVIDIA közlése szerint a DSpark nevű spekulatív dekódolási módszer három draft tokennel a HumanEval promptokon átlagosan 73,4-ről 126,9 tokenre növelte a másodpercenkénti generálási sebességet, miközben a csúcsmemória-használat 27,9GB maradt. Ugyanez a futtatókörnyezet a vállalat szerint a fejlesztői DGX Sparkról közvetlenül átvihető a Jetson Thor, a DRIVE AGX Thor és az IGX Thor beágyazott платформokra.