2026. augusztus 29., szombat · Eszközök

AWS új funkcióval oldja meg a SageMaker AI-modellek többzónás rendelkezésre állását

Az AWS hivatalos blogbejegyzése szerint a Salesforce a SageMaker AI Inference Components (IC) technológiával nyolcszorosára csökkentette infrastruktúraköltségeit az Agentforce nevű AI-ügynök platformnál, mivel több modellt oszthat meg közös GPU-kon. A cikk szerint az alapértelmezett elhelyezési algoritmus azonban nem garantálta a Salesforce megfelelőségi elvárása szerinti kétzónás redundanciát, mivel modellpéldányok egyenetlenül oszolhattak el a zónák között, ami instancia- vagy zónaszintű meghibásodás esetén kiesést okozhatott. Az AWS ezért bevezette a CreateInferenceComponent API-ban a SchedulingConfig paramétert, amely finomhangolt kontrollt ad a modellpéldányok zónák közötti elosztására. A bejegyzés a Salesforce egy konkrét, négy instanciás, két zónás példáján mutatja be a megoldást.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A hír konkrét technikai megoldást mutat be arra, hogyan lehet költséghatékony GPU-megosztás mellett is teljesíteni a vállalati megbízhatósági követelményeket AI-modellek éles üzemeltetésénél.

Források

AWS Machine Learning Hivatalos

Kapcsolódó témák

Napi összefoglalók AI eszközök #AWS SageMaker#Salesforce Agentforce

Napi összefoglaló

Ez a hír a 2026. augusztus 29., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Az Amazon SageMaker Feature Store két új API-val gyorsítja az adatkezelést

Az AWS hivatalos bejelentése szerint az Amazon SageMaker Feature Store két új API-hívást kapott. A BatchWriteRecord egyetlen hívásban akár 25 rekord írását teszi lehetővé több feature-csoportban, részleges sikeresség kezelésével és rekordonkénti élettartam-beállítással, ahelyett hogy a PutRecord-ot kellene egyesével, ismételve hívni. Az AWS szerint ez csökkenti a kapcsolat-terhelést nagy áteresztőképességű pipeline-oknál, például az általuk említett csalásfelismerő rendszerben, amely másodpercenként 10 000 rekordot kezel öt feature-csoportban. A ListRecords API lehetővé teszi a rekordazonosítók lapozott böngészését mind a Standard, mind az In-Memory tárolási szinten, ami eddig hiányzott, és adatvesztés esetén megnehezítette a helyreállítást. A bejegyzés kódpéldákkal és a szükséges IAM-jogosultságokkal mutatja be a két funkció használatát.

AWS Ray LLM konténer: multi-node LLM-kiszolgálás EKS-en

Az AWS hivatalos blogbejegyzése szerint a vállalat bemutatta a Ray LLM Deep Learning Containers (DLC) multi-node változatát, amellyel egyetlen nagy nyelvi modell két GPU-csomóponton, Amazon EKS-en futtatható egy közös, OpenAI-kompatibilis végponton keresztül. A megoldás külön csomópontra választja szét az előfeltöltési (prefill) és a dekódolási (decode) fázist, így a hosszú, számításigényes promptok nem akasztják meg a már folyamatban lévő kérések token-generálását. Az AWS azt írja, hogy korábban az ügyfeleknek maguknak kellett összeállítaniuk és karbantartaniuk a kompatibilis GPU-függőségi láncot (CUDA-könyvtárak, keretrendszerek), ami jelentős, a modellfejlesztéstől elvonó mérnöki munkát igényelt. A most bemutatott, előre tesztelt és patchelt konténer ezt a réteget automatikusan biztosítja, kiterjesztve a korábbi, egycsomópontos Ray Serve DLC-nél alkalmazott megközelítést a többcsomópontos, szétválasztott (disaggregated) inferenciára.

Vezetők szerint a hangalapú AI-nak még nincs ChatGPT-pillanata

A TechCrunch beszámolója szerint a HumanX konferencián Shawn Wen, a vállalati hangalapú AI-t fejlesztő PolyAI technológiai igazgatója úgy véli: bár megjelentek az úgynevezett full-duplex modellek, amelyek képesek egyszerre beszélni és hallgatni, a hangalapú mesterséges intelligencia szerinte még nem érte el az áttörő, „ChatGPT-pillanatnak” nevezett szintet. Állítása szerint a következő kihívás a gyors következtetés megvalósítása, hogy a párbeszéd természetesnek hasson, emellett az ügyfélszolgálati AI-ügynököknek nem szabad robotikusan hangozniuk, hogy az emberek bizalmat építsenek feléjük. Alex Gay, az Otter jegyzetelő alkalmazás marketingigazgatója szerint a beszélő azonosítása és a szándék felismerése kulcsfontosságú az automatizáláshoz, a cég pedig úgynevezett digitális ikreken dolgozik, amelyek embereket képviselhetnének megbeszéléseken.

WIRED-teszt: vicces, de gyatra játékokat gyárt a Google Playground

A Google e héten indított Playground nevű AI-játékgenerátorát egy WIRED-újságíró tesztelte, aki kódolási tapasztalat nélkül egyetlen nap alatt három játszható, stabil, de minőségileg gyenge játékot készített. A „Tetris, de cuki malacokkal” utasításból a Pork Drop nevű klón született, ahol a kockák helyett eltorzított malacformák esnek; a „meleg vacsorapartit” kérő prompt pedig a Dinner Darling nevű 2D flash-stílusú játékot eredményezte, Bitmoji-szerű grafikával, ahol a játékos egy stresszes házigazdát, Juliant irányítja, aki fésűs vendégeket próbál leültetni. A cikk kiemeli, hogy a Playground működése hasonlít a Meta szeptemberben bejelentett Horizon Create játékgenerátorához. Az élmény a szerző szerint gyors, beszélgetős és reszponzív, de a végeredmény esztétikailag és játékmenetileg messze elmarad egy profi fejlesztéstől.