2026. szeptember 15., kedd · Eszközök

AWS nyolclépéses útmutatót adott ki a generatív AI testreszabásához

Az AWS hivatalos blogbejegyzése egy nyolclépéses döntési keretrendszert mutat be, amellyel a fejlesztők eldönthetik, milyen mélységű testreszabás szükséges egy generatív AI-feladathoz az Amazon Bedrock platformon. A bejegyzés szerint a testreszabási spektrum három fő kategóriára oszlik: a modell változtatás nélküli használata jobb promptokkal, a dokumentumok bevonása retrieval augmented generation (RAG) technikával, illetve a finomhangolás vagy teljesen egyedi modell betanítása. Az AWS azt állítja, hogy a csapatok gyakran rossz döntést hoznak: túl korán nyúlnak finomhangoláshoz, amikor egy jól megírt prompt is elég lenne, vagy éppen ellenkezőleg, hetekig ragaszkodnak a prompt-optimalizáláshoz olyan feladatoknál, amelyek valójában dedikált tanítóadatot igényelnének. A cég szerint mindkét hiba plusz számítási költséggel, csúszó határidőkkel és a megrendelők bizalmának elvesztésével jár. A bejegyzés az Anthropic Claude, az Amazon Nova és a Meta Llama modellek Bedrock-on keresztüli elérhetőségét említi konkrét példaként.

Miért fontos?

Az AWS a Bedrock-felhasználóknak konkrét kockázatként nevezi meg a rossz szintű testreszabás anyagi és időbeli költségét, ami közvetlenül befolyásolja, mennyi vállalati fejlesztési büdzsé megy veszendőbe felesleges finomhangolási projektekre.

Források

AWS Machine Learning Hivatalos

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI eszközök #AWS Bedrock#generatív AI testreszabás

Napi összefoglaló

Ez a hír a 2026. szeptember 15., kedd napi AI összefoglaló része.

Kapcsolódó hírek

AWS KnowledgeForge: mesterséges intelligencia bányássza az IT-hibajegyekből a tudást

Az AWS hivatalos blogbejegyzése a KnowledgeForge nevű megoldást mutatja be, amely a vállalati IT-support (ITSM) rendszerekben felhalmozódott, lezárt hibajegyekből nyer ki hasznosítható tudást. Az AWS állítása szerint a lezárt jegyek tünet-ok-megoldás hármasa jellemzően nem kerül be a tudásbázisba, ezért a hasonló hibával szembesülő mérnök elölről kezdi a diagnosztizálást. A cég szerint a rendszer a meglévő tudásbázist is karbantartja: típus szerint rendszerezi a cikkeket, kiszűri a duplikátumokat, minőséget pontoz és újraírja a gyenge tartalmakat, miközben egy tudásmenedzser hagyja jóvá a végeredményt. Technikailag az Amazon Bedrock végzi a tartalomgenerálást, az Amazon S3 Vectors a duplikátumkeresést, az AWS Step Functions pedig az összeállítás vezérlését. A bejegyzés az architektúrát és tervezési célokat ismerteti, független teljesítménymérést nem közöl.

GitHub Copilot új kutatási előnézete: HydraFusion több modellt kombinál

A GitHub bemutatta a Project HydraFusiont, a GitHub Copilot kutatási előnézetét, amely a vállalat állítása szerint futásidőben, több szolgáltató modelljét kombinálva építi fel a kódolási feladatok végrehajtási tervét. A rendszer a feladat komplexitása alapján három mintázat közül választ: egyetlen modell önálló futtatása, kaszkád (gyengébb modell tervezete, majd minőségi kapu alapján erősebb modellre eszkalálás), illetve kritika (egy másik modellcsaládból származó, csak olvasási jogú bíráló véleményezi a tervezetet, amit az eredeti modell egyszeri javítással dolgoz fel). A GitHub szerint öt alapelv biztosítja a megbízhatóságot: teljes költségkövetés, időkorlátos végrehajtás, elkülönített, eszközhasználat nélküli bírálati lépés, hibatűrő alkalmazási logika és a modellek elérhetőségének előzetes ellenőrzése. A cég állítása szerint kontrollált, offline teszteken három ügynöki kódolási benchmarkon a szelektív futásidejű munkafolyamatok elérték vagy meghaladták az alapmodellek teljesítményét, konkrét számszerű eredményt azonban a forrás nem közöl.

NVIDIA PAIR: helyi hálózaton osztja el az AI-feladatokat

Az NVIDIA bejelentése szerint béta állapotban elérhető a Personal AI Router (PAIR), amely a helyi hálózaton lévő több gép számítási kapacitását vonja össze, és automatikusan szétosztja köztük az AI-kéréseket. A vállalat célja elsősorban a többügynökös (multi-agent) munkafolyamatok támogatása, ahol egyetlen GPU-t túlterhelhetnek a párhuzamos modellhívások; PAIR ezt proxyként kezeli, és a bejövő kérést a megfelelő csomópontra irányítja anélkül, hogy az ügynöknek vagy a mögöttes architektúrának változnia kellene. NVIDIA saját demója szerint egy Hermes Desktop–Ollama–PAIR kombináció, amely RTX Spark, DGX Spark és RTX 5090 gépeket kapcsolt össze, körülbelül kétszeres gyorsulást ért el egyetlen RTX Spark laptophoz képest, ám a cég hangsúlyozza, hogy ez nem teljesítménygarancia, mert az eredmény a munkaterheléstől, a modelltől és a hálózattól is függ. A PAIR zökkenőmentesen illeszkedik olyan meglévő helyi inferenciaszolgáltatásokhoz, mint az Ollama és az LM Studio, és Windows 11, Linux, valamint macOS alatt, x64 és arm64 architektúrán egyaránt használható.

Amazon Bedrock: természetes nyelvű videókeresés a Marengo 3.0 modellel

Az AWS hivatalos bejegyzése szerint elérhetővé vált a TwelveLabs Marengo Embed 3.0 beágyazó modell az Amazon Bedrock Knowledge Bases szolgáltatásban. A modell videót, hangot, képet és szöveget kódol egyetlen, 512 dimenziós vektortérbe, így természetes nyelvű lekérdezésekkel kereshető jelentés alapján a videótartalom, például egy adott mozzanat egy több órás felvételben. A vállalat állítása szerint a Bedrock Knowledge Bases kezelt módon végzi a szegmentálást, a képkockakinyerést és az átiratkészítést, így a felhasználóknak nem kell külön transzkripciós szolgáltatásokat, beágyazó modelleket és vektoradatbázisokat összekapcsolniuk. Az AWS bemutatóban egy 2022-es FIFA világbajnoki döntő 10 perces klipjén demonstrálják a funkciót, S3-tárolóból történő feltöltéssel és a Bedrock konzolon keresztüli lekérdezéssel.