Retrieval-Augmented Generation (RAG)

Kapcsolódó hírek

1. Kutatás 2026. július 3., péntek

   Bayesi bizonytalanság-propagálás az ágensalapú RAG rendszerek megbízhatóságának javítására

   Kutatók egy bizonytalanságtudatos keretrendszert mutattak be ágensalapú Retrieval-Augmented Generation (RAG) rendszerekhez, amelyben a tervező, kiértékelő és generáló szakaszok bizonytalansági jeleket állítanak elő szemantikai eltérés és önértékelés alapján. Ezeket a jeleket egy Bayes-hálón propagálják, hogy rendszerszintű bizonytalanságot becsüljenek, és a munkafolyamat egyes csomópontjainál jelezzék a lehetséges hibaforrásokat. A StrategyQA és HotpotQA adathalmazokon, GPT-3.5-Turbo és GPT-4.1-Nano modellekkel végzett kísérletek szerint a módszer a többlépéses következtetést igénylő HotpotQA-n hatékonyabb, míg a StrategyQA-n a rosszul kalibrált upstream jelek korlátozzák a teljesítményt. A nem lektorált tanulmány a megközelítést ígéretesnek, de előzetesnek minősíti, és ipari validálást – például tengeri szélenergia-karbantartási döntéstámogatásban – tart szükségesnek.

2. Üzlet 2026. augusztus 30., vasárnap

   A Cohere áttekintése: hogyan alkalmazzák a vállalatok a generatív AI-t

   A Cohere saját blogbejegyzésében áttekinti, hogy a generatív AI-modellek mára széles körben elérhetők a vállalatok számára, ám a cég szerint a vezetőknek nehéz elkülöníteni a valódi üzleti hasznot a túlzott várakozásoktól. A vállalat állítása szerint a technológia legfőbb üzleti alkalmazási területei közé tartozik a belső és külső tudásforrások keresése retrieval-augmented generation (RAG) módszerrel, valamint szöveges tartalmak – jelentések, marketingszövegek, összefoglalók, fordítások – létrehozása és átalakítása. A Cohere kiemeli továbbá a beszélgetőalapú asszisztensek szerepét ügyfélszolgálati, IT- és HR-támogatási feladatokban, amelyek rugalmasabban kezelik a szabadszavas kéréseket a hagyományos chatbotoknál. A bejegyzés gyakorlati bevezetési megközelítést is ígér, de ennek részletei a kivonatból nem derülnek ki.

3. Eszközök 2026. október 13., kedd

   Az AWS Ray LLM konténer: multi-node LLM-kiszolgálás EKS-en

   Az AWS hivatalos blogbejegyzése szerint a vállalat bemutatta a Ray LLM Deep Learning Containers (DLC) multi-node változatát, amellyel egyetlen nagy nyelvi modell két GPU-csomóponton, Amazon EKS-en futtatható egy közös, OpenAI-kompatibilis végponton keresztül. A megoldás külön csomópontra választja szét az előfeltöltési (prefill) és a dekódolási (decode) fázist, így a hosszú, számításigényes promptok nem akasztják meg a már folyamatban lévő kérések token-generálását. Az AWS azt írja, hogy korábban az ügyfeleknek maguknak kellett összeállítaniuk és karbantartaniuk a kompatibilis GPU-függőségi láncot (CUDA-könyvtárak, keretrendszerek), ami jelentős, a modellfejlesztéstől elvonó mérnöki munkát igényelt. A most bemutatott, előre tesztelt és patchelt konténer ezt a réteget automatikusan biztosítja, kiterjesztve a korábbi, egycsomópontos Ray Serve DLC-nél alkalmazott megközelítést a többcsomópontos, szétválasztott (disaggregated) inferenciára.

4. Kutatás 2026. október 12., hétfő

   Kutatók: nyelvi modellek saját kontextusukat kezelhetik

   A Meta, az MIT és a University of Washington kutatói egy új módszert, a Context Language Models (CLM) nevű megközelítést mutatták be, amelyben a nyelvi modell a saját kontextusát szabadon szerkeszthető fájlként kezelheti, nem pedig előre rögzített szabályok szerint tömöríti vagy hívja le az adatokat. A kutatók szerint ez kiküszöbölheti a hagyományos módszerek – összefoglalás, tömörítés, külső memória – ismert hátrányait, mint az információvesztés vagy a merev szabályrendszer. A csapat háromféle megközelítést tesztelt: tanítás nélküli (zero-shot), kontextusban tanuló és megerősítéses tanulásos módszert, és beszámolójuk szerint mindháromban érdemi teljesítmény- és számításiköltség-javulást mértek. A kutatók azt is kiemelik, hogy a CLM-ek olyan kontextuskezelési stratégiákat is kialakíthatnak, amelyek túlmutatnak az eddigi, emberek által tervezett megoldásokon – ez egyelőre kutatási eredmény, nem kész termék.

5. Modellek 2026. október 8., csütörtök

   A Google bemutatta az EmbeddingGemma 2 nyílt, könnyűsúlyú multimodális beágyazó modellt

   A Google kiadta az EmbeddingGemma 2 nevű nyílt modellt, amely szöveget, képet, videót, hangot és kódot alakít numerikus vektorokká, hogy hasonló tartalmakat könnyebben lehessen keresni és összehasonlítani. A Google állítása szerint ez a legkompaktabb ilyen típusú modell a maga 740 millió paraméterével, és a multimodális beágyazási benchmarkokon felülmúlja a nála akár kétszer nagyobb versenytárs modelleket is. A modell API-kulcs nélkül, helyben futtatható: egy lekérdezés WebGPU-n keresztül böngészőben 20-70 ezredmásodpercet vesz igénybe, mindössze körülbelül 191 MB memóriát igényel, és akár hatszorosára csökkenti a helyi vektoradatbázisok tárolási igényét. Csak szöveges feladatokhoz egy 270 millió paraméteres, kisebb változat is elegendő. A Gemma 4-hez hasonló kis nyílt modellekkel párosítva offline, szerverre küldött adatok nélkül futó RAG-alkalmazások építhetők; a súlyok elérhetők a Hugging Face-en és a Kaggle-ön.

6. Eszközök 2026. október 4., vasárnap

   Az AWS új mintázata: AI chat és determinisztikus szabálymotor a bérleti szerződések ellenőrzésére

   Az AWS hivatalos blogbejegyzése egy úgynevezett „Adjudicated Query” tervezési mintát mutat be, amely az Amazon Quick generatív AI-alapú chat felületét kapcsolja össze egy nem-AI, determinisztikus szabálymotorral. A cél, hogy üzleti felhasználók természetes nyelven tehessenek fel megfelelőségi kérdéseket, miközben a tényleges megfelel/nem felel döntést mindig a szabálymotor hozza, nem a nyelvi modell. A bemutatott példa szerint egy ingatlanportfólió-kezelő akár 50 000 bérleti szerződést tart nyilván több államban, és új törvényi változás esetén teljes körűen, bizonyíthatóan kell ellenőriznie az összes érintett szerződést, például egy adott államban mind a 22 910 texasi szerződést. Az AWS szerint sem a hagyományos RAG-alapú keresés, sem a text-to-SQL megoldás nem garantálja ezt a teljes lefedettséget és utólagos védhetőséget, ezért javasolják a két réteg szétválasztását. A minta más magas tétű megfelelőségi területeken is alkalmazható, például szankciós szűrésnél, biztosítási kárigény-elbírálásnál vagy exportellenőrzésnél.

7. Eszközök 2026. szeptember 15., kedd

   Az AWS nyolclépéses útmutatót adott ki a generatív AI testreszabásához

   Az AWS hivatalos blogbejegyzése egy nyolclépéses döntési keretrendszert mutat be, amellyel a fejlesztők eldönthetik, milyen mélységű testreszabás szükséges egy generatív AI-feladathoz az Amazon Bedrock platformon. A bejegyzés szerint a testreszabási spektrum három fő kategóriára oszlik: a modell változtatás nélküli használata jobb promptokkal, a dokumentumok bevonása retrieval augmented generation (RAG) technikával, illetve a finomhangolás vagy teljesen egyedi modell betanítása. Az AWS azt állítja, hogy a csapatok gyakran rossz döntést hoznak: túl korán nyúlnak finomhangoláshoz, amikor egy jól megírt prompt is elég lenne, vagy éppen ellenkezőleg, hetekig ragaszkodnak a prompt-optimalizáláshoz olyan feladatoknál, amelyek valójában dedikált tanítóadatot igényelnének. A cég szerint mindkét hiba plusz számítási költséggel, csúszó határidőkkel és a megrendelők bizalmának elvesztésével jár. A bejegyzés az Anthropic Claude, az Amazon Nova és a Meta Llama modellek Bedrock-on keresztüli elérhetőségét említi konkrét példaként.

8. Kutatás 2026. szeptember 8., kedd

   AI-keretrendszer gyorsítja az emberi szövetatlasz adatgyűjtését

   Kutatók a Communications Biology folyóiratban bemutatták a HRAftu-LM-RAG nevű mesterséges intelligencia keretrendszert, amely nagy nyelvi modelleket, képi elemzést végző modelleket és visszakereséssel támogatott generálást (RAG) kombinál. A cél a funkcionális szövetegységek (FTU) tulajdonságainak automatikus kinyerése tudományos publikációkból a Human Reference Atlas (HRA) építéséhez, amely az emberi test szervezettségét térképezi fel szervi szinttől egyetlen sejtekig. A szerzők szerint a rendszer 244 640 PubMed Central cikket dolgozott fel 1 389 168 ábrával 22 FTU-ra vonatkozóan, ebből 617 237 mikroszkópos vagy sematikus képet azonosított, és 331 189 méretarány-jelölést, valamint 1 719 138 biológiai entitás-említést nyert ki, donor-metaadatokkal együtt. A cikk korai, lektorált változatként jelent meg, végleges formája még változhat.