AI-fogalom · Eszközök
Retrieval-Augmented Generation (RAG)
Az LLM válaszát külső dokumentumokból visszakeresett részletekkel támasztja alá.
Más néven: RAG, visszakereséssel bővített generálás
A RAG olyan módszer, amely a nyelvi modell válaszát külső tudásbázisból visszakeresett szövegrészletekkel egészíti ki.
Előnye, hogy a modellnek nem kell mindent a paramétereiben tárolnia: a friss vagy szakterületi információ a keresésből érkezik, így csökken a hallucináció.
Kapcsolódó hírek
-
Bayesi bizonytalanság-propagálás az ágensalapú RAG rendszerek megbízhatóságának javítására
Kutatók egy bizonytalanságtudatos keretrendszert mutattak be ágensalapú Retrieval-Augmented Generation (RAG) rendszerekhez, amelyben a tervező, kiértékelő és generáló szakaszok bizonytalansági jeleket állítanak elő szemantikai eltérés és önértékelés alapján. Ezeket a jeleket egy Bayes-hálón propagálják, hogy rendszerszintű bizonytalanságot becsüljenek, és a munkafolyamat egyes csomópontjainál jelezzék a lehetséges hibaforrásokat. A StrategyQA és HotpotQA adathalmazokon, GPT-3.5-Turbo és GPT-4.1-Nano modellekkel végzett kísérletek szerint a módszer a többlépéses következtetést igénylő HotpotQA-n hatékonyabb, míg a StrategyQA-n a rosszul kalibrált upstream jelek korlátozzák a teljesítményt. A nem lektorált tanulmány a megközelítést ígéretesnek, de előzetesnek minősíti, és ipari validálást – például tengeri szélenergia-karbantartási döntéstámogatásban – tart szükségesnek.
-
Cohere áttekintése: hogyan alkalmazzák a vállalatok a generatív AI-t
A Cohere saját blogbejegyzésében áttekinti, hogy a generatív AI-modellek mára széles körben elérhetők a vállalatok számára, ám a cég szerint a vezetőknek nehéz elkülöníteni a valódi üzleti hasznot a túlzott várakozásoktól. A vállalat állítása szerint a technológia legfőbb üzleti alkalmazási területei közé tartozik a belső és külső tudásforrások keresése retrieval-augmented generation (RAG) módszerrel, valamint szöveges tartalmak – jelentések, marketingszövegek, összefoglalók, fordítások – létrehozása és átalakítása. A Cohere kiemeli továbbá a beszélgetőalapú asszisztensek szerepét ügyfélszolgálati, IT- és HR-támogatási feladatokban, amelyek rugalmasabban kezelik a szabadszavas kéréseket a hagyományos chatbotoknál. A bejegyzés gyakorlati bevezetési megközelítést is ígér, de ennek részletei a kivonatból nem derülnek ki.
-
AI-keretrendszer gyorsítja az emberi szövetatlasz adatgyűjtését
Kutatók a Communications Biology folyóiratban bemutatták a HRAftu-LM-RAG nevű mesterséges intelligencia keretrendszert, amely nagy nyelvi modelleket, képi elemzést végző modelleket és visszakereséssel támogatott generálást (RAG) kombinál. A cél a funkcionális szövetegységek (FTU) tulajdonságainak automatikus kinyerése tudományos publikációkból a Human Reference Atlas (HRA) építéséhez, amely az emberi test szervezettségét térképezi fel szervi szinttől egyetlen sejtekig. A szerzők szerint a rendszer 244 640 PubMed Central cikket dolgozott fel 1 389 168 ábrával 22 FTU-ra vonatkozóan, ebből 617 237 mikroszkópos vagy sematikus képet azonosított, és 331 189 méretarány-jelölést, valamint 1 719 138 biológiai entitás-említést nyert ki, donor-metaadatokkal együtt. A cikk korai, lektorált változatként jelent meg, végleges formája még változhat.
-
AWS: megfigyelhető, több tudásbázisos agentikus keresés Bedrock CloudFormationnel
Az AWS hivatalos blogbejegyzése olyan architektúrát mutat be, amely a hagyományos, egylépéses RAG-keresés helyett agentikus visszakeresést valósít meg: az ügynök végiggondolja a kérdést, kiválasztja a megfelelő tudásbázist, több forrásból iteratívan keres, majd hivatkozásokkal ellátott választ ad. A megoldás az Amazon Bedrock Managed Knowledge Base és az AgentCore szolgáltatásra épül, az AWS állítása szerint a folyamat OpenTelemetry-alapú nyomkövetéssel kezdettől megfigyelhető és kiértékelhető. A cég szerint a rendszer egyetlen AWS CloudFormation-sablonlánccal telepíthető, beleértve a tesztadatokat, a tudásbázisokat és a megfigyelhetőségi rétegeket. A leírás fejlesztői útmutató, amely a korábbi, egyszerűbb RAG-megoldást vállalati, több forrású keresési forgatókönyvekre bővíti.
-
Az AWS natív vektorkeresést épített a DynamoDB adatbázisba
Az Amazon DynamoDB új funkciója lehetővé teszi, hogy a fejlesztők beágyazásokat (embeddingeket) tároljanak az alkalmazásadatok mellett, és közvetlenül a DynamoDB-ből futtassanak közelítő legközelebbi szomszéd lekérdezéseket, külön vektoradatbázis nélkül. Az AWS állítása szerint a funkció tetszőleges beágyazási modellel használható, például Bedrock Titan, Cohere Embed vagy OpenAI embeddingekkel, és az új SearchVectors API-n érhető el, akár 4096 dimenzióval, euklideszi, koszinusz vagy skaláris szorzat távolságfüggvénnyel, szűrt kereséssel. A vállalat szerint a vektorindexek szerverless módon, tárolási korlát nélkül skálázódnak, díjazásuk pedig írás, lekérdezés-feldolgozás és tárolás alapján történik a szokásos DynamoDB-díjak mellett. A cél a korábbi gyakorlat kiváltása, amelyben az adatokat külön vektoradatbázisba kellett másolni és szinkronban tartani.
-
A kontextus minősége előre jelzi az AI-ágensek megbízhatóságát – kutatás és ipari megoldás
Egy nem lektorált kutatási tanulmány szerint az AI-ágensek hibáinak gyökere jellemzően a kontextusban keresendő: az utasítások, eszközleírások, védőkorlátok és betáplált tudás minősége határozza meg a viselkedést. A szerzők hét kritérium mentén értékelték a kontextusminőséget, és kimutatták, hogy az egyes szempontok szisztematikusan előrejelzik a hallucinációval szembeni ellenállást vagy az utasításkövetést. Eközben a Pinecone piacra dobta Nexus nevű tudásmotorját, amely a vállalati kontextust strukturált rétegbe rendezi. A cég állítása szerint a korai felhasználók a jogi szektorban jelentős pontosságjavulást és kilenc-tizenötszörös tokenköltség-csökkenést tapasztaltak a hagyományos RAG-rendszerekhez képest.
-
CLAP: zárt hurkú keretrendszer domain-specifikus AI-ágensek utótréningjéhez
A CLAP keretrendszer az AI-ágensek finomhangolását, kiértékelését és kiadásvezérlését egyetlen zárt hurkú folyamatba integrálja – a szerzők nem lektorált kutatási munkában mutatják be. Öt gyártási szcenárión tesztelve a LoRA-SFT csak szerény javulást ért el (pontszám +0,0098, megfelelési arány +0,024), és csupán 3 az 5 tételből javult; a GRPO magas KL-kockázatot mutatott. Az alkalmazáslánc-visszajátszás szerint RAG-orientált adapterrel javulnak a kulcsmezők és a bizonyítékillesztés, de nő a késleltetés. A szerzők amellett érvelnek, hogy az utótréninget integrált ciklusként kell kezelni, nem egyetlen offline metrika alapján.
-
Memora: a Microsoft új memóriarendszere akár 98%-kal kevesebb kontextus-tokennel dolgozik AI-ágenseknél
A Microsoft Research bemutatott egy Memora nevű skálázható memóriarendszert, amely az AI-ágensek hosszú távú feladatkezelését célozza. A rendszer a tárolt gazdag memóriatartalmat elválasztja a könnyűsúlyú absztrakciókra és kulcsingerekre épülő keresési mechanizmustól, így az absztrakció és a specifikusság között egyensúlyt teremt. A Microsoft Research szerint a Memora új csúcseredményt ér el a LoCoMo és LongMemEval benchmarkokon, felülmúlva a Mem0-t, a RAG-ot és a teljes kontextusú inferenciát, miközben akár 98%-kal kevesebb kontextus-tokent használ. A tanulmányt az ICML 2026 konferencián publikálják, kódja nyílt forráskódúként elérhető a GitHubon. A fejlesztés a hónapokig tartó projekteken dolgozó AI-asszisztensek számára lehet kulcsfontosságú, ahol az eddigi megoldások vagy túl töredékes, vagy túlságosan elnagyolt módon kezelték a korábbi interakciókat.
