2026. szeptember 4., péntek · Eszközök

Az AWS útmutató: OpenAI Codex vállalati integrálása LiteLLM-mel és Bedrockkal

Az AWS Machine Learning blogja útmutatót adott ki arról, hogyan vonható vállalati kontroll alá az OpenAI ChatGPT Codex kódolóügynök egy ügyfél által üzemeltetett LiteLLM gateway-jel, amely Amazon ECS Fargate-en fut és Amazon Bedrockon keresztül éri el az OpenAI modellt. A Codex a feladat-végrehajtást és a helyi eszközhasználatot a fejlesztői gépen tartja, míg a modellhívásokat a LiteLLM irányítja: hitelesít, betartatja a modell- és felhasználási politikát, és az ECS task role-on keresztül hívja meg a Bedrockot. Az AWS szerint ez egységes költségkeret- és rate limit-kezelést, valamint megfigyelhetőséget biztosít, alternatívaként az AWS IAM Identity Center vagy a Portkey nevű menedzselt gateway is szóba jöhet.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A leírás konkrét mintát ad arra, hogyan tarthatják vállalatok kézben az AI-kódolóügynökök modellhozzáférését, költését és megfigyelhetőségét egyedi kísérletezés helyett.

Források

AWS Machine Learning Hivatalos

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI eszközök #LiteLLM#OpenAI Codex

Napi összefoglaló

Ez a hír a 2026. szeptember 4., péntek napi AI összefoglaló része.

Kapcsolódó hírek

Az OpenAI közös token-keretet vezet be a ChatGPT és a Codex között

A The Decoder egy frissített OpenAI támogatási oldalra hivatkozva azt írja, hogy decembertől a Plus, Pro és Business előfizetések egyetlen közös token-keretet osztanak meg a ChatGPT és a Codex között. Az OpenAI ezzel olvasztja be a Work agentikus funkcióit a fő ChatGPT felületbe, amit korábban már bejelentett. A felhasználók a Beállításokban láthatják a fennmaradó keretet és a frissítés idejét; a limit elérésekor várhatnak a megújulásra, előfizetést válthatnak, vagy extra kreditet vásárolhatnak. Az Instant modellel folytatott beszélgetések nem számítanak bele a keretbe, így papíron marad a fix áras szolgáltatás, de a lap szerint az intenzív használat az olcsóbb csomagokon várhatóan gyengébb minőségű válaszokat eredményez majd. A cikk szerint a lépés feltehetően egyrészt a magasabb árú csomagok nemrég megduplázott limitjeire épít, másrészt valószínűleg válasz a ChatGPT egyre bonyolultabbá váló kezelőfelületét ért kritikákra.

Az OpenAI tesztel egy „mindig futó” Codex-ügynök módot

A WIRED által megvizsgált Codex-kódbázisban felfedezett „Persistent mode” nevű beállítás szerint az ügynök a jelenlegi, perceken-órákon belül leálló módokkal szemben „alvó állapotig” futna tovább. A funkcióhoz tartozó „proaktivitás” elem alapján a rendszer a kérés megválaszolása után önállóan újabb feladatokat generálna, munkameneteken átívelve dolgozna, és a felhasználóról szerzett korábbi információk alapján döntene, akár kéretlen üzenetet is küldve. Az OpenAI szóvivője megerősítette a lapnak, hogy a funkciót tesztelik, de azonnali bevezetést nem terveznek; a cég vezetője a nyílt Codex-repót „közös játszótérnek” nevezte. A fejlesztés az OpenAI, az Anthropic és a Meta versenyébe illik a szélesebb közönséget megcélzó, önállóan dolgozó AI-ügynökök terén.

Az OpenAI hardveres makrópadot készít a Codex kódolóeszközhöz a Work Louder-rel együttműködve

Az OpenAI július 15-re egy fizikai eszközt jelent be, amelyet a Codex nevű, AI-alapú kódolóeszközéhez terveztek. A cég az X platformon közzétett rövid videóban egy négyzet alakú, több gombbal ellátott eszközt mutatott be, a Work Louder billentyűzetgyártóval közös partnerségben. A The Verge szerint az eszköz sziluettje a Work Louder Creator Micro 2 makrópadjára emlékeztet, amely 13 mechanikus kapcsolót, joystickot és érintésérzékelőt tartalmaz, és különböző alkalmazásokhoz rendelhető parancsikon-kiosztást tesz lehetővé. A cikkben hangsúlyozzák, hogy ez nem azonos az OpenAI és Jony Ive közös, korábban bejelentett AI-eszközprojektjével. További részletek egyelőre nem ismertek, a megjelenés két hét múlva várható.

Az NVIDIA TensorRT Edge-LLM egyszerűsíti az edge AI-fejlesztést a DGX Sparkon

Az NVIDIA bemutatta a TensorRT Edge-LLM nevű könnyűsúlyú C++ futtatókörnyezetet, amely a vállalat szerint lehetővé teszi, hogy fejlesztők néhány paranccsal AI-modelleket futtassanak és teszteljenek a most 64GB-os kiépítésben elérhető NVIDIA DGX Spark gépen. A trtedge parancssori eszköz letölti a kiválasztott modellt és optimalizált TensorRT motorokat épít, a cég bemutatója szerint a Nemotron-3.5 Lightning modellel néhány lépésben chat-munkamenet indítható, illetve OpenAI-kompatibilis API-kiszolgáló is futtatható helyben. Az NVIDIA közlése szerint a DSpark nevű spekulatív dekódolási módszer három draft tokennel a HumanEval promptokon átlagosan 73,4-ről 126,9 tokenre növelte a másodpercenkénti generálási sebességet, miközben a csúcsmemória-használat 27,9GB maradt. Ugyanez a futtatókörnyezet a vállalat szerint a fejlesztői DGX Sparkról közvetlenül átvihető a Jetson Thor, a DRIVE AGX Thor és az IGX Thor beágyazott платформokra.