2026. november 6., péntek · Eszközök

A Google Cloud API Gateway nyilvános előzetesként streamingtámogatást kap

A Google nyilvános előzetesként jelentette be, hogy a Cloud API Gateway streamingtámogatást kap. A cég szerint a fejlesztőknek korábban választaniuk kellett a streaming és a hitelesítés, az API-kulcs-kezelés vagy a megfigyelhetőség között; az új képesség a Server-Sent Events, a darabolt átvitel, a HTTP-válasz-streamelés, a WebSocket és a gRPC mintákat kezeli. A streamingkapcsolatok a cég szerint akár egy órán át is nyitva maradhatnak, utána a klienseknek új kapcsolatot kell létesíteniük, ha folytatni akarják a kommunikációt. A meglévő API-specifikációkat nem kell módosítani, a hosztnevek pedig előre meghatározható formátumot követnek; a modellútválasztás egyetlen OpenAI-kompatibilis végponton át irányítja a kéréseket a Gemini, a Claude vagy az OpenAI gpt-oss modelljeihez. A streaminget az előzetesben új gateway létrehozásakor a --enable-streaming kapcsolóval kell engedélyezni; az InfoQ által idézett fejlesztők szerint a meglévő gatewayeket nem lehet helyben átállítani, a késleltetési mérőszámok pedig a teljes adatfolyam időtartamát mérik, nem az első bájtig mért időt.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A Google szerint a modellútválasztás és a streaming együtt azt jelenti, hogy a kliensek ismerős, szabványos streamingfelületet kapnak, miközben a gatewayt üzemeltetők központilag szabályozhatják, mely modellek, kik és milyen szabályok szerint érhetők el.

Források

InfoQ AI

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI eszközök #Google Cloud#API Gateway

Napi összefoglaló

Ez a hír a 2026. november 6., péntek napi AI összefoglaló része.

Kapcsolódó hírek

A Google AlphaEvolve kódoptimalizáló ügynöke általánosan elérhetővé vált a felhőplatformon

A Google bejelentette, hogy az AlphaEvolve evolúciós kódoptimalizáló ügynök általánosan elérhető lett a Gemini Enterprise Agent Platformon. Az eszköz Gemini modellekkel mutáns programváltozatokat generál, amelyeket a felhasználó saját infrastruktúráján értékel, így az üzleti kód nem hagyja el a kliens környezetét. A vállalat szerint több ügyfél is konkrét eredményeket ért el: a Klarna megduplázta ML-betanítási áteresztőképességét, a JetBrains 15-20 százalékkal csökkentette a kódkiegészítés késleltetését, a Kinaxis pedig 22 százalékkal javította előrejelzési pontosságát 90 százalékos futásidő-csökkenés mellett. A Google belső használatban TPU-tervezésnél és a Spanner adatbázis optimalizálásánál is alkalmazta.

A Meta valós idejű hangmódot és társalgó avatárt indított a Muse MI-ügynökben az USA-ban

A Meta bejelentette, hogy a Muse MI-ügynökben valós idejű hangbeszélgetés és a beszéddel együtt mozgó, kifejező avatár indult, és a funkció a cég szerint az Egyesült Államokban most jelenik meg a Muse mobil-, webes és Mac-alkalmazásában. A felhasználó a jobb felső sarokban lévő telefonikonra koppintva beszélgethet, több száz hang közül választhat, félbeszakíthatja az ügynököt, és beállíthatja, hogy csak hang, avatár vagy teljes képernyős megjelenítés látszódjon. A The Verge munkatársa az iOS-verzióban már kipróbálta: beszámolója szerint a Muse gyorsan válaszol, de időnként szünetet tart, amíg információt keres, és az avatár a kimondott szavakkal összhangban animálódik.

A ChatGPT animált GIF-készítést kap az OpenAI Images 2.6 modelljével

A ChatGPT a legújabb frissítéssel animált GIF-eket készíthet szöveges utasításból vagy feltöltött fotóból; a lejátszási sebesség állítható, a képkockák pedig egyenként szerkeszthetők – írja a The Verge. Az OpenAI közlése szerint a funkció az új Images 2.6 modellel érkezik, és fokozatosan minden ChatGPT- és Codex-felhasználóhoz eljut webes, asztali és mobilalkalmazáson. A vállalat szerint a felhasználók a ChatGPT-n és az API-n keresztül együtt már több mint 4 milliárd képet generálnak hetente, szemben a szeptemberben jelentett 3 milliárddal. Az Images 2.6 emellett gyorsabb képgenerálást hoz a ChatGPT-ben, a fejlesztőknek pedig a GPT-Image-2.6 Flare és Sunburst API-modelleket adja ki gyorsabb, illetve jobb minőségű képgeneráláshoz.

A Google bemutatta a LiteRT Tensor API-t eszközön futó AI-modellekhez

A Google bemutatta a LiteRT Tensor API-t, egy könnyűsúlyú C++ felületet gépi tanulási modellek eszközön futó építéséhez, testreszabásához és optimalizálásához. A vállalat szerint az API ötvözi a natív modellírás rugalmasságát a platformfüggetlen hordozhatósággal: ugyanaz a C++ gráf CPU-n, GPU-n és NPU-n lefuttatható anélkül, hogy minden hardverhez újra kellene írni a kódot. Az API támogatja a súlyok közvetlen betöltését ellenőrzőpontokból, köztük Hugging Face.safetensors fájlokból, valamint a zero-copy pufferkezelést a feldolgozási lépések között. A Google egy kódoló AI-ügynökkel készített demót a SAM 2 modell többobjektumos szegmentálására és követésére, és a cég szerint ez MacBook Pro-n futtatva mintegy 1,5-szer gyorsabb volt, mint az Apple MLX. Laurence Moroney, az Arm AI-igazgatója a LinkedInen azt írta, a C++ API-t csak gráfszintű kontroll igényekor érdemes használni, egyébként a modellkonverzió az ajánlott kiindulópont.