2026. augusztus 10., hétfő · Modellek
Google DeepMind diffúziós nyelvmodellé alakította a Gemma 4-et
A Google DeepMind technikai jelentést tett közzé a júniusban kiadott DiffusionGemma modellről. A vállalat állítása szerint nem nulláról építették: a meglévő Gemma-4-26B-A4B modellt alakították diffúziós architektúrává, az eredeti tanítási tokenmennyiség kevesebb mint tíz százalékának felhasználásával. A hagyományos, soronként tokeneket generáló modellekkel szemben a DiffusionGemma 256 tokenes blokkokat párhuzamosan finomít, ami Nvidia H100 gyorsítón a cég szerint mintegy 1500 token másodpercenkénti sebességet ad. A jelentés szerint a kétlépéses tanítás, benne az SD·RL nevű megerősítéses tanulás és mintavevő-desztilláció kombinációja, átlagosan tíz ponttal javította a teljesítményt érvelési benchmarkokon, a válaszok pedig mintegy 50 százalékkal rövidebbek lettek. A Google szerint ugyanakkor az így kapott modell minőségben elmarad az eredeti, autoregresszív Gemma 4-től, a sebességelőny főleg egyfelhasználós használatban áll fenn – nagyjából 32 párhuzamos kérés fölött a hagyományos modellek utolérik –, és a vállalat kifejezetten kísérleti modellnek nevezi.
Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.
Miért fontos?
A Google saját mérései szerint egy meglévő nagy nyelvmodell viszonylag olcsó átalakítással is jelentősen gyorsabb, diffúziós alapú rendszerré tehető.
Források
Kapcsolódó témák
Napi összefoglaló
Ez a hír a 2026. augusztus 10., hétfő napi AI összefoglaló része.
Helyesbítés · 2026. október 1., csütörtök
Helyesbítés (2026-10-01): az összefoglaló korábban csak a javulást közölte („átlagosan tíz ponttal javította a teljesítményt”), a forrásban szereplő korlátokat nem: a modell minőségben elmarad az eredetitől, a sebességelőny főleg egyfelhasználós helyzetben áll fenn, és a Google kísérleti modellnek nevezi. Ezeket pótoltuk.