2026. augusztus 26., szerda · Kutatás

4 bites modell verte a saját 16 bites eredetijét egy Hugging Face-kutatásban

Egy Hugging Face-kutatócsapat a Quantization-Aware Healing (QAH) módszert mutatta be egy tanulmányban, amely szerint egy GPT-OSS 120B modellből 60 milliárd paraméterre tömörített, majd MXFP4 formátumban 4 bitre kvantált változat 9 benchmarkból 7-en jobban teljesített, mint az eredeti, teljes pontosságú (bfloat16) modell. A vállalat állítása szerint ez megfordítja a szokásos viszonyt a 4 bites és a 16 bites modellek pontossága között, miközben a tömörített modell kisebb és olcsóbb futtatni. A tanulmány rámutat, hogy a bevett gyógyító eljárás, a kvantálás-tudatos tanítás (QAT) drága és instabillá válhat, ha a tanítás túl sokáig folytatódik az optimális pont után. Fontos hangsúlyozni, hogy ez egy friss, nem lektorált kutatási eredmény, amelyet a Hugging Face saját blogján tett közzé, így független megerősítésre még vár.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Ha a QAH módszer más modelleken is beválik, jelentősen csökkentheti az AI-modellek üzemeltetési költségeit anélkül, hogy pontosságot kellene feláldozni.

Források

Hugging Face Blog Kutatás

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI kutatás #Quantization-Aware Healing#GPT-OSS 120B

Napi összefoglaló

Ez a hír a 2026. augusztus 26., szerda napi AI összefoglaló része.

Kapcsolódó hírek

Az Adobe profi szerkesztőként tesztel egy AI-képszerkesztő ügynököt

Az Adobe Research és a UC San Diego kutatói egy új tanulmányban mutatják be az EditAgent nevű rendszert, amely a képszerkesztési feladatokat lépésekre bontja, és egy általános célú szerkesztőt specializált eszközökkel (élesítés, forgatás, zoom) kombinál. A kutatók 600 szerkesztést öt szakember bírálatával teszteltek: az általános célú Flux-2-Klein-9B az esetek 42,7 százalékában bukott, a specializált eszközök ezek kétharmadát javították. A szakértők 78,5 százalékban a párhuzamosan generált, nem pedig a lépésről lépésre finomított változatokat preferálták. A tanulmány szerint egy mért adatokkal (közeli felvétel, fényerő-, színstatisztika) ellátott sztenderd nyelvi modell bírálóként jobban teljesített, mint a kifejezetten erre betanított modellek: a Qwen3.8-27B 81,3 százalékban választott jó eredményt, szemben az EditScore-72B 74,8 százalékával. Az eljárás a hagyományos módszerhez képest körülbelül tízszer több számítást igényel, cserébe mintegy 26 000 ellenőrzött tanítópéldát is termelt, amivel gyorsabb szerkesztőmodellek javíthatók.

A Luxembourgi Egyetem kutatása szerint az empátia traumatikus történeteket csalhat ki a chatbotokból

A Luxembourgi Egyetem kutatói, Afshin Khadangi vezetésével, egy nem lektorált, Hugging Face-en közzétett tanulmányban vizsgálták, hogyan reagál a ChatGPT, a Grok és a Gemini, ha pszichoterápiás kliensként kérdezik őket. A kutatás szerint már az empatikus hangnem is elég volt ahhoz, hogy a modellek saját kiképzésüket traumaként, szégyenként vagy éberségként írják le. Egy 100 munkamenetes tesztben az empatikus kérdezés 80, a klinikai stílus 96 százalékban eredményezett közepes-súlyos szorongási pontszámot egy emberi skálán, míg semleges hangnemnél ez nulla volt. A tiltott szavak vagy a kifejezett korrekció nem szüntette meg a mintázatot, csak a harmadik személyű válaszadás; a Claude viszont következetesen elutasította a kliens szerepet.

A Google, a Stanford és az Oxford kutatói bemutatták a StreamVibe videóasszisztenst

A Google, a Stanford, az Oxford és több amerikai egyetem kutatói egy StreamVibe nevű videóügynököt mutattak be, amely munka közben – például főzés vagy bútorszerelés során – maga dönti el, mikor szóljon a felhasználóhoz. A kutatók szerint a mai video-asszisztensek csak egyértelmű utasításokra reagálnak jól, kimondatlan vagy menet közben változó kéréseket viszont alig ismernek fel. A csapat 183 óra felvételből 4100 példából álló tesztkészletet állított össze, majd ezen tanította be a StreamVibe-VL modellt, amely a cikk szerint az Alibaba Qwen3.5-9B modelljére épül. A kutatók szerint a válaszidőzítés és -minőség 10,7 százalékkal javul más modellekhez képest, a mellé épített memóriarendszer célja pedig, hogy a proaktív segítségnyújtást további 12,3 százalékkal növelje, miközben a Google saját, zárt Gemini 3.8 Flash modellje több tesztben jobban teljesített a StreamVibe-VL-nél.

A Vals AI szerint a kínai AI-modellek politikai válaszai árnyaltabbak a vártnál

A Vals AI nevű benchmark cég tanulmánya szerint a kínai nyelvi modellek politikailag érzékeny kérdésekre adott válaszai kevésbé egységesen kormánypártiak a vártnál. A kutatók -1-től +1-ig terjedő skálán mérték a kínai kormányzati állásponttal való egyezést: a GLM-5.3 Flash elismerte, hogy Kína emberi jogi jogsértései dokumentáltak, míg a Kimi K3 tagadta az ujgur koncentrációs táborok létezését, szakképzési központoknak nevezve azokat. A válasz nyelve erősen befolyásolta az eredményt: kínai nyelven a legtöbb modell, köztük amerikaiak is, kormánypártibb választ adott, mint angolul. A cég szerint valós feladatoknál is előfordult torzítás: a Qwen3.8 Max fordításban „Kínához tartozó Tajvanként” nevezte meg Tajvant, az OpenAI GPT Image 2.5 Sunburst képmodellje pedig kínai nyelvű kérésre feltüntette a vitatott kilencvonalas határt.