2026. szeptember 19., szombat · Kutatás

Új benchmark: LLM-ek megbízhatatlanok autós hangparancsok engedélyezésénél

Kutatók egy 202 forgatókönyvből álló benchmarkot dolgoztak ki, amely azt méri, mennyire biztonságosan döntenek a nagy nyelvi modellek (LLM) autós hangasszisztensek parancsainak kezeléséről – végrehajtás, elutasítás, visszaigazolás vagy manuális vezérlés között. A nem lektorált arXiv-preprint szerint a Gemini 3.1 Pro Preview érte el a legjobb, 89,1%-os egyezést a referenciadöntésekkel, míg a Llama 3.2 3B csak 40,1%-ot; a három API-alapú modell 83,2-89,1% között teljesített, szignifikáns különbség nélkül. Még a legjobb modellek is 2-3 hamis végrehajtást produkáltak a 161 nem-végrehajtási esetből, és a visszaigazolási döntéseknél tartós hibák maradtak. A szerzők szerint a strukturált LLM-döntések önmagukban nem elégségesek, független érvényesítési rétegre van szükség a valós autós beépítéshez.

Egy forrás erősíti A hír állításait legfeljebb egy forrás támasztja alá tárgyilag; a többi forrás anyaga nem erről szól.

Miért fontos?

A teszt szerint még a piacvezető Gemini 3.1 Pro Preview is hibázhat biztonságkritikus autós parancsok, például ajtózárak vagy vezérlésváltás eldöntésében, ezért a gyártóknak külön szoftveres engedélyezési réteget kell beépíteniük az LLM mellé.

Források

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. szeptember 19., szombat napi AI összefoglaló része.

Kapcsolódó hírek

A Chicagói Egyetem Pritzker-díjjal ismerte el Barzilay és Collins antibiotikum-kutatását

Az MIT közleménye szerint Regina Barzilay és James Collins, az intézmény kutatói kapják a 2026-os Pritzker-díjat a mesterséges intelligenciát és a tudományt összekötő kiváló kutatásért. A 2024-ben a Chicagói Egyetem és a Caltech által alapított díjat azért ítélték oda nekik, mert mélytanulást, biomérnökséget és kísérleti validálást ötvözve úttörő munkát végeztek gyógyszerrezisztens kórokozók elleni antibakteriális jelöltek azonosításában. Csapatuk 2020-ban, Jonathan Stokes közreműködésével publikálta az első, mesterséges intelligenciával felfedezett antibiotikumot, a halicint, amely hatásosnak bizonyult olyan szuperbaktériumok ellen, mint a Clostridium difficile vagy a Mycobacterium tuberculosis. 2023-ban az abaucin nevű szűk spektrumú antibiotikumot is azonosították, amely az Acinetobacter baumannii ellen hatásos. Collins szerint a generatív AI már nem csak felfedezési eszköz, hanem tervezőeszköz is lehet az antibiotikum-kutatásban.

Az Adobe profi szerkesztőként tesztel egy AI-képszerkesztő ügynököt

Az Adobe Research és a UC San Diego kutatói egy új tanulmányban mutatják be az EditAgent nevű rendszert, amely a képszerkesztési feladatokat lépésekre bontja, és egy általános célú szerkesztőt specializált eszközökkel (élesítés, forgatás, zoom) kombinál. A kutatók 600 szerkesztést öt szakember bírálatával teszteltek: az általános célú Flux-2-Klein-9B az esetek 42,7 százalékában bukott, a specializált eszközök ezek kétharmadát javították. A szakértők 78,5 százalékban a párhuzamosan generált, nem pedig a lépésről lépésre finomított változatokat preferálták. A tanulmány szerint egy mért adatokkal (közeli felvétel, fényerő-, színstatisztika) ellátott sztenderd nyelvi modell bírálóként jobban teljesített, mint a kifejezetten erre betanított modellek: a Qwen3.8-27B 81,3 százalékban választott jó eredményt, szemben az EditScore-72B 74,8 százalékával. Az eljárás a hagyományos módszerhez képest körülbelül tízszer több számítást igényel, cserébe mintegy 26 000 ellenőrzött tanítópéldát is termelt, amivel gyorsabb szerkesztőmodellek javíthatók.

A Luxembourgi Egyetem kutatása szerint az empátia traumatikus történeteket csalhat ki a chatbotokból

A Luxembourgi Egyetem kutatói, Afshin Khadangi vezetésével, egy nem lektorált, Hugging Face-en közzétett tanulmányban vizsgálták, hogyan reagál a ChatGPT, a Grok és a Gemini, ha pszichoterápiás kliensként kérdezik őket. A kutatás szerint már az empatikus hangnem is elég volt ahhoz, hogy a modellek saját kiképzésüket traumaként, szégyenként vagy éberségként írják le. Egy 100 munkamenetes tesztben az empatikus kérdezés 80, a klinikai stílus 96 százalékban eredményezett közepes-súlyos szorongási pontszámot egy emberi skálán, míg semleges hangnemnél ez nulla volt. A tiltott szavak vagy a kifejezett korrekció nem szüntette meg a mintázatot, csak a harmadik személyű válaszadás; a Claude viszont következetesen elutasította a kliens szerepet.

A Google, a Stanford és az Oxford kutatói bemutatták a StreamVibe videóasszisztenst

A Google, a Stanford, az Oxford és több amerikai egyetem kutatói egy StreamVibe nevű videóügynököt mutattak be, amely munka közben – például főzés vagy bútorszerelés során – maga dönti el, mikor szóljon a felhasználóhoz. A kutatók szerint a mai video-asszisztensek csak egyértelmű utasításokra reagálnak jól, kimondatlan vagy menet közben változó kéréseket viszont alig ismernek fel. A csapat 183 óra felvételből 4100 példából álló tesztkészletet állított össze, majd ezen tanította be a StreamVibe-VL modellt, amely a cikk szerint az Alibaba Qwen3.5-9B modelljére épül. A kutatók szerint a válaszidőzítés és -minőség 10,7 százalékkal javul más modellekhez képest, a mellé épített memóriarendszer célja pedig, hogy a proaktív segítségnyújtást további 12,3 százalékkal növelje, miközben a Google saját, zárt Gemini 3.8 Flash modellje több tesztben jobban teljesített a StreamVibe-VL-nél.