2026. szeptember 19., szombat · Kutatás

Új benchmark: LLM-ek megbízhatatlanok autós hangparancsok engedélyezésénél

Kutatók egy 202 forgatókönyvből álló benchmarkot dolgoztak ki, amely azt méri, mennyire biztonságosan döntenek a nagy nyelvi modellek (LLM) autós hangasszisztensek parancsainak kezeléséről – végrehajtás, elutasítás, visszaigazolás vagy manuális vezérlés között. A nem lektorált arXiv-preprint szerint a Gemini 3.1 Pro Preview érte el a legjobb, 89,1%-os egyezést a referenciadöntésekkel, míg a Llama 3.2 3B csak 40,1%-ot; a három API-alapú modell 83,2-89,1% között teljesített, szignifikáns különbség nélkül. Még a legjobb modellek is 2-3 hamis végrehajtást produkáltak a 161 nem-végrehajtási esetből, és a visszaigazolási döntéseknél tartós hibák maradtak. A szerzők szerint a strukturált LLM-döntések önmagukban nem elégségesek, független érvényesítési rétegre van szükség a valós autós beépítéshez.

Egy forrás erősíti A hír állításait legfeljebb egy forrás támasztja alá tárgyilag; a többi forrás anyaga nem erről szól.

Miért fontos?

A teszt szerint még a piacvezető Gemini 3.1 Pro Preview is hibázhat biztonságkritikus autós parancsok, például ajtózárak vagy vezérlésváltás eldöntésében, ezért a gyártóknak külön szoftveres engedélyezési réteget kell beépíteniük az LLM mellé.

Források

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. szeptember 19., szombat napi AI összefoglaló része.

Kapcsolódó hírek

ScientistTwo: önállóan kutató és publikáló AI-rendszer preprintje

Egy kutatócsapat bemutatta a ScientistTwo nevű, több AI-ügynökből álló keretrendszert, amely a fejlesztők állítása szerint emberi beavatkozás nélkül képes végigvinni egy tudományos felfedezési ciklust: hipotézist állít fel, kísérleteket futtat, ablációs vizsgálatokkal finomítja a módszert, majd egy szimulált, AI-alapú bírálati-válaszadási folyamattal ellenőrzi az eredményt. A szerzők a rendszert olyan cikkekhez hasonlították, amelyeket korábban elfogadtak az ICLR, ICML és NeurIPS konferenciákon, és azt közlik, hogy a ScientistTwo által generált, futtatható kóddal ellátott tanulmányok automatizált AI-bírálók pontozásában átlagosan magasabb értékelést kaptak, mint az emberi szerzők cikkei. Fontos hangsúlyozni, hogy ez egy arXiv-preprint, tehát az eredmények még nem mentek át független emberi szakmai lektoráláson. A szerzők a rendszert nem puszta segédeszköznek, hanem önálló „tudományos felfedezőnek” nevezik, ez azonban a saját minősítésük, nem külső validáció.

Paper2Agent: tudományos cikkekből önálló AI-ügynökök a Nature-ben

A Nature ma megjelent cikke szerint James Zou, a Stanford Egyetem informatikusa és társszerzői egy Paper2Agent nevű eszközt mutattak be, amely bármely tudományos publikációt „virtuális levelező szerzővé” alakít. Az eszköz beolvassa a cikk szövegét, kódját és adatait, ezeket egy úgynevezett MCP-szerverre tölti, majd AI-ügynökök csapata autonóm módon eszközöket épít, amelyekkel a cikk módszerei új adatokra is alkalmazhatók. A kutatók a rendszert az AlphaGenome DNS-elemző modellt bemutató cikken tesztelték: az ügynök létrehozása körülbelül 45 percet és 14 dollár számítási költséget igényelt, és a genetikai kérdésekre közel tökéletes pontossággal válaszolt, felülmúlva más, ugyanahhoz a cikkhez hozzáférő biomedikai AI-ügynököket, köztük a Biomni nevű, akadémiai fejlesztésű rendszert is. A cikk szerzői szerint a technológia lehetővé teheti, hogy a tudományos cikkek dinamikus, más tudományterületek ügynökeivel is együttműködni képes tudásforrásokká váljanak.

A Google DeepMind AGI-intézetet indít az emberi szintű AI kérdéseinek vizsgálatára

A Google DeepMind bejelentette a DeepMind Institute (DMI) létrehozását, amely a mesterséges általános intelligencia (AGI) körüli kérdéseket – biztonság, irányítás, kiberkockázatok, kontrollvesztés – vizsgálja interdiszciplináris keretben. A cég állítása szerint az intézet nem csak technológusokat, hanem a bölcsészet-, társadalom- és politikatudomány szakértőit is bevonja, Shane Legg, James Manyika és Demis Hassabis vezetésével. Az AGI fogalmára nincs egységes definíció: a DeepMind az emberi agy minden kognitív képességével rendelkező rendszerként írja le, és Hassabis szerint ez néhány éven belül elérhető, míg Legg egy előzményrendszert 2028-ra vár. Ezzel szemben az OpenAI vezérigazgatója, Sam Altman a cég állítása szerint akár még ez év végére is elképzelhetőnek tartja az AGI megjelenését, jelezve, hogy a nagy AI-cégek időbecslései jelentősen eltérnek egymástól.

Rider: mélytanulásos eszköz rejtett RNS-vírusok felfedezésére

A Nature Communications folyóiratban megjelent, lektorált kutatás bemutatja a Ridert, egy kétlépéses keretrendszert RNS-vírusok azonosítására metatranszkriptomikai adatokból. Az első lépésben egy kompakt, előre betanított fehérje-nyelvi modell keresi a rendkívül divergens vírusjeleket, majd egy átfedő csúszóablakos szerkezet-előrejelzési eljárás azonosítja az RdRp (RNS-függő RNS-polimeráz) katalitikus magdoméneket, amelyeket egy kurátorolt, nem redundáns doménadatbázissal vetnek össze. A kutatók több mint 10 000, változatos ökoszisztémákból származó metatranszkriptomon tesztelték a rendszert: a Rider a korábban katalogizált RNS-vírusok több mint 99 százalékát visszanyerte, érzékenysége összemérhető a LucaProt módszerével, ugyanakkor a szerzők szerint ezernyi mélyen divergens szekvenciát és kládot is azonosított, amelyeket a meglévő eszközök nem érzékeltek. Egy gyulladásos bélbetegségben (IBD) szenvedő betegek kohorszán végzett teszt megerősítette, hogy a módszer a szokásos vírusok mellett divergens vonalakat is kimutat.