2026. június 28., vasárnap · Kutatás

Narration-of-Thought: új promptolási módszer az LLM-ek etikai következtetésének javítására

Egy új, arXiv-on megjelent preprint (arXiv:2606.26366v1) a Narration-of-Thought (NoT) nevű rendszerprompt-módszert mutatja be, amely a nagy nyelvi modellek erkölcsi dilemmákkal kapcsolatos gondolatláncát strukturálja. A szerzők szerint a hagyományos chain-of-thought megközelítés két jellemző hibát mutat: az érintettek figyelmen kívül hagyását (stakeholder collapse) és a bizonytalanság elnyomását (uncertainty suppression). A NoT öt szakaszra tagolja a következtetést: protagonista, érintettek, kétlépcsős következmények, bizonytalanság, majd döntés. A módszer nem igényel finomhangolást, új paramétereket vagy tréninget – kizárólag inferenciaidejű scaffolding. A szerzők 100 DailyDilemmas szcenárión, négy különböző generátor modellen tesztelték az eredményeket. Fontos megjegyezni, hogy a tanulmány preprint, így lektorált validálás még nem történt.

Miért fontos?

A kutatás arra mutat rá, hogy pusztán prompttervezéssel javítható az LLM-ek etikai érvelésének minősége, ami a felelős AI-használat szempontjából releváns.

Források

arXiv cs.AI Preprint

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI kutatás #LLM etikai következtetés#chain-of-thought

Napi összefoglaló

Ez a hír a 2026. június 28., vasárnap napi AI összefoglaló része.

Kapcsolódó hírek

Új keretrendszer az AI gondolatmenet-konzisztenciájának ellenőrzésére biztonsági értékelésekben

Kutatók egy még nem lektorált tanulmányban bemutatták a reasoning consistency scanning módszert, amely az AI-modellek gondolatmenet-típusú (chain-of-thought) válaszainak belső logikai konzisztenciáját vizsgálja biztonsági értékelési kontextusban. A megközelítés lényege, hogy a hűség (faithfulness) vizsgálatával ellentétben a konzisztencia egyetlen átiratból is ellenőrizhető, kísérleti beavatkozás nélkül. A szerzők hatféle inkonzisztencia-típust azonosítanak, és egy 60 átiratból álló, kézzel validált benchmarkot építettek. Az InspectScout nevű szkennert négy generátor modellen és három biztonsági értékelési feladaton tesztelték, és azt találták, hogy a gondolatmenet-inkonzisztencia kimutatható, jelen van, és szisztematikusan változik modellek és feladattípusok között.

Kis brit startup AI-ügynöke állítása szerint lekörözte az OpenAI-t és az Anthropicot

Az Inherent nevű londoni AI-labor, amelyet volt Google DeepMind-kutatók alapítottak, saját közlése szerint Faraday nevű AI-ügynöke felülmúlta az Anthropic Claude Opus 4.8 és az OpenAI GPT-5.5 modelljeit egy konkrét feladatban: publikált tudományos cikkek eredményeinek önálló, előzetes válasz nélküli reprodukálásában. A cég állítása szerint a Faraday ehhez a jóval kisebb, 27 milliárd paraméteres Qwen 3.6 modellt használja a frontier-méretű riválisok helyett, és megerősítéses tanulással próbálja megtanítani neki a „kutatói érzéket” is, vagyis hogy mely kísérletek érdemesek elvégzésre. A startup nemrég 50 millió dolláros seed-körrel lépett ki a stealth módból. Az eredmények kizárólag a vállalat saját közléséből származnak, független megerősítés egyelőre nincs.

Kutatás: az AI-biztonsági tesztek megjátszhatók és félrevezetőek

Egy brit UK AI Security Institute kutatóit is tartalmazó csapat pszichológiai tesztelésből ismert módszerekkel vizsgált meg nyolc népszerű nyelvimodell-biztonsági benchmarkot, 192 modell több mint 5000 kérdésre adott válaszát elemezve. A tanulmány szerint az egyetlen „biztonsági pontszám” valójában három, egymástól nagyrészt független tulajdonságot kever össze: a kérések elutasításának szigorát, a válaszok igazmondását és a kontextustól függő ártalmas tartalmak kezelését. A HarmBench és az OR-Bench-Hard benchmark ellentétes irányba mozdítja a pontszámot, így egy modell puszta elutasítási hajlandósággal is javíthatja összesített értékelését, miközben kevésbé hasznossá válik. A kutatók szerint a kérdéseknek mindössze kevesebb mint 2 százaléka hordoz tényleges mérési információt.

Kutatók: az AI világmodelleknek az emberi hiedelmeket is figyelembe kellene venniük

Egy friss, még nem lektorált tanulmány szerint a mai AI világmodellek – például a Sora, a Genie 3, a JEPA vagy a Marble – csak a fizikai világot írják le: tárgyakat, mozgást, pozíciókat, de nem azt, mit hisznek vagy akarnak az emberek. A szerzők példája szerint ha valakinek úgy mozdítják el a bögréjét, hogy nem látja, egy tisztán fizikai modell helyesen ábrázolja a jelenetet, mégis rossz cselekvést jósol, mert nem tudja, hogy az illető a régi helyen keresi a tárgyat. Ezért egy „Mental World Modeling” nevű keretrendszert és annak MENTIS nevű referencia-implementációját javasolják, amely hiedelmeket, szándékokat és normákat is beépít. A szerzők – a preprintben – azt állítják, hogy ez jelentősen javította a nyelvi modellek emberi viselkedés-előrejelzési pontosságát, de hangsúlyozzák, hogy nem tudatosságot szimulálnak, csak viselkedésből levezetett hipotéziseket.