2026. augusztus 7., péntek · Kutatás

Csali-eszközökkel tesztelték, mennyire dőlnek be az AI-ügynökök hamis funkcióknak

Kutatók új diagnosztikai módszert dolgoztak ki annak feltárására, miért választanak rossz eszközt a nagy nyelvi modellek alapú AI-ügynökök. A módszer úgynevezett csali-eszközöket épít be a rendelkezésre álló eszközkészletbe, amelyek hat kategóriába sorolt módon próbálják megtéveszteni a modellt, például hamis képességet sugallva vagy hiányzó előfeltételt elrejtve. A szerzők nyolc modellt teszteltek 120 feladaton, több ezer futtatásban, és azt találták, hogy a megtévesztésre való hajlam a modellek között akár 36-szoros különbséget mutatott: a Claude Opus 4.8 volt a legellenállóbb, a Llama 3.1 8B a legsérülékenyebb. A kutatás szerint a modell mérete önmagában nem garantálja a biztonságos eszközválasztást, egy gyártón belül néha az olcsóbb modell teljesített jobban. Az eredmény jelenleg lektorálatlan preprintként érhető el.

Miért fontos?

A módszer mérhető képet ad arról, milyen típusú megtévesztésekre hajlamosak az AI-ügynökök eszközválasztás közben, ami segítheti a biztonságosabb ügynökrendszerek fejlesztését.

Források

arXiv cs.AI Preprint

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók AI kutatás #AI-ügynökök#eszközválasztás

Napi összefoglaló

Ez a hír a 2026. augusztus 7., péntek napi AI összefoglaló része.

Kapcsolódó hírek

Új rendszerezés az AI-ügynökök hibáinak eredetéhez

Kutatók egy nem lektorált arXiv-tanulmányban olyan osztályozási rendszert mutatnak be, amely az AI-ügynökök hibáit nem a végeredmény, hanem az interakció szintjén azonosítja. A szerzők szerint a jelenlegi értékelések gyakran csak a látható hibát rögzítik, anélkül hogy elárulnák, a modell utótanítására, a vezérlőprogram javítására, a környezet átalakítására vagy a benchmark hibájára van szükség. A taxonómia 41 hibatípust rendel hozzá a rendszer komponensei (modell, harness, felhasználó, eszközök, memória, környezet) közötti kapcsolatokhoz, jelezve a javítás oldalát. A módszert nyilvános benchmarkokból és rögzített ügynök-interakciókból vett példákon tesztelték, és négy modellt bíráló szerepben alkalmazva a legjobb egyezés az emberi címkézéssel Cohen-kappa 0,76 volt.

AI-ügynökök gyorsítják a tudományos szimulációkat

Kutatók egy URSA nevű keretrendszerbe ágyazott AI-ügynök-rendszert mutattak be, amely automatizálja az atomisztikus szimulációk (LAMMPS) tervezését, futtatását és validálását, önállóan választva interatomikus potenciálokat és hibákat javítva zárt hurkú munkafolyamatban - állítja a nem lektorált arXiv-tanulmány. A rendszert a LAVA nagy áteresztőképességű LAMMPS/VASP-eszközkészlethez mérték, és a szerzők szerint csökkenti a kézi beavatkozást, javítva a modellezés reprodukálhatóságát és skálázhatóságát. Ezzel párhuzamosan az OpenAI rövid híre szerint tudósok AI kódoló-ügynököket használnak a tudományos számítástechnika modernizálására, gyorsítva a szoftverfejlesztést genomikai és más területeken - ez utóbbi állítás azonban csak egy rövid hírfolyam-kivonatból ismert, részletek nélkül.

Mesterséges intelligencia az onkológiai klinikai vizsgálatok gyorsítására

A Nature Reviews Clinical Oncology áttekintő cikke szerint az MI a rákkutatási klinikai vizsgálatok teljes életciklusát segítheti, elektronikus egészségügyi adatokra és gépi tanulásra építve. A szerzők szerint a legérettebb, bizonyítékokkal alátámasztott alkalmazások a betegek beválogatásának támogatása, az alkalmassági vizsgálat, az adatkinyerés és a vizsgálatok emberi felügyelet melletti monitorozása, ezeket már bevezetik egyes rákközpontokban. Ezzel szemben a klinikai bizonyítékok kiváltását célzó módszerek, mint a szintetikus kontrollcsoportok vagy digitális ikrek, még korai fázisban vannak, kevés prospektív validációval. A cikk szerint a valós előrelépéshez szigorú validálásra, egységes szabályozásra és a szereplők közötti koordinációra van szükség.

Mesterséges intelligencia tervezett vírusok pusztítottak el baktériumokat a laborban

A Stanford Egyetem és az Arc Institute kutatói az Evo nevű AI-modellel mintegy 700 ezer lehetséges bakteriofág-genomot generáltattak, ezekből 285-öt szintetizáltak DNS-ként, és 16 olyan, a természetben nem létező vírus jött létre, amely képes volt szaporodni és baktériumokat elpusztítani. A modellt előbb a világ élőlényeinek genomjain, majd kifejezetten a Phi X-174 fágra és rokonaira tanították be; a kutatók szerint a létrehozott vírusok legalább olyan hatékonyak voltak, mint a természetesek, néhány gyorsabban is szaporodott. A munka korábban lektorálatlan preprintként volt elérhető, mostanra a Science folyóiratban lektorált formában jelent meg. Független szakértők fontos mérföldkőnek nevezik az eredményt, de hangsúlyozzák, hogy az AI nem alkotott alapvetően újat, és rámutatnak: az amerikai NIH biztonsági szabályai jelenleg nem terjednek ki a pusztán számítógépes vírustervezésre.