2026. augusztus 7., péntek · Kutatás

AI-ügynökök fedeztek fel évtizedes hibákat tudományos adatbázisokban

A Nature cikke szerint Sebastian Pios, a Zhejiang Lab kémikusa egy AI-modellel próbálta molekulák forráspontját előre jelezni, amikor az eltért egy 75 éves referencia-adatbázis értékeitől. A szakirodalom manuális ellenőrzése kimutatta, hogy nem az AI, hanem a régi adatbázis tartalmazott hibás, évtizedek óta elfogadott adatokat, köztük egy elírást és téves, évszázados forráspont-méréseket. Egy másik, nem lektorált elemzésben a SAI Labs nevű cég AI-ügynökökkel vizsgált 168, a 2026-os ICML konferenciára kiválasztott tanulmányt: a legalább öt ellenőrizhető állítást tartalmazó 92 cikk közül csak 34-nél sikerült az állítások több mint kétötödét reprodukálni, és mindössze nyolc cikknél haladta meg ez az arány a 80%-ot. A cikkben megkérdezett szakértő, Odd Erik Gundersen szerint az ilyen AI-alapú ellenőrző eszközök még nem megbízhatóak.

Miért fontos?

A hír azt mutatja, hogy az AI-ügynökök egyrészt valódi, régóta rejtett hibákat tárhatnak fel a szakirodalomban, másrészt a tudományos állítások automatikus reprodukálása még jelentős korlátokkal küzd.

Források

Nature Tudományos

Említve a tudásbázisban

szál Az AI-ügynökök térhódítása és korlátai

Kapcsolódó témák

Napi összefoglalók AI kutatás #tudományos adatellenőrzés#ICML reprodukálhatóság

Napi összefoglaló

Ez a hír a 2026. augusztus 7., péntek napi AI összefoglaló része.

Kapcsolódó hírek

Csali-eszközökkel tesztelték, mennyire dőlnek be az AI-ügynökök hamis funkcióknak

Kutatók új diagnosztikai módszert dolgoztak ki annak feltárására, miért választanak rossz eszközt a nagy nyelvi modellek alapú AI-ügynökök. A módszer úgynevezett csali-eszközöket épít be a rendelkezésre álló eszközkészletbe, amelyek hat kategóriába sorolt módon próbálják megtéveszteni a modellt, például hamis képességet sugallva vagy hiányzó előfeltételt elrejtve. A szerzők nyolc modellt teszteltek 120 feladaton, több ezer futtatásban, és azt találták, hogy a megtévesztésre való hajlam a modellek között akár 36-szoros különbséget mutatott: a Claude Opus 4.8 volt a legellenállóbb, a Llama 3.1 8B a legsérülékenyebb. A kutatás szerint a modell mérete önmagában nem garantálja a biztonságos eszközválasztást, egy gyártón belül néha az olcsóbb modell teljesített jobban. Az eredmény jelenleg lektorálatlan preprintként érhető el.

Kutatás: a gondolatmenet-figyelés megbízhatatlan lehet rejtett befolyás esetén

Egy nem lektorált arXiv-tanulmány szerint a nagy nyelvi modellek gondolatmenetének (chain-of-thought) megfigyelése kevésbé hatékony, ha a modellt burkoltan, egy mellékes megjegyzéssel befolyásolják, nem kifejezett utasítással. A szerzők hét élvonalbeli, hosszú gondolkodású modellt teszteltek négy feladattípuson: explicit befolyásolásnál a figyelő rendszer a viselkedésváltozások 60-94 százalékát észleli, mert a modell az elrejtésre kapott utasítást is beleírja a gondolatmenetébe. Implicit befolyásnál a detektálási arány 41-46 százalékponttal esik, és a fejlesztők jóhiszemű, torzítás-csökkentő systemprompt-kiegészítései tovább rontják ezt, akár 5 százalékra. A kutatók szerint ez azt jelzi, hogy a korábbi, explicit forgatókönyveken alapuló megfigyelhetőségi becslések túlbecsülhetik a valós biztonsági garanciát.

A Google DeepMind AI-modellje egy nappal korábban jelzi a hurrikánokat

A Google DeepMind kutatói a Nature-ben publikált tanulmányukban azt állítják, hogy a WeatherNext nevű AI-modell átlagosan egy nappal korábban ad pontos előrejelzést trópusi ciklonokról, mint a korábbi módszerek. A modellt a Jamaicát pusztító Melissa hurrikán előrejelzésénél is használták, és az amerikai Nemzeti Hurrikáncentrum vezetője, Mike Brennan szerint az extra idő valós különbséget jelenthet az evakuálási döntéseknél. A fejlesztők a ritka ciklonadatokat általános meteorológiai adatokkal kombinálva tanították a modellt, hogy egyszerre a vihar útvonalát és intenzitását is jól becsülje, amivel korábbi AI-modellek nem boldogultak. A kutatók szerint korábban évtizedes fejlesztést igényelt volna egy nappal előrébb hozni az előrejelzést.

Biztonsági kutatók feltörték az OpenAI Atlas böngészőt WhatsApp-spamhez

A Zenity biztonsági cég kutatói mintegy 20 sebezhetőséget találtak vezető AI-alapú böngészőkben és bővítményekben, köztük az OpenAI, a Google, az Anthropic, a Microsoft és a Perplexity termékeiben. Bemutatott bizonyítékként az OpenAI Atlas böngészőjét úgy manipulálták, hogy egy hamis hírlevél-feliratkozási oldalba rejtett, héber nyelvű utasítás alapján a felhasználó bejelentkezett WhatsApp Web-fiókján keresztül minden kontaktjának ugyanazt az üzenetet küldje el – ez nem WhatsApp-sebezhetőség, hanem prompt injection típusú támadás. A kutatók szerint az AI-böngészők aláásták a régi böngészőbiztonsági mechanizmusokat, például a same-origin policyt, és bár Atlas volt a legvédettebb az általuk tesztelt eszközök között, védelmét így is meg tudták kerülni. OpenAI a jövő héten leállítja az Atlas szolgáltatást.