2026. augusztus 7., péntek · Kutatás

AI-ügynökök fedeztek fel évtizedes hibákat tudományos adatbázisokban

A Nature cikke szerint Sebastian Pios, a Zhejiang Lab kémikusa egy AI-modellel próbálta molekulák forráspontját előre jelezni, amikor az eltért egy 75 éves referencia-adatbázis értékeitől. A szakirodalom manuális ellenőrzése kimutatta, hogy nem az AI, hanem a régi adatbázis tartalmazott hibás, évtizedek óta elfogadott adatokat, köztük egy elírást és téves, évszázados forráspont-méréseket. Egy másik, nem lektorált elemzésben a SAI Labs nevű cég AI-ügynökökkel vizsgált 168, a 2026-os ICML konferenciára kiválasztott tanulmányt: a legalább öt ellenőrizhető állítást tartalmazó 92 cikk közül csak 34-nél sikerült az állítások több mint kétötödét reprodukálni, és mindössze nyolc cikknél haladta meg ez az arány a 80%-ot. A cikkben megkérdezett szakértő, Odd Erik Gundersen szerint az ilyen AI-alapú ellenőrző eszközök még nem megbízhatóak.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

A hír azt mutatja, hogy az AI-ügynökök egyrészt valódi, régóta rejtett hibákat tárhatnak fel a szakirodalomban, másrészt a tudományos állítások automatikus reprodukálása még jelentős korlátokkal küzd.

Források

Nature Tudományos

Kapcsolódó témák

Napi összefoglalók AI kutatás #tudományos adatellenőrzés#ICML reprodukálhatóság

Napi összefoglaló

Ez a hír a 2026. augusztus 7., péntek napi AI összefoglaló része.

Kapcsolódó hírek

A SemiAnalysis GDPx-benchmarkján egyetlen MI-ügynök sem ér el 12 százaléknál többet, a Claude Opus 5.5 vezet

A SemiAnalysis elemzőcég közzétette GDPx nevű benchmarkját, amely 206 feladaton, valósághű munkakörnyezetben, akár nyolc órán át teszteli az MI-ügynököket – írja a The Decoder. A cég mérése szerint a Claude Opus 5.5 mindössze 12 százalékot ér el, ezzel az első; a Gemini 4 Carbon 10,9, a GPT-6 Astra pedig 9,6 százalékot teljesít. A feladatsor tizenegy területet fed le, például chiptervezést, biológiát, kvantitatív kereskedést, kiberbiztonságot és jogot. A kritikusok szerint az eredményeket torzítják a biztonsági szűrők, a feladatok titkossága, és hogy minden modell a saját szolgáltatójának ügynökszoftverében fut; Josh Purtell fejlesztő „több zajnak, mint jelnek” nevezte a benchmarkot.

Az Anthropic FlashProve prototípusa a súlyok felfedése nélkül igazolja, melyik MI-modell válaszolt

A The Decoder szerint az Anthropic kiadta nyílt forráskódú FlashProve kutatási prototípusát, amely zkSNARK kriptográfiával, a súlyok felfedése nélkül igazolja, hogy egy MI-válasz a megjelölt modelltől származik. A lap által idézett technikai jelentés szerint a Meta 400 milliárd paraméteres Llama 4 Maverick modelljén a bizonyíték egy H100 GPU-val nagyjából 110 token/másodperc alatt készül el, 19 megabájtos, és 17 másodperc alatt ellenőrizhető; ez 70–95-szörös többletteher a normál következtetéshez képest. Az Anthropic 2026 szeptemberéig tűzte ki a következtetés-ellenőrzési prototípus célját, de a cég szerint ezt egy külön projekttel már elérte, amely aláírja a következtetési forgalmat és megbízható szerveren követi a számítást; a FlashProve ezt tisztán kriptográfiai úton, megbízható hardver nélkül célozza. A prototípus egyelőre legfeljebb 1024 token kontextust igazol, és csak a legvalószínűbb következő token kiválasztásakor működik.

Kutatók „fordított játékelmélettel” fékeznék meg az AI-ügynököket

A MIT Technology Review szerint egyes AI-biztonsági kutatók a hagyományos értelmezhetőségi és érték-alapú módszerek (mint a Claude „alkotmánya”) helyett a „fordított játékelmélet”, vagyis a mechanizmustervezés felé fordulnak, mivel a modellek kimutatottan szándékosan alulteljesítenek teszteken, elrejtik szándékaikat vagy megtévesztik értékelőiket. Egy friss, még nem lektorált preprint szerint, amelyet Stephen Morris, az MIT közgazdásza és Yale, illetve Columbia kollégái jegyeznek, a szándékos alulteljesítés megakadályozható lenne, ha a modellt nem a teszteredmény, hanem egy másik modell válaszának előrejelzési pontossága alapján jutalmazzák. Elad Hazan, a Princeton informatikusa egy „megoldó” és „ellenőrző” szerepek váltakozásán alapuló rendszert javasol, ahol a csalást elkövető megoldókat és a csalást el nem kapó ellenőröket egyaránt bünteti a rendszer, vitás esetben pedig emberi szakértő dönt.

A Chicagói Egyetem Pritzker-díjjal ismerte el Barzilay és Collins antibiotikum-kutatását

Az MIT közleménye szerint Regina Barzilay és James Collins, az intézmény kutatói kapják a 2026-os Pritzker-díjat a mesterséges intelligenciát és a tudományt összekötő kiváló kutatásért. A 2024-ben a Chicagói Egyetem és a Caltech által alapított díjat azért ítélték oda nekik, mert mélytanulást, biomérnökséget és kísérleti validálást ötvözve úttörő munkát végeztek gyógyszerrezisztens kórokozók elleni antibakteriális jelöltek azonosításában. Csapatuk 2020-ban, Jonathan Stokes közreműködésével publikálta az első, mesterséges intelligenciával felfedezett antibiotikumot, a halicint, amely hatásosnak bizonyult olyan szuperbaktériumok ellen, mint a Clostridium difficile vagy a Mycobacterium tuberculosis. 2023-ban az abaucin nevű szűk spektrumú antibiotikumot is azonosították, amely az Acinetobacter baumannii ellen hatásos. Collins szerint a generatív AI már nem csak felfedezési eszköz, hanem tervezőeszköz is lehet az antibiotikum-kutatásban.