2026. július 14., kedd · Kutatás

MIT-kutatók új módszere felismeri a gyermekbántalmazó tartalom előállítására alkalmassá tett AI-modelleket

Az MIT kutatói a Thorn gyermekvédelmi szervezettel közösen olyan auditálási eljárást dolgoztak ki, amely képes megállapítani, hogy egy nyílt forráskódú generatív AI-modellt illegális gyermekszexuális visszaélési anyagok (CSAM) előállítására optimalizáltak-e – anélkül, hogy ehhez képet kellene generálni. A módszer a modell belső, rejtett reprezentációit vizsgálja, és a tesztek során 100 százalékos pontossággal azonosította a CSAM előállítására specializált modellváltozatokat – az MIT közleménye szerint. A probléma súlyát jelzi, hogy az Egyesült Államok Nemzeti Eltűnt és Kizsákmányolt Gyermekek Központja 2025-ben már több mint 1,5 millió bejelentést kapott AI-generált CSAM-ról, szemben a 2024-es 67 ezres számmal. A technika lehetővé teheti, hogy a modelleket tárhelyplatformok még feltöltés előtt kiszűrjék.

Miért fontos?

A módszer először teszi lehetővé illegális tartalom generálása nélkül annak ellenőrzését, hogy egy AI-modell képes-e CSAM előállítására.

Források

MIT News AI Kutatás

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 14., kedd napi AI összefoglaló része.

Kapcsolódó hírek

Digitális ikrek és modell-prediktív irányítás a szepsziskezelés optimalizálására

Egy többközpontú kutatás keretében a Mass General Brigham egészségügyi rendszer nyolc kórházának intenzív osztályos adatain tesztelték az EHR-MPC nevű keretrendszert, amely a szepsziskezelés optimalizálását a betegdinamika tanulásától elkülönítve, generatív digitális iker modellel és modell-prediktív irányítással valósítja meg. A megközelítés lényege, hogy a beteg elektronikus egészségügyi adataiból tanult generatív modell szimulálja a klinikai trajektóriákat különböző beavatkozások mellett, majd a kezelést futásidejű tervezéssel optimalizálja. A szerzők szerint az EHR-MPC a megerősítéses tanulási alapvonalakhoz képest hasonló off-policy és javuló szimulációs teljesítményt ért el. A tanulmány nem lektorált preprint, eredményei így további független validálást igényelnek.

MIT kutatók AI-ügynökökkel építenek virtuális tereket robotok betanításához

Az MIT CSAIL és a Toyota Research Institute kutatói kifejlesztették a SceneSmith nevű rendszert, amely három mesterséges intelligencia alapú ügynök együttműködésével hoz létre valósághű háromdimenziós virtuális környezeteket robotok betanításához. A rendszer egy tervező, egy kritikus és egy szervező ügynökből áll, amelyek mindegyike vizuális-nyelvi modellre (VLM) támaszkodik a terek megtervezésekor. A kutatók szerint a SceneSmith által generált belső terek – például éttermek, szállodai szobák és hálószobák – részletesebbek és valósághűbbek, mint a korábbi megoldások, így a robotok sokféle feladatot gyakorolhatnak fizikai szimulációban, mielőtt a valós világban tesztelnék őket. A rendszer célja a robotika egyik fő szűk keresztmetszetének, a változatos betanítási adatok hiányának enyhítése, mivel a fizikai környezetben végzett tanítás munka- és időigényes.

NVIDIA RoboLab: új értékelési platform az általános célú robotirányítási modellek tesztelésére

Az NVIDIA Research bemutatta a RoboLab nevű platformot, amely a robotikában használt általános célú irányítási modellek (policy-k) szisztematikus értékelésére szolgál szimulált környezetben. A rendszer az NVIDIA szerint megoldja a korábbi benchmarkok fő problémáit: a vizuális és feladatbeli átfedést a tréning- és tesztadatok között, a benchmarkok telítődését, valamint a magas beállítási költséget, miközben robotfüggetlen, gyorsan skálázható feladat- és jelenetgenerálást kínál. A platform részletes diagnosztikai eszközöket integrál, köztük részleges pontszámítást, SPARC-alapú mozgásminőség-elemzést és hibaeseménynaplózást. Az NVIDIA tervei szerint a RoboLab funkcionalitása 2026 augusztusától beépül az NVIDIA Isaac Lab-Arena rendszerébe.

Strukturált memóriával győzték le a Slay the Spire 2-t az AI-ágensek, miután a frontier modellek rendre kudarcot vallottak

Az Alaya Lab és a Shanghai Jiao Tong University kutatói által fejlesztett AgenticSTS nevű rendszer a Slay the Spire 2 kártyajátékban ért el győzelmeket, miközben korábbi AGI-Eval teszteken egyetlen frontier modell sem tudott nyerni öt különböző beállítás egyikében sem. A kulcs a The Decoder beszámolója szerint az, hogy az ágens nem a folyamatosan növekvő csevegésnaplóból dolgozik, hanem minden döntést öt elkülönített memóriasávból épít újra: fix protokoll, állapotleírás, szabálykeresés, korábbi futások összefoglalói és szituációfüggő stratégiák. Az emberi játékosok a legkönnyebb nehézségi szinten 16 százalékos arányban nyernek a fejlesztők adatai szerint. A kutatás nem lektorált, de arra mutat rá, hogy a kontextuskezelés architektúrája fontosabb lehet, mint maga a nyelvi modell kapacitása.