2026. október 17., szombat · Kutatás

Kutató szerint tévedtünk a neurális hálók „zavarosságáról”

Nick Cammarata, a Goodfire interpretability lab kutatója egy hosszú esszében azt állítja, hogy a nagy AI-modellek belső működése sokkal könnyebben érthető, mint azt korábban feltételezték, és ezzel megkérdőjelezi az általa korábban társszerzőként megalkotott „szuperpozíció” elméletet. A The Decoder cikke szerint Cammarata újraértelmezi a híres InceptionV1 „macska-autó” neuront, amelyet eddig a poliszemantikusság – vagyis hogy egy neuron több, egymástól független fogalomra reagál – klasszikus példájaként tartottak számon: véleménye szerint a neuron valójában egy V-alak-detektor, amely hegyes formákra, például rókaorrra vagy lángra aktiválódik, kerek formákra, például az O betűre viszont negatívan reagál. Az állítás megosztja a szakmát: a cikk szerint OpenAI-kutató Roon történelmi pillanatnak nevezte, míg a Google DeepMind kutatója, Neel Nanda óva int a túlzott lelkesedéstől.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Ha Cammarata érvelése megállja a helyét, feleslegessé válhatnak a ma elterjedt sparse autoencoder-alapú módszerek, amelyeket a nagy AI-laborok a modellek rejtett fogalmainak szétválogatására használnak.

Források

The Decoder

Kapcsolódó témák

Napi összefoglalók AI kutatás #mechanisztikus interpretáció#Goodfire

Napi összefoglaló

Ez a hír a 2026. október 17., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Új teszt méri, hogyan boldogulnak az AI-ügynökök valós időben futó játékokban

Egy kutatócsoport preprintben mutatta be a RealtimeBench nevű tesztkörnyezetet, amely 180 feladatot tartalmaz hat játéktípusban, és azt méri, miként teljesítenek a nagy nyelvi modell alapú ügynökök, ha a játék a válaszadás közben is tovább fut. A kutatók szerint a GPT-6.1-sol nevű modell jobban teljesít, mint a gyorsabb Jev, ha a játékot megállítják, de lemarad, ha az folyamatosan fut. A csapat egy TORSI nevű módszert is bemutatott: egy lassú „tanár” modell megállított játékokban elemzi a hibákat és újrahasználható utasításokat ír egy gyors „diák” modellnek, amely tanári beavatkozás nélkül cselekszik játék közben. A nem lektorált tanulmány szerint két ilyen tanítási kör a Jev átlagos pontszámát 13,51-ről 24,19-re emelte egy 0–100-as skálán, és az utasítások más modellek eredményét is javították újratanítás nélkül.

GPT-6-Astra rutinszerű fizikai kutatási feladatok 98%-át oldotta meg

Egy nemzetközi kutatócsoport – köztük az ICTS, a Harvard, a KU Leuven és a Google DeepMind munkatársai, összesen 35 szerző – közzétette a TheoPhysEval nevű benchmarkot, amely 50, korábban nem publikált elméleti fizikai kutatási feladatot tartalmaz ellenőrizhető megoldással. A feladatok a szerzők szerint úgynevezett „turn-the-crank” jellegű, rutinszerű kutatómunkát modelleznek, amelyben ismert módszereket kell alkalmazni egy kissé módosított kérdésre, és amit jellemzően egy PhD-hallgató kap első lépésként, egy adott terület szakértője pedig nagyjából egy nap alatt megold. A tesztben az OpenAI Codex környezetében futó GPT-6-Astra 49 feladatot oldott meg helyesen, vagyis 98 százalékot ért el, átlagosan kevesebb mint 3 dollárért feladatonként, az egész benchmarkot pedig közel 116 dollárból futtatták végig. Az Anthropic Claude Code-ban futó Opus 5.5 92 százalékot, a Google Gemini 3.8 Flash pedig 68 százalékot ért el. A kutatók szerint a magas pontszámok ellenére hiányzik az AI-ból egyfajta tudományos „ízlésérzék”, ami megmagyarázhatja, miért nem vezettek még ezek az eredmények valódi fizikai áttörésekhez.

Seal: AI-modell térképezi az agyfejlődés génszabályozását

A Nature Neuroscience folyóiratban megjelent tanulmány bemutatja a Sealt, egy interpretálható, mesterséges intelligencián alapuló transzfertanulási keretrendszert, amely a fejlődő emberi agy génexpresszióját és genetikai variánsainak hatását modellezi térbeli-időbeli felbontásban, 26 agyi régióra, 30 sejttípusra és 7 fejlődési stádiumra kiterjedően. A kutatók szerint a Seal a genetikai variánsokat transzkripciós szabályozókhoz köti, és a modellt hat neuropszichiátriai állapot GWAS-adatain alkalmazva közös és eltérő szabályozási architektúrákat azonosítottak, amelyek illeszkednek a klinikai lefolyáshoz. A Simons Simplex Collection autizmus-kohorsz teljes genomadatain a modell jelentős de novo szabályozóvariáns-terhelést mutatott ki az átmeneti, magzati kori gerjesztő idegsejtekben, sejttípus- és stádiumspecifikus hatásokat feltárva. A szerzők szerint a Seal általános keretrendszert kínál az agyfejlődés és az idegrendszeri betegségek mechanizmusainak feltárásához, a modell kódja és paraméterei nyilvánosan elérhetők.

Anthropic: kis AI-modellek önállóan terjedhetnek okoseszközökön

Az Anthropic két kutatója, William Zhou és Daniel Freeman által jegyzett tanulmány szerint a kisméretű nyelvi modellek hamarosan képesek lehetnek önállóan, férgekhez hasonlóan terjedni gyengén védett fogyasztói eszközökön, például okostévéken, hűtőkön vagy robotporszívókon. A kutatók egy Gemma4-26B-A4B modellt 15 darab, egyenként mintegy 55 dolláros, 4 GB RAM-os Android TV-dobozra osztva futtattak, a GLM-5.2 modell pedig a tanulmány szerint mind a nyolc tesztelt eszközön végigvitte a teljes replikációs láncot: hálózatot pásztázott, bejutott egy új eszközre, ott beállította a futtatási környezetét, majd onnan tovább is tudott terjedni. Az Anthropic szerint jelenleg még nincs olyan modell, amely egyszerre elég kicsi és elég ügyes lenne ehhez éles környezetben, de a kutatók úgy vélik, ez a rés hamarosan bezárulhat. A cég vezérigazgatója, Dario Amodei a Financial Times szerint több száz milliárd dolláros kárt okozó jövőbeli kiberfenyegetésre figyelmeztetett.