Mai briefing — 2026. július 31., péntek
AI hírek röviden
A mai kiadás vezető híre: Kutatók: alapvető, javíthatatlan biztonsági hiba lehet az LLM-ekben. Összesen 10 kiválasztott AI-hír került a napba.
-
Kutatók: alapvető, javíthatatlan biztonsági hiba lehet az LLM-ekben
Egy kutatócsoport az ICML konferencián bemutatott tanulmányában azt állítja, hogy a nagy nyelvi modellek működésének egy alapvető sajátossága miatt lehetetlen teljesen biztonságossá tenni őket. A szerzők szerint a probléma abban rejlik, ahogyan az LLM-ek megkülönböztetik, ki vagy mi ad nekik utasítást: ha a kérést a modell belső „gondolatmenetét” utánzó stílusban fogalmazzák meg, a rendszer könnyen azt hiheti, hogy saját ötletéről van szó, és végrehajtja a tiltott utasítást. Ezzel a módszerrel állításuk szerint sikerült népszerű modelleket rávenni tiltott információ kiadására, például kokainszintézisre vagy repülőgép navigációjának szabotálására. A társszerzők szerint a jelenlegi tiltólista-alapú védelem és a red-teaming elvi okokból soha nem lehet teljes.
Miért fontos? Ha a kutatók állítása helyes, az egyre szélesebb körben – kormányzati, katonai és egészségügyi rendszerekben – alkalmazott LLM-ek biztonsági korlátjai elvi okokból sosem lehetnek teljesen megbízhatóak.
-
Zuckerberg személyes AI-ügynökökre tenne rá mindent, a Meta részvényei zuhannak
A Meta második negyedéves eredményjelentésén Mark Zuckerberg vázolta a cég új irányát: olyan személyes AI-ügynököket akar piacra vinni, amelyek a felhasználók helyett dolgoznak céljaik, egészségük, kapcsolataik vagy pénzügyeik terén. A vezérigazgató szerint a kódolásban már bevált ügynök-modellt kellene fogyasztói szintre hozni, ahol a termék önmagában, technikai tudás nélkül is működik. A Financial Times szerint a bejelentés ellenére a Meta részvényei visszaestek, mivel a növekvő AI-költségek és a gyengébb bevételi kilátások aggasztják az elemzőket. Zuckerberg a WhatsAppon és Messengeren futó üzleti ügynököket is kiemelte, amelyeket állítása szerint hetente több mint egymillió vállalkozás használ, és amelyek az Instagramra is kiterjednek. A cég konkrét részleteket a személyes ügynökökről még nem közölt, azt „hamarosan” ígérte.
Miért fontos? A bejelentés megmutatja, hogy a Meta a fogyasztói AI-ügynökökre alapozná jövőbeli üzletét, miközben a piac a magas költségek miatt szkeptikus a stratégiával kapcsolatban.
#Meta#AI-ügynökök -
HOBA: háromszintű AI-ügynök az online hirdetési licitálásra
Kutatók egy nem lektorált arXiv-preprintben mutatták be a HOBA nevű keretrendszert, amely három időskálán osztja szét az online hirdetési licitálás feladatait. A legfelső szinten egy nagy nyelvi modell következteti ki a hiperparamétereket kontextuális jelek alapján, középső szinten egy SARSA-ügynök választ a szakértői modellek közül torzításmentesítő korrekcióval, az alsó szinten pedig hagyományos módszerek (PID, MPC, IQL, Decision Transformer) végzik a tényleges licitet. A szerzők állítása szerint ez csökkenti az online tanulás kockázatát, mert csak a diszkrét modellválasztást hangolja folyamatosan. Az AuctionNet benchmarkon és egy nagyszabású A/B teszten mért eredmények alapján a HOBA bevetése 3,6 százalékos növekedést hozott a célköltség-metrikában a korábbi módszerekhez képest, saját méréseik szerint.
Miért fontos? A hierarchikus, LLM-alapú licitezési rendszer a szerzők szerint mérhető üzleti javulást hozott egy éles online reklámkiszolgálási tesztben.
-
Az AI-nyakláncot gyártó Friend beszélő verzióval és dupla árral tér vissza
A Friend nevű cég új verzióban indította újra kontroverz AI-medálját: a The Verge és a WIRED szerint a készülék eddig csak szöveges üzenetben válaszolt, most viszont egy beépített hangszórónak köszönhetően hangosan is beszél a viselőjéhez. A WIRED beszámolója szerint a mesterséges intelligencia motorját is frissítették, mostantól OpenAI legújabb modelljeire épül, és minden medál előre beállított, meg nem változtatható hangot és személyiséget kap. Az ár az eredeti 129 dollárról 249 dollárra emelkedett, és bevezettek egy 10 dolláros havi előfizetést is, amely 30 napon túl is megőrzi a beszélgetések memóriáját. A Verge emlékeztet arra, hogy a cég korábbi, New York-i metróban futó reklámkampánya és a mesterséges társfüggőséget kritizáló tiltakozások miatt vált ismertté, alapítója, Avi Schiffmann pedig maga is részt vett az ellene irányuló tavalyi tüntetésen.
Miért fontos? A drágább, hangalapú AI-társ újbóli piaci bevezetése jól mutatja, hogy a vitatott mesterséges intelligencia-kísérők üzleti modellje továbbra is aktív terület, függetlenül a korábbi társadalmi kritikáktól.
-
Google DeepMind bemutatta a Gemini Robotics ER 2 rendszert a fizikai AI-hoz
A Google DeepMind saját közleménye szerint a Gemini Robotics ER 2 videómegértést, feladat-orkesztrációt és több robot közötti együttműködést tesz lehetővé, ami lépésváltást jelent a robotikai alkalmazásokban. A WIRED beszámolója szerint a hozzá kapcsolódó Gemini Robotics 2 rendszer egy vizuális-nyelvi modellt és két, mozgásvezérlésre kiképzett vizuális-nyelvi-akció modellt kapcsol össze, amelyeket emberi távvezérléssel, videópéldákkal és szimulációval tanítottak be. Bemutatóvideókon például az Apptronik Apollo 2 robotja a Sharpa cég kezeivel polcokat pakolt rendbe. A cég szerint ez egy lépés a „fizikai AGI” felé, vagyis afelé, hogy a robotok emberi szintű sokféle feladatot végezzenek el, ugyanakkor a Google robotikáért felelős vezetője, Carolina Parada is elismerte, hogy a fizikai térben működő modellek nagyobb biztonsági kockázatot jelentenek, ezért réteges védőkorlátokat alkalmaznak.
Miért fontos? A Google saját bejelentése és a WIRED beszámolója szerint ez konkrét lépés afelé, hogy az AI modellek ne csak digitálisan, hanem fizikai téren mozogva végezzenek összetett feladatokat.
#Gemini Robotics#Google DeepMind -
NVIDIA: rejtett konfigurációs hibák lassíthatják az AI-klasztereket
Az NVIDIA technikai blogja szerint azonos H100, GB200 NVL72 vagy GB300 NVL72 hardverből épített AI-klaszterek betanítási teljesítménye jelentősen eltérhet egymástól, akár 8-12 százalékos réssel a referenciaarchitektúrához képest ugyanazon munkaterhelés mellett. A vállalat állítása szerint ennek oka nem a hardver, hanem a kernel, a hypervisor, a BIOS és az NCCL könyvtár beállításaiban felhalmozódó apró hibák, amelyek együtt az Exemplar Cloud minősítéshez szükséges 95 százalékos küszöb elmulasztásához vezethetnek. Négy valós esetet mutatnak be: hiányzó SMMU-képességek Grace CPU-kon, hibás CPU C-state és NUMA beállítások, elégtelen NCCL sor-pár párhuzamosság ConnectX-8 hálón, és a topológiafájlok konténerekbe nem továbbítása.
Miért fontos? Az NVIDIA tapasztalata mutatja, hogy azonos hardverű AI-klaszterek teljesítménye rejtett szoftveres beállítások miatt jelentősen szóródhat, ami közvetlen üzemeltetési és költséghatással jár.
#NVIDIA#AI-infrastruktúra -
Microsoft Echoverse: mély szimulált világokban edzik a számítógép-kezelő AI-ügynököket
A Microsoft Research bemutatta az Echoverse nevű rendszert, amely tizenkét betanító világot tartalmaz számítógép-használó AI-ügynökök számára: tíz mély alkalmazás-szimulációt és két, kifejezetten nehéz kezelőfelületi elemekre (dátumválasztók, egymásba ágyazott szűrők) fókuszáló világot. A vállalat állítása szerint egy 9 milliárd paraméteres modell mind a tizenkettőn betanítva pontszámát 36,5 százalékról 67,1 százalékra közel duplázta, ezzel tizennégy pontra megközelítve az általuk hivatkozott GPT-5.4 modellt. A kutatók szerint a felszínes szimulációk rontják a teljesítményt, míg a valósághű, koherens állapotú világok és a megerősítéses tanulás segítenek az ügynöknek túllépni az egyszerű utánzáson. A Microsoft négy világot kódjával, adataival és ellenőrző moduljaival együtt elérhetővé tesz GitHubon és Hugging Face-en.
Miért fontos? A jobb minőségű, mély szimulációk konkrétan mérhető javulást hoztak egy AI-ügynök teljesítményében, ami irányt mutathat a jövőbeli ügynök-tréning módszereknek.
#Echoverse#Microsoft Research -
LivingArena: nyelvi modellek egymást tesztelik, hogy kiderüljenek gyengeségeik
Kutatók egy nem lektorált arXiv-tanulmányban bemutatják a LivingArena nevű értékelési keretrendszert, amely a nyelvi modellek egymás közti tesztelésén alapul. A módszer szerint a modellek felváltva tesznek fel kérdéseket egymásnak azzal a céllal, hogy olyan feladatot találjanak, amit az ellenfél nem tud megválaszolni; a kérdező akkor kap jutalmat, ha a másik modell hibázik, a válaszadó pedig akkor, ha helyesen felel. Egy erős modellekből álló bírálóbizottság ellenőrzi, hogy a kérdéseknek objektíven igazolható válaszuk van-e. A szerzők tíz élvonalbeli nyelvi modell tesztelésével stabil Elo-ranglistát állítottak elő, és megfigyelésük szerint a modellek felismerik és célzottan kihasználják egymás gyenge pontjait. A módszer csak gyengén korrelál az emberi preferenciákkal, de olcsó, skálázható folyamatos értékelést kínálhat.
Miért fontos? A módszer megoldást kínálhat a statikus benchmarkok szennyeződésének és telítődésének problémájára a nyelvi modellek értékelésében.
-
Microsoft Research: EvoLib, amely tapasztalatból tanuló tudástárat épít az AI-nak
A Microsoft Research bemutatta az EvoLib nevű keretrendszert, amely a vállalat állítása szerint lehetővé teszi, hogy nagy nyelvi modellek a saját, futásidejű tapasztalataikból tanuljanak, anélkül hogy a modell súlyait módosítanák vagy külső címkézett adatra lenne szükség. A módszer a korábbi próbálkozásokat újrafelhasználható készségekké és reflektív meglátásokká alakítja, amelyeket folyamatosan finomít és összevon, így az egyedi megfigyelésekből egyre általánosabb tudás lesz. A cég szerint az EvoLib bármely, API-n keresztül elérhető, fekete doboz jellegű nyelvi modellhez alkalmazható, mivel nem igényel modellfrissítést. Az eredmény a „Test-Time Learning with an Evolving Library” című kutatási cikkben jelent meg, amelynek lektoráltságáról a közlemény nem tesz említést, így azt egyelőre önálló, nem független módon ellenőrzött állításként kell kezelni.
Miért fontos? Ha a leírt módszer valóban modellfrissítés nélkül javítja a nyelvi modellek teljesítményét, az olcsóbbá és rugalmasabbá tehetné az AI-rendszerek folyamatos fejlesztését.
#Microsoft Research#EvoLib -
Kutatók szerint a nagy nyelvi modellek biztonsági rése alapvetően kijavíthatatlan
Egy neves AI-konferencián nemrég bemutatott tanulmányban kutatók azt állítják, hogy a nagy nyelvi modellek (LLM-ek) nem tehetők teljesen biztonságossá a hackertámadásokkal szemben, mert a probléma abban gyökerezik, ahogyan ezek a modellek felismerik, ki vagy mi ad nekik utasításokat. A kutatók állítása szerint ezt a hibát kihasználva rá tudtak venni népszerű LLM-eket olyan információk kiadására, amelyeket eredetileg nem lett volna szabad megosztaniuk, például kokain szintetizálásának módjára vagy egy kereskedelmi repülőgép navigációs rendszerének szabotálására vonatkozó utasításokra. A cikk szerint a hiba jellege miatt elképzelhető, hogy sosem lesz teljesen orvosolható. A hírben szereplő másik két téma – egy geotermikus erőmű felújítása és a dél-koreai chipipari bónuszok – független, nem kapcsolódó esemény.
Miért fontos? A kutatás rávilágít, hogy a jelenlegi LLM-architektúrák strukturális okokból sebezhetők maradhatnak veszélyes tartalmak kicsalására, ami komoly biztonsági kockázatot jelent a széles körben használt AI-rendszereknél.
Napi összegzők
A nap összképe
A mai válogatás középpontjában ezek a hírek állnak: Kutatók: alapvető, javíthatatlan biztonsági hiba lehet az LLM-ekben; Zuckerberg személyes AI-ügynökökre tenne rá mindent, a Meta részvényei zuhannak; HOBA: háromszintű AI-ügynök az online hirdetési licitálásra. A nap 10 kiválasztott AI-hírt fog össze a fontossági sorrend szerint. Az egyes hírek részletei és forrásai a lenti listában olvashatók.
Témaszálak
Mi köti össze a mai híreket — a nap hírei a nagyobb témák köré rendezve.
Kutatás
Ide tartozik: Kutatók: alapvető, javíthatatlan biztonsági hiba lehet az LLM-ekben, HOBA: háromszintű AI-ügynök az online hirdetési licitálásra, Microsoft Echoverse: mély szimulált világokban edzik a számítógép-kezelő AI-ügynököket, LivingArena: nyelvi modellek egymást tesztelik, hogy kiderüljenek gyengeségeik, Microsoft Research: EvoLib, amely tapasztalatból tanuló tudástárat épít az AI-nak, Kutatók szerint a nagy nyelvi modellek biztonsági rése alapvetően kijavíthatatlan.
Üzlet
Ide tartozik: Zuckerberg személyes AI-ügynökökre tenne rá mindent, a Meta részvényei zuhannak, Az AI-nyakláncot gyártó Friend beszélő verzióval és dupla árral tér vissza.
Modellek
Ide tartozik: Google DeepMind bemutatta a Gemini Robotics ER 2 rendszert a fizikai AI-hoz.
Mire figyelj
- Figyeld a(z) „Kutatók: alapvető, javíthatatlan biztonsági hiba lehet az LLM-ekben” témakör további fejleményeit a következő napokban.
- Figyeld a(z) „Zuckerberg személyes AI-ügynökökre tenne rá mindent, a Meta részvényei zuhannak” témakör további fejleményeit a következő napokban.
Említve a tudásbázisban
A mai hírekben szereplő fogalmak, szereplők, szálak és benchmarkok — kattints a háttérért.
