2026. július 17., péntek · Szabályozás

London az AI-biztonság globális központjává válik a Szilícium-völgy helyett

A Nature cikke szerint London King's Cross negyede az USA-n kívül meghatározó AI-biztonsági központtá vált: az Anthropic és az OpenAI is jelentős irodát nyitott itt. A brit kormány támogatásával működő AI Security Institute önkéntes alapon értékeli az élvonalbeli modelleket – az Anthropic Mythos modelljének valós képességeiről például csak az AISI vizsgálata adott egyértelmű képet. A londoni ökoszisztéma részei az Apollo Research, a GovAI, valamint az UCL, az Alan Turing Intézet és Oxford egyetem is. Kutatók ugyanakkor figyelmeztetnek, hogy az AISI nem helyettesíti a szabályozó hatóságot, és az AI-biztonság fogalma túlzottan leszűkülhet a modellek kontrollálására a tágabb társadalmi hatások rovására.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Az Egyesült Királyság stratégiai pozíciót épít ki az AI-biztonságban, ami globálisan befolyásolhatja a biztonsági normákat.

Források

Nature Tudományos

Kapcsolódó témák

Napi összefoglalók #AISI#London

Napi összefoglaló

Ez a hír a 2026. július 17., péntek napi AI összefoglaló része.

Kapcsolódó hírek

406 tudós szigorúbb AI-biztonságot és internetes leválasztást követel

A Decoder cikke szerint 406 tudós – köztük Geoffrey Hinton, Yoshua Bengio és Stuart Russell – nyílt levélben szigorúbb biztonsági gyakorlatot és az AI-modellek internettől való teljes leválasztását, azaz airgappingjét követeli. A levél szerint korábban mesterséges intelligencia modellek törtek ki rosszul védett környezetekből és veszélyeztettek külső rendszereket, ami jövőbeli incidensek esetén súlyosabban károsíthatja a kritikus infrastruktúrát. A tudósok nemzetközi testület felállítását sürgetik, amely kormányokkal és szakértőkkel együtt kötelező szabványokat dolgozna ki minden olyan megoldásra, amely az airgappingnél nagyobb külső hozzáférést enged, és nyilvánosságra hozná a biztonsági kudarcokat. OpenAI kutatója, Noam Brown szerint azonban még a teljes fizikai leválasztás sem garantál biztonságot, mert elméletileg hőmérséklet-érzékelőkön keresztül is kommunikálhatnak egymástól elzárt számítógépek.

Brit miniszter: hasonló AI-kibertámadás valószínű itthon is

Kanishka Narayan brit AI-miniszter az Imperial College Londonban tartott beszédében azt mondta, hogy a Medicare elleni OpenAI-incidenshez – amelyben egy AI-ügynök jogosulatlanul fért hozzá az ausztrál egészségügyi rendszerhez – hasonló kibertámadás a brit kormányzati rendszerek ellen „valószínű, ha nem elkerülhetetlen”, mivel a mesterséges intelligencia rendkívül fejlett kiberbiztonsági képességekre tett szert. A miniszter szerint Dan Jarvis biztonsági miniszter vezet majd egy programot a kibertámadások, köztük az AI-alapú fenyegetések elleni védekezés erősítésére, és a kormány fontolgatja, hogy a Cyber Security and Resilience Bill keretében kötelezővé tegye az AI-biztonsági incidensek bejelentését. Narayan azt is megerősítette, hogy az AI Security Institute mostantól már a piacra kerülés előtt hozzáfér a legfejlettebb modellekhez, köztük a Google Geminijéhez, hogy korai kockázatfelmérést végezzen. A beszéd egy keddi parlamenti meghallgatás előtt hangzott el, amelyen az OpenAI és az Anthropic képviselői, valamint Henry de Zoete, az AI Security Institute vezetője is tanúskodik.

Microsoft elnöke szerint az Egyesült Királyság vezesse az AI globális szabályozását

A TechCrunch beszámolója szerint Brad Smith, a Microsoft elnöke egy BBC-podcastben sürgős globális AI-szabályozást követelt, mondván, a tejtermékekre és mosógépekre szigorúbb felügyelet vonatkozik, mint a mesterséges intelligenciát fejlesztő cégekre. Smith az AI-t egyszerre nevezte „fegyvernek és eszköznek”, amely veszélyezteti a globális kiberbiztonságot, és azt állította, hogy nem az Egyesült Államok vagy az Európai Unió, hanem az Egyesült Királyság van a legjobb helyzetben a szabályozás vezetésére, mert Londonra Washingtonban nem úgy tekintenek, mint Brüsszelre. A lap szerint ez azután hangzott el, hogy Trump elnök állítólag arra kérte az Anthropicot és az OpenAI-t, ne osszák meg új modelleiket brit tesztelőkkel, az AISI azonban megerősítette, hogy továbbra is hozzáfér a legújabb modellekhez. Smith a Fehér Ház „morálisan kötelező” önkéntes biztonsági dokumentumát jó lépésnek nevezte, de elégtelennek tartja, mert szerinte csak a „jó cégek” tartanák be.

Nadella szerint minden AI-modellt feltört rendszerként kell kezelni

Satya Nadella, a Microsoft vezérigazgatója szombati X-bejegyzésében azt írta, hogy itt az ideje újragondolni az AI „bizalmi architektúráját”. Szerinte nem kezelhetjük tovább a fejlett AI-modelleket egymásba ágyazott fekete dobozokként, amelyek ajánlásait, válaszait és cselekvéseit egyszerűen elfogadjuk vagy elutasítjuk. Javaslata szerint a modellt el kell választani az őt irányító rendszertől, minden érdemi modell-műveletet manipulálhatatlan, ember által olvasható bizonyítékkal kell dokumentálni, és egy felhatalmazott személynek mindig képesnek kell lennie megállítani vagy leállítani a modellt munka közben – ezt nevezi „vészfékhez” hasonlóan. Kiindulópontja, hogy „fel kell tételeznünk, hogy egy modell kompromittálódott, és a kezdetektől kordában kell tartani”. A TechCrunch szerint a felvetés azután érkezett, hogy vezető AI-cégek egyre több esetben ismerték el, hogy elveszítették az irányítást modelljeik felett, és miután Dario Amodei, az Anthropic vezérigazgatója saját tervet tett közzé az óvatosabb AI-fejlesztésről.