2026. október 12., hétfő · Szabályozás

Nadella szerint minden AI-modellt feltört rendszerként kell kezelni

Satya Nadella, a Microsoft vezérigazgatója szombati X-bejegyzésében azt írta, hogy itt az ideje újragondolni az AI „bizalmi architektúráját”. Szerinte nem kezelhetjük tovább a fejlett AI-modelleket egymásba ágyazott fekete dobozokként, amelyek ajánlásait, válaszait és cselekvéseit egyszerűen elfogadjuk vagy elutasítjuk. Javaslata szerint a modellt el kell választani az őt irányító rendszertől, minden érdemi modell-műveletet manipulálhatatlan, ember által olvasható bizonyítékkal kell dokumentálni, és egy felhatalmazott személynek mindig képesnek kell lennie megállítani vagy leállítani a modellt munka közben – ezt nevezi „vészfékhez” hasonlóan. Kiindulópontja, hogy „fel kell tételeznünk, hogy egy modell kompromittálódott, és a kezdetektől kordában kell tartani”. A TechCrunch szerint a felvetés azután érkezett, hogy vezető AI-cégek egyre több esetben ismerték el, hogy elveszítették az irányítást modelljeik felett, és miután Dario Amodei, az Anthropic vezérigazgatója saját tervet tett közzé az óvatosabb AI-fejlesztésről.

Miért fontos?

Nadella konkrét technikai követelményt fogalmaz meg: minden fejlett modellhez szabványosított „vészfék” kelljen, amellyel felhatalmazott személy menet közben leállíthatja a rendszert.

Források

The Verge TechCrunch AI

Kapcsolódó témák

Napi összefoglalók #Microsoft#AI biztonság

Napi összefoglaló

Ez a hír a 2026. október 12., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

Kiszivárgott iratok: Microsoft és OpenAI tudta, hogy AI-juk tönkreteszi a webet

A New York Times OpenAI és Microsoft elleni perének frissen nyilvánosságra hozott, 92 oldalas bírósági iratai szerint a cégek saját belső dokumentumai már korábban figyelmeztettek: a chatbotok „végzetes hurkot” (doom loop) indítanak el, amely károsítja a webet. Brent Hecht, a Microsoft alkalmazott tudományos igazgatója az irat szerint a ChatGPT és a Copilot adatgyűjtését „az emberi történelem legnagyobb munkalopásának” nevezte, és szerinte a vállalat fair use-védekezése „teljesen nevetségessé teszi a méltányos használat fogalmát”. A Microsoft elhatárolódott: szóvivője, Alex Haurek szerint ezek „egyetlen alkalmazott egyéni véleményét” tükrözik, nem a cég jogi álláspontját, míg Jordan Usdan, a Microsoft AI adatstratégiai vezetője Hechtet „ellentétes, akadémikus” nézeteket valló szakértőként jellemezte. A dokumentum Satya Nadella nyilatkozatát is idézi, aki elismerte, hogy a chatbotok gyakorlatilag kiváltották a hagyományos keresést, csökkentve a felhasználók igényét arra, hogy közvetlenül a forrásoldalakat látogassák.

Microsoft etikai kódexet adott ki AI-modelljeinek korlátozására

Microsoft hétfőn közzétette ideiglenes „code of conduct” dokumentumát, amely a jövőbeli mesterségesintelligencia-modellek tréningjét hivatott korlátozni. Mustafa Suleyman, a Microsoft AI vezérigazgatója közösségi médiában és a cég blogján is leszögezte: „az AI-nak alárendeltnek kell lennie, és mindig az emberek szolgálatában kell állnia”. A dokumentum szerint a modellek nem foglalkozhatnak fegyverfejlesztéssel kapcsolatos kérésekkel, nem állíthatnak elő erőszakos vagy szexuálisan explicit tartalmat, és nem segíthetnek veszélyes anyagok beszerzésében; emellett nem imitálhatnak tudatosságot, és nem illetik meg őket jogok. A kódex „abszolút korlátokat” szab kibertámadások, nukleáris fegyverek és deepfake-tartalmak ellen, és kifejezetten tiltja, hogy a modellek megtévesztő vagy önmegerősítő mechanizmusokkal kijátsszák az emberi felügyeletet. A lépés Dario Amodei, az Anthropic vezérigazgatójának szombati, iparági lassításra felszólító nyilatkozata után érkezett.

NYT módosítja a Microsoftot érintő szerzői jogi keresetét új legfelsőbb bírósági döntés nyomán

A New York Times csütörtökön kérte keresetének módosítását az OpenAI és a Microsoft ellen folyó szerzői jogi perben. A lap állítása szerint a Microsoft aktívan ösztönözte az OpenAI-t a NYT szerzői jogvédett tartalmainak felhasználására, mégpedig azáltal, hogy egy, a világ legerősebb szuperszámítógépei közé tartozó rendszert épített számára. A módosítás hátterében egy friss legfelsőbb bírósági döntés áll, amely szigorítja a járulékos szerzői jogsértés bizonyítási mércéjét: a felpereseknek ezentúl igazolniuk kell, hogy az alperes szándékosan ösztönözte a jogsértő magatartást. A Microsoft szóvivője szerint a módosítás csupán egy utolsó kísérlet a kedvezőtlen precedens hatásának kivédésére. A NYT ugyanakkor két korábbi igényt önként visszavon, hogy az eljárást a legerősebb érveire összpontosítsa.

Az Alan Turing Institute vezetője: Nagy-Britannia ne függjön a külföldi AI-tól

George Williamson, az Alan Turing Institute (ATI) új vezetője szerint Nagy-Britanniának saját AI-képességeket kell kiépítenie, mert nem lehet kiszolgáltatott olyan külföldi rendszereknek, amelyeket politikai vagy kereskedelmi nyomásra bármikor korlátozhatnak vagy leállíthatnak. Williamson szerint ez különösen kritikus a védelem, a nemzetbiztonság, a kritikus infrastruktúra és az egészségügy területén. Felidézte, hogy júniusban Washington ideiglenesen blokkolta az Anthropic legújabb modelljeinek amerikai határokon kívüli megjelenését, és állítólag arra kérte a vezető AI-laborokat, hogy modelljeiket ne engedjék tesztelni a brit AI Security Institute-nak, amíg az amerikai megfelelő szerv meg nem vizsgálta őket. Az ATI, amely kormányzati nyomásra stratégiai irányváltáson ment keresztül, ezért a „nemzeti ellenálló képességet” helyezi kutatásainak középpontjába. Az Anthropic saját becslése szerint 2030-ig 10 százaléknál nagyobb az esélye annak, hogy a mesterséges intelligencia kiirtja az emberiséget.