2026. szeptember 18., péntek · Szabályozás

A Microsoft AI vezetője nyilvánosan bírálja az Anthropic AI-tudatosság-elméletét

Mustafa Suleyman, a Microsoft AI vezérigazgatója a The Verge Decoder podcastjában arról beszélt, hogy cége nemrég közzétett egy 37 oldalas állásfoglalást „Humanist AI Code of Conduct” címmel, amely lefekteti a Microsoft elveit az AI-fejlesztésről, köztük az AI-tudatosság kérdéséről is. Suleyman elmondása szerint egy kísérő esszében külön bírálta az Anthropic filozófiáját az úgynevezett „modellek jólétéről”, amelyet veszélyesen félrevezetőnek nevezett. A beszélgetés az AI-biztonsági és -szabályozási vita közepette zajlott, ahol a műsorvezető azt is felvetette, hogy megfelelő eszköz-e ma az úgynevezett alignment fogalma az AI-kockázatok kezelésére – erre a kérdésre a rendelkezésre álló forrásrészletben Suleyman válasza nem szerepel.

Miért fontos?

A vita rávilágít arra, hogy a Microsoft és az Anthropic homlokegyenest ellentétes elméleti alapokból közelíti meg a modellek tudatosságát és jólétét, ami megnehezítheti egy közös iparági biztonsági szabvány kialakítását.

Források

The Verge

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #Microsoft AI#Anthropic

Napi összefoglaló

Ez a hír a 2026. szeptember 18., péntek napi AI összefoglaló része.

Kapcsolódó hírek

Vance elutasítja az AI-szabályozást, miközben Anthropicnál emberiség-kockázatról vitáznak

JD Vance amerikai alelnök egy los angeles-i AI-csúcson kijelentette: „Ha Frankensteint építesz, hagyd abba” – ezzel utasította el Dario Amodei, az Anthropic társalapítójának felhívását a mesterséges intelligencia globális, akár Kínával közös szabályozására. Vance szerint a cégeknek nem szabad a kormányhoz fordulniuk szabályozásért, hanem eszközöket kell kapniuk, hogy „harcoljanak Frankenstein ellen”. A nyilatkozat azután hangzott el, hogy Amodei szerint az AI-ügynökök raja 6-12 hónapon belül képes lehet átvenni az internet feletti irányítást, az Anthropic alignment science vezetője, Evan Hubinger pedig azt állította: több mint 10% esély van rá, hogy az AI 10 éven belül kiirtja az emberiséget. Ezt egy korábbi Anthropic-kutató, Jacob Coxon figyelmeztetésére reagálva mondta, aki később árnyalta állítását, elismerve, hogy nehéz konkrét forgatókönyveket felvázolnia. Donald Trump elnök ezzel szemben az AI általi emberiségpusztítást „HOAX”-nak nevezte, és a technológiát minden korábbinál nagyobb gazdasági motorként ünnepelte.

AI-óriások lassítási terve: biztonsági paktum vagy kartell?

Dario Amodei, az Anthropic vezérigazgatója egy esszében arra szólította fel az iparágat és a kormányokat, hogy közösen lassítsák a mesterséges intelligencia fejlesztését, és ehhez versenyjogi mentességet kér a vezető laboratóriumok számára. Sam Altman (OpenAI), Elon Musk és Demis Hassabis (Google DeepMind) a hétvégén elvben csatlakoztak a javaslathoz, amely külső auditorok bevonását és globális lassítási megállapodást is tartalmazna. Aidan Gomez, a Cohere vezérigazgatója blogbejegyzésében „kartellnek” nevezte a tervet, mondván, hogy a hatalmas számítási kapacitást és állandó felügyeleti infrastruktúrát megkövetelő szabályok kizárnák a kisebb versenytársakat, miközben az „független” auditorokat épp azok a cégek finanszírozzák, amelyeket ellenőrizniük kellene. Niels Rogge, a Hugging Face mérnöke „bizarr baromságnak” minősítette a nyilatkozatokat. Donald Trump elnök szerint az AI általi átvétel veszélye kitaláció, míg Barack Obama és Kamala Harris támogatja a lassítást és a nagyobb átláthatóságot.

Haigh: Nagy-Britanniának hallgatnia kell az AI-szakértők figyelmeztetéseire

Louise Haigh brit első államtitkár keddi TUC-beszédében figyelmeztetett, hogy a mesterséges intelligencia „óriási kockázatot” jelent a nemzetbiztonságra és a társadalomra megfelelő védőkorlátok nélkül, miután három Anthropic-kutató szerint az AI egy évtizeden belül kiirthatja az emberiséget. Munkáspárti politikusok, köztük Darren Jones és a TUC főtitkára, Paul Nowak, arra kérték Andy Burnhamet, hogy a jövő évi brit G20-elnökség alatt szorgalmazzon globális AI-szabályozást. Liam Byrne, az üzleti bizottság elnöke levélben kérte Henry de Zoete-ot, az AI Safety Institute vezetőjét, hogy tanúskodjon a parlament előtt a jelenlegi biztonsági felügyelet elégtelensége miatt. A Guardian szerint az Anthropic nem kap szankciót, mert legújabb modelljét nem nyújtotta be tesztelésre az intézetnek a piacra dobás előtt, miközben a cég hétvégén globális lassítást sürgetett az AI-fejlesztésben.

Microsoft etikai kódexet adott ki AI-modelljeinek korlátozására

Microsoft hétfőn közzétette ideiglenes „code of conduct” dokumentumát, amely a jövőbeli mesterségesintelligencia-modellek tréningjét hivatott korlátozni. Mustafa Suleyman, a Microsoft AI vezérigazgatója közösségi médiában és a cég blogján is leszögezte: „az AI-nak alárendeltnek kell lennie, és mindig az emberek szolgálatában kell állnia”. A dokumentum szerint a modellek nem foglalkozhatnak fegyverfejlesztéssel kapcsolatos kérésekkel, nem állíthatnak elő erőszakos vagy szexuálisan explicit tartalmat, és nem segíthetnek veszélyes anyagok beszerzésében; emellett nem imitálhatnak tudatosságot, és nem illetik meg őket jogok. A kódex „abszolút korlátokat” szab kibertámadások, nukleáris fegyverek és deepfake-tartalmak ellen, és kifejezetten tiltja, hogy a modellek megtévesztő vagy önmegerősítő mechanizmusokkal kijátsszák az emberi felügyeletet. A lépés Dario Amodei, az Anthropic vezérigazgatójának szombati, iparági lassításra felszólító nyilatkozata után érkezett.