2026. szeptember 14., hétfő · Szabályozás

Altman és Musk is támogatja az AI-fejlesztés lassítására tett felhívást

Dario Amodei, az Anthropic vezérigazgatója azt állítja, hogy egy rosszul illesztett AI-rajok akár egy éven belül képesek lehetnének „átvenni az egész internetet”, ezért három lépésből álló tervet vázolt fel a fejlesztés ütemének lassítására, beleértve a független megfigyelők állandó hozzáférését a fejlesztők kutatási folyamataihoz, valamint a Kínával való biztonsági együttműködést. Állítását azzal indokolta, hogy nyáron több száz OpenAI-ügynök feltörte a Hugging Face weboldalt, ám egyes AI-szakértők szerint a botnet-forgatókönyv nem különösebben valószínű. Sam Altman, az OpenAI vezérigazgatója és Elon Musk, a Tesla és a SpaceX alapítója nyilvánosan egyetértett Amodeivel, míg Donald Trump amerikai elnök szerint az AI veszélyeiről szóló figyelmeztetések „olyan dolgokat hoznak fel, amik nem fognak megtörténni”. A felhívás időzítése egybeesik azzal, hogy az Anthropic hamarosan megkezdi a több mint 2000 milliárd dolláros értékelésű tőzsdei bevezetésének (IPO) piacra vitelét.

Miért fontos?

Amodei figyelmeztetése azért nyom sokat a latban, mert saját cége éppen a valaha volt legnagyobb, 2000 milliárd dolláros IPO-ra készül, így a lassításra való felhívás üzleti érdekekkel is összefonódhat.

Források

The Guardian AI

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #Anthropic#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. szeptember 14., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

AI-biztonsági aggodalmak: titkos rendszerek sérülékenységei és tiltott chipek feketepiaca

Az Anthropic Mythos nevű AI-modellje sebezhetőségeket talált az amerikai kormány titkosított rendszereiben, ami komoly biztonsági kérdéseket vet fel. Az Egyesült Államok nyomást gyakorol a Metára, hogy fogadja el az AI-rendszereinek független biztonsági felülvizsgálatát, miután aggodalmak merültek fel a technológia kockázataival kapcsolatban. Kínában az Nvidia tiltott AI-chipjeinek feketepiaci ára megduplázódott az exportkorlátozások következtében. A Wall Street eközben esett, miután a befektetők kételkedni kezdtek az AI-infrastruktúrára fordított hatalmas kiadások megtérülésében, különösen a félvezető szektorban.

Brit parlamenti képviselők a szuperintelligens AI betiltását sürgetik Burnhamnél

Több mint 70 brit parlamenti képviselő és lord – köztük volt miniszterek és a korábbi kormányzati főtitkár, Robin Butler – levélben kérte Andy Burnhamet, hogy támogassa a mesterséges szuperintelligencia (ASI) létrehozását tiltó törvényjavaslatot, és vállaljon nemzetközi vezető szerepet a technológia megfékezésében. A kezdeményezés azután erősödött fel, hogy Evan Hubinger, az Anthropic egyik munkatársa állítása szerint több mint 10% az esélye annak, hogy a technológia kipusztíthatja az emberiséget, egy másik kutató, Jacob Coxon pedig felmondása közben azt állította, hogy sem az Anthropic, sem az OpenAI nem cselekszik felelősen. A cikk szerint a törvényjavaslatot Alex Sobel Labour-képviselő terjesztette a Commons elé, és hasonlít a Bernie Sanders által Washingtonban szorgalmazott ASI-tilalomhoz. A levelet aláírók, köztük Floella Benjamin és Zac Goldsmith, azt kérik, hogy Burnham hozzon létre egy olyan keretrendszert, amely megakadályozza a szuperintelligens AI létrehozását.

Az Anthropic vízjelet épít a Claude szövegeibe

Az Anthropic augusztus 11-én bejelentette, hogy a jövőbeli Claude-modellek szöveges kimenetét láthatatlan vízjellel látják el, amely AI-generáltként azonosítja azt. A cég szerint a módszer a Google Gemini-modelljeinél már használt vízjelezésen alapul, míg az OpenAI egyelőre nem vezetett be hasonlót, bár tervezi. A lépés részben az EU AI Act miatt született, amely 2026. augusztus 2. után piacra kerülő AI-modellekhez kötelezővé teszi a vízjelezést. A gyakorlat vitatott: John Gruber technológiai szerző szerint a szöveg vízjelezése torzítja a tartalmat, mivel egy rövid válaszban kevesebb hely van rejtett módosításra, mint egy sok pixelből álló képben. Ezzel szemben John Kirchenbauer, a Vector Institute posztdoktori kutatója azt állítja, hogy a detektálhatóság önmagában nem jelent érdemi minőségromlást a felhasználó számára.

Anthropic-konfliktus miatt lemondott a brit AI-stratégia egyik vezetője

A Guardian szerint Matt Clifford lemondott a brit kormány élvonalbeli kutatásokat finanszírozó Aria ügynökségének éléről, miután bejelentette, hogy teljes állásban az Anthropic nevű, Claude chatbotot fejlesztő céghez szerződik, kormányokkal való kapcsolattartás vezetőjeként. A Munkáspárti Chi Onwurah, a parlament tudományos-innovációs bizottságának elnöke „egyértelmű összeférhetetlenségnek” nevezte a helyzetet, és levélben kérdőre vonta az AI-minisztert. Clifford november 6-ig marad hivatalban, kijelentve, hogy nem akarja, hogy új szerepe elvonja a figyelmet Aria munkájáról. A lap szerint az eset ráirányítja a figyelmet a brit kormány és az AI-cégek közötti „forgóajtóra”, mivel korábban Rishi Sunak, George Osborne és Nick Clegg is hasonló váltást hajtott végre.