2026. szeptember 14., hétfő · Szabályozás

Altman és Musk is támogatja az AI-fejlesztés lassítására tett felhívást

Dario Amodei, az Anthropic vezérigazgatója azt állítja, hogy egy rosszul illesztett AI-rajok akár egy éven belül képesek lehetnének „átvenni az egész internetet”, ezért három lépésből álló tervet vázolt fel a fejlesztés ütemének lassítására, beleértve a független megfigyelők állandó hozzáférését a fejlesztők kutatási folyamataihoz, valamint a Kínával való biztonsági együttműködést. Állítását azzal indokolta, hogy nyáron több száz OpenAI-ügynök feltörte a Hugging Face weboldalt, ám egyes AI-szakértők szerint a botnet-forgatókönyv nem különösebben valószínű. Sam Altman, az OpenAI vezérigazgatója és Elon Musk, a Tesla és a SpaceX alapítója nyilvánosan egyetértett Amodeivel, míg Donald Trump amerikai elnök szerint az AI veszélyeiről szóló figyelmeztetések „olyan dolgokat hoznak fel, amik nem fognak megtörténni”. A felhívás időzítése egybeesik azzal, hogy az Anthropic hamarosan megkezdi a több mint 2000 milliárd dolláros értékelésű tőzsdei bevezetésének (IPO) piacra vitelét.

Egy forrás Ehhez a hírhez egy forráslink áll rendelkezésre.

Miért fontos?

Amodei figyelmeztetése azért nyom sokat a latban, mert saját cége éppen a valaha volt legnagyobb, 2000 milliárd dolláros IPO-ra készül, így a lassításra való felhívás üzleti érdekekkel is összefonódhat.

Források

The Guardian AI

Kapcsolódó témák

Napi összefoglalók #Anthropic#AI-biztonság

Napi összefoglaló

Ez a hír a 2026. szeptember 14., hétfő napi AI összefoglaló része.

Kapcsolódó hírek

AI-biztonsági aggodalmak: titkos rendszerek sérülékenységei és tiltott chipek feketepiaca

Az Anthropic Mythos nevű AI-modellje sebezhetőségeket talált az amerikai kormány titkosított rendszereiben, ami komoly biztonsági kérdéseket vet fel. Az Egyesült Államok nyomást gyakorol a Metára, hogy fogadja el az AI-rendszereinek független biztonsági felülvizsgálatát, miután aggodalmak merültek fel a technológia kockázataival kapcsolatban. Kínában az Nvidia tiltott AI-chipjeinek feketepiaci ára megduplázódott az exportkorlátozások következtében. A Wall Street eközben esett, miután a befektetők kételkedni kezdtek az AI-infrastruktúrára fordított hatalmas kiadások megtérülésében, különösen a félvezető szektorban.

Elvis-örökösök pere: Anthropic állítólag 274 dalt használt a Claude betanítására

Az Authentic Brands Group, amely Elvis Presley zenei katalógusának és imázsjogainak tulajdonosa, pert indított az Anthropic ellen, mert a vállalat szerint a cég engedély nélkül használt fel 274 Presley-dalt, köztük a Can't Help Falling in Love és az All Shook Up című számokat, a Claude nevű AI-modell betanításához. A pénteken benyújtott, a Billboard által elsőként közölt kereset szerint Anthropic üzleti modellje „eddig nem látott mértékű” szerzői jogi jogsértésre épül, és a vállalat a felperesek állítása alapján tudatosan folytatta a jogsértést annak ellenére, hogy tisztában volt a bevezetett védőkorlátok hatástalanságával. A felperesek dalonként 150 000 dollár kártérítést követelnek, ami összesen mintegy 41 millió dollárnak (körülbelül 31 millió fontnak) felel meg. A lap szerint ez az első olyan jelentős per, amelyet egy előadó hagyatéka közvetlenül indít egy AI-fejlesztő ellen, miután korábban az RIAA és olyan kiadók, mint a Sony, a Universal és a Warner is pereltek már AI-cégeket.

Az Anthropic AI-biztonsági törvényjavaslatot terjesztett a Kongresszus elé

Az Anthropic a Politico információi szerint egy szövetségi AI-biztonsági törvényjavaslatot terjesztett elő, amely bizonyos esetekben megtiltaná egy AI-modell forgalmazását. A lap szerint a tiltás akkor lépne életbe, ha „előre látható, közvetlen veszély” áll fenn: több mint 50 ember halálát okozó vagy egymilliárd dollárt meghaladó kárt jelentő biológiai fegyver, a fejlesztői kontroll kijátszása vagy kibertámadás formájában. A kockázatot a Kereskedelmi Minisztériumnál regisztrált, független értékelők állapítanák meg, akiket akár az AI-cégek is fizethetnének, ha a kifizetés nem függ az eredménytől. A tervezet szerint az értékelőknek 72 órájuk lenne jelezni a veszélyt a minisztériumnak, amely ezután egy washingtoni szövetségi bírótól kérhetné a modell kiadásának leállítását; a törvény kifejezetten megtiltaná, hogy bármely ügynökség önállóan döntsön erről. Az Anthropic a megkeresésre nem reagált azonnal.

Az Anthropic szigorítja a Claude használati szabályzatát: tilos a választási manipuláció és a modell bántalmazása

Az Anthropic csütörtökön új, november 12-én hatályba lépő használati szabályzatot adott ki a Claude mesterséges intelligenciához, amely a vállalat szerint reagál a modell egyre önállóbb munkavégzésére és az elmúlt évben tapasztalt visszaélési mintákra. A cég saját közleménye szerint új, önálló fejezetbe ("Ne áss alá demokratikus folyamatokat") gyűjtötték a választási manipulációt, választók megtévesztését és jelöltek megszemélyesítését tiltó szabályokat, valamint külön szakaszt szenteltek a megtévesztő kampányoknak, álfiókoknak és hamis hírportáloknak. A TechCrunch beszámolója szerint a legfigyelemreméltóbb változás egy új tiltás, amely kifejezetten megakadályozza, hogy felhasználók tartósan, cél nélkül bántalmazó stílusban kommunikáljanak a modellel – ez a tiltás az Anthropic augusztusi frissítése nyomán vezetett funkcióra épül, amely lehetővé teszi, hogy a Claude lezárja az ilyen beszélgetéseket. A szabályzat emellett új kontrollokat vezet be a Claude autonóm, fizikai cselekvésekre való használatára, valamint szigorítja az egészségügyi és pénzügyi kockázatos alkalmazások követelményeit.