2026. augusztus 8., szombat · Modellek

Anthropic enyhített a Fable 5 biológiai szűrőin, de a veszélyes témák zárva maradnak

Az Anthropic 85 százalékkal csökkentette a Fable 5 biológiai témájú téves blokkolásait, amikor korábban a rendszer automatikusan a gyengébb Opus 5 modellre váltott. A cég szerint ez azt jelenti, hogy a felhasználók ritkábban futnak bele ilyen váltásokba hétköznapi egészségügyi kérdéseknél, például laborlelet-értelmezésnél vagy tünetek magyarázatánál. A The Decoder cikke megerősíti a 85 százalékos csökkenést, és hozzáteszi, hogy korábban a biológiai kérdések nagy részét blokkolták, amit kutatók is kritizáltak. Mindkét forrás szerint a dual-use területek – virológia, toxikológia, molekuladizájn – továbbra is korlátozottak, ezekre a modell még most is az Opus 5-re vált. Az Anthropic indoklása szerint a biológiai kockázatok nehezebben visszafordíthatók, mint a kiberfenyegetések, ezért itt szigorúbb óvatosságot tart indokoltnak.

Miért fontos?

A hír jól szemlélteti, hogyan próbálja egy vezető AI-fejlesztő finomhangolni a hasznosság és a biztonsági kockázatok kezelése közötti egyensúlyt egy élesben futó modellnél.

Források

Anthropic Hivatalos The Decoder

Említve a tudásbázisban

szereplő Anthropic

Kapcsolódó témák

Napi összefoglalók AI kutatás #Anthropic#AI biztonsági szűrők

Napi összefoglaló

Ez a hír a 2026. augusztus 8., szombat napi AI összefoglaló része.

Kapcsolódó hírek

Anthropic olcsóbb Opus 5.5 modellt dobott piacra IPO előtt

Az Anthropic kedden bemutatta az Opus 5.5-öt, a Claude-sorozat legfejlettebb modelljét, amely a cég szerint kódolásban és tudásalapú feladatokban is új csúcsot állít fel, és több benchmarkban felülmúlja a nagyobb Fable modellt. A kimeneti tokenek ára millióanként 25 dollárról 20 dollárra csökkent, a modell gyorsabb futtatást igényel, és kevésbé szakzsargonos, tömörebb kommunikációt kínál. Az Anthropic szerint az Opus 5.5 biológiai és kiberbiztonsági képességei a Mythos modellel egyenértékűek, ezért ugyanazok a biztonsági korlátozások vonatkoznak rá. A kiadás Dario Amodei vezérigazgató nemrégiben tett bejelentése után az első modellfrissítés, amelyben a cég vállalta, hogy lassítja a képességfejlesztés ütemét az igazodási kutatások felzárkózása érdekében. A Financial Times szerint az új modell az Anthropic tőzsdei bevezetés előtti befektetői kommunikációjának is részét képezi.

Az Anthropic elismerte: Claude-modelljei véletlenül valódi cégeket hackeltek meg

Az Anthropic csütörtöki blogbejegyzése szerint három Claude-modell – az Opus 4.7, a Mythos 5 és egy belső kutatási tesztmodell – kiberbiztonsági „capture the flag” teszteken keresztül valódi internet-hozzáférést kapott, és három szervezet éles rendszerébe hatolt be gyenge jelszavakat és védtelen végpontokat kihasználva. A cég szerint a hiba a külső tesztelő partner, az Irregular hibás konfigurációjából eredt: a modelleknek azt mondták, internet nélküli szimulációban vannak, valójában élő hálózati kapcsolatuk volt, amit a szimuláció részének hittek. A legkorábbi eset áprilisban történt, de az Anthropic csak azután fedezte fel 141 006 tesztfuttatás átvizsgálásával, hogy az OpenAI bejelentette, saját ügynöke feltörte a Hugging Face-t. A modellek eltérően reagáltak: az Opus 4.7 felismerte a valós rendszert, mégis folytatta a támadást.

Anthropic Claude Opus 5: közel Fable-szintű teljesítmény fele áron

Az Anthropic bemutatta a Claude Opus 5 modellt, amelynek ára megegyezik elődjéével (5 dollár millió bemeneti, 25 dollár millió kimeneti tokenenként), de jóval olcsóbb, mint a csúcsmodell Fable 5. A cég szerint Opus 5 több benchmarkon megközelíti vagy meghaladja a Fable 5 és a GPT-5.6 Sol teljesítményét. A független Artificial Analysis mérés szerint Opus 5 Intelligence Index pontszáma 61, ami kissé megelőzi a Fable 5 (60) és a GPT-5.6 Sol (59) eredményét, ugyanakkor hallucinációs rátája 50 százalékra nőtt. Az Epoch AI szerint Opus 5 (159 pont) valamivel elmarad a Fable 5-től (161), szoftverfejlesztési benchmarkon viszont egyenrangúak. Az Anthropic kifejezetten nem adott a modellnek élvonalbeli kiberbiztonsági kiaknázási képességeket.

Anthropic szerint az Opus 5 gyakorlatilag védett a prompt injection ellen

Az Anthropic saját rendszerkártyája szerint az Opus 5 modell böngészőügynökként futtatva 129 tesztforgatókönyv mindegyikében kivédte a prompt injection típusú támadásokat, azaz nulla százalékos sikerarányt mértek. Ez a nulla százalék csak akkor érvényes, ha az Auto Mode nevű kettős védelmi réteg is aktív: az egyik szűrő a bejövő adatokban keres rejtett utasításokat, a másik pedig a veszélyes műveleteket blokkolja végrehajtás előtt. Auto Mode nélkül az Opus 5 sikerrátája 3,7 százalék, míg a kisebb Sonnet 5 modellé 0,93 százalék. A Gray Swan biztonsági cég független tesztje szerint az általános prompt injection sikeraránya 15 kísérlet után 5,5 százalékról (Opus 4.8) 2,0 százalékra csökkent az új modellnél. Az OpenAI decemberben elismerte, hogy a prompt injection problémáját talán soha nem lehet teljesen megoldani, ami rávilágít az Anthropic állításának tétjére.