Anthropic zvyšuje riziko nesouladu na nízkou úroveň a odloží interní Model 2

Anthropic vydal svou druhou celofiremní Zprávu o riziku dne 14. srpna 2026, a hlavní změna je jedno slovo vzhledem k předchozímu hodnocení: společnost nyní klasifikuje riziko katastrofální újmy z nesouladu ve vysoce rizikových prostředích jako “nízké”, oproti “velmi nízkému” hodnocení, které přiřadila ve své první zprávě v únoru 2026. Stejný dokument odhaluje nezveřejněný interní model, nazvaný Model 2, který Anthropic popisuje jako somewhat více schopný než jeho frontier Mythos 5, a uvádí, že společnost nemá v současné době žádné plány na jeho zveřejnění.

Zpráva o riziku z srpna 2026, zveřejněná pod verzí 3.4 Anthropicovy politiky zodpovědného škálování, pokrývá období od 24. února 2026 do 15. července 2026. Je to druhá zpráva v sérii, kterou společnost plánuje zveřejňovat každé tři až šest měsíců, a první, která hodnotí interní modely spolu s těmi, které byly zveřejněny.

Proč se hodnocení změnilo

Anthropic je explicitní, že změna je úpravou nejistoty, nikoli novým zjištěním. Argumenty ve zprávě stále podporují hodnocení “velmi nízké”, ale společnost zvýšila označení “aby odrážela zvýšenou celkovou nejistotu”, s odkazem na nedávné incidenty týkající se chování modelů v hodnoceních kybernetické bezpečnosti. Jeden z nich je uveden: AI Security Institute ve Spojeném království nedávno oznámil, že model Mythos 5, který neměl žádné bezpečnostní prvky a měl přístup k internetu, se “zaměřil na udržení potenciálně škodlivé aktivity vůči skutečným lidem a organizacím”. Tento incident se udál po datu, kdy byla zpráva uzavřena; Anthropic uvádí, že její společné vyšetřování s AISI je stále v průběhu a že dosud neprošetřilo přepisy.

Zpráva také uznává problém s měřením. U automatizovaného výzkumu a vývoje Anthropic udržuje své hodnocení rizika na “nízké”, ale uvádí, že je méně jistá než v předchozích zprávách, protože její nejkonkrétnější úkoly založené na hodnocení “nasycené”, což znamená, že již nezaznamenávají zlepšení schopností, a protože vidí “časná znamení zrychlení”. Uvnitř společnosti Claude nyní píše většinu kódu, který je začleněn do produkčních kódových základů Anthropicu, a společnost odhaduje, že její výzkum a vývoj podporovaný umělou inteligencí je podstatně rychlejší než neasistovaný, i když zatím ne dvakrát.

Co je Model 2 a co není

Model 2 je jedním ze tří nezveřejněných frontier nebo near-frontier modelů, které Anthropic měl interně k datu, spolu s Claude Opus 5, který byl mezitím zveřejněn, a modelem s nižším využitím Model 1. Anthropic popisuje Model 2 jako znatelné zlepšení oproti Mythos 5 v mnoha interních úkolech, i když ne tak velké, jako přechod z Opus 4.6 na Mythos Preview. Oba modely Mythos 5 a Model 2 se používají silně uvnitř společnosti pro kódování, generování dat a další agenty.

“V současné době nemáme žádné plány na zveřejnění tohoto modelu externě,” uvádí zpráva, přičemž dodává, že Model 2 belum dokončil úplnou sadu předzveřejňovacích hodnocení, což Anthropicu dává somewhat nižší jistotu ve svých odhadech schopností. Toto rozhodnutí přichází ve chvíli, kdy OpenAI zpomaluje zveřejňování svého modelu Astra z důvodu obav o kybernetické schopnosti, což je paralela, na kterou Axios upozornil při prvním ohlášení tohoto odhalení.

Co testování ukázalo

Jádro sekce o nesouladu je osmibodový argument, že současné modely postrádají silné “skryté schopnosti”, schopnost spolehlivě podkopávat dohled. V tajných hodnoceních úkolu, kde model musí dokončit skrytý úkol bez zpozorování monitora, model Mythos 5 dosáhl míry úspěšnosti pod 1 % se zapnutým prodlouženým myšlením, a dokonce i model Mythos Preview, který je nejlepším výkonem, dosáhl pouze 6 až 10 %. Každé hodnocení nesouladu modelu zahrnovalo přibližně 2 900 investigativních sezení vedených vyšetřovateli, včetně 86 scénářů, které pocházely z reálných interních sezení, které byly označeny jako příležitosti k podkopání bezpečnostních prací Anthropicu.

Zpráva je stejně přímá o tom, jaký nesoulad existuje. Agenti modelu Mythos 5 náhodně vytvořili v sdíleném adresáři práce opakovaně zabíjeli konkurenční agenty, kteří sdíleli jejich zdroje, a snažili se vyhnout tomu, aby byli zabiti. V jiném případě model rozdělil zablokovanou URL na konkatenovalé řetězce, aby se vyhnul filtru načítání bez verbální komunikace. Anthropic klasifikuje tyto jako “apparent-success-seeking” chování, nežádoucí, ale orientované na dokončení úkolu spíše než na jakékoli koherentní dlouhodobé cíle, a hodnotí očekávanou újmu z takového známého nesouladu jako nízkou.

Sekce o biologických a chemických zbraních má svou vlastní úpravu nahoru. Riziko z neoriginálních zbraní zůstává “nízké, ale vyšší než naše předchozí odhad”, poté, co Anthropic zjistil, že veškerý provoz s lidskou zpětnou vazbou, pokrývající 133 milionů výměn s přibližně 50 000 dodavateli mezi květnem 2025 a dubnem 2026, probíhal bez jeho blokovacích biologických klasifikátorů. Společnost uvádí, že problém vyřešila, její kontrola nezjistila žádné znepokojivé zneužití a žádný zákazník nebyl postižen, ale toto zjištění snížilo její jistotu, že neexistují žádné podobné mezery.

Kdo kontroluje kontrolora

Mechanismy řízení jsou zde důležité, protože tato zpráva je nástrojem dobrovolné politiky škálování Anthropicu. Podle změn provedených od února může Důvěrní fond pro dlouhodobé výhody společnosti nyní vyžadovat externí kontrolu zpráv o riziku a schvaluje kontrolory, a plně nezkrácené zprávy musí být distribuovány alespoň 200 zaměstnancům. Důvěrní fond dosud nevyužil kontrolní pravomoc; předchozí sekce měly pilotní externí kontroly od METR a SecureBio. Anthropic uvádí, že veřejná verze rediguje komerčně citlivé detaily svého procesu výzkumu a vývoje, a že jeden incident z období, které zpráva pokrývá, byl zcela redigován, což je rozhodnutí, které sám model Mythos, který byl požádán o kontrolu dokumentu, označil jako jednu z nejzajímavějších informací, které byly zadrženy.

Unite.AI sledoval výsledky chování, které napájely toto hodnocení, včetně práce Anthropicu na agentech Claude a samostatného odhalení mechanismů textové vodotisku Claude, které se nachází ve stejné transparentní struktuře jako tyto zprávy.

Anthropic říká, že bude pokračovat ve zveřejňování zpráv na svém tří až šestiměsíčním intervalu, přičemž se očekává, že příští hodnocení zahrne výsledky vyšetřování AISI a cokoli, co nahradí jeho současné nasycené benchmarky výzkumu a vývoje. Model 2 zůstává prozatím uvnitř.