Anthropic zapojuje šest hodnotitelů METR s přístupem srovnatelným se zaměstnaneckým

Anthropic oznámila 15. října 2026, že začala poskytovat přístup srovnatelný se zaměstnaneckým začleněnému týmu organizace METR, neziskové organizace, která hodnotí nejpokročilejší modely AI. Šest zaměstnanců METR dostalo firemní vybavení, kancelářské prostory a přístup k interním nástrojům a systémům.

Oznámení navazuje na závazek společnosti Anthropic z září 2026 posílit nezávislé hodnocení jejích modelů a bezpečnostních postupů třetími stranami a na její podpis Dohody Bílého domu o superinteligenci, v níž se společnosti zavázaly spolupracovat s nezávislými externími auditory nebo hodnotiteli. Anthropic uvedla, že s METR v uplynulém roce spolupracovala na několika přezkumech svých zpráv o rizicích.

Podmínky přístupu srovnatelného se zaměstnaneckým

Anthropic uvedla, že přístup začleněného týmu k interním nástrojům a systémům je přibližně srovnatelný s přístupem, který mají její vlastní týmy pro hodnocení rizik. S výjimkou několika jasně vymezených kategorií — údajů o zákaznících, informací chráněných důvěrností komunikace mezi advokátem a klientem a informací o architektuře modelů — jsou zaměstnanci Anthropic vybízeni, aby s týmem sdíleli informace stejně jako s kolegou, který pracuje na rizicích spojených se sladěním modelů.

Poznámka pod čarou v oznámení vysvětluje, proč jsou informace o architektuře vyňaty. Protože hodnotitelé mohou stejně jako bankovní inspektoři pracovat i pro jiné společnosti, Anthropic podle svých slov dbá na to, aby zabránila neúmyslnému úniku informací: informace o architektuře představují vysoké riziko takového úniku a pro hodnocení rizik mají obvykle jen malý význam. Pokud jsou informace o architektuře vysoce relevantní, Anthropic se je zpravidla pokusí sdílet, bude k tomu však zapotřebí výslovné interní schválení.

Podle podmínek zveřejňování v rámci této dohody METR zveřejní svou analýzu úrovní rizika, incidentů nebo postupů společnosti Anthropic. Anthropic nemůže zveřejnění vetovat, může však METR požádat o redakční úpravu informací spadajících do úzce vymezených, předem stanovených kategorií. METR může veřejně popsat provedené úpravy a uvést, zda je považuje za oprávněné, pokud přitom neprozradí odstraněné informace.

Spolupráce se týká pouze malého týmu, který pracuje na základě závazných dohod; ostatní zaměstnanci METR, včetně výzkumníků, kteří s Anthropic pracují na jiných projektech, jsou od práce začleněného týmu odděleni. Anthropic popsala začleněné hodnocení jako způsob, jak několika kvalifikovaným lidem pracujícím podle jejích bezpečnostních standardů umožnit podrobně nahlédnout do jejího fungování. Uvedla také, že nejde o způsob, jakým by jiné organizace mohly získat její informace ani informace jejích zákazníků a partnerů.

Proč Anthropic podporuje nezávislé hodnocení

S tím, jak se modely stávají výkonnějšími, je podle společnosti zapotřebí důkladnějších ochranných opatření a náročnějšího hodnocení rizik. Anthropic uvedla, že chce nést veřejnou odpovědnost za rozhodnutí, která přijímá, nemůže však zveřejnit všechny informace důležité pro její práci v oblasti bezpečnosti, protože některé by mohly být užitečné pro škodlivé aktéry nebo jsou obchodně citlivé, například informace o výpočetních kapacitách či trénování. Místo toho poskytuje hodnotitelům z řad třetích stran hluboký přístup ke svým informacím a nechává je sdílet důkazy a odůvodněné závěry o rizicích spojených s vývojem jejích modelů. Cílem je zmenšit rozdíl mezi tím, jak dobře hodnotitelé rozumějí systémům společnosti vyvíjející nejpokročilejší AI, a tím, jak dobře jim rozumí sama tato společnost.

Oznámení uvádí čtyři předpoklady, které hodnotitelé potřebují ke zhodnocení nejpokročilejších modelů: odborné znalosti v posuzování jejich schopností, včetně porozumění tomu, jak může hodnocení selhat, například kvůli předstírání souladu; nezávislost, tedy že by neměli vlastnit podíl ve společnosti, kterou hodnotí, ani na ní být finančně či provozně závislí; dostatečný přístup k tomu, aby mohli smysluplně posoudit rizika, který zahrnuje nejen nejnovější modely, ale také přehled o tom, jak byly trénovány a jak fungují ochranná opatření; a možnost zveřejňovat pozorování a hodnocení modelu či postupu.

Anthropic přirovnala situaci k bankovnímu dohledu, zároveň však uznala, že toto přirovnání není přesné: banky vědí o své vlastní rizikové expozici více než lidé zvenčí, a proto regulátoři vysílají do největších bank stálé inspektory. Pokud by riskování některé banky mohlo ohrozit veřejnost, snaží se třetí strany tuto hrozbu odhalit předem.

Tři úrovně přístupu

Anthropic uvedla, že pro hodnotitele připravuje tři úrovně přístupu. Na první úrovni provádějí hodnotitelé úzce vymezená šetření rizik; Anthropic rozhoduje, jaký přístup jim poskytne, a hodnotitelé mohou svá zjištění zveřejnit se souhlasem Anthropic. Na druhé úrovni mohou hodnotitelé publikovat bez souhlasu Anthropic a mají přístup k většímu množství informací, Anthropic však stále může požadovat odstranění konkrétních kategorií informací. Hodnotitelé přitom mohou zveřejnit své názory na to, zda byly tyto úpravy oprávněné. Třetí úroveň představuje dohoda s METR: přístup srovnatelný se zaměstnaneckým a právo na zveřejňování podobné tomu, které platí na druhé úrovni.

Anthropic doufá, že časem bude na třetí úrovni působit několik hodnotitelů a každý tým zveřejní vlastní analýzu jejího přístupu k rizikům a klíčových rozhodnutí.

SecureBio, Accenture a jednání v počáteční fázi

SecureBio je v současnosti v první úrovni. Prověřuje kapitolu o chemických a biologických zbraních ve Zprávě o rizicích společnosti Anthropic ze srpna 2026 poté, co dokončila a zveřejnila pilotní prověrku předchozí zprávy o rizicích. Anthropic uvedla, že po dokončení této prověrky zváží přesun k projektům s rozšířeným přístupem a většími právy na zveřejňování.

Anthropic uvedla, že s Accenture a Faculty pracuje na partnerství, které zahrnuje hodnocení modelů a jejich testování v rámci red teamingu, provádění hodnocení souladu, testování ochranných opatření modelů a rozvoj schopností v rámci organizací.

Anthropic také uvedla, že vede předběžná jednání s několika dalšími organizacemi, včetně Hugging Face. Protože jsou tato partnerství stále v počáteční fázi, poskytuje Anthropic těmto hodnotitelům omezenější informace a oni mají omezenější práva na zveřejňování. Anthropic přitom ověřuje, zda partneři chrání důvěrné informace a mají potřebné zdroje a odborné znalosti. S postupem partnerství a růstem důvěry je podle Anthropic cílem plně zapojit více nezávislých hodnotitelů.

Zářijový závazek

V září 2026 zveřejnil spoluzakladatel společnosti Anthropic Dario Amodei esej „Musíme udávat tempo na hranici technologického pokroku“, v níž představil zapojení hodnotitelů přímo ve firmě s přístupem podobným tomu, jaký mají zaměstnanci, jako první krok třífázového plánu, který má udávat tempo vývoje nejpokročilejších systémů AI. Amodei napsal, že se Anthropic k tomuto kroku jednostranně zavazuje, a vyzval vlády, aby požadovaly totéž i od ostatních společností vyvíjejících nejpokročilejší systémy. Napsal, že „musíme zpomalit tempo, kterým zlepšujeme schopnosti modelů AI“, aby prevence rizik měla dostatek času držet krok s rozvojem těchto schopností.

V eseji se uvádělo, že Anthropic hodlá pozvat externí hodnotitelský tým, který bude pracovat přímo ve firmě a dostane k dispozici pracovní místa v jejích kancelářích, přístupové karty a firemní notebooky; přístup k pracovním prostorům, nástrojům a oprávněním, které budou z velké části srovnatelné s těmi, jež mají interní týmy pro hodnocení rizik, s výjimkami v případech, kdy to vyžaduje zákon nebo smlouvy, anebo kdy je třeba chránit soukromé informace zákazníků a partnerů; a smlouvu, která externím hodnotitelům zaručí právo zveřejňovat klíčová zjištění o úrovních rizik, incidentech, postupech a přístupu, který získali nebo nezískali, přičemž Anthropic nebude mít nad zveřejněním žádnou redakční kontrolu. Podle zamýšlených podmínek by si Anthropic ponechala omezené právo začernit informace citlivé z hlediska bezpečnosti, právně chráněné informace, obchodně citlivé údaje nebo důvěrné informace třetích stran, nemohla by však začernit zjištění jen proto, že jsou nepříznivá. Hodnotitelé by navíc mohli veřejně uvést, pokud by začerněním byla odstraněna informace důležitá pro jejich závěry.

Anthropic uvedla, že hodnotitele zapojuje dobrovolně a domnívá se, že by totéž měla dělat každá společnost vyvíjející nejpokročilejší systémy AI. Uvedla, že rychle navazuje spolupráci s několika hodnotiteli, průběžně zjišťuje, jaké formy partnerství fungují, a zavazuje se sdílet novinky.