Anthropic przyjmuje sześciu ewaluatorów METR, zapewniając im dostęp na zasadach zbliżonych do obowiązujących pracowników

Anthropic ogłosiło 15 października 2026 r., że rozpoczęło zapewnianie dostępu na zasadach zbliżonych do obowiązujących pracowników zespołowi METR działającemu w jego strukturach. METR to organizacja non profit oceniająca czołowe modele AI. Sześciu pracowników METR przyjęto do pracy z użyciem sprzętu firmowego, zapewniono im przestrzeń biurową oraz dostęp do wewnętrznych narzędzi i systemów.

Ogłoszenie jest następstwem zobowiązania Anthropic z września 2026 r. do wzmocnienia niezależnej oceny modeli i praktyk w zakresie bezpieczeństwa przez podmioty zewnętrzne, a także podpisania Porozumienia Białego Domu w sprawie superinteligencji, w którym firmy zobowiązały się do współpracy z niezależnymi zewnętrznymi audytorami lub ewaluatorami. Anthropic poinformowało, że w ciągu ostatniego roku współpracowało z METR przy kilku przeglądach swoich raportów o ryzyku.

Zasady dostępu na warunkach zbliżonych do obowiązujących pracowników

Anthropic poinformowało, że dostęp zespołu działającego w jego strukturach do wewnętrznych narzędzi i systemów jest zbliżony do tego, jaki mają własne zespoły firmy oceniające ryzyko. Poza kilkoma ściśle określonymi kategoriami — danymi klientów, informacjami objętymi tajemnicą adwokacko-kliencką oraz informacjami o architekturach modeli — pracownicy Anthropic są zachęcani do dzielenia się informacjami z zespołem tak samo, jak dzieliliby się nimi ze współpracownikiem zajmującym się ryzykiem związanym z dostosowaniem modeli.

Przypis do ogłoszenia wyjaśnia wyjątek dotyczący informacji o architekturze. Ponieważ ewaluatorzy, podobnie jak inspektorzy bankowi, mogą pracować także dla innych firm, Anthropic poinformowało, że zachowuje ostrożność ze względu na możliwość niezamierzonego ujawnienia informacji: informacje o architekturach wiążą się z wysokim ryzykiem takiego wycieku, a ich znaczenie dla oceny ryzyka jest zazwyczaj niewielkie. Gdy informacje o architekturze mają duże znaczenie, Anthropic na ogół stara się je udostępnić, choć wymaga to wyraźnej zgody wewnętrznej.

Zgodnie z warunkami publikacji przewidzianymi w porozumieniu METR opublikuje swoją analizę poziomów ryzyka, incydentów lub praktyk Anthropic. Anthropic nie może zawetować publikacji, może jednak zażądać od METR usunięcia informacji należących do wąsko określonych, z góry ustalonych kategorii. METR może publicznie opisać dokonane usunięcia i poinformować, czy jego zdaniem były uzasadnione, o ile nie ujawni usuniętych informacji.

Współpraca obejmuje niewielki zespół działający na podstawie wiążących umów, a pozostali pracownicy METR, w tym badacze współpracujący z Anthropic przy innych projektach, nie mają dostępu do prac zespołu działającego w strukturach firmy. Anthropic opisało ewaluację prowadzoną w strukturach firmy jako sposób na zapewnienie kilku wykwalifikowanym osobom, pracującym zgodnie z obowiązującymi w niej standardami bezpieczeństwa, wglądu w jej sposób działania. Firma podkreśliła, że nie jest to sposób na uzyskanie jej informacji — ani informacji jej klientów i partnerów — przez inne organizacje.

Uzasadnienie niezależnej ewaluacji przez Anthropic

Jak poinformowała firma, w miarę wzrostu możliwości modeli potrzebne są silniejsze zabezpieczenia i trudniejsze oceny ryzyka. Anthropic oświadczyło, że chce publicznie odpowiadać za podejmowane decyzje, ale nie może udostępniać publicznie wszystkich informacji istotnych dla prac nad bezpieczeństwem, ponieważ część z nich mogłaby być przydatna dla osób działających w złej wierze lub ma poufny charakter ze względu na interesy handlowe, jak informacje o zasobach obliczeniowych lub trenowaniu modeli. Zamiast tego firma zapewnia zewnętrznym ewaluatorom szeroki dostęp do swoich informacji i zleca im przedstawianie dowodów oraz uzasadnionych wniosków na temat ryzyka związanego z tworzeniem jej modeli. Celem jest zmniejszenie rozbieżności między wiedzą ewaluatorów o systemach firmy tworzącej czołowe modele AI a wiedzą samej firmy.

W ogłoszeniu wymieniono cztery warunki, które muszą spełniać ewaluatorzy, aby oceniać czołowe modele: wiedza specjalistyczna w zakresie oceny możliwości takich modeli, w tym rozumienie, w jaki sposób ewaluacje mogą zawodzić, na przykład wskutek pozorowania dostosowania; niezależność, czyli brak udziałów w ocenianej firmie oraz brak finansowej lub operacyjnej zależności od niej; dostęp wystarczający do rzetelnej oceny ryzyka, obejmujący nie tylko najnowsze modele, lecz także wiedzę o tym, jak je wytrenowano i jak działają zabezpieczenia; oraz swoboda publikowania obserwacji i ocen dotyczących modelu lub procesu.

Anthropic porównało tę sytuację z nadzorem bankowym, zaznaczając jednocześnie, że analogia nie jest ścisła: banki wiedzą o własnej ekspozycji na ryzyko więcej niż podmioty zewnętrzne, dlatego organy regulacyjne kierują inspektorów do pracy w największych bankach. Jeśli zaś podejmowane przez bank ryzyko mogłoby zagrozić społeczeństwu, podmioty zewnętrzne starają się dostrzec to z wyprzedzeniem.

Trzy poziomy dostępu

Anthropic poinformowało, że opracowuje trzy poziomy dostępu dla ewaluatorów. Na pierwszym poziomie prowadzą oni ściśle określone badania nad ryzykiem; Anthropic decyduje, jaki dostęp im zapewnić, a ewaluatorzy mogą opublikować wyniki za zgodą firmy. Na drugim poziomie mogą publikować bez zgody Anthropic i uzyskują dostęp do większej ilości informacji, choć firma nadal może zażądać usunięcia określonych kategorii informacji, a ewaluatorzy mogą publikować swoje opinie na temat tego, czy usunięcia były uzasadnione. Trzeci poziom to porozumienie z METR: dostęp na zasadach zbliżonych do obowiązujących pracowników oraz prawa do publikacji podobne do tych, które przysługują na drugim poziomie.

Anthropic poinformowało, że z czasem ma nadzieję objąć trzecim poziomem kilku ewaluatorów, z których każdy zespół będzie publikował własną analizę profilu ryzyka firmy i jej kluczowych decyzji.

SecureBio, Accenture i wstępne rozmowy

SecureBio znajduje się obecnie na pierwszym poziomie. Analizuje rozdział dotyczący broni chemicznej i biologicznej w Raporcie o ryzyku Anthropic z sierpnia 2026 r., po ukończeniu i opublikowaniu pilotażowej analizy poprzedniego raportu o ryzyku. Anthropic poinformowało, że po zakończeniu tej analizy rozważy przeniesienie współpracy do projektów zapewniających większy dostęp i szersze prawa do publikacji.

Anthropic poinformowało, że współpracuje z Accenture i Faculty nad partnerstwem obejmującym ocenę modeli i testy red team, przeprowadzanie ocen zgodności z założeniami, testowanie zabezpieczeń modeli oraz rozwijanie kompetencji w organizacjach.

Anthropic poinformowało również, że prowadzi wstępne rozmowy z kilkoma innymi organizacjami, w tym z Hugging Face. Ponieważ partnerstwa te są nadal na wczesnym etapie, Anthropic udostępnia tym ewaluatorom mniej informacji, a ich prawa do publikacji są bardziej ograniczone — firma upewnia się przy tym, że partnerzy chronią informacje poufne oraz dysponują wymaganymi zasobami i wiedzą specjalistyczną. Anthropic podkreśliło, że wraz z rozwojem partnerstw i wzrostem zaufania chce w pełni włączyć do współpracy więcej niezależnych ewaluatorów.

Zobowiązanie z września

We wrześniu 2026 r. współzałożyciel Anthropic, Dario Amodei, opublikował esej „Musimy wyznaczać tempo rozwoju na granicy możliwości”, w którym uznał włączenie ewaluatorów do organizacji i zapewnienie im dostępu na warunkach zbliżonych do tych, z jakich korzystają pracownicy, za pierwszy krok w trzyetapowym planie wyznaczania tempa rozwoju najbardziej zaawansowanej AI. Amodei napisał, że Anthropic jednostronnie zobowiązuje się do podjęcia tego kroku, i wezwał rządy, by zobowiązały inne wiodące firmy rozwijające AI do tego samego. Napisał, że „musimy spowolnić tempo, w jakim zwiększamy możliwości modeli AI”, aby zapobieganie ryzyku mogło nadążyć za rozwojem tych możliwości.

W eseju napisano, że Anthropic zamierza zaprosić zewnętrzny zespół oceniający do pracy w swojej siedzibie, zapewniając mu biurka, karty dostępu i laptopy firmowe; dostęp do przestrzeni roboczych, narzędzi i uprawnień w większości porównywalny z tym, którym dysponują wewnętrzne zespoły oceny ryzyka, z pewnymi wyjątkami wymaganymi przez prawo lub umowy albo służącymi ochronie prywatnych informacji klientów i partnerów; oraz umowę przyznającą zewnętrznym recenzentom prawo do publikowania najważniejszych ustaleń dotyczących poziomów ryzyka, incydentów, praktyk oraz przyznanego im lub nieprzyznanego dostępu, przy czym Anthropic nie miałoby wpływu redakcyjnego na publikację. Na takich planowanych warunkach Anthropic zachowałoby ograniczone prawo do usuwania informacji wrażliwych z punktu widzenia bezpieczeństwa, chronionych tajemnicą prawną, wrażliwych z handlowego punktu widzenia lub poufnych informacji stron trzecich, ale nie mogłoby usuwać ustaleń tylko dlatego, że są niekorzystne. Recenzenci mogliby też publicznie poinformować, gdyby usunięcie jakiejś treści pozbawiło ich wniosków istotnej informacji.

Anthropic poinformowało, że dobrowolnie włącza ewaluatorów do swojej organizacji i uważa, że każda wiodąca firma rozwijająca AI powinna postąpić tak samo. Firma przekazała, że szybko rozwija współpracę z wieloma ewaluatorami, aktywnie uczy się, jakie formy partnerstwa się sprawdzają, i zobowiązuje się informować o postępach.