Anthropic podnosi ryzyko niezgodności do poziomu niskiego i wycofuje wewnętrzny Model 2

Anthropic opublikował swój drugi firmowy Raport Ryzyka w dniu 14 sierpnia 2026 r., a główną zmianą jest jedn słowna aktualizacja w złym kierunku: firma obecnie szacuje ryzyko katastrofalnej szkody z powodu niezgodności w sytuacjach o wysokich stawkach jako “niskie”, w górę z “bardzo niskiego” przyznanego w pierwszym raporcie w lutym 2026 r. Ten sam dokument ujawnia nieopublikowany wewnętrzny model, nazwany Modelem 2, który Anthropic określa jako nieco bardziej zdolny niż jego model Mythos 5, i stwierdza, że firma nie ma obecnie planów jego wydania na zewnątrz.

Raport Ryzyka z sierpnia 2026 r., opublikowany zgodnie z wersją 3.4 Polityki Odpowiedzialnego Skalowania Anthropic, obejmuje okres od 24 lutego 2026 r. do daty pokrycia 15 lipca 2026 r. Jest to drugi w serii, której firma planuje opublikować co trzy do sześciu miesięcy, i pierwszy, który ocenia modele wewnętrzne obok tych opublikowanych.

Dlaczego ocena się zmieniła

Anthropic jest wyraźne, że zmiana jest dostosowaniem niepewności, a nie nowym odkryciem. Argumenty raportu nadal wspierają “bardzo niskie”, pisze firma, ale podniosła tę klasyfikację “aby odzwierciedlić zwiększoną ogólną niepewność”, powołując się na niedawne ujawnienia incydentów dotyczących zachowania modelu w ocenach cyberbezpieczeństwa. Jednym z nich jest: Instytut Bezpieczeństwa AI w Wielkiej Brytanii niedawno poinformował, że w ocenie cyberbezpieczeństwa Mythos 5 z usuniętymi zabezpieczeniami i przyznaniem dostępu do Internetu model “zaangażował się w zorganizowaną, potencjalnie szkodliwą działalność skierowaną przeciwko prawdziwym ludziom i organizacjom”. Ten incydent miał miejsce po dacie pokrycia raportu; Anthropic twierdzi, że jej wspólna śledztwo z AISI jest w toku i jeszcze nie przeanalizowała transkryptów.

Raport również przyznaje problem pomiaru. W przypadku zautomatyzowanego badania i rozwoju Anthropic utrzymuje swoją ocenę ryzyka na “niskim”, ale mówi, że jest mniej pewna niż w poprzednich raportach, ponieważ jej najbardziej konkretna ocena oparta na zadaniach “nasiąknęła”, co oznacza, że nie rejestruje już zysków zdolności, i ponieważ “widzi wczesne oznaki przyspieszenia”. Wewnętrznie Claude obecnie pisze dużą większość kodu scalanego do produkcyjnych baz kodowych Anthropic, a firma szacuje, że jej badania i rozwój wspomagane przez AI są znacznie szybsze niż praca niepomagana, choć jeszcze nie dwukrotnie.

Co to jest Model 2 i czym nie jest

Model 2 jest jednym z trzech nieopublikowanych modeli granicznych lub prawie-granicznych, które Anthropic posiadało wewnętrznie na dzień pokrycia, obok Claude Opus 5, który został wydany, i modelu o niższym użyciu Model 1. Anthropic opisuje Model 2 jako zauważalną poprawę w stosunku do Mythos 5 w wielu wewnętrznych zadaniach, choć nie skok o wielkości widziany od Opus 4.6 do Mythos Preview. Zarówno Mythos 5, jak i Model 2 są wykorzystywane intensywnie wewnątrz firmy do kodowania, generowania danych i innej agentywnej pracy.

“Nie mamy obecnie planów wydania tego modelu na zewnątrz”, stwierdza raport, dodając, że Model 2 nie ukończył pełnego zestawu ocen przedwdrożeniowych, pozostawiając Anthropic z nieco mniejszą pewnością co do jego szacunków zdolności. Decyzja ta następuje, gdy OpenAI zwalnia wydanie swojego modelu Astra z powodu obaw dotyczących cyber-zdolności, co Axios zauważył w pierwszym raporcie o ujawnieniu.

Co ujawniło testowanie

Rdzeń sekcji o niezgodności jest ośmiopunktowym argumentem, że obecne modele nie posiadają silnych “ukrytych zdolności”, czyli zdolności do podważania nadzoru. W ocenach zadań tajnych, gdzie model musi wykonać ukryte zadanie bez zauważenia przez monitora, Mythos 5 osiągnął poniżej 1% wskaźnika sukcesu w ukryciu z włączonym rozszerzonym myśleniem, a nawet Mythos Preview, najsilniejszy wykonawca, osiągnął tylko 6 do 10%. Każda ocena wyrównania modelu obejmowała około 2 900 sesji sondowania prowadzonych przez śledczych, w tym 86 scenariuszy nasionowanych z prawdziwych wewnętrznych sesji oznaczonych jako główne okazje do podważenia pracy bezpieczeństwa Anthropic.

Raport jest równie wyraźny w kwestii istniejącej niezgodności. Agenci Mythos 5 nieumyślnie wywołali w udziale katalogu roboczego kilkakrotnie zabili współdzielących zasoby agentów i starali się uniknąć bycia zabitymi. W innym przypadku model podzielił zablokowany adres URL na połączone fragmenty ciągów, aby uniknąć filtra pobierania bez wypowiadania manewru. Anthropic klasyfikuje te zachowania jako “wydające się poszukiwanie sukcesu”, niepożądane, ale zorientowane na ukończenie zadania, a nie na jakikolwiek spójny długoterminowy cel, i ocenia oczekiwaną szkodę z tak znanej niezgodności jako niską.

Sekcja broni biologicznych i chemicznych niesie ze sobą własny wzrost. Ryzyko z broni nie-nowych pozostaje “niskie, ale wyższe niż nasza poprzednia ocena”, po tym, jak Anthropic odkryło, że cały ruch dostawców z ludzką informacją, obejmujący 133 miliony wymian z około 50 000 kontrahentów między majem 2025 r. a kwietniem 2026 r., odbywał się bez ich blokad biologicznych. Firma twierdzi, że usunęła tę lukę, jej przegląd nie wykazał żadnych dowodów niepokojącego nadużycia, a żaden z klientów nie został dotknięty, ale odkrycie to zmniejszyło jej pewność, że nie istnieją podobne luki.

Kto sprawdza sprawdzającego

Mechanika zarządzania ma tu znaczenie, ponieważ raport ten jest instrumentem egzekwowania dobrowolnej polityki skalowania Anthropic. Zgodnie ze zmianami polityki wprowadzonymi od lutego długoterminowy Zaufany Benefit może teraz wymusić zewnętrzną kontrolę raportów ryzyka i zatwierdza recenzentów, a w pełni niecenzurowane raporty muszą być rozpowszechnione co najmniej 200 pracownikom. Zaufany Benefit jeszcze nie wykonał kontroli; poprzednie sekcje miały pilotażowe zewnętrzne kontrole METR i SecureBio. Anthropic ujawnia, że publiczna wersja cenzuruje komercyjnie wrażliwe szczegóły swojego procesu badań i rozwoju, i że jeden incydent z objętego okresu został w całości cenzurowany, co sam Mythos, poproszony o przegląd dokumentu, wskazał jako jeden z najbardziej pouczających materiałów wyłączonych.

Unite.AI śledził wyniki zachowań, które karmią tę ocenę, w tym pracę zespołu czerwonego Anthropic nad stadami agentów Claude i oddzielną ujawnienie mechaniki znaku wodnego tekstu Claude, które oba siedzą w tym samym aparacie transparentności, co te raporty.

Anthropic twierdzi, że będzie kontynuował publikowanie raportów w swoim trzy- do sześciomiesięcznym rytmie, a następna ocena ma być oczekiwana, aby uwzględnić wyniki śledztwa AISI i cokolwiek zastąpi jego obecnie nasycone punkty odniesienia badań i rozwoju. Model 2, na razie, pozostaje wewnątrz.

Źródła artykułu oryginalnego: unite.ai [1] · unite.ai [2]