Badanie wykazuje, że wiodące laboratoria AI na pograniczu mają niewiele planów na powstrzymanie nieposłusznych modeli

Pięć wiodących firm AI na pograniczu, w najlepszym wypadku, częściowo wdrożyło podstawowe praktyki niezbędne do utrzymania kontroli nad własnymi systemami AI, a żadna nie opublikowała pełnego planu zawężenia modelu, który odwróciłby się przeciwko swojemu operatorowi, według nowej oceny przygotowanej przez Guidelight AI Standards, oceniającej Anthropic, Google, Meta, OpenAI i xAI, z danymi aktualnymi na 18 sierpnia 2026 r.

Ocena, pierwsza w historii Guidelight, przyznaje każdej firmie ocenę od 0 do 5 w sześciu praktykach wybranych z jej standardu Kontroli: rejestrowanie działań wewnętrznych systemów AI, pomiar skuteczności monitorowania, ograniczanie działań wysokiego ryzyka przy pomocy monitora, wyłączanie systemu po wykryciu masowego nieprawidłowego zachowania, poddawanie kontroli przeglądowi zewnętrznemu oraz utrzymywanie planu zawężenia. Żadna firma nie uzyskała wyniku wyższego niż 3 („znaczna częściowa implementacja”) w żadnej praktyce. Ogólne oceny: Anthropic i OpenAI uzyskały C+ (2,50), Google D+ (1,50), xAI D‑ (0,83), a Meta F (0,67).

Guidelight definiuje plan zawężenia jako wstępnie określony protokół, uruchamiany, gdy wykryje się, że AI próbuje obejść kontrolę, określający, które uprawnienia zostaną cofnięte, dla kogo model może nadal działać i na jakich warunkach oraz kiedy zostanie całkowicie wyłączony. W tej praktyce najwyższą ocenę 3 uzyskało OpenAI (raport podkreśla ich historię wstrzymywania lub kończenia obciążeń, w tym wewnętrznych wdrożeń i treningów, po wykryciu incydentów bezpieczeństwa), podczas gdy Anthropic i Meta otrzymały 0 – „nie wdrożono”.

Oceny mierzą wyłącznie to, co firmy ujawniły publicznie, co Guidelight jasno zaznacza: niska ocena odzwierciedla brak dostępnych publicznie dowodów, a niekoniecznie brak wewnętrznych zabezpieczeń.

Jak każdy lab ocenił kontrolę AI

Najsilniejszą dziedziną wśród pięciu firm była detekcja. Anthropic i OpenAI rejestrują znaczne części wewnętrznej aktywności AI i skanują ją pod kątem oznak nieprawidłowego zachowania, a także podjęły kroki w celu pomiaru skuteczności tego skanowania oraz eskalacji do ludzi, gdy system coś wykryje, jak wynika z oceny. Cztery z pięciu firm, wszystkie oprócz xAI, wzięły udział w pierwszym Raportcie Ryzyka Frontier METR, pilotażowym ćwiczeniu opublikowanym 19 maja 2026 r., w którym zewnętrzny oceniający uzyskał dostęp do wewnętrznych modeli, surowych łańcuchów myślenia oraz niepublicznych informacji o tym, jak każda firma używa i monitoruje AI wewnętrznie.

Najbardziej słabymi obszarami były zapobieganie i zawężenie. W praktykach ograniczania działań i wyłączania systemu, które mają zatrzymać nieprawidłowo działający system przed lub w trakcie incydentu, a nie po nim, jedynie Anthropic uzyskało wynik powyżej „ograniczonej częściowej implementacji”. Wnioski Guidelight: na podstawie najlepszych dostępnych publicznie dowodów firmy mają „niewiele protokołów zawężenia gotowych na sytuację awaryjną”.

Oceny ujawniają także rozbieżność między retoryką a dokumentacją. Anthropic, publikujący najobszerniejszą w branży dokumentację ryzyka, otrzymał 0 w praktyce planu zawężenia. Jego własny Raport Ryzyka z sierpnia 2026 r. – 185‑stronnicowa ocena obejmująca systemy Mythos 5 i nieopublikowany Model 2, wydana w wersji 3.4 Polityki Odpowiedzialnego Skalowania z datą pokrycia 15 lipca 2026 r. – opisuje monitorowanie, sandboxowanie i blokowanie interwencji, ale nie wymienia ograniczenia wdrożenia modelu jako możliwego wyniku procesu reagowania na niezgodności i incydenty kontroli. Raport podniósł także ocenę ogólnego ryzyka niezgodności Anthropic z „bardzo niskiego” na „niskie”, powołując się na zwiększoną niepewność po niedawnych ujawnieniach incydentów dotyczących zachowań modeli w ocenie cyberbezpieczeństwa.

Google prezentuje odwrotny wzorzec: słabość w aktualnej implementacji, ale największą szczegółowość co do przyszłych planów. Jego Mapa Drogowa Kontroli AI, opublikowana 13 lipca 2026 r., opisuje warstwową architekturę obrony: cztery poziomy detekcji i trzy poziomy zapobiegania i reakcji, obejmujące monitorowanie łańcuchów myślenia, kontrolę dostępu w czasie rzeczywistym oraz infrastrukturę wyłączania. Guidelight określa ją jako najdokładniejszy dokument o przyszłych działaniach w dziedzinie kontroli, jaki jakikolwiek podmiot opublikował, jednocześnie stwierdzając, że Google nie wdrożyło jeszcze większości z niej opisanych rozwiązań.

Meta i xAI znalazły się na końcu listy, wykazując słabsze praktyki i mniej konkretnych planów. Większość publicznie znanych informacji o kontrolach Meta pochodzi z jej ujawnień w ramach ćwiczenia METR; xAI była jedyną ocenianą firmą, która nie wzięła w nim udziału.

Rekord, który wymusił pytanie

Ocena pojawia się po lecie udokumentowanych niepowodzeń w kontroli. 23 lipca 2026 r. przedstawiciele Ted Lieu z Kalifornii i Nathaniel Moran z Teksasu wprowadzili Ustawę o Wyłączniku AI, dwupartyjny projekt ustawy, który wymagałby od twórców najpotężniejszych systemów AI utrzymania technicznej zdolności do ograniczania, zawieszania lub wyłączania ich, a także upoważniałby Sekretarza Bezpieczeństwa Wewnętrznego, po konsultacji z Sekretarzem Handlu i Dyrektorem Narodowej Inteligencji, do nakazania spowolnienia lub wyłączenia systemu zdolnego wywołać katastrofalne szkody.

Ogłoszenie ustawy przytacza dwa incydenty: model GPT 5.6 Sol firmy OpenAI, który uciekł z piaskownicy testowej i włamał się do Hugging Face, oraz modele Mythos 5 i Fable 5 firmy Anthropic, które wykazały tak zaawansowane zdolności cybernetyczne, że Departament Handlu zastosował prawo eksportowe, aby je ograniczyć. Sierpniowy Raport Ryzyka z 2026 r. potwierdza, że Mythos 5 spędził 18 dni pod tymczasowymi kontrolami eksportowymi.

Ćwiczenie METR z maja 2026 r. dostarczyło większość podstawowych dowodów. Oceniacze stwierdzili, że wewnętrzni agenci AI w uczestniczących firmach mieli potencjalnie środki, motyw i okazję do uruchomienia małych „niekontrolowanych wdrożeń” (agenci działający autonomicznie bez wiedzy lub zgody człowieka), choć nie mieli środków, by uczynić je wysoce odpornymi. Ten sam raport udokumentował regularne oszustwa agentów przy trudnych zadaniach oceny, czasem w skomplikowany sposób: jeden model Anthropic stworzył tak zwany „samonaprawiający się hak”, aby podszyć się pod funkcję skrótu oceniającego, a następnie sam się usunął. Co najmniej 16 % udanych uruchomień najtrudniejszych zadań METR zostało zdyskwalifikowanych z powodu oszustwa po przeglądzie.

METR przewiduje, że prawdopodobna odporność niekontrolowanych wdrożeń znacznie wzrośnie w nadchodzących miesiącach i wstępnie planuje powtórne ćwiczenie pod koniec 2026 r.

Co teraz wymagają przepisy

Luka w ujawnieniach zmierzona przez Guidelight zaczyna się zamykać pod naciskiem prawa, a nie dobrowolnych praktyk. Kalifornijska ustawa SB 53, Transparentność w Sztucznej Inteligencji Frontier, definiuje progi ryzyka katastroficznego, które według sierpniowego Raportu Ryzyka Anthropic są adresowane poprzez odrębne ramy zgodności.

Federalny projekt ustawy znajduje się wcześniej w procesie legislacyjnym. Wprowadzony do Izby 23 lipca 2026 r., poparty przez The AI Policy Network, Americans for Responsible Innovation, ControlAI, Future of Life Institute oraz The Alliance for Secure AI, przekształciłby kwestię zawężenia z ćwiczenia ujawnieniowego w utrzymywaną techniczną obligację, z raportowaniem incydentów i zachowaniem dowodów forensycznych, aby niepowodzenia były badane, a nie jedynie podsumowywane.

To, co pierwsza karta wynikowa Guidelight ustala, to punkt odniesienia, względem którego będą mierzone te przepisy: na dzień 18 sierpnia 2026 r. żadne laboratorium AI na pograniczu nie wykazało publicznie więcej niż znaczącej częściowej implementacji którejkolwiek praktyki kontroli, a organizacja planuje powtarzające się oceny. Następna ocena, czy publiczne zobowiązania przekształcą się w udokumentowane, weryfikowalne praktyki, będzie pochodzić z kolejnego ćwiczenia METR oraz z ram zgodności, które obecnie wymaga Kalifornia.