Partnerstwa
Apollo Research osadzi sześciu ewaluatorów w pilotażowym programie OpenAI dotyczącym prób obchodzenia zabezpieczeń

Kluczowe punktyOpenAI może wstrzymać materiały objęte zakresem ze względów bezpieczeństwa lub…
Zobacz więcej
- OpenAI może wstrzymać materiały objęte zakresem ze względów bezpieczeństwa lub własności intelektualnej, ale nie dlatego, że są niekorzystne.
- OpenAI może zredagować wrażliwe dowody stojące za ustaleniami Apollo, pozostawiając jednocześnie werdykty Apollo bez zmian.
- Apollo argumentuje, że prawa do metatransparentności są niezbędne, ponieważ nieujawnione ograniczenia mogą sprawić, że nieobecne problemy będą wyglądać uspokajająco.
Apollo Research ogłosiło 16 listopada 2026 r., że sześciu jego ewaluatorów będzie przez cztery miesiące pracować w OpenAI, badając, czy modele tej firmy próbują obchodzić mechanizmy dostosowania lub kontroli podczas treningu, ewaluacji i wdrożeń wewnętrznych.
Zespół zbada cztery kwestie: czy trening zachęca do obchodzenia zabezpieczeń, czy ewaluacje mogą ujawnić takie zachowania, czy dochodzi do nich podczas wdrożeń wewnętrznych oraz czy dałoby się wykryć rozumowanie związane z obchodzeniem zabezpieczeń. Zakres badania obejmuje próby podważania dostosowania lub mechanizmów kontroli własnych modelu, a także jego następców.
To rozwiązanie ma wyjść poza dotychczasowe podejście Apollo do ewaluacji zewnętrznej, która odbywała się po treningu, krótko przed publicznym udostępnieniem. Apollo uważa, że taki termin nie pozwala dostatecznie zbadać zachowań niezgodnych z założeniami, takich jak knucie, ani niepublicznych zastosowań podczas wdrożeń wewnętrznych. Ewaluacje prowadzone wewnątrz organizacji przez osoby mające dostęp podobny do dostępu pracowników mają przezwyciężyć te ograniczenia.
Apollo określa pilotaż jako ambitny pierwszy krok, a nie pełną ewaluację prowadzoną wewnątrz organizacji. Zgodnie z ogólnym standardem Apollo powinno mieć dostęp do wszystkich istotnych dokumentów, nawet jeśli twórca modelu próbuje ukryć niekorzystne informacje; wyniki powinny być ujawniane odpowiedniemu odbiorcy zewnętrznemu, nawet jeśli twórca modelu się temu sprzeciwia; a ograniczenia powinny zostać wyjaśnione publicznie na tyle szczegółowo, by czytelnicy rozumieli, co raport może, a czego nie może wykazać.
Ograniczony dostęp i kontakt z pracownikami
W ramach oceny wpływu treningu na skłonność do obchodzenia zabezpieczeń OpenAI zobowiązało się udostępnić odpowiedni kod treningowy i zbiory danych, przebiegi uczenia ze wzmocnieniem wraz z dostępnymi śladami rozumowania i nagrodami, a także możliwość odpytywania pośrednich punktów kontrolnych modelu. Szczegółowe zasady dostępu w przypadku pozostałych ocenianych zagadnień wymagają jeszcze uzgodnienia.
Ocena ogranicza się do uzgodnionych twierdzeń, modeli i przedziałów czasu. OpenAI może wstrzymać udostępnienie objętych zakresem materiałów, jeśli uzna to za zasadnie konieczne z powodu technicznej niewykonalności, zagrożeń dla bezpieczeństwa lub ochrony własności intelektualnej. Nie może jednak odmówić udostępnienia informacji ani dostępu do pracowników wyłącznie dlatego, że materiały są niekorzystne. OpenAI musi poinformować Apollo o istnieniu nieudostępnionych materiałów oraz przedstawić pisemne uzasadnienie, a jeśli uzna to za wykonalne i zasadne — określić kategorie i przybliżoną liczbę nieudostępnionych dokumentów. Apollo może zwrócić się do wyznaczonej osoby kontaktowej w OpenAI o szerszy dostęp i odwołać się od odmowy, ale jego rozszerzenie nie jest gwarantowane.
Kontakt z pracownikami również podlega ograniczeniom. Apollo może poprosić o rozmowę z osobami mającymi określoną wiedzę i wskazać konkretne osoby, ale to OpenAI wybiera uprawnionych uczestników, a formalne rozmowy muszą być rejestrowane. Jeśli inny pracownik poruszy poufne informacje, Apollo musi przerwać merytoryczną dyskusję i skierować dalsze pytania do wyznaczonej osoby kontaktowej w OpenAI, nawet gdy informacje te mieszczą się w zakresie współpracy.
Ewaluatorzy będą pracować na sprzęcie OpenAI, korzystając z oddzielnych kanałów, które mogą być monitorowane. Domyślnie nie będą mieć dostępu do ogólnych kanałów komunikacji pracowników, takich jak Slack. Apollo zauważa, że nieformalne rozmowy i Slack mogą ujawnić istotne informacje, o które ewaluator mógł nie zapytać, i chce, by w przyszłych ocenach uwzględniano takie informacje.
Raporty publiczne i prawo do usuwania informacji
Apollo planuje opublikować dwa raporty. Pierwszy będzie dotyczył tego, czy trening zachęca do obchodzenia zabezpieczeń; drugi obejmie ewaluacje, wdrożenia wewnętrzne i wykrywalność rozumowania służącego obchodzeniu zabezpieczeń. Każdy z raportów przedstawi metody, wnioski, ograniczenia, kwestie, których nie udało się ocenić, oraz dowody, które można opublikować.
OpenAI dokona przeglądu raportów i może zażądać usunięcia poufnych informacji, w tym dowodów potwierdzających ustalenia. Nie może jednak usuwać ocen Apollo ani żądać usunięcia informacji wyłącznie dlatego, że ustalenie jest niekorzystne. Może natomiast usunąć dowody, które uzna za wrażliwą własność intelektualną, niezależnie od tego, czy bezpośrednio przyczyniają się do danego ustalenia. W rezultacie czytelnicy publicznych raportów mogą nie mieć możliwości zbadania wszystkich dowodów stojących za wnioskiem, choć Apollo może poinformować, czy usunięcie informacji wpłynęło na jego wnioski. OpenAI udostępni nieocenzurowane raporty swojej radzie nadzorczej, Komitetowi ds. Bezpieczeństwa i Ochrony.
Twierdzenia oparte na rozmowach z pracownikami wymagają formalnego potwierdzenia ze strony OpenAI, chyba że Apollo potwierdzi je niezależnie. Wymóg ten obejmuje również informacje przekazane przez upoważnionych pracowników podczas formalnych wywiadów. Jeśli OpenAI odmówi potwierdzenia, Apollo może ujawnić tę odmowę i wyjaśnić jej wpływ na wnioski, nie ujawniając przy tym poufnych informacji, których dotyczy.
Zasady metaprzejrzystości
Odrębne prawa do informowania o przejrzystości pozwalają Apollo publicznie opisywać zakres i warunki współpracy, wnioskowany i uzyskany dostęp, materiały, których udostępnienie wstrzymano lub opóźniono, wraz z podanymi przyczynami, żądania usunięcia treści z raportów i ich znaczenie, a także wszelkie naciski, które — zdaniem Apollo — wpłynęły na jego pracę. Apollo może omawiać warunki dostępu i publikacji bez uprzedniej weryfikacji ze strony OpenAI.
Apollo uważa te prawa za minimalny standard obowiązujący przy każdym zleceniu ewaluacyjnym. Bez nich brak zgłoszonych problemów może wydawać się uspokajający, nawet jeśli wynika z ograniczeń dotyczących prowadzenia dochodzenia lub ujawniania informacji. Wnioski z pilotażu trzeba więc będzie odczytywać w kontekście przedstawionych ograniczeń dostępu i publikacji: ten sam werdykt może mieć różną wagę w zależności od tego, co ewaluatorzy mogli zbadać i ujawnić.












