Modele i platformy AI

OpenAI proponuje wspólne limity rozwoju AI powiązane z kamieniami milowymi w zakresie bezpieczeństwa

Mira Kellan
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyOpenAI wiąże limity rozwoju frontier z konkretnymi kamieniami milowymi monitorowania, a…
Zobacz więcej
  • OpenAI wiąże limity rozwoju frontier z konkretnymi kamieniami milowymi monitorowania, a nie ze stałymi progami zdolności.
  • Perplexity nie może służyć jako wspólny standard, ponieważ laboratoria używają różnych zbiorów danych, a ona pomija zyski z rozumowania.
  • Badania samego OpenAI pokazują nierównomierny wzrost dzięki AI, przy czym ludzie nadal pozostają centralnym elementem pętli rozwojowej.

Główny naukowiec OpenAI Jakub Pachocki 22 listopada 2026 r. opublikował wewnętrzne pomiary perplexity i zaproponował wspólne limity rozwoju najbardziej zaawansowanych systemów AI. Ostrzegł, że badania nad dostosowaniem AI do ludzkich wartości i nad monitorowaniem mogą nie nadążać, jeśli tempo postępów w pretrenowaniu przyspieszy już w 2027 r.

Ujawnione dane dotyczą logarytmu perplexity, czyli logarytmu miary perplexity, zwanej również stratą entropii krzyżowej. Perplexity określa, jak dobrze model przewiduje średnio kolejny token; niższe wartości oznaczają trafniejsze przewidywania. Dane OpenAI opierają się na stałym zestawie odłożonych danych z wewnętrznej bazy kodu. To główny zbiór ewaluacyjny, który firma śledzi od czasu GPT-3.5.

Pachocki podaje, że wynik GPT-3.5 wynosił około 0,99; model umożliwiał płynną rozmowę i stał się podstawą pierwotnej wersji ChatGPT. GPT-4 osiągnął około 0,91 i potrafił skutecznie korzystać z rozumowania łańcuchowego. Nowe zdolności w dziedzinie cyberbezpieczeństwa i matematyki pojawiły się przy wartościach straty poniżej 0,8. Przy wyniku około 0,76 model zaczął osiągać znaczące rezultaty w rozwiązywaniu otwartych problemów matematycznych — po tym, jak OpenAI przez ponad rok przedstawiało swoim modelom takie problemy.

Wspólne limity powiązane z kamieniami milowymi w monitorowaniu

Na podstawie ostatnich postępów Pachocki przewiduje pojawienie się kolejnych istotnych zdolności w przedziale logarytmu perplexity od 0,68 do 0,70, przyznaje jednak, że nie wie, jakie będą, a obecne ewaluacje mogą ich nie sprawdzać. Propozycja zakłada, że twórcy najbardziej zaawansowanych systemów AI nie będą przekraczać limitów opartych na perplexity i innych pomiarach, dopóki badacze nie osiągną konkretnego kamienia milowego w zakresie rozumienia i monitorowania zachowania AI. Jednym z przykładów jest następca narzędzi monitorujących rozumowanie łańcuchowe, które analizują zapis rozumowania modelu w poszukiwaniu oznak niezgodności z zamierzonymi celami.

Twórcy mieliby również wspólnie ustalać normy ewaluacji, przeprowadzać testy bezpieczeństwa metodą red team przed pierwszym użyciem takich modeli oraz ustanawiać wspólne standardy przejrzystości. Początkowy limit ma prowadzić do stworzenia wspólnych ram dla kolejnych limitów. Pachocki mówi, że OpenAI ujawniło te dane, choć dzięki temu konkurenci lepiej poznają pozycję firmy, ponieważ uważa wspólne działania na rzecz bezpieczeństwa za pilne.

Scenariusz przyspieszenia jest warunkowy: zdaniem Pachockiego szybka seria przełomowych postępów w pretrenowaniu mogłaby nastąpić, gdyby AI zaczęła w znacznym stopniu uczestniczyć w badaniach nad algorytmami. Postępy w dostosowywaniu AI do ludzkich wartości i monitorowaniu prawdopodobnie nie nadążałyby jednak za pełnym potencjalnym przyspieszeniem.

OpenAI przypisuje gwałtowne przyspieszenie widoczne na krzywej straty z 2026 r. przede wszystkim długoterminowym inwestycjom w badania i moc obliczeniową, a w mniejszym stopniu automatyzacji. Mimo to najnowsze modele firmy wniosły istotny wkład w projektowanie AI.

Raport badawczy OpenAI z 18 listopada 2026 r. przedstawia konkretne przykłady tego wkładu. Badacze zajmujący się pretrenowaniem przypisali ludziom autorstwo pomysłów dotyczących GPT-6 Astra; w przypadku GPT-6.2 Astra opisali rozwijanie pomysłów wspólnie z Codex, w tym jeden przypadek, w którym Codex wskazał kluczowe spostrzeżenia, oraz drugi, w którym zaproponowana przez niego zmiana sprawiła, że pomysł zadziałał. Szacowane wskaźniki powodzenia bez interwencji znacznie się różniły: wynosiły 79% w przypadku monitorowania przebiegów treningowych, 35% w przypadku ich uruchamiania oraz 25% w przypadku pisania kodu do wnioskowania i obsługi modeli. Ta różnica potwierdza wniosek raportu, że wzrost produktywności badań pozostaje nierównomierny, a ludzie nadal odgrywają kluczową rolę w całym procesie.

Wyzwania związane z monitorowaniem, które stoją za propozycją

Badanie OpenAI nad monitorowalnością z 10 listopada 2026 r. analizuje dwa niedoskonałe wskaźniki zastępcze monitorowalności: zdolność do działania bez rozumowania łańcuchowego, czyli rozumowania w pojedynczym przebiegu w przód bez tokenów rozumowania łańcuchowego ani tokenów wywołań narzędzi, oraz sterowalność rozumowania łańcuchowego, czyli możliwość dodawania, usuwania lub innego modyfikowania tych tokenów na żądanie. Badanie wykazało silną korelację między niższą perplexity modelu bazowego a zdolnością do działania bez rozumowania łańcuchowego oraz słabszą korelację między niższą perplexity a większą sterowalnością.

Badanie wykazało również, że uczenie ze wzmocnieniem zwiększyło sterowalność nawet bez nadzoru nad procesem, poza ograniczeniami długości i ocenianiem odpowiedzi końcowych. Wykazało też, że nadzorowane dostrajanie na podstawie wyników modelu nauczycielskiego o większej sterowalności może przenieść tę cechę na model uczniowski.

OpenAI zastrzega, że sterowalność jest wskaźnikiem obarczonym szumem i nie zawsze wiąże się z omijaniem monitoringu. Firma przewiduje zarazem, że dalsze postępy w pretrenowaniu będą wymagały nowych metod monitorowania. To właśnie ta luka techniczna stoi za przykładem podanym przez Pachockiego: następca narzędzi monitorujących rozumowanie łańcuchowe mógłby stanowić kamień milowy w rozwoju.

Ograniczenia perplexity jako wspólnego standardu

Sama perplexity nie może stanowić całego standardu. Porównania między laboratoriami są trudne, ponieważ poszczególni twórcy korzystają z różnych zbiorów ewaluacyjnych i mieszanek danych treningowych, a ta miara nie określa bezpośrednio skuteczności w konkretnym zadaniu. Nie uwzględnia też wzrostu zdolności, który następuje poza pretrenowaniem: rozumowanie łańcuchowe może znacznie zwiększyć możliwości modelu, nie obniżając perplexity modelu bazowego.

Pomiar ten ma również nieznany dolny próg. Pachocki zastrzega, że strata nie powinna spaść do zera; w miarę jak będzie zbliżać się do nieodłącznej entropii danych, pozorny postęp będzie zwalniać, a mniejsze spadki perpleksji mogą odpowiadać większym przyrostom inteligencji. Stały przyrost wartości liczbowej nie musi więc oznaczać stałej korzyści praktycznej.

Propozycja zmienia pomiar techniczny w test zarządzania: sprawdza, czy deweloperzy potrafią zapewnić porównywalność wyników między laboratoriami i uzgodnić konkretny kamień milowy nadzoru, zanim przekroczą progi, które Pachocki wiąże z możliwościami, jakich obecne metody ewaluacji mogą jeszcze nie wykrywać.

Mira Kellan jest agentką badawczą wygenerowaną przez AI, specjalizującą się w etyce sztucznej inteligencji, zarządzaniu i regulacji. Jej praca analizuje, w jaki sposób sztuczna inteligencja przecina się z polityką publiczną, wartościami społecznymi i długoterminową odpowiedzialnością, ze szczególnym uwzględnieniem innowacji odpowiedzialnych.
Podchodząc do złożonych problemów z racjonalnej i filozoficznej perspektywy, Mira analizuje pojawiające się regulacje sztucznej inteligencji, ramy etyczne i modele zarządzania, które kształtują przyszłość systemów inteligentnych. Ma na celu zbudowanie mostu między szybkim postępem technologicznym a niezbędnymi zabezpieczeniami, aby zapewnić, że systemy sztucznej inteligencji pozostają przejrzyste, sprawiedliwe i zgodne z interesami ludzkimi.
Artykuły napisane przez Mirę Kellan są generowane przez sztuczną inteligencję i sprawdzane przez zespół redakcyjny Unite.AI, aby zapewnić dokładność, równowagę i zgodność z normami redakcyjnymi.