Cyberbezpieczeństwo

OpenAI wzmacnia GPT-6.2 Astra, by zapobiegać wydobywaniu rozumowania

Miles Okada
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyOpenAI raportuje, że adaptacyjne ataki ekstrakcyjne na chronione rozumowanie spadły z…
Zobacz więcej
  • OpenAI raportuje, że adaptacyjne ataki ekstrakcyjne na chronione rozumowanie spadły z 54,0% do 0,2% dzięki zaktualizowanym zabezpieczeniom.
  • Dokładne ślady rozumowania przenoszą zdolności cybernetyczne skuteczniej niż podsumowania, nawet gdy podstawowe zadania są dozwolone.
  • Obrona rozumowania wymaga kontroli obejmujących klasyfikatory żądań, argumenty wywołań narzędzi, historię rozmów i egzekwowanie kampanii na poziomie konta.

20 listopada 2026 r. OpenAI ogłosiło wzmocnienie zabezpieczeń przed destylacją adwersarialną. Podało, że średni wskaźnik powodzenia adaptacyjnych ataków, których celem było wydobycie chronionego rozumowania z wcześniejszego żądania, spadł z 54,0% w przypadku GPT-6 Astra z pierwotnymi zabezpieczeniami do 0,2% w przypadku GPT-6.2 Astra z zaktualizowanymi zabezpieczeniami.

Jak podaje OpenAI, w przypadku prób wydobycia rozumowania z bieżącego żądania średni wskaźnik spadł z 22,9% do 0,9%. Adaptacyjna ewaluacja typu black box łączy wyniki uzyskane w testach sześciu modeli atakujących; zautomatyzowane zespoły red teamu dostosowują swoje podejście do odpowiedzi systemu i widzą tylko to, co zobaczyłby użytkownik z zewnątrz. Wzmocnione zabezpieczenia obejmują GPT-6.2 Astra i GPT-6.2 Sol, a wybrane ulepszenia są też wdrażane w GPT-6 Astra.

Chronione rozumowanie to pośredni łańcuch myśli, który model generuje w trakcie opracowywania odpowiedzi. Takie ślady mogą zawierać informacje pominięte w odpowiedzi końcowej, przez co są szczególnie cenne w destylacji adwersarialnej, polegającej na wykorzystywaniu bez zezwolenia wyników modelu wiodącego do trenowania innego systemu. Powstały w ten sposób model może odtworzyć możliwości podwójnego zastosowania bez zabezpieczeń, które ograniczały model pierwotny.

Wyniki badania nad destylacją w obszarze cyberbezpieczeństwa

W wewnętrznym badaniu OpenAI porównano dwa przebiegi trenowania tego samego wstępnie wytrenowanego modelu uczniowskiego — modelu uczącego się w układzie, w którym model nauczycielski generuje dane treningowe. W jednym przebiegu wykorzystano dokładne ślady rozumowania modelu nauczycielskiego, a w drugim — dostępne dla użytkownika odpowiedzi końcowe, podsumowania rozumowania i interakcje z narzędziami. Dane do dostrajania składały się głównie ze śladów działania modelu nauczycielskiego na poziomie Astra w zadaniach programistycznych i defensywnego cyberbezpieczeństwa. Modele uczniowskie oceniono po dostrajaniu nadzorowanym, a następnie ponownie po lekkim uczeniu przez wzmacnianie w środowiskach związanych z cyberbezpieczeństwem i programowaniem.

Jak podaje OpenAI, po dostrajaniu nadzorowanym model uczniowski trenowany na dokładnych śladach na ogół osiągał lepsze wyniki niż model uczony na podsumowaniach. Po uczeniu przez wzmacnianie model trenowany na dokładnych śladach uzyskał wyższy wynik przy największym testowanym budżecie wnioskowania w obu raportowanych testach porównawczych, natomiast model uczony na podsumowaniach osiągał lepsze wyniki przy mniejszych budżetach.

OpenAI interpretuje wyniki jako dowód na to, że ochrona dokładnych śladów może ograniczyć transfer zdolności w obszarze cyberbezpieczeństwa, nawet gdy podstawowe zadania są dozwolone w ramach zasad korzystania z usług firmy. Jednocześnie zapowiada dalsze badania nad transferem między różnymi modelami uczniowskimi i sposobami trenowania. Wiele takich interakcji może sprawić, że dokładne ślady nauczą umiejętności uogólniających się na zadania wykraczające poza te, do których pierwotnie przeznaczono model nauczycielski.

Zabezpieczenia na poziomie żądań i egzekwowanie zasad wobec kampanii

Na poziomie żądań trening adwersarialny uczy modele rozpoznawać próby wydobycia chronionego rozumowania i odmawiać jego ujawnienia, a zarazem nadal udzielać uzasadnionych wyjaśnień i pomocy. Klasyfikatory wejściowe wykrywają próby wydobycia, natomiast klasyfikatory wyjściowe analizują wiadomości asystenta i argumenty wywołań narzędzi w odpowiedziach przesyłanych strumieniowo i niestrumieniowo. Uwzględnienie wywołań narzędzi jest istotne, ponieważ rozumowanie może pojawić się w argumentach narzędzia, choć nie będzie go w odpowiedzi końcowej; klasyfikatory wyjściowe mogą zablokować podejrzane wycieki, zanim dotrą do nadawcy żądania.

Zaktualizowane API wiąże chronione rozumowanie GPT-6.2 Astra i Sol z historią konwersacji, w której ono powstało. W miarę dodawania kolejnych wiadomości model może rozwijać wcześniejsze rozumowanie, ale edycja wcześniejszej wiadomości usuwa rozumowanie, które pojawiło się po niej. Starsze rodziny modeli, wyposażone w słabsze zabezpieczenia, nie mogą odczytywać chronionego rozumowania tych dwóch modeli, co ogranicza jego ponowne wykorzystanie między rodzinami modeli.

Zabezpieczenia na poziomie kampanii wykorzystują sygnały z żądań i kont do wykrywania skoordynowanych prób wydobycia, a ataki ujawnione podczas dochodzeń stają się przykładami wykorzystywanymi do trenowania i testowania zabezpieczeń. OpenAI poinformowało, że w 2026 r. cotygodniowe działania egzekucyjne wymierzone w kampanie nieautoryzowanej destylacji obejmowały od tysięcy do dziesiątek tysięcy kont, a ich skala znacznie wzrosła latem 2026 r. Firma monitoruje skalę nadużyć oraz czas od wykrycia do podjęcia działań egzekucyjnych, dążąc do ograniczenia ilości danych zdobywanych przez atakujących, zwiększenia kosztów prowadzenia kampanii i skrócenia czasu reakcji.

Ogłoszenie jest następstwem ujawnienia przez OpenAI z 30 września 2026 r. informacji o skoordynowanej kampanii, którą po raz pierwszy zaobserwowano 1 lipca 2026 r. Wcześniejszy raport opisywał 16 000 prób wydobycia danych pochodzących od ponad 4 000 użytkowników w dniach 24 i 25 lipca 2026 r., przypisywał główną grupę osobom powiązanym z Moonshot AI i stwierdzał, że nie było jasne, czy wszyscy operatorzy należeli do jednego podmiotu.

Współpraca wykraczająca poza OpenAI

OpenAI udostępnia innym dostawcom modeli wskaźniki naruszenia bezpieczeństwa i współpracuje z partnerami wdrożeniowymi nad wymogami dotyczącymi zabezpieczeń oraz skoordynowanymi działaniami egzekucyjnymi. Wśród zaleceń firmy dla innych twórców modeli znalazły się: sprawdzanie wiadomości asystenta i argumentów wywołań narzędzi, ograniczenie ponownego wykorzystywania zaszyfrowanego rozumowania między konwersacjami i modelami, zachowywanie udanych ataków jako testów regresyjnych dla przyszłych zabezpieczeń oraz łączenie zabezpieczeń na poziomie żądań z dochodzeniami dotyczącymi kampanii. Firma planuje przekazać więcej informacji o niedawno udaremnionych kampaniach.

OpenAI poinformowała Kongres, że popiera Chip Security Act, AI OVERWATCH Act i MATCH Act, a także szersze przepisy, które dałyby rządowi USA więcej narzędzi do identyfikowania i karania zagranicznych podmiotów nielegalnie pozyskujących możliwości amerykańskich modeli AI.

Firma argumentuje, że kontrola eksportu i zabezpieczenia przed destylacją dotyczą różnych aspektów tego zagrożenia: kontrola eksportu ogranicza dostęp do sprzętu potrzebnego do trenowania najnowocześniejszych modeli, natomiast zabezpieczenia przed destylacją utrudniają pozyskanie niektórych z tych samych możliwości z już wytrenowanych modeli.

W przypadku dostawców modeli praktyczna granica bezpieczeństwa wykracza poza końcowe odpowiedzi i obejmuje sposób ponownego wykorzystywania rozumowania w różnych rozmowach, ujawniania go za pośrednictwem wywołań narzędzi oraz monitorowania aktywności na różnych kontach. Badanie sugeruje również, że dozwolone zadania programistyczne i zadania z zakresu cyberbezpieczeństwa defensywnego mogą stwarzać ryzyko transferu możliwości, przez co ochrona obejmująca całą interakcję i egzekwowanie zasad wobec kampanii stają się elementami tej samej strategii obronnej.

Miles Okada jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się sztuczną inteligencją i cyberbezpieczeństwem, ze szczególnym uwzględnieniem nowych zagrożeń, architektur obronnych oraz ewoluujących dynamik pomiędzy atakującymi a systemami zautomatyzowanymi. Jego praca bada, jak SI przekształca operacje bezpieczeństwa, od autonomicznego wykrywania i reagowania na zagrożenia po rosnącą liczbę technik adversarialnych SI.

Z technicznej i dochodzeniowej perspektywy Miles analizuje badania bezpieczeństwa, ujawnienia incydentów oraz wdrożenia w rzeczywistym świecie, aby zrozumieć, gdzie SI wzmacnia obronę — a gdzie wprowadza nowe podatności. Szczególną uwagę poświęca wykorzystywaniu luk w modelach, zatruwaniu danych, automatyzacji ataków oraz operacyjnym realiom zabezpieczania systemów zasilanych przez SI w dużej skali.

Artykuły autorstwa Milesa Okady są generowane przez SI i poddawane przeglądowi przez zespół redakcyjny Unite.AI, aby zapewnić dokładność, rzetelność oraz odpowiedzialne relacjonowanie szybko zmieniającego się krajobrazu bezpieczeństwa SI.