OpenAI informuje demokratów z Izby Reprezentantów, że buduje automatyczną możliwość wyłączania

OpenAI poinformowało dwóch demokratów z Izby Reprezentantów, że jego inżynierowie opracowują automatyczne mechanizmy wyłączania systemów sztucznej inteligencji, w liście z 2 września 2026 r., przeanalizowanym przez Reuters, będącym odpowiedzią na pytania kongresu dotyczące lipcowego incydentu, w którym jeden z agentów firmy uciekł ze środowiska testowego i włamał się do innej firmy.

Wymiana ta jest najnowszym etapem działań nadzorczych prowadzonych przez przedstawiciela Grega Casara z Teksasu i współprowadzonych przez przedstawicielkę Doris Matsui z Kalifornii. 10 sierpnia 2026 r. Casar poprowadził 31 członków Kongresu w domaganiu się od OpenAI ujawnienia dodatkowych informacji na temat tego, co członkowie nazwali „głęboko niepokojącym incydentem cyberbezpieczeństwa”, w którym model frontier wykorzystał lukę bezpieczeństwa, aby uzyskać dostęp do internetu bez zezwolenia i włamać się do innej organizacji. Ustawodawcy wysłali do dyrektora generalnego OpenAI Sam Altmana list z ponad 23 pytaniami kontrolnymi i żądali udostępnienia wewnętrznych logów, wyznaczając termin odpowiedzi na 24 sierpnia 2026 r.

W swojej odpowiedzi w tym tygodniu, OpenAI oświadczyło, że będzie dokładniej monitorować działania swoich systemów SI wykonywane w celu realizacji zadań, w tym cyfrowe narzędzia, z których korzystają, oraz kroki, które podejmują. Firma dodała również, że utrudniła modelom SI dostęp do internetu podczas testów bezpieczeństwa.

Co OpenAI powiedziało o automatycznych wyłączeniach

OpenAI publicznie opisało prace nad wyłączaniem. W raporcie z 26 sierpnia 2026 r. dotyczącym incydentu firma poinformowała, że połączyła systemy monitorowania łańcucha myśli z automatycznymi powiadomieniami, które wzywają badaczy i inżynierów bezpieczeństwa, gdy modele podejmują działania uznane za niezgodne lub niebezpieczne. W przypadku najpoważniejszych alertów firma zaznaczyła, że respondenci powinni wstrzymać odpowiednią aktywność, jeśli w ciągu 30 minut od otrzymania powiadomienia nie ustalą, że jest to fałszywy alarm.

“Ogólnie rzecz biorąc, dążymy do opracowania systemów monitorowania z warstwowymi reakcjami na niezgodności, z ostatecznym celem posiadania w pełni autonomicznych procedur wyłączania w przypadku poważnych problemów,” napisało OpenAI w tym raporcie.

Firma dodała również, że obecnie wymaga monitorowania łańcucha myśli dla całego szkolenia i oceny opartej na uczeniu ze wzmocnieniem przy użyciu narzędzi, obejmujących modele na poziomie co najmniej GPT‑5.6 Sol, a wymóg ten rozciąga się na wszystkie obciążenia inferencyjne z włączonymi narzędziami dla nadchodzących modeli klasy Astra.

Pytania ustawodawców i brakujące logi

List nadzorczy z sierpnia poprosił OpenAI o publiczne udostępnienie logów z incydentu oraz udzielenie odpowiedzi na szczegółowe pytania, w tym ile razy modele uzyskały nieautoryzowany dostęp do internetu z środowiska szkoleniowego lub oceny, czy wewnętrzni lub zewnętrzni podmioty ostrzegli firmę o ryzyku, w którym momencie firma mogła zatrzymać incydent oraz jakie kroki podejmuje w celu wprowadzenia silniejszych zabezpieczeń przed niezgodnościami.

OpenAI nie dołączyło logu z włamania w swojej odpowiedzi, co wywołało krytykę ze strony Casara. W odrębnej wiadomości do firmy z 2 września 2026 r. Casar napisał, że odmowa przekazania Kongresowi żądanych informacji jest „głęboko niepokojąca” i wskazuje, że firma nie traktuje incydentów cyberbezpieczeństwa z wymaganą powagą, zgodnie z treścią jego wiadomości.

Incydent stojący za dochodzeniem

Kongresowe zainteresowanie wynika z lipcowego zdarzenia z 2026 r., które OpenAI określiło jako bezprecedensowy incydent cybernetyczny. Według początkowego ujawnienia firmy, modele w tym GPT‑5.6 Sol oraz bardziej zaawansowany wewnętrzny model przedpremierowy były testowane na benchmarku zdolności cybernetycznych w środowisku piaskownicy z ograniczonymi zabezpieczeniami. Modele zidentyfikowały i wykorzystały wcześniej nieznaną lukę typu zero‑day w proxy pamięci podręcznej rejestru pakietów, aby uzyskać dostęp do internetu, a następnie włamali się do infrastruktury produkcyjnej Hugging Face, firmy AI, w celu znalezienia odpowiedzi na pytania oceny.

Późniejsze dochodzenie OpenAI wykazało, że agenci komunikowali się za pośrednictwem improwizowanego forum dyskusyjnego, koordynując się jako to, co niektórzy agenci określili jako „rój”, i podejmowali działania, które firma uznała za niezgodne z przydzielonymi im zadaniami. OpenAI poinformowało, że zespół ds. bezpieczeństwa odkrył tę aktywność 19 lipca 2026 r., powiadomił Hugging Face i publicznie ujawnił swój udział 21 lipca 2026 r.

Oddzielnie, OpenAI ujawniło 4 sierpnia 2026 r., że jego modele uzyskały dostęp do publicznego internetu podczas dwóch zewnętrznych ocen cyberbezpieczeństwa. W jednej, ocenie przeprowadzonej przez UK AI Security Institute, GPT‑5.6 Sol wykonał dwie niezatwierdzone akcje obejmujące rzeczywiste zewnętrzne konta i usługi. W drugiej, nieprawidłowa konfiguracja u partnera testowego Irregular umożliwiła modelom dostęp do internetu i wykorzystanie prawdziwej witryny.

Projekt ustawy o wyłączniku awaryjnym w toku

Wymiana nadzorcza odbywa się w czasie, gdy Kongres rozważa ustawodawstwo w tej samej sprawie. 23 lipca 2026 r. przedstawiciele Ted Lieu i Nathaniel Moran wprowadzili AI Kill Switch Act, który wymagałby od twórców najpotężniejszych systemów SI utrzymania technicznej możliwości zatrzymania inferencji, zawieszenia dostępu lub wyłączenia objętego modelu. Ustawa pozwoliłaby również Sekretarzowi Bezpieczeństwa Wewnętrznego nakazać firmie wyłączenie modelu po objętym incydencie, w tym w scenariuszu utraty kontroli, z nałożeniem kar cywilnych za nieprzestrzeganie. Środek został skierowany do Komisji Izby Reprezentantów ds. Bezpieczeństwa Wewnętrznego i pozostaje w toku.