OpenAI zapowiada raport o bezpieczeństwie społeczności i nowe ograniczenia dotyczące broni dla nastolatków

30 października 2026 r. OpenAI zapowiedziało publikację raportu o bezpieczeństwie społeczności, poświęconego zapobieganiu przemocy i aktualizowanego co sześć miesięcy. Jednocześnie firma wprowadza nowe zabezpieczenia, które ograniczają dostęp nastolatków do informacji o broni, oraz zaostrza zasady odpowiadania przez ChatGPT na pytania o dawne masowe ataki. Poinformowała też, że w trzecim kwartale 2026 r. przekazała organom ścigania ponad 200 zgłoszeń.

Raport o bezpieczeństwie społeczności ma ukazać się na początku 2027 r.

OpenAI zobowiązało się opublikować raport o bezpieczeństwie społeczności, który będzie dotyczyć zapobiegania przemocy i innych kwestii związanych z bezpieczeństwem społeczności, a także skuteczności stosowanych zabezpieczeń. Firma poinformowała, że raport wyjaśni, jak szkoli swoje systemy w zakresie wykrywania problemów dotyczących bezpieczeństwa społeczności, prowadzenia ich analizy i reagowania na nie; przedstawi anonimowe przykłady przejawów szkód związanych z przemocą, omówi nowe środki ograniczające ryzyko i zmiany w zasadach oraz zawrze dane na poparcie tych informacji. Pierwszy raport ma ukazać się na początku 2027 r. i obejmie drugą połowę 2026 r. Kolejne aktualizacje będą publikowane co sześć miesięcy.

OpenAI poinformowało, że celem raportu jest jasne przedstawienie tego, jak modele firmy rozpoznają szkodliwe zachowania i na nie reagują, jakie zagrożenia dostrzega ona w praktyce oraz jakie działania podejmuje, by im przeciwdziałać.

OpenAI poinformowało, że jego działania na rzecz bezpieczeństwa obejmują zgłaszanie organom ścigania bezpośrednich gróźb przemocy i że zgłoszenia te przyczyniają się do udaremniania brutalnych spisków. Firma zaznaczyła, że wciąż korzysta z pomocy ekspertów w dziedzinie zdrowia psychicznego i zachowań, którzy oceniają trudne przypadki. Podkreśliła też, że firmy zajmujące się sztuczną inteligencją mają do odegrania odrębną rolę, obok organów ścigania, członków rodzin, specjalistów zdrowia psychicznego i decydentów.

Zaostrzone ograniczenia dotyczące treści o masowych atakach

OpenAI poinformowało, że jego modele są szkolone tak, aby nie udzielały instrukcji, które mogłyby pomóc komuś zaplanować lub przeprowadzić akt przemocy. Firma wprowadza dodatkowe ograniczenia dotyczące sposobu, w jaki ChatGPT odpowiada na pytania o dawne masowe ataki i osoby, które je przeprowadziły. Model ma przekazywać mniej szczegółowe informacje, nawet jeśli są dostępne w innych źródłach internetowych. Zaostrzone zasady ograniczają możliwość odtwarzania przebiegu dawnych masowych ataków, w tym podawania szczegółów dotyczących użytej broni i sprzętu oraz sposobu ich zdobycia. Ograniczają również szczegółowe porównania skali wyrządzonych szkód, które — jak stwierdziło OpenAI — mogłyby przysporzyć sprawcy rozgłosu. Ograniczenia obowiązują niezależnie od wieku użytkownika i powodu, dla którego zadaje pytanie.

Użytkownicy nadal mogą prosić ChatGPT o pomoc w zrozumieniu tych wydarzeń, ich wpływu na ofiary i społeczności, a także o wskazanie sygnałów ostrzegawczych i sposobów zapobiegania przyszłej przemocy.

W maju 2026 r. firma opisała, jak ChatGPT może wykorzystywać krótkie, rzeczowe podsumowania wcześniejszych sygnałów ostrzegawczych, by ostrożniej odpowiadać w późniejszej rozmowie. OpenAI poinformowało, że rozwija te rozwiązania: jeśli niedawne rozmowy będą wskazywać na możliwą przemoc, ChatGPT będzie zachowywać większą ostrożność przy przekazywaniu informacji, które można wykorzystać w szkodliwy sposób. Firma pracuje też nad stosowaniem tych surowszych ograniczeń, gdy system przewidzi, że użytkownik ma mniej niż 18 lat — nawet jeśli jego rozmowy nie wskazują na zamiar użycia przemocy.

OpenAI blokuje konta, których użytkownicy — w ocenie firmy — naruszyli zasady dotyczące działań związanych z przemocą. Firma poinformowała, że we współpracy z ekspertami w dziedzinie zdrowia psychicznego i zapobiegania przemocy pracuje nad dodatkowymi, zautomatyzowanymi sposobami wcześniejszej interwencji. Jeśli rozmowa będzie wskazywać, że ktoś skupia się na przemocy lub myśli o poważnym skrzywdzeniu innej osoby, ChatGPT będzie mógł automatycznie ją zakończyć. Jeśli z tego powodu ChatGPT zakończy kilka rozmów, OpenAI może tymczasowo zawiesić konto.

Dodatkowe zabezpieczenia dla osób poniżej 18. roku życia

ChatGPT dla nastolatków stosuje zabezpieczenia dostosowane do wieku użytkowników poniżej 18. roku życia. OpenAI wprowadza też dalsze ograniczenia dotyczące informacji o broni, które mogą otrzymywać nastolatkowie, nawet jeśli pytanie wydaje się nieszkodliwe. Zasady firmy już teraz zabraniają pomagania komukolwiek w planowaniu lub przeprowadzaniu aktów przemocy, a także ograniczają pomoc nastolatkom w znajdowaniu lub zdobywaniu broni. Rozszerzenie tych zasad ogranicza dostęp do praktycznych informacji o broni i systemach bezpieczeństwa, które można wykorzystać do ułatwienia przemocy — nawet jeśli nic nie wskazuje na zamiar jej użycia. OpenAI poinformowało, że nastolatkowie nadal mogą korzystać z ChatGPT, aby zapobiegać przemocy i łagodzić jej skutki, szukać wsparcia oraz skontaktować się z zaufaną osobą dorosłą.

OpenAI poinformowało, że udoskonaliło system przewidywania wieku, który analizuje między innymi wzorce zachowań, by oszacować, czy użytkownik ma mniej, czy więcej niż 18 lat. System stale ocenia nowe sygnały pojawiające się podczas korzystania z ChatGPT i w razie potrzeby przenosi użytkowników do środowiska przeznaczonego dla osób poniżej 18. roku życia. Użytkownicy, którzy omyłkowo trafili do tego środowiska, mogą potwierdzić pełnoletność za pośrednictwem Persona, partnera OpenAI w zakresie weryfikacji wieku, i usunąć dodatkowe zabezpieczenia dla nastolatków ze swojego konta.

Na połączonych z kontami rodziców kontach włączono alerty bezpieczeństwa, które mogą być wysyłane, gdy specjalnie przeszkoleni recenzenci wykryją poważne obawy dotyczące samookaleczeń oraz zachowania mogące mieć związek z zaburzeniami odżywiania. W lipcu 2026 r. OpenAI rozszerzyło te alerty, aby powiadamiać rodziców o dezaktywacji konta nastolatka z powodu naruszenia zasad korzystania z usługi dotyczących przemocy. Firma poinformowała również, że pracuje nad powiadamianiem rodziców, gdy zawiesi konto nastolatka za wielokrotne rozmowy o przemocy.

Środki te stanowią rozwinięcie funkcji bezpieczeństwa dla nastolatków, które OpenAI wprowadziło wcześniej w 2026 roku. 18 sierpnia 2026 roku firma uruchomiła ChatGPT dla nastolatków, automatycznie kierując użytkowników, których wiek oszacowano na poniżej 18 lat lub którzy zadeklarowali wiek od 13 do 17 lat, do wersji z domyślnymi zabezpieczeniami opartymi na zasadach dla osób poniżej 18. roku życia zawartych w dokumencie Model Spec. 20 stycznia 2026 roku OpenAI rozpoczęło wdrażanie funkcji przewidywania wieku w konsumenckich planach ChatGPT. Wykorzystuje ona sygnały behawioralne i dane dotyczące konta, by oszacować, czy konto prawdopodobnie należy do osoby poniżej 18. roku życia. Z aktualizacji z 25 sierpnia 2026 roku wynika, że system zaczęto już wdrażać w UE.

OpenAI poinformowało, że wdrażanie zabezpieczeń opisanych w komunikacie rozpocznie się w ciągu najbliższych kilku tygodni, a firma będzie je nadal udoskonalać.