OpenAI oznamuje zprávu o bezpečnosti komunit a nová omezení informací o zbraních pro dospívající

OpenAI 30. října 2026 oznámila zprávu o prevenci násilí a bezpečnosti komunit, kterou bude aktualizovat každých šest měsíců. Zároveň představila nová ochranná opatření, která omezují přístup dospívajících k informacím o zbraních a zpřísňují způsob, jakým ChatGPT odpovídá na otázky o minulých hromadných útocích. Společnost uvedla, že ve třetím čtvrtletí roku 2026 předala orgánům činným v trestním řízení více než 200 podnětů.

Zpráva o bezpečnosti komunit se chystá na začátek roku 2027

OpenAI se zavázala vydat Zprávu o bezpečnosti komunit, která se bude zabývat prevencí násilí a dalšími otázkami bezpečnosti komunit i účinností ochranných opatření. Společnost uvedla, že zpráva vysvětlí, jak své systémy trénuje k odhalování, vyšetřování a řešení problémů souvisejících s bezpečností komunit, přinese anonymizované příklady toho, jak se projevují škody spojené s násilím, upozorní na nová opatření ke zmírnění rizik a změny pravidel a doplní je podpůrnými daty. První zpráva má vyjít na začátku roku 2027 a bude se vztahovat k druhé polovině roku 2026; poté budou následovat aktualizace každých šest měsíců.

OpenAI uvedla, že cílem zprávy je poskytnout lidem jasnou představu o tom, jak její modely rozpoznávají škodlivé chování a reagují na něj, jaká rizika zaznamenává v praxi a jaké kroky podniká k jejich řešení.

OpenAI uvedla, že její bezpečnostní práce zahrnuje upozorňování orgánů činných v trestním řízení na bezprostřední hrozby násilí a že tato oznámení pomáhají mařit násilné plány. Společnost uvedla, že při posuzování složitých případů nadále spoléhá na odborníky na duševní zdraví a chování. Popsala také, že společnosti vyvíjející umělou inteligenci mají vedle orgánů činných v trestním řízení, rodinných příslušníků, odborníků na duševní zdraví a tvůrců politik sehrávat specifickou roli.

Přísnější omezení obsahu o hromadných útocích

OpenAI uvedla, že její modely jsou trénovány tak, aby neposkytovaly pokyny, které by někomu pomohly naplánovat nebo uskutečnit násilný čin. Společnost zavádí další omezení toho, jak ChatGPT odpovídá na otázky o minulých hromadných útocích a jejich pachatelích, a vede model k tomu, aby poskytoval méně podrobné informace, i když jsou dostupné z jiných online zdrojů. Zpřísněná pravidla omezují rekonstrukce minulých hromadných útoků, včetně podrobností o použitých zbraních a vybavení a o tom, jak byly získány, i podrobná srovnání rozsahu způsobených škod, která by podle OpenAI mohla posílit pachatelovu nechvalnou proslulost. Tato omezení platí bez ohledu na věk uživatele nebo důvod, proč se ptá.

Lidé se přesto mohou ChatGPT ptát, aby jim pomohl porozumět těmto událostem, jejich dopadům na oběti a komunity i tomu, jak rozpoznat varovné signály a předcházet budoucímu násilí.

V květnu 2026 společnost popsala, jak může ChatGPT využívat krátká, věcná shrnutí dřívějších varovných signálů a díky nim reagovat opatrněji v pozdější konverzaci. OpenAI uvedla, že na této práci staví: pokud nedávné konverzace naznačují možné násilí, bude ChatGPT při sdílení informací, které by mohly být zneužity, reagovat obezřetněji. Společnost také pracuje na tom, aby tato přísnější omezení uplatňovala v případech, kdy odhaduje, že je uživateli méně než 18 let, a to i tehdy, když jeho konverzace nenaznačují násilné úmysly.

OpenAI ruší účty, u nichž zjistí porušení pravidel týkajících se násilného jednání. Společnost uvedla, že spolupracuje s odborníky na duševní zdraví a prevenci násilí na dalších automatizovaných způsobech, jak zasáhnout dříve: pokud konverzace naznačuje, že se někdo upíná k násilí nebo k myšlence vážně ublížit jiné osobě, ChatGPT bude moci konverzaci automaticky ukončit. Pokud ChatGPT z tohoto důvodu ukončí více konverzací, může OpenAI účet dočasně pozastavit.

Další ochranná opatření pro uživatele mladší 18 let

ChatGPT pro dospívající uplatňuje ochranná opatření přiměřená věku uživatelů mladších 18 let a OpenAI dále omezuje informace o zbraních, které mohou dospívající získat, i když otázka působí neškodně. Pravidla společnosti již zakazují pomáhat komukoli plánovat nebo uskutečnit násilný čin a omezují pomoc dospívajícím při hledání nebo získávání zbraní. Nově se omezení vztahují také na praktické informace o zbraních a bezpečnostních systémech, které by mohly být zneužity k usnadnění násilí, a to i v případech, kdy nic nenasvědčuje násilným úmyslům. OpenAI uvedla, že dospívající mohou ChatGPT nadále využívat k prevenci a zmírňování násilí, k vyhledání podpory a ke spojení s důvěryhodným dospělým.

OpenAI uvedla, že zdokonalila systém odhadu věku, který analyzuje například vzorce chování, aby odhadl, zda je uživateli méně, nebo více než 18 let. Systém má průběžně vyhodnocovat nové signály, když lidé používají ChatGPT, a v případě potřeby přesunout uživatele do prostředí určeného osobám mladším 18 let. Uživatelé, kteří se do tohoto prostředí dostanou omylem, mohou potvrdit, že jsou dospělí, prostřednictvím společnosti Persona, partnera OpenAI pro ověřování věku, a nechat si odstranit dodatečná ochranná opatření pro dospívající.

Propojené účty rodičovské kontroly zahrnují bezpečnostní upozornění, která mohou být odeslána, když speciálně vyškolení hodnotitelé zjistí závažné obavy ze sebepoškozování nebo chování, které může souviset s poruchami příjmu potravy. V červenci 2026 OpenAI tato upozornění rozšířila: rodiče nyní mohou být informováni, pokud byl účet dospívajícího deaktivován kvůli porušení pravidel používání týkajících se násilí. Společnost uvedla, že pracuje také na zavedení upozornění pro rodiče v případě, že pozastaví účet dospívajícího za opakované diskuse o násilí.

Tato opatření navazují na funkce pro bezpečnost dospívajících, které OpenAI představila začátkem roku 2026. Společnost 18. srpna 2026 spustila ChatGPT pro dospívající a uživatele, u nichž se odhaduje, že jsou mladší 18 let, nebo kteří uvedou věk od 13 do 17 let, automaticky převedla do prostředí s výchozími ochrannými opatřeními založenými na zásadách pro osoby mladší 18 let uvedených v dokumentu Model Spec. OpenAI začala 20. ledna 2026 postupně zavádět odhad věku v rámci spotřebitelských tarifů ChatGPT. Pomocí signálů vycházejících z chování a údajů o účtu systém odhaduje, zda účet pravděpodobně patří osobě mladší 18 let; aktualizace z 25. srpna 2026 uvádí, že zavádění systému již začalo v EU.

OpenAI uvedla, že ochranná opatření popsaná v oznámení začne zavádět během několika příštích týdnů a bude je nadále zdokonalovat.