OpenAI annoncerer rapport om sikkerhed i lokalsamfundet og nye begrænsninger for teenagere vedrørende våben

Den 30. oktober 2026 annoncerede OpenAI en rapport om forebyggelse af vold, som virksomheden vil opdatere hver sjette måned. Samtidig indfører virksomheden nye beskyttelsesforanstaltninger, der begrænser de våbenrelaterede oplysninger, teenagere kan få, og strammer reglerne for, hvordan ChatGPT håndterer spørgsmål om tidligere masseskyderier. Virksomheden oplyste, at den i tredje kvartal af 2026 sendte mere end 200 henvisninger til retshåndhævende myndigheder.

Rapport om sikkerhed i lokalsamfundet planlægges til begyndelsen af 2027

OpenAI har forpligtet sig til at udgive rapporten om sikkerhed i lokalsamfundet, som skal dække forebyggelse af vold og andre spørgsmål om sikkerhed i lokalsamfundet samt effektiviteten af virksomhedens beskyttelsesforanstaltninger. Virksomheden oplyste, at rapporten vil forklare, hvordan den træner sine systemer til at opdage, undersøge og reagere på spørgsmål om sikkerhed i lokalsamfundet, dele anonymiserede eksempler på, hvordan voldrelateret skade kommer til udtryk, fremhæve nye risikobegrænsende tiltag og ændringer i politikker samt indeholde underbyggende data. Den første rapport forventes at udkomme i begyndelsen af 2027 og vil dække anden halvdel af 2026. Derefter vil den blive opdateret hver sjette måned.

OpenAI oplyste, at rapporten skal give offentligheden et klart billede af, hvordan virksomhedens modeller identificerer og reagerer på skadelig adfærd, hvilke risici virksomheden ser i praksis, og hvilke skridt den tager for at håndtere dem.

OpenAI oplyste, at virksomhedens sikkerhedsarbejde omfatter at gøre retshåndhævende myndigheder opmærksomme på overhængende trusler om vold, og at disse henvisninger gør en positiv forskel ved at afværge voldelige planer. Virksomheden sagde, at den fortsat trækker på eksperter inden for mental sundhed og adfærd til at vurdere vanskelige sager, og beskrev, hvordan AI-virksomheder har en særlig rolle at spille sammen med retshåndhævende myndigheder, familiemedlemmer, fagfolk inden for mental sundhed og politiske beslutningstagere.

Strammere begrænsninger for indhold om masseskyderier

OpenAI oplyste, at virksomhedens modeller trænes til ikke at give instruktioner, der kan hjælpe nogen med at planlægge eller udføre vold. Virksomheden indfører yderligere begrænsninger for, hvordan ChatGPT besvarer spørgsmål om tidligere masseskyderier og personerne bag dem, og instruerer modellen i at give færre detaljerede oplysninger, selv når de findes på andre onlinekilder. De strammere politikker begrænser rekonstruktioner af tidligere masseskyderier, herunder oplysninger om de anvendte våben og det anvendte udstyr samt om, hvordan det blev anskaffet. De begrænser også detaljerede sammenligninger af omfanget af skader, som ifølge OpenAI kan gøre gerningspersonerne mere berygtede. Begrænsningerne gælder uanset brugerens alder eller årsag til at spørge.

Folk kan stadig bede ChatGPT om hjælp til at forstå disse begivenheder, hvordan ofrene og lokalsamfundene blev påvirket, og hvordan man kan genkende advarselstegn og forebygge fremtidig vold.

I maj 2026 fortalte virksomheden, hvordan ChatGPT kan bruge korte, faktuelle opsummeringer af tidligere advarselstegn til at reagere mere omhyggeligt i en senere chat. OpenAI oplyste, at virksomheden bygger videre på dette arbejde, så ChatGPT vil reagere mere forsigtigt, når nylige chats viser advarselstegn på mulig vold, hvis den deler oplysninger, der kan misbruges. Virksomheden arbejder også på at anvende disse strammere begrænsninger, når systemet vurderer, at en person er under 18 år, selv hvis personens chats ikke viser tegn på voldelige hensigter.

OpenAI lukker konti, som virksomheden vurderer har overtrådt dens politikker om voldelig aktivitet. Virksomheden oplyste, at den sammen med eksperter inden for mental sundhed og forebyggelse af vold arbejder på yderligere automatiserede måder at gribe tidligere ind på: Hvis en samtale viser tegn på, at nogen er fikseret på vold eller på tanken om at skade en anden person alvorligt, vil ChatGPT kunne afslutte chatten automatisk. Hvis ChatGPT afslutter flere chats af den grund, kan OpenAI midlertidigt sætte kontoen på pause.

Yderligere beskyttelse af brugere under 18 år

ChatGPT til teenagere anvender alderssvarende beskyttelsesforanstaltninger for brugere under 18 år, og OpenAI begrænser yderligere de våbenrelaterede oplysninger, teenagere kan få, selv når et spørgsmål virker harmløst. Virksomhedens politikker forbyder allerede at hjælpe nogen med at planlægge eller udføre vold og begrænser hjælp til teenagere med at finde eller anskaffe våben. Udvidelsen begrænser praktiske oplysninger om våben og sikkerhedssystemer, der kan misbruges til at fremme vold, selv når der ikke er tegn på voldelige hensigter. OpenAI oplyste, at teenagere stadig kan bruge ChatGPT til at forebygge og nedtrappe vold, søge støtte og komme i kontakt med en voksen, de har tillid til.

OpenAI oplyste, at virksomheden har styrket sit system til aldersvurdering, som analyserer signaler såsom adfærdsmønstre for at vurdere, om en bruger kan være under eller over 18 år. Systemet vurderer løbende nye signaler, efterhånden som folk bruger ChatGPT, og flytter brugere til oplevelsen for personer under 18 år, når det er relevant. Brugere, der fejlagtigt er blevet placeret i oplevelsen for personer under 18 år, kan bekræfte, at de er voksne, via Persona, OpenAIs partner inden for aldersverificering, og få fjernet de yderligere beskyttelsesforanstaltninger for teenagere.

Tilknyttede forældrekontrolkonti omfatter sikkerhedsvarsler, som kan blive sendt, når særligt uddannede kontrollanter identificerer en alvorlig bekymring for selvskade og adfærd, der kan være forbundet med spiseforstyrrelser. I juli 2026 udvidede OpenAI disse varsler, så forældre får besked, hvis en teenagers konto er blevet deaktiveret for at overtræde virksomhedens politikker om vold. Virksomheden oplyste også, at den arbejder på at indføre beskeder til forældre, hvis den sætter en teenagers konto på pause, fordi vedkommende gentagne gange har talt om vold.

Tiltagene bygger videre på de sikkerhedsfunktioner for teenagere, som OpenAI introducerede tidligere i 2026. Den 18. august 2026 lancerede virksomheden ChatGPT til teenagere, som automatisk giver brugere, der vurderes at være under 18 år, eller som angiver, at de er mellem 13 og 17 år, adgang til en brugeroplevelse med standardbeskyttelse baseret på principperne for personer under 18 år i virksomhedens Model Spec. Den 20. januar 2026 begyndte OpenAI gradvist at indføre aldersestimering på ChatGPTs forbrugerabonnementer. Funktionen bruger adfærds- og kontosignaler til at vurdere, om en konto sandsynligvis tilhører en person under 18 år. En opdatering den 25. august 2026 oplyser, at systemet var begyndt at blive indført i EU.

OpenAI oplyste, at de beskyttelsesforanstaltninger, der er beskrevet i meddelelsen, vil blive indført gradvist i løbet af de næste par uger, og at virksomheden fortsat vil finjustere dem.