OpenAI kondigt rapport over gemeenschapsveiligheid en nieuwe beperkingen voor tieners rond wapens aan

OpenAI kondigde op 30 oktober 2026 een rapport over preventie van geweld aan, dat het elke zes maanden zal bijwerken. Tegelijkertijd introduceerde het bedrijf nieuwe beschermingsmaatregelen die de informatie over wapens beperken die tieners kunnen krijgen, en die aanscherpen hoe ChatGPT omgaat met vragen over massale aanslagen uit het verleden. Het bedrijf zei in het derde kwartaal van 2026 meer dan 200 meldingen te hebben gedaan bij wetshandhavingsinstanties.

Rapport over gemeenschapsveiligheid gepland voor begin 2027

OpenAI heeft toegezegd een rapport over gemeenschapsveiligheid uit te brengen, met aandacht voor de preventie van geweld en andere kwesties rond gemeenschapsveiligheid, evenals voor de effectiviteit van de beschermingsmaatregelen. Het bedrijf zei dat het rapport zal toelichten hoe het zijn systemen traint om kwesties rond gemeenschapsveiligheid te detecteren, te onderzoeken en erop te reageren. Ook zal het geanonimiseerde voorbeelden delen van manieren waarop schade door geweld zich voordoet, nieuwe maatregelen en beleidswijzigingen belichten en ondersteunende gegevens bevatten. Het eerste rapport staat gepland voor begin 2027 en zal de tweede helft van 2026 behandelen. Daarna volgen elke zes maanden updates.

OpenAI zei dat het rapport mensen een helder beeld moet geven van hoe de modellen schadelijk gedrag herkennen en erop reageren, welke risico’s het bedrijf in de praktijk ziet en welke stappen het neemt om die aan te pakken.

OpenAI zei dat zijn veiligheidswerk onder meer inhoudt dat dreigende geweldsincidenten onder de aandacht van wetshandhavingsinstanties worden gebracht, en dat deze meldingen een positief verschil maken bij het verstoren van gewelddadige plannen. Het bedrijf zei dat het moeilijke gevallen blijft beoordelen met behulp van deskundigen op het gebied van geestelijke gezondheid en gedrag. Ook beschreef het AI-bedrijven als partijen met een eigen rol, naast wetshandhavingsinstanties, familieleden, professionals in de geestelijke gezondheidszorg en beleidsmakers.

Strengere beperkingen voor inhoud over massale aanslagen

OpenAI zei dat zijn modellen zo worden getraind dat ze geen instructies geven waarmee iemand geweld zou kunnen plannen of plegen. Het bedrijf stelt aanvullende beperkingen in voor de manier waarop ChatGPT reageert op vragen over massale aanslagen uit het verleden en de mensen die deze hebben gepleegd. Het model moet daarbij minder gedetailleerde informatie geven, zelfs als die via andere online bronnen beschikbaar is. Het aangescherpte beleid beperkt reconstructies van eerdere massale aanslagen, waaronder details over de gebruikte wapens en uitrusting en over hoe die zijn verkregen. Ook worden gedetailleerde vergelijkingen van de omvang van de schade beperkt, omdat OpenAI zegt dat die de beruchtheid van een dader kunnen vergroten. De beperkingen gelden ongeacht de leeftijd van de gebruiker of de reden voor de vraag.

Mensen kunnen ChatGPT nog steeds vragen om hen te helpen deze gebeurtenissen te begrijpen, te achterhalen welke gevolgen ze hadden voor slachtoffers en gemeenschappen, waarschuwingssignalen te herkennen en toekomstig geweld te voorkomen.

In mei 2026 vertelde het bedrijf hoe ChatGPT korte, feitelijke samenvattingen van eerdere waarschuwingssignalen kan gebruiken om in een later gesprek zorgvuldiger te reageren. OpenAI bouwt daarop voort: wanneer recente gesprekken wijzen op mogelijk geweld, zal ChatGPT voorzichtiger reageren bij het delen van informatie die misbruikt zou kunnen worden. Het bedrijf werkt er ook aan deze strengere beperkingen toe te passen wanneer het voorspelt dat iemand jonger dan 18 is, zelfs als diens gesprekken geen tekenen van gewelddadige intenties vertonen.

OpenAI blokkeert accounts waarvan het vaststelt dat ze het beleid rond gewelddadige activiteiten hebben overtreden. Het bedrijf zei samen met deskundigen op het gebied van geestelijke gezondheid en geweldpreventie te werken aan aanvullende, geautomatiseerde manieren om eerder in te grijpen. Wanneer een gesprek erop wijst dat iemand zich vastbijt in geweld of in het idee een ander ernstig letsel toe te brengen, kan ChatGPT het gesprek automatisch beëindigen. Als ChatGPT om die reden meerdere gesprekken beëindigt, kan OpenAI het account tijdelijk opschorten.

Extra beschermingsmaatregelen voor gebruikers jonger dan 18

ChatGPT voor tieners past beschermingsmaatregelen toe die zijn afgestemd op de leeftijd van gebruikers jonger dan 18. OpenAI stelt daarnaast strengere beperkingen in voor de informatie over wapens die tieners kunnen krijgen, zelfs wanneer een vraag onschuldig lijkt. Het beleid van het bedrijf verbiedt al om iemand te helpen geweld te plannen of te plegen, en beperkt ook hulp aan tieners bij het vinden of verkrijgen van wapens. De uitbreiding beperkt praktische informatie over wapens en beveiligingssystemen die misbruikt zou kunnen worden om geweld te faciliteren, ook wanneer er geen tekenen zijn van gewelddadige intenties. OpenAI zei dat tieners ChatGPT nog steeds kunnen gebruiken om geweld te helpen voorkomen en de-escaleren, steun te zoeken en contact te leggen met een vertrouwde volwassene.

OpenAI zei zijn systeem voor leeftijdsschatting te hebben verbeterd. Dat systeem analyseert signalen zoals gedragspatronen om in te schatten of een gebruiker jonger of ouder dan 18 is, blijft nieuwe signalen beoordelen terwijl mensen ChatGPT gebruiken en plaatst gebruikers waar nodig in de ervaring voor jongeren onder de 18. Gebruikers die ten onrechte in die ervaring terechtkomen, kunnen via Persona, de partner van OpenAI voor leeftijdsverificatie, bevestigen dat ze volwassen zijn en de aanvullende beschermingsmaatregelen voor tieners laten verwijderen.

Gekoppelde accounts voor ouderlijk toezicht omvatten veiligheidsmeldingen die kunnen worden verstuurd wanneer speciaal opgeleide beoordelaars ernstige zorgen over zelfbeschadiging vaststellen, evenals gedrag dat kan wijzen op een eetstoornis. In juli 2026 breidde OpenAI deze meldingen uit, zodat ouders bericht krijgen als het account van een tiener is gedeactiveerd wegens schending van het gebruiksbeleid rond geweld. Het bedrijf zei te werken aan meldingen voor ouders wanneer het een account van een tiener opschort omdat die herhaaldelijk over geweld praat.

Deze maatregelen bouwen voort op de veiligheidsfuncties voor tieners die OpenAI eerder in 2026 introduceerde. Op 18 augustus 2026 lanceerde het bedrijf ChatGPT voor tieners. Gebruikers van wie wordt geschat dat ze jonger zijn dan 18 jaar, of die aangeven tussen de 13 en 17 jaar oud te zijn, krijgen automatisch een versie met standaardwaarborgen op basis van de principes voor gebruikers jonger dan 18 jaar in de Model Spec. Op 20 januari 2026 begon OpenAI met de uitrol van leeftijdsschatting voor consumentenabonnementen van ChatGPT. Daarbij worden gedrags- en accountgegevens gebruikt om in te schatten of een account waarschijnlijk toebehoort aan iemand jonger dan 18 jaar. In een update van 25 augustus 2026 staat dat de uitrol van het systeem in de EU was begonnen.

OpenAI zei dat de in de aankondiging beschreven waarborgen de komende weken gefaseerd worden uitgerold en dat het bedrijf ze verder zal blijven verfijnen.