OpenAI tillkännager rapport om samhällssäkerhet och nya begränsningar för tonåringar gällande vapen

Den 30 oktober 2026 tillkännagav OpenAI en rapport om förebyggande av våld som ska uppdateras var sjätte månad, tillsammans med nya skyddsåtgärder som begränsar vilken information om vapen tonåringar får tillgång till och skärper hur ChatGPT hanterar frågor om tidigare massattacker. Företaget uppgav att det gjorde fler än 200 överlämningar till brottsbekämpande myndigheter under tredje kvartalet 2026.

Rapport om samhällssäkerhet planeras till början av 2027

OpenAI har åtagit sig att lansera rapporten om samhällssäkerhet, som ska behandla förebyggande av våld och andra frågor som rör samhällssäkerhet samt hur effektiva företagets skyddsåtgärder är. Företaget uppgav att rapporten ska förklara hur det tränar sina system att upptäcka, utreda och hantera frågor som rör samhällssäkerhet, dela anonymiserade exempel på hur våldsrelaterad skada tar sig uttryck, lyfta fram nya åtgärder för att minska risker och policyändringar samt innehålla underlag i form av data. Den första rapporten planeras till början av 2027 och ska behandla andra halvåret 2026. Därefter ska den uppdateras var sjätte månad.

OpenAI uppgav att rapporten ska ge människor en tydlig bild av hur företagets modeller identifierar och hanterar skadligt beteende, vilka risker företaget ser i praktiken och vilka åtgärder det vidtar för att hantera dem.

OpenAI uppgav att företagets säkerhetsarbete bland annat innebär att uppmärksamma brottsbekämpande myndigheter på överhängande våldshot och att dessa överlämningar gör positiv skillnad genom att bidra till att avvärja våldsplaner. Företaget sade att det fortsätter att ta hjälp av experter inom psykisk hälsa och beteendevetenskap för att bedöma svåra fall. Det beskrev också AI-företag som aktörer med en särskild roll att spela tillsammans med brottsbekämpande myndigheter, familjemedlemmar, yrkesverksamma inom psykisk hälsa och beslutsfattare.

Skärpta begränsningar för innehåll om massattacker

OpenAI uppgav att företagets modeller tränas att inte ge instruktioner som skulle kunna hjälpa någon att planera eller utföra våldshandlingar. Företaget inför ytterligare begränsningar för hur ChatGPT svarar på frågor om tidigare massattacker och personerna som utförde dem. Modellen ska ge mindre detaljerad information, även när den finns tillgänglig från andra källor på nätet. De skärpta reglerna begränsar rekonstruktioner av tidigare massattacker, bland annat uppgifter om vilka vapen och vilken utrustning som användes och hur de införskaffades, liksom detaljerade jämförelser av skadornas omfattning, som OpenAI uppgav skulle kunna öka gärningspersonens ryktbarhet. Begränsningarna gäller oavsett användarens ålder eller skälet till frågan.

Det går fortfarande att be ChatGPT om hjälp med att förstå sådana händelser, hur offren och lokalsamhällena påverkades samt hur man känner igen varningstecken och förebygger framtida våld.

I maj 2026 berättade företaget hur ChatGPT kan använda korta, faktabaserade sammanfattningar av tidigare varningstecken för att svara mer försiktigt i en senare chatt. OpenAI uppgav att företaget bygger vidare på det arbetet, så att ChatGPT svarar mer återhållsamt när det delar information som skulle kunna missbrukas, om de senaste chattarna visar varningstecken på möjligt våld. Företaget arbetar också med att tillämpa de strängare begränsningarna när systemet bedömer att någon är under 18 år, även om personens chattar inte visar några tecken på våldsavsikt.

OpenAI stänger av konton som företaget bedömer har brutit mot dess regler för våldsamt beteende. Företaget uppgav att det tillsammans med experter på psykisk hälsa och våldsförebyggande arbete utvecklar ytterligare automatiserade sätt att ingripa tidigare: om en konversation visar tecken på att någon är fixerad vid våld eller tanken på att allvarligt skada en annan person ska ChatGPT kunna avsluta chatten automatiskt. Om ChatGPT avslutar flera chattar av det skälet kan OpenAI tillfälligt pausa kontot.

Ytterligare skyddsåtgärder för användare under 18 år

ChatGPT för tonåringar har åldersanpassade skyddsåtgärder för användare under 18 år, och OpenAI inför ytterligare begränsningar för vilken information om vapen tonåringar kan få, även när en fråga verkar harmlös. Företagets regler förbjuder redan att hjälpa någon att planera eller utföra våldshandlingar och begränsar hjälpen till tonåringar med att hitta eller skaffa vapen. De utökade reglerna begränsar praktisk information om vapen och säkerhetssystem som skulle kunna missbrukas för att underlätta våld, även när det inte finns några tecken på våldsavsikt. OpenAI uppgav att tonåringar fortfarande kan använda ChatGPT för att förebygga och trappa ned våld, söka stöd och få kontakt med en betrodd vuxen.

OpenAI uppgav att företaget har förbättrat sitt system för åldersbedömning, som analyserar signaler som beteendemönster för att uppskatta om en användare är under eller över 18 år. Systemet bedömer fortlöpande nya signaler medan människor använder ChatGPT och flyttar vid behov användare till upplevelsen för personer under 18 år. Användare som felaktigt har placerats i den upplevelsen kan bekräfta att de är vuxna via Persona, OpenAI:s partner för åldersverifiering, och få de extra skyddsåtgärderna för tonåringar borttagna.

Länkade konton med föräldrakontroller har säkerhetsaviseringar som kan skickas när särskilt utbildade granskare upptäcker allvarlig oro för självskadebeteende och beteenden som kan förknippas med ätstörningar. I juli 2026 utökade OpenAI aviseringarna så att föräldrar meddelas om en tonårings konto har inaktiverats för brott mot användningsreglerna om våld. Företaget uppgav också att det arbetar med att införa aviseringar till föräldrar om det pausar en tonårings konto för att tonåringen upprepade gånger har diskuterat våld.

Åtgärderna bygger vidare på säkerhetsfunktioner för tonåringar som OpenAI införde tidigare under 2026. Företaget lanserade ChatGPT för tonåringar den 18 augusti 2026 och placerade automatiskt användare som bedöms vara under 18 år, eller som uppger att de är mellan 13 och 17 år, i en upplevelse med standardskyddsåtgärder baserade på principerna för personer under 18 år i företagets Model Spec. Den 20 januari 2026 började OpenAI införa åldersprediktion i ChatGPT-abonnemang för konsumenter. Funktionen använder beteendesignaler och signaler på kontonivå för att uppskatta om ett konto sannolikt tillhör någon under 18 år. I en uppdatering den 25 augusti 2026 uppgav företaget att systemet hade börjat införas i EU.

OpenAI uppgav att skyddsåtgärderna som beskrivs i tillkännagivandet kommer att börja införas inom de närmaste veckorna och att företaget kommer att fortsätta att förbättra dem.