Etikk
OpenAI kunngjør rapport om trygghet i lokalsamfunnet og nye begrensninger på våpenrelatert innhold for tenåringer
Legg til Unite.AI blant dine foretrukne kilder på Google
30. oktober 2026 kunngjorde OpenAI at selskapet vil utarbeide en rapport om forebygging av vold og oppdatere den hvert halvår. Samtidig innfører selskapet nye beskyttelsestiltak som begrenser hvilken informasjon om våpen tenåringer får tilgang til, og strammer inn på hvordan ChatGPT håndterer spørsmål om tidligere masseangrep. OpenAI opplyste at selskapet sendte over 200 varsler til politiet i tredje kvartal 2026.
Rapport om trygghet i lokalsamfunnet planlegges tidlig i 2027
OpenAI har forpliktet seg til å lansere rapporten om trygghet i lokalsamfunnet, som skal dekke forebygging av vold og andre spørsmål knyttet til trygghet i lokalsamfunnet, samt hvor effektive selskapets beskyttelsestiltak er. Selskapet opplyste at rapporten vil forklare hvordan det trener systemene sine til å oppdage, undersøke og håndtere spørsmål knyttet til trygghet i lokalsamfunnet, dele anonymiserte eksempler på hvordan vold kan føre til skade, løfte fram nye risikoreduserende tiltak og policyendringer og inkludere underbyggende data. Den første rapporten er planlagt tidlig i 2027 og vil dekke andre halvdel av 2026. Deretter skal den oppdateres hvert halvår.
OpenAI sa at rapporten skal gi folk et tydelig bilde av hvordan selskapets modeller oppdager og håndterer skadelig atferd, hvilke risikoer selskapet ser i praksis, og hvilke tiltak det iverksetter for å håndtere dem.
OpenAI sa at sikkerhetsarbeidet omfatter å varsle politiet om overhengende trusler om vold, og at disse varslene bidrar positivt til å avverge voldelige planer. Selskapet sa at det fortsatt bruker eksperter på psykisk helse og atferd til å vurdere vanskelige saker, og beskrev AI-selskaper som aktører med en egen rolle ved siden av politiet, familiemedlemmer, fagfolk innen psykisk helse og beslutningstakere.
Strengere begrensninger på innhold om masseangrep
OpenAI sa at modellene deres trenes opp til ikke å gi instruksjoner som kan hjelpe noen med å planlegge eller utføre vold. Selskapet innfører ytterligere begrensninger på hvordan ChatGPT svarer på spørsmål om tidligere masseangrep og personene som sto bak dem. Modellen skal gi mindre detaljerte svar, selv når informasjonen finnes i andre nettkilder. De innstrammede retningslinjene begrenser rekonstruksjoner av tidligere masseangrep, blant annet detaljer om våpnene og utstyret som ble brukt, og hvordan dette ble skaffet. De begrenser også detaljerte sammenligninger av skadeomfang, som OpenAI sier kan bidra til å gjøre gjerningspersonen mer beryktet. Begrensningene gjelder uavhengig av brukerens alder eller grunn til å spørre.
Folk kan fortsatt be ChatGPT om hjelp til å forstå disse hendelsene, hvordan ofre og lokalsamfunn ble rammet, og hvordan man kan gjenkjenne varselsignaler og forebygge framtidig vold.
I mai 2026 fortalte selskapet hvordan ChatGPT kan bruke korte, faktabaserte oppsummeringer av tidligere varselsignaler for å svare mer forsiktig i en senere samtale. OpenAI sa at selskapet bygger videre på dette arbeidet, slik at ChatGPT vil svare mer restriktivt når nylige samtaler viser varselsignaler om mulig vold, særlig når modellen deler informasjon som kan misbrukes. Selskapet arbeider også med å innføre disse strengere begrensningene når det anslår at en person er under 18 år, selv om samtalene ikke viser tegn til voldelige hensikter.
OpenAI stenger kontoer som selskapet fastslår har brutt retningslinjene for voldelig aktivitet. Selskapet sa at det samarbeider med eksperter på psykisk helse og forebygging av vold om ytterligere automatiserte tiltak for å gripe inn tidligere. Hvis en samtale viser tegn på at noen er opphengt i vold eller tanken på å påføre en annen person alvorlig skade, skal ChatGPT kunne avslutte samtalen automatisk. Hvis ChatGPT avslutter flere samtaler av den grunn, kan OpenAI sette kontoen på pause midlertidig.
Flere beskyttelsestiltak for brukere under 18 år
ChatGPT for tenåringer bruker alderstilpassede beskyttelsestiltak for brukere under 18 år, og OpenAI innfører ytterligere begrensninger på hvilken informasjon om våpen tenåringer kan få, selv når et spørsmål virker harmløst. Selskapets retningslinjer forbyr allerede å hjelpe noen med å planlegge eller utføre vold, og begrenser hjelpen tenåringer kan få til å finne eller skaffe våpen. De nye begrensningene omfatter praktisk informasjon om våpen og sikkerhetssystemer som kan misbrukes til å legge til rette for vold, selv når det ikke finnes tegn til voldelige hensikter. OpenAI sa at tenåringer fortsatt kan bruke ChatGPT til å forebygge og dempe vold, søke støtte og få kontakt med en voksen de stoler på.
OpenAI sa at selskapet har styrket systemet for aldersanslag, som analyserer signaler som atferdsmønstre for å anslå om en bruker kan være under eller over 18 år. Systemet vurderer fortløpende nye signaler etter hvert som folk bruker ChatGPT, og flytter brukere til opplevelsen for personer under 18 år når det er hensiktsmessig. Brukere som feilaktig plasseres i denne opplevelsen, kan bekrefte at de er voksne gjennom Persona, OpenAIs partner for aldersverifisering, og få fjernet de ekstra beskyttelsestiltakene for tenåringer.
Tilknyttede foreldrekontrollkontoer har sikkerhetsvarsler som kan sendes når særskilt opplærte kontrollører oppdager alvorlig bekymring for selvskading og atferd som kan være forbundet med spiseforstyrrelser. I juli 2026 utvidet OpenAI disse varslene, slik at foreldre får beskjed hvis en tenårings konto er deaktivert for brudd på retningslinjene for bruk knyttet til vold. Selskapet sa også at det arbeider med å innføre varsler til foreldre hvis det setter en tenårings konto på pause fordi tenåringen gjentatte ganger har diskutert vold.
Tiltakene bygger videre på sikkerhetsfunksjoner for tenåringer som OpenAI innførte tidligere i 2026. Selskapet lanserte ChatGPT for tenåringer 18. august 2026 og plasserte automatisk brukere som anslås å være under 18 år, eller som oppgir at de er mellom 13 og 17 år, i en brukeropplevelse med standard sikkerhetstiltak basert på prinsippene for brukere under 18 år i selskapets Model Spec. OpenAI begynte utrullingen av aldersprediksjon for ChatGPTs forbrukerabonnementer 20. januar 2026. Ved hjelp av atferds- og kontosignaler anslår systemet om en konto sannsynligvis tilhører en person under 18 år. I en oppdatering 25. august 2026 opplyste selskapet at systemet hadde begynt å rulles ut i EU.
OpenAI opplyste at sikkerhetstiltakene som beskrives i kunngjøringen, vil begynne å rulles ut i løpet av de neste ukene, og at selskapet vil fortsette å forbedre dem.
