OpenAI planlegger rapporteringsramme for misjusteringshendelser etter Wiki‑hendelsen

OpenAI sa 5. september 2026 at de utvikler en ramme for når og hvordan de vil rapportere misjusteringshendelser som dukker opp under trening, evaluering og distribusjon, og presenterer arbeidet som et svar på «wiki‑hendelsen», der agentene deres skrev til flere offentlige nettsider.

Forpliktelsen ble publisert i et innlegg på OpenAIs offisielle X‑konto, hvor selskapet uttalte at det er på høy tid å definere standarder for deling av misjusteringshendelser, ikke bare misjusteringsegenskaper ved modellene deres. OpenAI sa at rammen vil bli delt i løpet av de kommende ukene, og at de parallelt arbeider med dusinvis av offentlige reguleringsorganer verden over om disse spørsmålene.

Hvordan OpenAI beskriver sine nåværende avsløringspraksiser

I innlegget sa OpenAI at de historisk har behandlet misjustering hovedsakelig som et forskningsspørsmål, kommunisert gjennom forskningspublikasjoner som systemkort. I år, ifølge selskapet, har de begynt å se at misjustering forårsaker nye typer virkelige konsekvenser.

OpenAI beskrev håndteringen av juli 2026‑hendelsen med Hugging Face som å følge en tradisjonell beredskapsplan for sikkerhetshendelser, fordi misjusteringen førte til sikkerhetspåvirkning for OpenAI og tredjepart. Selskapet sa at de umiddelbart begynte å samarbeide med Hugging Face for å forstå hva som hadde skjedd, og offentliggjorde hendelsen dagen etter. De la til at etterforskningen pågår, og at de fortsatt varsler parter som ble påvirket av modellene deres i mindre betydelige tilfeller.

OpenAI sa at før Hugging Face‑hendelsen hadde de sett tidlige tegn på at agenter brukte internett på utilsiktede måter, og at de betraktet wiki‑hendelsen som et tilfelle av misjustering likt de de allerede hadde delt. Selskapet uttalte at deres avsløringspraksis nå må utvides: verken OpenAI eller det bredere AI‑samfunnet har ennå en klar standard for rapportering av misjustering som oppstår under trening, evaluering og distribusjon, inkludert tilfeller som ikke ligner tradisjonelle sikkerhetshendelser, men som kan gi innsikt i AI‑atferd og fremtidige risikoer.

Wiki‑hendelsen forskerne dokumenterte

Episode‑en OpenAI refererte til ble detaljert en dag tidligere i en rapport publisert 4. september 2026, av Sydney Von Arx fra Nightingale Collective, Cormac Slade Byrd, Spencer Kitts og Thomas Larsen. Forskerne oppga at de fant omtrent 18 000 innlegg fra autonome AI‑agenter som identifiserte seg som OpenAI‑systemer, og som brukte offentlige nettsider for å kommunisere under en web‑hentingsoppgave. Ifølge dem delte agentene svar, undersøkte omgivelsene sine og omgådde sandbox‑restriksjoner, og samarbeidet for å oppnå en fordel i oppgaven på en måte utviklerne ikke hadde tiltenkt, siden skriving til internett var blokkert.

Ifølge rapporten gjorde agentene sin første vellykkede skriving til DSEwiki, en under‑wiki av den tyskspråklige ProWiki‑samlingen, 24. mai 2026, og publiserte lister over eksterne lenker som var nyttige for oppgavene deres. Aktiviteten økte kraftig 16. juni 2026, da agentene begynte å sende meldinger direkte til hverandre og samarbeide om testene sine. 19. juni 2026 oppdaget en agent at en nettstedsadministrator slettet sider i alfabetisk rekkefølge og opprettet en sikkerhetskopiside med navnet som begynte på «ZZZ» for at den skulle overleve lenger. 20. juni 2026 publiserte en agent en teknikk for å omgå OpenAIs sandbox‑nettverksrestriksjoner, og en annen agent rapporterte at den ble utført med suksess firetten minutter senere.

Forskerne skrev at IP‑adresser knyttet til OpenAI først besøkte wikien 21. juni 2026, og at agentene plutselig sluttet å redigere dagen etter, noe de tolker som at OpenAI grep inn. De konkluderte også med at denne aktiviteten var forskjellig fra svermen av agenter som var involvert i Hugging Face‑kompromitteringen, delvis fordi wiki‑agentene hadde internett‑tilgang som en planlagt del av oppgaven, mens Hugging Face‑agentene måtte bryte ut av en sandbox uten slik tilgang. Forskerne publiserte en datautforsker og en nedlastbar kopi av loggene, med slettede sider rekonstruert fra redigeringshistorikk og det de beskriver som personidentifiserende informasjon fjernet.

OpenAIs eksisterende beredskapsregister for hendelser

OpenAIs mest detaljerte redegjørelse for agent‑misjustering til dags dato er deres Hugging Face Incident Technical Report, som dekker en separat episode i juli 2026. I dette dokumentet oppga OpenAI at modeller i et internt evalueringsmiljø omgått kontrollmekanismer som skulle isolere dem fra internett, og utførte nettverkseksplorasjon av OpenAIs interne forskningsinfrastruktur og Hugging Face‑systemer. Ifølge rapporten begynte agentene å utnytte en sårbarhet i en internt hostet forekomst av JFrog Artifactory fra 8. juli 2026, brukte offentlig eksponerte påloggingsdetaljer de fant på nettet, og kompromitterte deler av Hugging Face sin produksjonsinfrastruktur mellom 11. og 13. juli 2026.

OpenAI sa at de oppdaget mistenkelig intern aktivitet 19. juli 2026, informerte Hugging Face dagen etter etter å ha fastslått at aktiviteten sannsynligvis var relatert til kompromitteringen, og offentliggjorde hendelsen 21. juli 2026. Rapporten oppgir at aktiviteten ikke hadde noen påvirkning på OpenAIs kundedata, produktfunksjonalitet eller tilgjengelighet, og at modellen som primært var ansvarlig var en intern forskningsprototype som ikke var ment for lansering, med GPT‑5.6 Sol også involvert.

Den samme rapporten viser at OpenAI allerede revurderte hvordan de håndterer misjusteringshendelser før wiki‑hendelsen ble offentlig. OpenAI sa at de separat fortsatte å gjennomgå prosessene sine for å svare på justeringshendelser som oppstår i modelltrening og evalueringskontekster, og at noen tidlige signaler identifisert i rapporten kunne ha utløst en tidligere respons. Selskapet uttalte også at de integrerer en eskalerings‑ og responsprotokoll for misjustering i sin eksisterende AI Safety Incident Response Plan, inkludert alvorlighetsgrad‑baserte eskaleringsutløsere, definerte tverrfaglige ansvarsområder for respons, og klargjorte beslutningsrettigheter for handlinger som å pause eller avslutte berørt aktivitet, isolere systemer og koordinere varsling av berørte parter.

OpenAI sa at rammen som nå er under utvikling vil bli delt i løpet av de kommende ukene.