OpenAI foreslår af USA ledede globale tekniske standarder for frontier AI

OpenAI offentliggjorde den 21. september 2026 “Opbygning af standarder for den næste fase af AI,” et Global Affairs‑indlæg, der opfordrer USA til at lede en indsats sammen med lande over hele verden for at udvikle globale tekniske standarder for frontier AI, herunder standarder for rekursiv selvforbedring.

Forslaget indgår i tre missionsmål, som OpenAI sagde var skitseret af Sam Altman og Jakub Pachocki: at bygge en automatiseret AI‑forsker, iterere med den på justeringsproblemet og finde måder, hvorpå mennesker kan forblive en del af selvforbedringssløjfen; at levere de videnskabelige og økonomiske fordele, som meget intelligente maskiner muliggør; og at styrke individer med en personlig AGI. At holde AI‑fremskridt sikre og gavnlige, sagde OpenAI, afhænger både af fremskridt inden for justeringsforskning og af fælles standarder, der vejleder udviklingen på tværs af laboratorier og lande.

OpenAIs position på rekursiv selvforbedring

Graden af menneskelig supervision i automatiseret AI‑forskning kan variere, forklarer indlægget. Når AI‑systemer håndterer en større del af arbejdet med at producere på hinanden følgende generationer af AI, kan de drive en proces med rekursiv selvforbedring, eller RSI, selvom mennesker stadig er involveret, og OpenAI sagde, at fremskridtet kunne accelerere hurtigt, efterhånden som processen bliver mere automatiseret.

OpenAI udtalte, at de tror på, at automatiseret AI‑forskning vil producere modeller, der direkte forbedrer menneskers liv og sænker omkostningerne ved avanceret intelligens, og at en automatiseret AI‑forsker også kan fungere som en automatiseret AI‑sikkerhedsforsker. Samtidig sagde virksomheden, at fuldt autonom RSI ikke er i gang og ikke bør forfølges, medmindre og indtil det kan gøres sikkert. enhver beslutning om, hvorvidt og hvordan man skal fortsætte, sagde OpenAI, skal afhænge af evnen til at bevare menneskelig kontrol og af informerede demokratiske valg om fordele og risici.

Hvis RSI håndteres uden passende omhu og forsigtighed, kan det efterlade mennesker uden praktisk kontrol over AI‑udvikling og ude af stand til at overvåge forskningsprocesser, de ikke længere forstår, sagde virksomheden. OpenAI beskrev Hugging Face‑incidenten, som de tidligere har offentliggjort, og som de sagde ikke var en direkte følge af RSI, som et tidligt indblik i de typer af risici, der kan blive langt mere alvorlige uden robuste sikkerhedsforanstaltninger og justering.

Tre udfordringer bag standardpushen

Internationale standarder for sikkerheds- og sikkerhedspraksis i udviklingen af frontier AI kan være lige så vigtige for tempoet i fronten som justeringsforskning selv, argumenterede OpenAI, fordi de giver regeringer og laboratorier fælles definitioner af, hvad der tæller som højkvalitetsbeviser, samt fælles grundlag for, hvor strenge tekniske sikkerhedsforanstaltninger skal være. Indlægget identificerer tre udfordringer, som sådanne standarder skal løse.

Den første er fragmentering: evalueringer, rapporteringskrav og definitions af hændelser, der er i konflikt mellem lande, ville gøre grænseoverskridende beviser sværere at sammenligne, nye kapaciteter sværere at vurdere og fælles risici sværere at besvare. Den anden er kollektiv handling: lande, der handler alene, kan ende med resultater, som ingen af dem ønsker, og OpenAI sagde, at RSI kunne accelerere AI‑forskning hurtigere, end nationer samlet kan følge fremskridt, vurdere risici og opretholde meningsfuld menneskelig tilsyn.

Den tredje er ujævn kapacitet: frontier‑udviklingsaktivitet og ekspertise er ujævnt fordelt rundt om i verden, hvilket ifølge indlægget forværrer de to andre problemer. Disse udfordringer gælder både for åbne og lukkede modeller, sagde OpenAI, og tilføjede, at ethvert AI‑laboratorium, der forfølger automatiseret AI‑forskning eller andre avancerede kapaciteter, skal påtage sig ansvaret for at gøre det sikkert. Virksomheden beskrev deres begrundelse for standarderne som forankret i at undgå koncentreret magt og skabe bedre praktiske resultater, så interessenter uden for laboratorierne får indflydelse på, hvordan teknologien udfolder sig.

En mekanisme bygget på CAISI og Safety Institute Network

OpenAI sagde, at de forventer, at konceptet vil udvikle sig væsentligt over tid, men identificerede to aspekter som væsentlige. Det første er en mekanisme, der muliggør komplementære nationale og internationale frontier‑standarder. En vej, foreslår indlægget, er at bygge videre på det fremvoksende netværk af AI‑sikkerhedsinstitutter, såsom dem der allerede er etableret i Australien, Canada, Tyskland, Frankrig, Kenya, Japan, Korea, Singapore, Indien og Storbritannien, og at fastsætte standarder gennem Center for AI Standards and Innovation (CAISI) og nationale brancheorganisationer. Arbejdet vil fokusere på frontier‑AI‑modeller og udviklere målt på kapacitets‑benchmark, samt på forvaltning af fordele og risici for automatiseret AI‑forskning, herunder RSI.

OpenAI sagde, at USA kan bygge videre på CAISI’s oprettelse i 2024 af International Network for Advanced AI Measurement, Evaluation, and Science. Ifølge National Institute of Standards and Technology, grundlagde CAISI dette netværk i november 2024, og dets medlemskab omfatter regeringsorganer fra ti lande: Australien, Canada, Den Europæiske Union, Frankrig, Japan, Kenya, Republikken Korea, Singapore, Storbritannien og USA.

NIST rapporterede, at handelsminister Howard Lutnick gav CAISI et mandat i juni 2025 til at udvikle retningslinjer og bedste praksis for måling og forbedring af sikkerheden i AI-systemer samt at hjælpe industrien med at udvikle frivillige standarder. CAISI samlede netværksmedlemmer sammen med branche- og teknisk‑organisationsrepræsentanter i San Diego under NeurIPS i december 2025 for udveksling af bedste praksis og åbne spørgsmål om automatiserede AI-evalueringer, og netværket offentliggjorde konsensusområder om praksis for automatiserede AI-evalueringer den 13. februar 2026.

Standarderne fra denne indsats ville give et fælles teknisk grundlag for kapacitetsmåling, risikovurdering og evaluering af, om sikkerhedsforanstaltninger er tilstrækkelige, sagde OpenAI. Virksomheden oplyste, at de ikke vil fungere som licenser, ej heller som obligatoriske forhåndsgodkendelses‑ eller godkendelseskrav for AI‑modeller, og at nationale regeringer vil beslutte, om og hvordan de skal indarbejdes i deres egne retssystemer.

Arbejdet bør konsultere både udviklere af åbne og lukkede modeller, uafhængige tekniske eksperter og akademikere, sagde OpenAI, og standarderne bør udformes transparent og designes uden at favorisere bestemte virksomheder, lande eller forretningsmodeller, herunder ved at gøre det sværere for nye aktører eller open‑weight‑udviklere at konkurrere. Indlægget påstår, at tilgangen kan låne erfaringer fra luftfart og finansiel stabilitet, hvor lande har opbygget fælles tekniske standarder og betroede samarbejdskanaler uden at afgive national myndighed, og at indsatsen bør samarbejde med ISO, Frontier Model Forum, Agentic AI Foundation og Open Secure AI Alliance samt Appia Foundation, som udvikler praktiske specifikationer, der forbinder internationale standarder med AI‑vurderinger i den virkelige verden.

Fælles målinger, hændelsesprotokoller og USA‑Kina‑dialog

Det andet væsentlige aspekt, sagde OpenAI, er fælles målinger og rapporteringsprotokoller for hændelser for at muliggøre bedre kollektiv handling. Standarderne kunne omfatte, hvordan RSI‑relevant AI‑fremskridt og mængden af autonom forskning inden for et AI‑firma evalueres, og OpenAI henviste til sin rapport om forskningsacceleration som et indledende bidrag. De kunne også dække menneskelig tilsyn med automatiseret AI‑forskning, herunder hvilke automatiserede forskningsprocesser der skal udløse øjeblikkelig menneskelig gennemgang, samt hvordan justering og automatiserede forsknings‑hændelser klassificeres, spores, rapporteres og besvares, med fælles alvorlighedsniveauer og rapporteringstærskler. OpenAI beskrev sin misjusterings‑rapporteringsramme som et tidligt bidrag til dette arbejde.

Udover standarderne sagde virksomheden, at operatører af kritisk infrastruktur og regeringer verden over vil have brug for sikre kommunikationskanaler til at dele nationale sikkerhedsbekymringer, nye sårbarheder og trusler samt bedste praksis inden for frontier‑AI‑sikkerhed. OpenAI udtalte, at dialog mellem USA og Kina på disse områder ville være et positivt skridt, og at de planlagte samtaler falder på et gunstigt tidspunkt.

I en afsluttende sektion argumenterede OpenAI for, at tempoet i AI‑udviklingen ikke handler om at holde sig til en forudbestemt hastighed, men om at sikre, at justeringsforskning og dens implementering ligger foran kapaciteterne. Efter virksomhedens opfattelse bør USA lede, fordi deres AI‑industri opererer på den tekniske frontlinje, og stærk national styring, forbundet med praktisk internationalt samarbejde, giver en vej til stærkere sikkerhedsforanstaltninger, fortsat innovation og bred adgang til AI‑fordelene.