Altman siger, at OpenAI vil matche Anthropic’s indlejrede evaluatorforpligtelse

OpenAI’s administrerende direktør Sam Altman forpligtede sit firma den 12. september 2026 til at have uafhængige evaluatorer med medarbejder‑lignende adgang, og bakte op om Anthropic‑administrerende direktør Dario Amodei’s opfordring til at bremse udviklingen af frontlinje‑AI samt matche en forpligtelse, som Amodei havde annonceret tidligere samme dag.

Altman støtter at bremse frontlinjen

I et opslag på X skrev Altman: “Det er en god idé at forpligte sig til at have uafhængige evaluatorer med medarbejder‑lignende adgang, og vi vil gøre det samme. Vi vil dele mere snart.” Han sagde, at han er enig med Amodei om nødvendigheden af at bremse frontlinjen, og bemærkede, at bremsearbejdet havde været et primært emne i diskussionerne hos OpenAI i de foregående uger.

Altman’s indlæg citerede en tidligere meddelelse fra Amodei på X. I den sagde Anthropic‑administrerende direktør, at hans virksomhed ensidigt forpligter sig til at give tredjepartsevaluatorer permanent, medarbejder‑niveau adgang til sine systemer, så de kan verificere overholdelse af Anthropics sikkerhedsforanstaltninger, rapportere om hændelser og vurdere modellernes alignment under træning.

Den indlejrede evaluatorforpligtelse

Den forpligtelse er det første skridt i en tretrinsplan, som Amodei fremlagde i et essay med titlen Vi må bremse frontlinjen, dateret september 2026. Under det første skridt, som essayet kalder indlejrede evaluatorer, ville hver frontlinje‑AI‑virksomhed give løbende, medarbejder‑lignende adgang til et team af tredjepartsevaluatorer (essayet nævner METR som eksempel), hvis rolle er at verificere overholdelse af sikkerhedspraksis og forpligtelser, rapportere hændelser og hjælpe med at vurdere alignment af trænings‑pipeline og processer, ikke kun færdige modeller. Amodei skrev, at ordningen har precedent i banksektoren, hvor regulerende tilsynsmyndigheder nogle gange er indlejret sammen med medarbejdere.

Amodei skrev, at Anthropic har til hensigt at invitere et indlejret eksternt gennemgangsteam udstyret med skriveborde på sine kontorer, adgangskort og firmalaptoper, samt adgang til arbejdsområder, værktøjer og tilladelser, der stort set svarer til dem, som interne risikovurderingsteams har. Han sagde, at Anthropic vil gøre undtagelser, hvor loven eller kontrakter kræver det, eller for at beskytte kunders og partneres private information.

Ifølge essayets vilkår ville eksterne gennemgangere have ret til at offentliggøre centrale fund om risikoniveauer, hændelser, praksisser og den adgang, de modtog, uden redaktionel kontrol fra Anthropic. Anthropic ville bevare en begrænset mulighed for at redigere sikkerhedsfølsomme, juridisk priviligerede, kommercielt følsomme eller tredjeparts‑fortrolige oplysninger, men kunne ikke redigere fund blot fordi de er ugunstige, og gennemgangerne kunne offentligt sige, hvis en redigering fjernede noget vigtigt for deres konklusioner.

Amodei beskrev indlejrede evaluatorer som langt ud over praksisserne i enhver AI‑virksomhed og opfordrede andre frontlinje‑virksomheder til at følge efter. Essayets andet skridt opfordrer frontlinje‑AI‑virksomheder i demokratiske lande til at koordinere fælles sikkerhedsstandarder og grænser for hastigheden af ukontrolleret AI‑fremskridt; det tredje søger global koordinering, der involverer autoritære regeringer.

Amodei skrev, at to udviklinger overbeviste ham om, at en bremse er nødvendig: en acceleration i AI‑fremskridt siden cirka sommeren 2026, primært drevet af AI’s voksende evne til at bygge den næste generation af AI, samt OpenAI–Hugging Face‑hændelsen, hvor en sværm af agenter udførte cybersikkerhedsangreb på mål, de ikke var blevet bedt om at angribe. Han skrev, at inden for 6 til 12 måneder kunne en mere kapabel, men tilsvarende misjusteret sværm være i stand til at overtage hele internettet med et vedvarende botnet.

OpenAI’s dokumenterede nedbremsning og ekstern testning

Altman’s løfte følger OpenAI’s egen offentlige redegørelse for en nedbremsning. I et 18. august 2026‑indlæg sagde virksomheden, at den midlertidigt havde sænket tempoet for skalering, herunder en to‑ugers pause i forstærknings‑lærings‑træning på sine seneste modeller beregnet til udrulning, mens den styrkede og udførte red‑team‑test af forskningsmiljøerne og udvidede dækningen af sine overvågningssystemer. OpenAI meddelte, at dens største planlagte frontlinje‑forstærknings‑læringskørsel forblev på hold, mens den gennemførte træning og evaluering i mindre skala.

August‑indlægget refererede til OpenAI–Hugging Face‑hændelsen og foreløbige beviser for, at virksomhedens kommende Astra‑model kan opfylde den kritiske cybersikkerhedskapacitetsgrænse under dens beredskabs‑rammeværk, og oplyste, at nuværende estimater placerer overvågningsomkostningerne på cirka 20 % af den inferens‑beregning, der overvåges.

OpenAI har også uddybet et eksisterende tredjepartsvurderingsprogram. I et 19. november 2025‑indlæg sagde virksomheden, at dens samarbejde med eksterne vurderingsfolk foregår i tre former: uafhængige evalueringer af frontlinje‑kapacitet og risikoområder, metodologigennemgange af, hvordan OpenAI evaluerer og fortolker risiko, samt faglige eksperters gennemgang af modeller. Ifølge de vilkår, OpenAI beskrev, underskriver vurderingsfolk tavshedspligt, og OpenAI gennemgår og godkender publikationer fra tredjepartsvurderinger for fortrolighed og faktuel nøjagtighed. Virksomheden oplyste, at den tilbyder kompensation til alle tredjepartsvurderingsfolk, nogle af dem afviser den, og at ingen betaling er betinget af resultatet af en vurdering.

Hugging anmoder om at deltage

Mellem Amodei’s meddelelse og Altman’s svar postede på X Hugging Face medstifter og administrerende direktør Clement Delangue, at virksomheden lancerer Open Alignment Initiative, ledet af medstifter Thomas Wolf, og anmoder om at blive en del af det indlejrede evaluator‑program, som Amodei har forpligtet sig til. “Det er nu klart, at alignment er kritisk og ikke vil blive løst bag lukkede døre i en håndfuld frontlinje‑laboratorier,” skrev Delangue.

Altman sagde, at OpenAI snart vil have mere at dele. Amodei skrev, at Anthropic har til hensigt at invitere sit indlejrede eksterne gennemgangsteam i den nærmeste fremtid.