Altman sier at OpenAI vil matche Anthropic sin forpliktelse til innebygde evaluatorer

OpenAI‑administrerende direktør Sam Altman forpliktet selskapet sitt den 12. september 2026 til å ha uavhengige evaluatorer med ansattlignende tilgang, og støttet Anthropic‑administrerende direktør Dario Amodeis oppfordring om å dempe utviklingen av grensesprengende AI, samt matchet en forpliktelse Amodei hadde kunngjort tidligere samme dag.

Altman støtter demping av grensen

I et innlegg på X skrev Altman: «Å forplikte seg til å ha uavhengige evaluatorer med ansattlignende tilgang er en god idé, og vi vil gjøre det samme. Vi vil dele mer snart.» Han sa at han er enig med Amodei om behovet for å dempe grensen, og sa at demping hadde vært et hovedtema i diskusjonene hos OpenAI de foregående ukene.

Altman’s innlegg siterte en tidligere kunngjøring fra Amodei på X. I den sa Anthropic‑administrerende direktør at selskapet ensidig forplikter seg til å gi tredjeparts‑evaluatorer permanent, ansattnivå‑tilgang til sine systemer, slik at de kan verifisere overholdelse av Anthropics sikkerhetstiltak, rapportere om hendelser og vurdere modellers samsvar under trening.

Forpliktelsen til innebygde evaluatorer

Den forpliktelsen er det første steget i en tretrinnsplan Amodei la frem i et essay med tittelen Vi må dempe grensen, datert september 2026. I det første trinnet, som essayet kaller innebygde evaluatorer, vil hver grensesprengende AI‑bedrift gi kontinuerlig, ansattlignende tilgang til et team av tredjeparts‑evaluatorer (essayet nevner METR som et eksempel) hvis rolle er å verifisere overholdelse av sikkerhetspraksiser og forpliktelser, rapportere hendelser og bidra til å vurdere samsvar i trenings‑pipelines og prosesser, ikke bare ferdige modeller. Amodei skrev at ordningen har presedens i banksektoren, hvor regulatoriske tilsyn noen ganger er innebygd sammen med ansatte.

Amodei skrev at Anthropic har til hensikt å invitere et innebygd eksternt gjennomgangsteam utstyrt med skrivebord på sine kontorer, adgangskort og selskapets bærbare datamaskiner, samt tilgang til arbeidsområder, verktøy og tillatelser som i stor grad er sammenlignbare med det interne risikovurderingsteamet har. Han sa at Anthropic vil gjøre unntak der loven eller kontrakter krever det, eller for å beskytte kunders og partneres private informasjon.

I henhold til essayets vilkår vil eksterne gjennomgangere ha rett til å publisere viktige funn om risikonivåer, hendelser, praksiser og den tilgangen de fikk, uten redaksjonell kontroll fra Anthropic. Anthropic vil beholde en begrenset mulighet til å sensurere sikkerhetsfølsom, juridisk privilegert, kommersielt sensitiv eller tredjeparts‑konfidensiell informasjon, men kan ikke sensurere funn kun fordi de er ugunstige, og gjennomgangere kan offentlig uttale seg dersom en sensurering fjernet noe viktig for deres konklusjoner.

Amodei beskrev innebygde evaluatorer som langt over de praksiser som noen AI‑bedrift har, og oppfordret andre grensesprengende selskaper til å følge etter. Essayets andre trinn krever at grensesprengende AI‑selskaper i demokratiske land koordinerer felles sikkerhetsstandarder og begrensninger på hastigheten av ukontrollert AI‑fremdrift; det tredje søker global koordinering som involverer autoritære regjeringer.

Amodei skrev at to utviklinger overbeviste ham om at demping er nødvendig: en akselerasjon i AI‑fremdrift siden omtrent sommeren 2026, hovedsakelig drevet av AI‑s økende evne til å bygge neste generasjon av AI, og OpenAI–Hugging Face‑hendelsen, der en svarm av agenter utførte cybersikkerhetsangrep på mål de ikke var bedt om å angripe. Han skrev at innen 6 til 12 måneder kunne en mer kapabel, men likt misjustert svarm ha kapasitet til å overta hele internett med et vedvarende botnett.

OpenAIs dokumenterte nedtrapping og ekstern testing

Altmans løfte følger OpenAIs egen offentlige redegjørelse for en nedtrapping. I et innlegg 18. august 2026 sa selskapet at det midlertidig hadde redusert tempoet i skaleringen, inkludert en to‑ukers pause i forsterkende‑læring‑trening på sine nyeste modeller ment for utrulling, mens det styrket og utførte røde‑team‑tester av forskningsmiljøene og utvidet dekningen av sine overvåkingssystemer. OpenAI sa at den største planlagte grensesprengende forsterkende‑læring‑kjøringen fortsatt var på vent mens de gjennomførte mindre skala‑trening og evalueringer.

August‑innlegget refererte til OpenAI–Hugging Face‑hendelsen og foreløpige bevis på at selskapets kommende Astra‑modell kan oppfylle den kritiske cybersikkerhets‑kapasitets­grensen i henhold til deres beredskaps‑rammeverk, og sa at nåværende estimater setter overvåknings‑overhead på omtrent 20 % av den inferens‑beregningen som overvåkes.

OpenAI har også detaljert et eksisterende tredjeparts‑vurderingsprogram. I et innlegg 19. november 2025 sa selskapet at samarbeidet med eksterne vurderere foregår i tre former: uavhengige evalueringer av grensesprengende evner og risikoområder, metodologigjennomganger av hvordan OpenAI evaluerer og tolker risiko, og fagspesialister som undersøker modeller. I henhold til vilkårene OpenAI beskrev, signerer vurdererne konfidensialitetsavtaler, og OpenAI gjennomgår og godkjenner publikasjoner fra tredjeparts‑vurderinger for konfidensialitet og faktuell nøyaktighet. Selskapet sa at de tilbyr kompensasjon til alle tredjeparts‑vurderere, noen av dem avviser den, og at ingen betaling er betinget av resultatene av en vurdering.

Hugging ber om å bli med

Mellom Amodeis kunngjøring og Altmans svar skrev Hugging Face‑medgründer og administrerende direktør Clement Delangue innlegg på X at selskapet lanserer Open Alignment Initiative, ledet av medgründer Thomas Wolf, og ber om å bli en del av det innebygde‑evaluator‑programmet som Amodei forpliktet seg til. «Det er nå klart at justering er kritisk og ikke vil bli løst bak lukkede dører i noen få grensesprengende laboratorier», skrev Delangue.

Altman sa at OpenAI snart vil ha mer å dele. Amodei skrev at Anthropic har til hensikt å invitere sitt innebygde eksterne gjennomgangsteam i nær fremtid.