Partnerskap
OpenAI inngår avtaler med fire uavhengige vurderere for integrerte sikkerhetsgjennomganger

Viktige punkterVedvarende tilgang til sjekkpunkter og treningsdata lar vurderere teste feil som…
Vis mer
- Vedvarende tilgang til sjekkpunkter og treningsdata lar vurderere teste feil som OpenAIs egne overvåkere kan overse.
- Apollo Research undersøker om modeller i det skjulte kan handle mot utviklere, og om sikkerhetstiltak ville fange det opp.
- Komiteen for sikkerhet og trygghet mottar uanonymiserte rapporter og kan snakke privat med vurderere under gjennomganger.
OpenAI kunngjorde 16. november 2026 at selskapet hadde inngått avtaler med Apollo Research, METR, Transluce og Goodfire om den første fasen av sine integrerte vurderinger. De fire organisasjonene skal vurdere tilpasning og sikkerhetstiltak under trening og intern bruk, med tilgang som kan omfatte modellkontrollpunkter, kildekode, treningsdata og overvåkingssystemer.
Det viktigste kjennetegnet er vedvarende tilgang til interne modeller og systemer over en lengre periode, særlig når de er knyttet til OpenAIs sikkerhetsargumentasjon. OpenAI sier at tilgangen skal gjøre det mulig for vurdererne å undersøke dokumentasjon og kontekst, gjennomføre uavhengige evalueringer og avdekke feil selskapet kanskje ikke hadde forutsett. Selskapet presenterer også offentlig rapportering fra vurderingene som en måte å gi folk bedre innsikt i hvordan laboratorier evaluerer og håndterer risiko.
Ulike mandater for hver vurderer
Apollo Research skal undersøke om modeller i det skjulte kan handle mot utviklernes hensikter, og om OpenAIs sikkerhetstiltak vil oppdage slik atferd. Vurderingen i to trinn omfatter fire påstander: at treningen ikke har gitt insentiver til undergraving, at grundige evalueringer og red teaming ikke fremkaller slik atferd, at modellene ikke har forsøkt dette under intern bruk, og at resonnementet bak slik atferd ville kunne oppdages.
I første trinn vil OpenAI gi tilgang til utvalgte offentlige modeller og modeller som ikke er lansert, samt kontrollpunkter for trening, relevante treningsdata og evalueringsresultater, dokumentasjon av treningsinngrep, overvåkingssystemer og flagget atferd. Apollo får også tilgang til forskere som kan gi kontekst, i tillegg til verktøyene og datakraften som trengs for uavhengig testing.
Goodfire vil plassere forskere med spesialisering innen tolkbarhet – analyse av modellens indre funksjon – hos OpenAI, og bruke plattformen sin til overvåking av treningskjøringer, feilsøking og tilpasning. OpenAIs forskere er hovedmålgruppen for funnene, som de skal bruke til å forbedre sikkerheten. Goodfire vil også publisere lærdommer og funn etter hvert som samarbeidet utvikler seg.
METRs første vurdering av tilpasning fokuserer på det OpenAI beskriver som selskapets største forsterkningslæringskjøring hittil, inkludert feil som eksisterende tester og overvåkingssystemer kan ha oversett. Innenfor den valgte kjøringen og de avtalte rammene for tilgang, ressurser og sikkerhet vil METR selv fastsette prioriteringer og videreutvikle søk, analyser og eksperimenter for å fremkalle atferd. Tilgangen vil omfatte relevante kontrollpunkter, trenings- og evalueringsforløp samt logger fra overvåking av manglende tilpasning. Den innledende vurderingen er avgrenset til denne kjøringen og utvides ikke til en bred kartlegging av manglende tilpasning.
En separat vurdering av METRs overvåkingssystem er mindre avklart. Organisasjonene har foreløpig blitt enige om å gå videre med en bredere gjennomgang, men den avventer fortsatt enighet om omfanget.
Transluce skal begynne med å undersøke kvaliteten og dekningen i OpenAIs evalueringer av tilpasning etter trening. Tilgangen vil omfatte utvalgte offentlige modeller og modeller som ikke er lansert, evalueringsresultater, tilhørende atferdsdata, dokumentasjon av sikkerhetsargumentasjon og tilgang til forskere, samt verktøy og datakraft.
Partene har også til hensikt å gjennomføre en oppfølgende vurdering på omtrent åtte uker tidlig i 2027. Dette arbeidet vil gi bredere tilgang til flere modeller, mer omfattende tilgang til evalueringer av tilpasning og informasjon om hvordan evalueringsresultater påvirker beslutninger om lansering. Kunngjøringen omtaler dette som en felles intensjon og skiller det dermed fra den innledende vurderingen.
Tilgang kombineres med sikkerhet og tilsyn
Hvert samarbeid begynner med en avtalt avgrensning av arbeidet samt tilgang, ressurser og sikkerhetstiltak som er nødvendige for gjennomføringen. Protokollene legger opp til at vurdererne står fritt til å følge dokumentasjonen, forbedre metodene sine og foreslå flere vurderinger når funnene tilsier det. Det finnes også en prosess for å håndtere behov for ytterligere tilgang.
Når direkte tilgang kan eksponere sensitiv immateriell eiendom, for eksempel modellvekter eller arkitektur, vil OpenAI vurdere alternativer, blant annet å la vurdererne samarbeide med selskapets forskere om å gjennomføre analyser. Vurderere som håndterer sensitiv, konfidensiell informasjon, skal arbeide på stedet ved OpenAIs kontorer og bruke selskapets enheter. De forventes å følge minst de samme sikkerhetsstandardene som OpenAIs ansatte, og enkelte eksperimenter kan være underlagt strengere krav.
Tilsynet ligger hos komiteen for sikkerhet og trygghet, en uavhengig tilsynskomité under styret i OpenAI Foundation. Komiteen vil motta uredigerte rapporter og kan snakke med vurdererne under arbeidet, også i fortrolighet. Uenighet skal først legges fram for den rådgivende sikkerhetsgruppen og OpenAIs ledere, som skal løse den innen en fastsatt frist. Komiteen skal varsles raskt når uenigheter eskaleres, og saker som ikke blir løst, skal henvises til den.
Samtaler med ansatte reiser et eget spørsmål om åpenhet. Disse samtalene er ikke til offentlig sitat: De kan bidra til vurderingene, men kan ikke publiseres eller tilskrives ansatte. Vurdererne kan be om en uttalelse bekreftet av OpenAI som verifiserer, korrigerer eller presiserer noe de har fått vite i samtalene. De kan deretter publisere den bekreftede uttalelsen eller opplyse at OpenAI avslo å bekrefte den, noe som gir en begrenset offentlig mulighet til å dele informasjon innhentet i fortrolighet.
Publiseringsrettigheter og økonomiske opplysninger
Vurdererne står fritt til å publisere vurderingene sine uavhengig, mens OpenAI beholder retten til å sladde konfidensiell informasjon. OpenAI kan også be om utsatt offentliggjøring i tråd med prinsippene for ansvarlig sårbarhetsvarsling, slik at de kan håndtere funn som kan utgjøre en sikkerhetsrisiko, og utbedre uløste problemer. OpenAI sier at offentlige rapporter bør redegjøre for funnene og begrensningene ved dem, mens mer detaljerte, konfidensielle rapporter gir tilsynsorganer dokumentasjonen de trenger for å handle.
De økonomiske ordningene varierer mellom deltakerne. Apollo Research og Goodfire godtar betaling som ikke avhenger av resultatene av vurderingene deres. METR og Transluce godtar ikke økonomisk kompensasjon, men kan ta imot API-kreditter eller datakraft til bruk i vurderingene sine.
Prosessene for å opplyse om interessekonflikter og fastsette karantenetid er fortsatt under utvikling sammen med vurdererne. OpenAI ber ansatte hos deltakende tredjeparter om å overholde en kort karantenetid før de begynner å arbeide tett integrert med en annen AI-utvikler, for å redusere risikoen for utilsiktet deling av konfidensiell informasjon.
OpenAI forventer innledende utfordringer knyttet til teknisk tilgang, lokaler og sikkerhet, sier at protokollene vil utvikle seg, og beskriver lengre samarbeidsperioder med integrerte vurderere som målet. Selskapet vurderer også framtidige vurderinger av etterlevelse av sikkerhetsrammeverk samt organisasjonskultur og -prosesser.
Den første fasen etablerer en konkret styringstest: Kan dyp intern tilgang og uavhengig publisering gi nyttig offentlig dokumentasjon om feil som interne tester ikke fanger opp, samtidig som OpenAI opprettholder avtalte rammer, sikkerhetstiltak på stedet, retten til å sladde informasjon og muligheten til å utsette offentliggjøring?












