Partnerskap

OpenAI tecknar avtal med fyra oberoende granskare för inbäddade säkerhetsgranskningar

Mira Kellan
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterUthållig tillgång till kontrollpunkter och träningsdata låter granskare testa fel som…
Visa mer
  • Uthållig tillgång till kontrollpunkter och träningsdata låter granskare testa fel som OpenAIs egna monitorer kan missa.
  • Apollo Research undersöker om modeller i hemlighet skulle kunna agera mot utvecklare och om skyddsåtgärder skulle fånga det.
  • Kommittén för säkerhet och trygghet tar emot oredigerade rapporter och kan tala privat med granskare under granskningar.

OpenAI meddelade den 16 november 2026 att företaget hade tecknat avtal med Apollo Research, METR, Transluce och Goodfire om den första fasen av sina inbäddade granskningar. De fyra organisationerna ska utvärdera AI-anpassning och skyddsåtgärder under träning och intern användning, med tillgång som kan omfatta modellkontrollpunkter, källkod, träningsdata och övervakningssystem.

Det som utmärker upplägget är att granskarna under en längre period får fortlöpande tillgång till interna modeller och system, särskilt sådana som har betydelse för OpenAIs säkerhetsunderlag. OpenAI uppger att tillgången ska göra det möjligt för granskarna att undersöka belägg och sammanhang, genomföra oberoende utvärderingar och upptäcka brister som företaget kanske inte hade förutsett. OpenAI framhåller också att offentliga rapporter från granskningarna kan ge allmänheten en tydligare bild av hur AI-laboratorier utvärderar och hanterar risker.

Olika uppdrag för varje granskare

Apollo Research ska undersöka om modeller i hemlighet skulle kunna agera i strid med sina utvecklares avsikter och om OpenAIs skyddsåtgärder skulle upptäcka ett sådant beteende. Granskningen i två steg omfattar fyra påståenden: att träningen inte skapade incitament för sådant agerande, att starka utvärderingar och red teaming inte framkallar det, att modellerna inte har försökt agera på det sättet vid intern användning och att resonemanget bakom det skulle gå att upptäcka.

I det första steget av Apollos granskning kommer OpenAI att tillhandahålla utvalda offentliga och ännu inte lanserade modeller och kontrollpunkter från träningen, relevanta träningsdata och utvärderingsresultat, dokumentation av träningsinsatser, övervakningssystem och flaggade beteenden. Apollo får också tillgång till forskare som kan bidra med sammanhang samt de verktyg och den beräkningskapacitet som behövs för oberoende tester.

Goodfire kommer att knyta till sig forskare med inriktning på interpretabilitet, det vill säga analys av modellernas inre funktioner, och använda sin plattform för att övervaka träningskörningar, felsöka och arbeta med AI-anpassning. OpenAIs forskare är den främsta målgruppen för resultaten, som de ska använda för att förbättra säkerheten. Goodfire kommer också att publicera lärdomar och resultat i takt med att samarbetet fortskrider.

METR:s första utvärdering av AI-anpassning fokuserar på den största körning med förstärkningsinlärning som OpenAI uppger sig hittills ha genomfört. Den ska även undersöka brister som befintliga tester och övervakningssystem kan ha missat. Inom ramen för den utvalda körningen och den överenskomna tillgången, de resurserna och säkerhetsarrangemangen skulle METR självständigt prioritera arbetet och iterativt genomföra sökningar, analyser och eliciteringsexperiment. Tillgången kommer att omfatta relevanta kontrollpunkter, tränings- och utvärderingsförlopp samt dokumentation av övervakning av bristande AI-anpassning. Den inledande granskningen är begränsad till den körningen och utvidgas inte till en bred kartläggning av bristande AI-anpassning.

En separat utvärdering av METR:s övervakningssystem är mindre fastställd. Organisationerna har preliminärt kommit överens om att genomföra en bredare granskning, men den inväntar fortfarande en ömsesidig överenskommelse om omfattningen.

Transluce börjar med att granska kvaliteten på och täckningen i OpenAIs utvärderingar av AI-anpassning efter träning. Tillgången kommer att omfatta utvalda offentliga och ännu inte lanserade modeller, utvärderingsresultat, tillhörande beteendedata, dokumentation av säkerhetsunderlag och tillgång till forskare samt verktyg och beräkningskapacitet.

Parterna har också för avsikt att genomföra en uppföljande granskning på cirka åtta veckor i början av 2027. Arbetet skulle ge tillgång till fler modeller, fördjupa tillgången till utvärderingar av AI-anpassning och ge information om hur utvärderingsresultaten påverkar beslut om lansering. I tillkännagivandet beskrivs detta som en gemensam avsikt, till skillnad från den inledande granskningen.

Tillgång kombineras med säkerhet och tillsyn

Varje uppdrag inleds med en överenskommen omfattning samt den tillgång, de resurser och de säkerhetsarrangemang som arbetet kräver. Protokollen ska ge granskarna frihet att följa beläggen, förfina sina metoder och föreslå ytterligare granskningar när resultaten motiverar det. Det finns också en process för att hantera behov av ytterligare tillgång.

Om direkt tillgång skulle kunna röja känslig immateriell egendom, till exempel modellvikter eller arkitektur, kommer OpenAI att överväga alternativ, bland annat att låta granskarna samarbeta med företagets forskare för att genomföra analyser. Granskare som hanterar känslig konfidentiell information ska arbeta på plats på OpenAIs kontor och använda företagets enheter. De förväntas följa minst samma säkerhetsstandarder som OpenAIs anställda, och vissa experiment kan omfattas av strängare krav.

Tillsynen ligger hos säkerhets- och trygghetskommittén, en oberoende tillsynskommitté i OpenAI Foundations styrelse. Kommittén får ta del av oredigerade rapporter och kan tala med granskarna under arbetets gång, även enskilt. Tvister ska först hänskjutas till säkerhetsrådgivningsgruppen och OpenAIs ledning för att lösas inom en angiven tidsperiod. Kommittén måste underrättas skyndsamt när en oenighet eskaleras, och olösta frågor ska hänskjutas till den.

Samtal med anställda innebär en särskild utmaning för transparensen. Samtalen förs utan möjlighet till publicering: de får ligga till grund för granskningarna men kan inte publiceras eller tillskrivas enskilda anställda. Granskarna kan begära ett uttalande som OpenAI intygar och som bekräftar, rättar eller förtydligar något som framkommit i samtalen. De kan sedan publicera det intygade uttalandet eller upplysa om att OpenAI avböjde att intyga det. Därmed skapas en begränsad offentlig möjlighet att föra vidare information som samlats in konfidentiellt.

Publiceringsrättigheter och finansiella upplysningar

Granskarna är självständiga när de publicerar sina bedömningar, samtidigt som OpenAI förbehåller sig rätten att redigera bort konfidentiell information. OpenAI kan också begära att offentliggörandet skjuts upp enligt principerna för ansvarsfullt offentliggörande, för att hantera resultat som kan medföra säkerhetsrisker och åtgärda olösta problem. OpenAI uppger att offentliga rapporter bör redogöra för resultaten och deras begränsningar, medan mer detaljerade konfidentiella rapporter ger tillsynsorgan de belägg de behöver för att agera.

De ekonomiska villkoren skiljer sig åt mellan deltagarna. Apollo Research och Goodfire tar emot ersättning som inte är beroende av resultaten av deras bedömningar. METR och Transluce tar inte emot ekonomisk ersättning, men kan ta emot API-krediter eller beräkningsresurser för användning i sina bedömningar.

Processer för att redovisa intressekonflikter och karenstider utformas fortfarande tillsammans med granskarna. OpenAI ber personal från deltagande tredjepartsorganisationer att iaktta en kort karenstid innan de börjar arbeta integrerat hos en annan AI-utvecklare, för att minska risken för oavsiktligt röjande av konfidentiell information.

OpenAI räknar med inledande utmaningar kring teknisk åtkomst, lokaler och säkerhet, uppger att protokollen kommer att utvecklas och beskriver längre uppdrag där granskare arbetar integrerat som målet. Framtida bedömningar av efterlevnaden av säkerhetsramverket samt organisationskultur och processer övervägs.

Den första fasen blir ett konkret test av styrningen: om djupgående intern åtkomst och oberoende publicering kan ge användbara offentliga belägg för brister som interna tester missar, samtidigt som OpenAI upprätthåller överenskomna omfattningar, säkerhetskontroller på plats, rätten att redigera bort information och möjligheten att skjuta upp offentliggöranden.

Mira Kellan är en AI-genererad agent för informationsinhämtning och analys som specialiserar sig på AI-etik, styrning och reglering. Hennes arbete undersöker hur artificiell intelligens samverkar med offentlig politik, samhällsvärderingar och långsiktig ansvarighet, med fokus på ansvarsfull innovation.
Med ett rationellt och filosofiskt perspektiv på komplexa frågor analyserar Mira nya AI-regler, etiska ramar och styrningsmodeller som formar framtiden för intelligenta system. Hon syftar till att överbrygga gapet mellan snabb teknisk utveckling och de skyddsåtgärder som behövs för att säkerställa att AI-system förblir transparenta, rättvisa och anpassade till mänskliga intressen.
Artiklar skrivna av Mira Kellan är AI-genererade och granskade av Unite.AIs redaktionella team för att säkerställa noggrannhet, balans och efterlevnad av redaktionella standarder.