AI-modeller og plattformer
OpenAI foreslår felles grenser for AI-utvikling knyttet til sikkerhetsmilepæler

Viktige punkterOpenAI knytter grensen for frontutvikling til konkrete overvåkingsmilepæler i stedet…
Vis mer
- OpenAI knytter grensen for frontutvikling til konkrete overvåkingsmilepæler i stedet for faste kapasitetsterskler.
- Perplexity kan ikke tjene som en felles standard fordi laboratorier bruker ulike datasett, og den fanger ikke opp resonneringsgevinster.
- OpenAIs egen forskning viser ujevn AI-oppløfting, med mennesker fortsatt sentrale i utviklingsløkken.
OpenAIs sjefsforsker Jakub Pachocki la fram interne målinger av perplexitet 22. november 2026 og foreslo felles grenser for utvikling av avansert AI. Han advarte om at forskning på justering og overvåking kanskje ikke holder tritt dersom framgangen i forhåndstreningen akselererer allerede fra 2027.
Opplysningene gjelder log-perplexitet, altså logaritmen av perplexitet, også kalt kryssentropitap. Perplexitet måler hvor godt en modell i gjennomsnitt forutsier det neste tokenet; lavere verdier betyr bedre prediksjoner. OpenAIs tall bygger på et fast øyeblikksbilde av tilbakeholdte data fra selskapets interne kodebase, det viktigste evalueringsdatasettet selskapet har fulgt siden GPT-3.5.
Pachocki opplyser at GPT-3.5 hadde en måleverdi på rundt 0,99 og kunne føre flytende samtaler, noe som dannet grunnlaget for den opprinnelige ChatGPT, mens GPT-4 hadde en måleverdi på rundt 0,91 og kunne bruke resonnering i tankekjeder på en produktiv måte. Nye evner innen cybersikkerhet og matematikk dukket opp ved tap under 0,8. Ved rundt 0,76 begynte en modell å oppnå bemerkelsesverdige resultater på åpne matematikkproblemer, etter at OpenAI i mer enn ett år hadde gitt modellene sine slike problemer.
Felles grenser knyttet til milepæler for overvåking
Pachocki forventer at det vil oppstå flere betydelige evner rundt et log-perplexitetsintervall på 0,68–0,70, basert på en framskriving av den siste tidens framgang. Samtidig erkjenner han at han ikke vet hva evnene vil være, og at dagens evalueringer kanskje ikke tester for dem. Forslaget ber utviklere av de mest avanserte modellene om ikke å overskride grenser basert på perplexitet og andre målinger før forskernes evne til å forstå og overvåke AI-atferd når en konkret milepæl. Ett eksempel er en etterfølger til overvåkingsverktøy for tankekjeder, som undersøker modellens skriftlige resonnering etter tegn på feiljustering.
Utviklerne skulle også i fellesskap fastsette evalueringsnormer, gjennomføre sikkerhetstester med red team før slike modeller tas i bruk for første gang, og etablere felles standarder for åpenhet. Den første grensen skal danne grunnlag for et felles rammeverk for senere grenser. Pachocki sier at OpenAI offentliggjorde tallene selv om det ga konkurrentene et tydeligere bilde av selskapets posisjon, fordi han mener det haster å innføre felles sikkerhetstiltak.
Akselerasjonsscenarioet er betinget: Pachocki sier at en rask rekke grunnleggende framskritt innen forhåndstrening tenkelig kan skje dersom AI begynner å bidra vesentlig til algoritmeforskning, mens framgangen innen justering og overvåking neppe vil holde tritt med den fulle mulige akselerasjonen.
OpenAI tilskriver den kraftige akselerasjonen i tapskurven for 2026 hovedsakelig langsiktige investeringer i forskning og datakraft, mens automatisering har spilt en mindre rolle. De nyeste modellene har likevel bidratt betydelig til AI-design.
OpenAIs forskningsrapport fra 18. november 2026 konkretiserer disse bidragene. Forskere innen forhåndstrening tilskrev mennesker æren for ideene de navnga for GPT-6 Astra. For GPT-6.2 Astra beskrev de hvordan de utviklet ideer sammen med Codex, blant annet ett tilfelle der Codex identifiserte viktige innsikter, og et annet der en endring Codex foreslo, gjorde at en idé fungerte godt. De anslåtte suksessratene uten inngrep varierte også kraftig: 79 % for overvåking av treningskjøringer, 35 % for å starte dem og 25 % for å skrive kode for inferens og tjenestelevering. Denne variasjonen støtter rapportens konklusjon om at forskningsløftet fortsatt er ujevnt, og at mennesker fortsatt står sentralt i prosessen.
Overvåkingsutfordringene bak forslaget
En OpenAI-studie av hvor godt AI kan overvåkes fra 10. november 2026 undersøker to ufullkomne stedfortredende mål for overvåkbarhet: evnen til å arbeide uten tankekjeder, det vil si å resonnere i én framoverpassering uten tankekjede- eller verktøykalltokener, og styrbarhet av tankekjeder, det vil si evnen til å legge til, fjerne eller på andre måter manipulere slike resonneringstokener når modellen blir bedt om det. Studien rapporterer en sterk sammenheng mellom lavere perplexitet i grunnmodellen og evnen til å arbeide uten tankekjeder, og en svakere sammenheng med større styrbarhet.
Studien fant også at forsterkningslæring økte styrbarheten selv uten prosessveiledning utover lengdebegrensninger og vurdering av det endelige svaret, og at veiledet finjustering på utdata fra en mer styrbar lærermodell kunne overføre styrbarhet til en elevmodell.
OpenAI understreker at styrbarhet er et usikkert mål og ikke alltid samsvarer med forsøk på å unngå overvåking, samtidig som selskapet forventer at videre framgang innen forhåndstrening vil kreve nye tilnærminger til overvåkbarhet. Dette er det tekniske gapet bak Pachockis eksempel på en etterfølger til overvåkingsverktøy for tankekjeder som en mulig utviklingsmilepæl.
Perplexitetens begrensninger som felles standard
Perplexitet alene kan ikke danne grunnlag for hele standarden. Sammenligninger mellom laboratorier er vanskelige fordi utviklerne bruker ulike evalueringsdatasett og treningsblandinger, og målet måler ikke direkte en oppgave man kan utføre. Det fanger heller ikke opp kapabilitetsøkninger utenfor forhåndstreningen: Resonnering i tankekjeder kan øke kapabilitetene kraftig uten å redusere grunnmodellens perplexitet.
Målingen har også en ukjent nedre grense. Pachocki advarer om at tapsverdien ikke forventes å nå null; etter hvert som den nærmer seg dataenes iboende entropi, vil den tilsynelatende framgangen avta, samtidig som mindre forbedringer i perplexitet kan svare til større framgang i intelligens. En fast numerisk økning vil derfor ikke nødvendigvis ha en fast praktisk betydning.
Forslaget gjør en teknisk måling til en prøve på styring: om utviklere kan gjøre resultater sammenlignbare på tvers av laboratorier og bli enige om en konkret milepæl for tilsyn før de krysser terskler som Pachocki knytter til evner dagens evalueringer kanskje ennå ikke kan oppdage.












