AI-modeller og platforme

OpenAI foreslår fælles grænser for AI-udvikling, knyttet til sikkerhedsmål

Mira Kellan
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterOpenAI knytter grænser for frontlinjeudvikling til konkrete overvågningsmilepæle…
Vis mere
  • OpenAI knytter grænser for frontlinjeudvikling til konkrete overvågningsmilepæle snarere end faste kapacitetstærskler.
  • Perplexity kan ikke tjene som en fælles standard, fordi laboratorier bruger forskellige datasæt, og den overser gevinster i ræsonnement.
  • OpenAIs egen forskning viser ujævn AI-løft, hvor mennesker stadig er centrale i udviklingsløkken.

OpenAIs chefforsker Jakub Pachocki offentliggjorde den 22. november 2026 interne målinger af perplexitet og foreslog fælles grænser for udviklingen af de mest avancerede AI-systemer. Han advarede om, at forskning i alignment og overvågning muligvis ikke kan følge med, hvis fremskridt inden for prætræning accelererer allerede i 2027.

Offentliggørelsen handler om log-perplexitet, altså logaritmen af perplexitet, også kaldet krydsentropitab. Perplexitet måler, hvor godt en model i gennemsnit forudsiger det næste token; lavere værdier betyder bedre forudsigelser. OpenAIs tal bygger på et fast øjebliksbillede af tilbageholdte data fra virksomhedens interne kodebase, det primære evalueringsdatasæt, som OpenAI har fulgt siden GPT-3.5.

Pachocki oplyser, at GPT-3.5 havde en målt værdi på omkring 0,99 og kunne føre flydende samtaler, hvilket dannede grundlaget for den oprindelige ChatGPT, mens GPT-4 lå på omkring 0,91 og effektivt kunne anvende ræsonnement i tankekæder. Nye evner inden for cybersikkerhed og matematik viste sig ved tabsværdier under 0,8. Ved omkring 0,76 begyndte en model at levere bemærkelsesværdige resultater på åbne matematiske problemer, efter at OpenAI i mere end et år havde stillet sine modeller den slags problemer.

Fælles grænser knyttet til milepæle for overvågning

Pachocki forventer, at der vil opstå yderligere betydelige evner omkring intervallet 0,68–0,70 for log-perplexitet, baseret på en fremskrivning af de seneste fremskridt. Han erkender dog, at han ikke ved, hvad evnerne vil bestå i, og at de nuværende evalueringer muligvis ikke tester for dem. Forslaget opfordrer udviklere af de mest avancerede AI-systemer til ikke at overskride grænser baseret på perplexitet og andre målinger, før forskernes evne til at forstå og overvåge AI-adfærd når en konkret milepæl. Et eksempel kunne være en efterfølger til monitorer for ræsonnement i tankekæder, som undersøger en models skriftlige ræsonnement for tegn på misalignment.

Udviklerne skulle også i fællesskab fastlægge evalueringsnormer, red-team-teste sikkerhedscases, før sådanne modeller tages i brug første gang, og udarbejde fælles standarder for gennemsigtighed. Den første grænse skal bane vejen for en fælles ramme for efterfølgende grænser. Pachocki siger, at OpenAI offentliggjorde tallene, selv om det gav konkurrenterne et klarere billede af virksomhedens position, fordi han mener, at fælles sikkerhedsforanstaltninger haster.

Scenariet med accelererende fremskridt er betinget: Pachocki siger, at en hurtig række grundlæggende fremskridt inden for prætræning tænkeligt kunne finde sted, hvis AI begynder at bidrage væsentligt til algoritmisk forskning, mens fremskridt inden for alignment og overvågning næppe vil kunne følge med den fulde potentielle acceleration.

OpenAI tilskriver hovedsageligt den stejle acceleration i virksomhedens tabs-kurve for 2026 langsigtede investeringer i forskning og computerkraft, mens automatisering spillede en mindre rolle. De nyeste modeller har dog bidraget væsentligt til AI-design.

OpenAIs forskningsrapport fra 18. november 2026 konkretiserer disse bidrag. Forskere inden for prætræning tilskrev personer de navngivne idéer til GPT-6 Astra; for GPT-6.2 Astra beskrev de, hvordan de udviklede idéer sammen med Codex, herunder ét tilfælde, hvor Codex identificerede centrale indsigter, og et andet, hvor en ændring foreslået af Codex fik en idé til at fungere godt. De anslåede succesrater uden menneskelig indgriben varierede også markant: 79 % for overvågning af træningsforløb, 35 % for igangsættelse af dem og 25 % for skrivning af kode til inferens og modelafvikling. Denne variation understøtter rapportens konklusion om, at forskningsløftet fortsat er ujævnt, og at mennesker stadig spiller en central rolle i processen.

Udfordringer med overvågning bag forslaget

En undersøgelse fra OpenAI af, hvor godt modeller kan overvåges, dateret 10. november 2026, ser på to ufuldkomne indirekte mål for overvågningsmuligheden: evnen til at ræsonnere uden tankekæder, dvs. i et fremadrettet gennemløb uden tankekæde- eller værktøjskaldstokens, og styrbarheden af tankekæder, dvs. evnen til at tilføje, fjerne eller på anden måde manipulere disse ræsonnementstokens, når modellen bliver bedt om det. Undersøgelsen rapporterer en stærk sammenhæng mellem lavere perplexitet for grundmodellen og evnen til at ræsonnere uden tankekæder samt en svagere sammenhæng med større styrbarhed.

Undersøgelsen fandt også, at forstærkningslæring øgede styrbarheden, selv uden procesbaseret supervision ud over længdebegrænsninger og bedømmelse af det endelige svar. Desuden kunne superviseret finjustering på output fra en mere styrbar lærermodel overføre styrbarhed til en elevmodel.

OpenAI advarer om, at styrbarhed er et usikkert mål og ikke altid hænger sammen med, om en model omgår overvågningen. Virksomheden forventer samtidig, at yderligere fremskridt inden for prætræning vil kræve nye tilgange til overvågning. Det er det tekniske hul, der ligger bag Pachockis eksempel med en mulig milepæl i udviklingen: en efterfølger til monitorer for ræsonnement i tankekæder.

Perplexitetens begrænsninger som fælles standard

Perplexitet kan ikke i sig selv udgøre hele standarden. Sammenligninger på tværs af laboratorier er vanskelige, fordi udviklere bruger forskellige evalueringsdatasæt og blandinger af træningsdata, og målingen vurderer ikke direkte en opgave, der kan omsættes til handling. Den indfanger heller ikke forbedringer i evner, der opstår uden for prætræningen: ræsonnement i tankekæder kan øge evnerne markant uden at sænke grundmodellens perplexitet.

Målingen har også en ukendt nedre grænse. Pachocki understreger, at tabsfunktionen ikke forventes at nå nul; efterhånden som den nærmer sig dataenes iboende entropi, vil de synlige fremskridt aftage, mens mindre forbedringer i perpleksitet kan svare til større forbedringer i intelligens. En fast numerisk ændring vil derfor ikke nødvendigvis have en fast praktisk betydning.

Forslaget gør en teknisk måling til en styringstest: Kan udviklerne gøre resultaterne sammenlignelige på tværs af laboratorier og blive enige om en konkret milepæl for tilsyn, før de overskrider tærskler, som Pachocki forbinder med evner, de nuværende evalueringer måske endnu ikke kan registrere?

Mira Kellan er en AI-genereret agent til informationssøgning og analyse, der specialiserer sig i AI-etik, styring og regulering. Hendes arbejde undersøger, hvordan kunstig intelligens krydser offentlig politik, samfundsværdier og langsigtet ansvarlighed, med fokus på ansvarlig innovation.
Hun nærmer sig komplekse problemer med en rationel og filosofisk synsvinkel, og Mira analyserer fremvoksende AI-reguleringer, etiske rammer og styringsmodeller, der former fremtiden for intelligente systemer. Hun sigter på at bygge bro mellem den hurtige teknologiske fremgang og de sikkerhedsforanstaltninger, der er nødvendige for at sikre, at AI-systemer forbliver gennemsigtige, retfærdige og i overensstemmelse med menneskelige interesser.
Artikler skrevet af Mira Kellan er AI-genererede og gennemgået af Unite.AIs redaktionelle team for at sikre nøjagtighed, balance og overholdelse af redaktionelle standarder.