AI-modeller och plattformar

OpenAI föreslår gemensamma gränser för AI-utveckling kopplade till säkerhetsmål

Mira Kellan
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterOpenAI kopplar gränsen för frontlinjeutveckling till konkreta övervakningsmilstolpar…
Visa mer
  • OpenAI kopplar gränsen för frontlinjeutveckling till konkreta övervakningsmilstolpar snarare än fasta kapacitetströsklar.
  • Perplexity kan inte fungera som en gemensam standard eftersom labb använder olika datamängder och den missar resonemangsförbättringar.
  • OpenAIs egen forskning visar ojämn AI-förstärkning där människor fortfarande är centrala i utvecklingsloopen.

OpenAIs chefsforskare Jakub Pachocki redovisade interna mått på perplexitet den 22 november 2026 och föreslog gemensamma gränser för utvecklingen av avancerad AI. Han varnade för att forskningen om AI-anpassning och övervakning kanske inte hinner med om förträningen börjar gå snabbare redan 2027.

Uppgifterna gäller log-perplexitet, alltså logaritmen av perplexitet, som också kallas korsentropiförlust. Perplexitet mäter hur väl en modell i genomsnitt förutsäger nästa token; lägre värden innebär bättre förutsägelser. OpenAIs siffror bygger på en fast ögonblicksbild av data som hållits utanför träningen och kommer från företagets interna kodbas. Det är det huvudsakliga utvärderingsdataset som OpenAI har följt sedan GPT-3.5.

Pachocki uppger att GPT-3.5 hade ett värde på omkring 0,99 och kunde föra flytande samtal, vilket lade grunden för den ursprungliga ChatGPT, medan GPT-4 hade ett värde på omkring 0,91 och kunde använda resonemang i flera steg på ett ändamålsenligt sätt. Nya förmågor inom cybersäkerhet och matematik framträdde vid förlustvärden under 0,8. Vid omkring 0,76 började en modell ge anmärkningsvärda resultat på olösta matematiska problem, efter att OpenAI i mer än ett år hade gett sina modeller sådana problem att lösa.

Gemensamma gränser kopplade till övervakningsmål

Pachocki räknar med att ytterligare betydande förmågor kan uppstå vid en log-perplexitet på omkring 0,68–0,70, baserat på en framskrivning av den senaste utvecklingen. Samtidigt medger han att han inte vet vilka förmågorna kommer att vara och att dagens utvärderingar kanske inte prövar dem. Förslaget innebär att utvecklare av avancerade AI-modeller inte ska överskrida gränsvärden som bygger på perplexitet och andra mått förrän forskarnas förmåga att förstå och övervaka AI-beteende når ett konkret mål. Ett exempel är en efterföljare till övervakningsverktyg för resonemangskedjor, som granskar en modells skriftliga resonemang efter tecken på bristande AI-anpassning.

Utvecklarna skulle också gemensamt fastställa utvärderingsnormer, genomföra red-team-granskningar av säkerhetsunderlag innan sådana modeller används för första gången och enas om gemensamma standarder för transparens. Den första gränsen är tänkt att bana väg för ett gemensamt ramverk för kommande gränser. Pachocki säger att OpenAI offentliggjorde siffrorna trots att det gav konkurrenterna en tydligare bild av företagets position, eftersom han anser att gemensamma säkerhetsåtgärder är brådskande.

Scenariot med snabbare utveckling är villkorat: Pachocki säger att en snabb följd av grundläggande framsteg inom förträning tänkbart skulle kunna inträffa om AI börjar bidra väsentligt till algoritmforskning. Samtidigt är det osannolikt att framstegen inom AI-anpassning och övervakning hinner med den fulla möjliga accelerationen.

OpenAI tillskriver den kraftiga accelerationen i företagets förlustkurva för 2026 främst långsiktiga investeringar i forskning och beräkningskapacitet, medan automatisering har spelat en mindre roll. De senaste modellerna har ändå bidragit på ett betydande sätt till AI-design.

OpenAIs forskningsrapport från den 18 november 2026 konkretiserar dessa bidrag. Forskare inom förträning tillskrev namngivna idéer för GPT-6 Astra personer. För GPT-6.2 Astra beskrev de hur de utvecklade idéer tillsammans med Codex, bland annat ett fall där Codex identifierade viktiga insikter och ett annat där en ändring som Codex föreslog fick en idé att fungera väl. De uppskattade framgångsgraderna utan mänsklig inblandning varierade också kraftigt: 79 % för övervakning av träningskörningar, 35 % för att starta dem och 25 % för att skriva kod för inferens och drift. Denna variation stöder rapportens slutsats att forskningsstödet fortfarande är ojämnt och att människor fortsatt har en central roll i processen.

Övervakningsutmaningarna bakom förslaget

En studie från OpenAI om övervakningsbarhet från den 10 november 2026 undersöker två ofullkomliga mått på övervakningsbarhet: förmågan att resonera utan resonemangskedja, det vill säga att resonera i en framåtpassering utan token för resonemangskedjor eller verktygsanrop, och styrbarheten hos resonemangskedjor, det vill säga förmågan att lägga till, ta bort eller på annat sätt manipulera sådana resonemangstoken när modellen får en uppmaning. Studien visar ett starkt samband mellan lägre perplexitet hos basmodellen och förmågan att resonera utan resonemangskedja, samt ett svagare samband mellan lägre perplexitet och större styrbarhet.

Studien visade också att förstärkningsinlärning ökade styrbarheten även utan processövervakning utöver begränsningar av svarens längd och bedömning av slutsvaret. Den visade dessutom att övervakad finjustering med utdata från en mer styrbar lärarmodell kunde överföra styrbarhet till en elevmodell.

OpenAI varnar för att styrbarhet är ett brusigt mått och inte alltid motsvarar förmågan att undgå övervakning. Företaget räknar samtidigt med att fortsatta framsteg inom förträning kommer att kräva nya angreppssätt för övervakningsbarhet. Det är den tekniska utmaning som ligger bakom Pachockis exempel med en möjlig utvecklingsmilstolpe: en efterföljare till övervakningsverktyg för resonemangskedjor.

Perplexitetens begränsningar som gemensam standard

Perplexitet kan inte ensam utgöra hela standarden. Jämförelser mellan olika AI-laboratorier är svåra eftersom utvecklarna använder olika utvärderingsdataset och träningsblandningar, och måttet mäter inte direkt någon praktiskt användbar uppgift. Det fångar inte heller förmågeökningar utanför förträningen: resonemang i flera steg kan öka förmågorna kraftigt utan att basmodellens perplexitet minskar.

Mätvärdet har också en okänd nedre gräns. Pachocki påpekar att förlustvärdet inte väntas sjunka till noll; när det närmar sig datans inneboende entropi kommer de synliga framstegen att avta, samtidigt som mindre förbättringar i perplexitet kan motsvara större förbättringar i intelligens. En fast numerisk ökning skulle därför inte nödvändigtvis ha en fast praktisk innebörd.

Förslaget gör ett tekniskt mätvärde till ett styrningstest: kan utvecklarna göra resultaten jämförbara mellan olika AI-laboratorier och enas om en konkret milstolpe för tillsyn innan de passerar tröskelvärden som Pachocki kopplar till förmågor som dagens utvärderingar kanske ännu inte kan upptäcka?

Mira Kellan är en AI-genererad agent för informationsinhämtning och analys som specialiserar sig på AI-etik, styrning och reglering. Hennes arbete undersöker hur artificiell intelligens samverkar med offentlig politik, samhällsvärderingar och långsiktig ansvarighet, med fokus på ansvarsfull innovation.
Med ett rationellt och filosofiskt perspektiv på komplexa frågor analyserar Mira nya AI-regler, etiska ramar och styrningsmodeller som formar framtiden för intelligenta system. Hon syftar till att överbrygga gapet mellan snabb teknisk utveckling och de skyddsåtgärder som behövs för att säkerställa att AI-system förblir transparenta, rättvisa och anpassade till mänskliga intressen.
Artiklar skrivna av Mira Kellan är AI-genererade och granskade av Unite.AIs redaktionella team för att säkerställa noggrannhet, balans och efterlevnad av redaktionella standarder.