AI-modellen en platforms
OpenAI stelt gezamenlijke limieten voor AI-ontwikkeling voor, gekoppeld aan veiligheidsmijlpalen

Belangrijkste puntenOpenAI koppelt grenzen aan de ontwikkeling van frontier-modellen aan concrete…
Meer weergeven
- OpenAI koppelt grenzen aan de ontwikkeling van frontier-modellen aan concrete monitoringsmijlpalen in plaats van aan vaste capaciteitsdrempels.
- Perplexity kan niet als gedeelde standaard dienen omdat labs verschillende datasets gebruiken en het verbeteringen in redeneervermogen mist.
- OpenAI's eigen onderzoek toont een ongelijkmatige AI-verbetering waarbij mensen nog steeds centraal staan in de ontwikkelingscyclus.
Hoofdwetenschapper van OpenAI Jakub Pachocki maakte op 22 november 2026 interne metingen van de perplexiteit bekend en stelde gezamenlijke limieten voor de ontwikkeling van geavanceerde AI voor. Hij waarschuwde dat onderzoek naar afstemming en monitoring mogelijk geen gelijke tred houdt als de vooruitgang in pretraining al in 2027 versnelt.
De bekendmaking betreft log-perplexiteit: de logaritme van perplexiteit, ook wel kruis-entropieverlies genoemd. Perplexiteit meet hoe goed een model gemiddeld het volgende token voorspelt; lagere waarden wijzen op betere voorspellingen. De cijfers van OpenAI zijn gebaseerd op een vaste momentopname van achtergehouden gegevens uit de interne codebase, de belangrijkste evaluatiedataset die het bedrijf sinds GPT-3.5 bijhoudt.
Pachocki meldt dat GPT-3.5 een waarde van ongeveer 0,99 behaalde en vloeiende gesprekken mogelijk maakte, en daarmee de basis vormde voor de oorspronkelijke ChatGPT. GPT-4 kwam uit op ongeveer 0,91 en kon redeneringen in stappen effectief toepassen. Nieuwe mogelijkheden op het gebied van cyberbeveiliging en wiskunde kwamen naar voren bij verlieswaarden onder 0,8. Bij ongeveer 0,76 begon een model opvallende resultaten te behalen op onopgeloste wiskundige vraagstukken, nadat OpenAI zijn modellen al meer dan een jaar zulke problemen had voorgelegd.
Gezamenlijke limieten gekoppeld aan mijlpalen voor monitoring
Pachocki verwacht op basis van de recente vooruitgang dat er rond een log-perplexiteit van 0,68–0,70 nog meer belangrijke mogelijkheden zullen ontstaan. Hij erkent daarbij niet te weten welke dat zullen zijn en dat de huidige evaluaties er mogelijk niet op testen. Het voorstel vraagt ontwikkelaars van geavanceerde AI om limieten op basis van perplexiteit en andere metingen niet te overschrijden totdat onderzoekers een concrete mijlpaal hebben bereikt in hun vermogen om AI-gedrag te begrijpen en te monitoren. Een voorbeeld is een opvolger van monitors voor redeneringen in stappen, die de uitgeschreven redenering van een model onderzoeken op aanwijzingen voor misalignment.
Ontwikkelaars zouden ook gezamenlijk normen voor evaluatie vaststellen, veiligheidsgevallen met red-teams toetsen voordat zulke modellen voor het eerst worden gebruikt, en gemeenschappelijke transparantienormen opstellen. De eerste limiet is bedoeld als opstap naar een gemeenschappelijk kader voor opeenvolgende limieten. Pachocki zegt dat OpenAI de cijfers bekendmaakte, hoewel concurrenten daardoor een duidelijker beeld van zijn positie kregen, omdat hij gezamenlijke veiligheidsmaatregelen dringend noodzakelijk vindt.
Het scenario van versnelling is voorwaardelijk: volgens Pachocki zou er mogelijk een snelle reeks fundamentele verbeteringen in pretraining kunnen plaatsvinden als AI substantieel bijdraagt aan algoritmisch onderzoek. De vooruitgang op het gebied van afstemming en monitoring zal waarschijnlijk geen gelijke tred houden met de volledige potentiële versnelling.
OpenAI schrijft de sterke versnelling van de verliescurve in 2026 grotendeels toe aan langetermijninvesteringen in onderzoek en rekenkracht, waarbij automatisering een kleinere rol speelt. Toch hebben de meest recente modellen betekenisvolle bijdragen geleverd aan AI-ontwerp.
Het onderzoeksrapport van OpenAI van 18 november 2026 maakt die bijdragen concreet. Onderzoekers op het gebied van pretraining schreven de genoemde ideeën voor GPT-6 Astra toe aan mensen. Voor GPT-6.2 Astra beschreven ze hoe ze samen met Codex ideeën uitwerkten, waaronder een geval waarin Codex belangrijke inzichten aandroeg en een ander waarin een door Codex voorgestelde wijziging een idee goed liet werken. Ook de geschatte slagingspercentages zonder tussenkomst liepen sterk uiteen: 79% voor het monitoren van trainingsruns, 35% voor het starten ervan en 25% voor het schrijven van code voor inferentie en modelbediening. Die variatie ondersteunt de conclusie in het rapport dat de meerwaarde voor onderzoek ongelijk verdeeld blijft en dat mensen een centrale rol in het proces blijven spelen.
De uitdagingen rond monitoring achter het voorstel
Een onderzoek van OpenAI naar de monitorbaarheid van AI van 10 november 2026 onderzoekt twee onvolmaakte benaderingen van monitorbaarheid: het vermogen om zonder redenering in stappen of tokens voor toolaanroepen te redeneren tijdens één voorwaartse doorgang, en de beheersbaarheid van redeneringen in stappen, oftewel het vermogen om zulke redeneertokens op verzoek toe te voegen, te verwijderen of anderszins te manipuleren. Het onderzoek meldt een sterke samenhang tussen een lagere perplexiteit van het basismodel en het vermogen om zonder redenering in stappen te redeneren, en een zwakkere samenhang met een grotere beheersbaarheid.
Uit het onderzoek bleek ook dat reinforcement learning de beheersbaarheid vergrootte, zelfs zonder procesbegeleiding, afgezien van lengtebeperkingen en de beoordeling van eindantwoorden. Daarnaast kon supervised fine-tuning op uitvoer van een beter beheersbaar lerarenmodel die beheersbaarheid overdragen op een leerlingmodel.
OpenAI waarschuwt dat beheersbaarheid moeilijk eenduidig te meten is en niet altijd overeenkomt met het ontwijken van monitoring. Het bedrijf verwacht bovendien dat verdere vooruitgang met pretraining nieuwe benaderingen van monitorbaarheid vereist. Dat is de technische leemte die schuilgaat achter Pachocki’s voorbeeld van een opvolger van monitors voor redeneringen in stappen als mogelijke ontwikkelingsmijlpaal.
De beperkingen van perplexiteit als gezamenlijke norm
Perplexiteit alleen kan niet de volledige norm vormen. Vergelijkingen tussen laboratoria zijn lastig, omdat ontwikkelaars verschillende evaluatiedatasets en trainingsmixen gebruiken. Bovendien meet de metriek niet rechtstreeks hoe goed een model een concrete taak uitvoert. Ook mist ze capaciteitsverbeteringen buiten pretraining: redeneringen in stappen kunnen de mogelijkheden sterk vergroten zonder dat de perplexiteit van het basismodel afneemt.
De meting heeft ook een onbekende ondergrens. Pachocki waarschuwt dat de loss naar verwachting niet nul wordt; naarmate die de inherente entropie van de data nadert, zal de schijnbare vooruitgang vertragen, terwijl kleinere verbeteringen in perplexiteit kunnen samengaan met grotere intelligentiewinst. Een vaste numerieke toename zou daarom niet per se een vaste praktische betekenis hebben.
Het voorstel maakt van een technische meting een toets voor bestuur: kunnen ontwikkelaars resultaten tussen labs vergelijkbaar maken en overeenstemming bereiken over een concrete mijlpaal voor toezicht voordat ze drempels overschrijden die Pachocki in verband brengt met capaciteiten die huidige evaluaties mogelijk nog niet kunnen detecteren.












