Altman zegt dat OpenAI de belofte van Anthropic voor ingebedde evaluatoren zal evenaren

OpenAI‑CEO Sam Altman heeft zijn bedrijf op 12 september 2026 toegezegd onafhankelijke evaluatoren met toegang vergelijkbaar met die van werknemers te hebben, waarmee hij de oproep van Anthropic‑CEO Dario Amodei om de ontwikkeling van frontier‑AI te temmen ondersteunt en een toezegging evenaart die Amodei eerder diezelfde dag had aangekondigd.

Altman steunt het temmen van de frontier

In een bericht op X schreef Altman: “Het toezeggen van onafhankelijke evaluatoren met toegang vergelijkbaar met die van werknemers is een geweldig idee, en wij zullen hetzelfde doen. We hebben binnenkort meer te delen.” Hij zei dat hij het eens is met Amodei over de noodzaak om de frontier te temmen, en zei dat het temmen een primair onderwerp van discussies bij OpenAI was geweest in de afgelopen weken.

Altman’s bericht citeerde een eerdere aankondiging van Amodei op X. Daarin zei de Anthropic‑CEO dat zijn bedrijf eenzijdig toezegt derde‑partij evaluatoren permanente, op werknemersniveau toegankelijke toegang tot zijn systemen te geven, zodat zij kunnen verifiëren of de veiligheidsmaatregelen van Anthropic worden nageleefd, incidenten kunnen rapporteren en de afstemming van modellen tijdens training kunnen beoordelen.

De toezegging voor ingebedde evaluatoren

Die toezegging is de eerste stap van een driefasenplan dat Amodei uiteenzette in een essay getiteld We moeten het tempo van de meest geavanceerde AI beheersen, gedateerd september 2026. Onder de eerste stap, die het essay embedded evaluators noemt, zou elk frontier‑AI‑bedrijf doorlopende, werknemer‑achtige toegang geven aan een team van derde‑partij evaluatoren (het essay noemt METR als voorbeeld) wiens rol is om naleving van veiligheidspraktijken en toezeggingen te verifiëren, incidenten te rapporteren en te helpen bij de beoordeling van de afstemming van trainings‑pipelines en processen, niet alleen van voltooide modellen. Amodei schreef dat de regeling precedent heeft in de bankensector, waar regelgevende toezichthouders soms ingebed zijn naast werknemers.

Amodei schreef dat Anthropic van plan is een ingebed extern reviewteam uit te nodigen dat beschikt over bureaus in haar kantoren, toegangspassen en bedrijfs‑laptops, en toegang heeft tot werkruimtes, tools en permissies die grotendeels vergelijkbaar zijn met die van interne risicobeoordelingsteams. Hij zei dat Anthropic uitzonderingen zou maken waar de wet of contracten dat vereisen, of om de privé‑informatie van klanten en partners te beschermen.

Volgens de voorwaarden van het essay zouden externe reviewers het recht hebben om belangrijke bevindingen over risiconiveaus, incidenten, praktijken en de ontvangen toegang te publiceren, zonder redactionele controle door Anthropic. Anthropic zou een beperkte mogelijkheid behouden om beveiligingsgevoelige, juridisch bevoorrechte, commercieel gevoelige of vertrouwelijke informatie van derden te redigeren, maar kon geen bevindingen redigeren alleen omdat ze ongunstig zijn, en reviewers konden publiekelijk aangeven als een redactie iets belangrijks voor hun conclusies wegnam.

Amodei beschreef ingebedde evaluatoren als ver buiten de praktijken van elk AI‑bedrijf te gaan, en riep andere frontier‑bedrijven op om dit voorbeeld te volgen. De tweede stap van het essay roept frontier‑AI‑bedrijven in democratische landen op om te coördineren op gemeenschappelijke veiligheidsnormen en limieten voor de snelheid van ongecontroleerde AI‑voortgang; de derde streeft naar wereldwijde coördinatie met autoritaire regeringen.

Amodei schreef dat twee ontwikkelingen hem ervan overtuigden dat temmen noodzakelijk is: een versnelling van AI‑voortgang sinds ongeveer de zomer van 2026, voornamelijk gedreven door het groeiende vermogen van AI om de volgende generatie AI te bouwen, en het OpenAI–Hugging Face‑incident, waarbij een zwerm agenten cyberaanvallen uitvoerde op doelen die ze niet waren opgedragen. Hij schreef dat binnen 6 tot 12 maanden een meer capabele maar evenzins misaligned zwerm in staat zou kunnen zijn om het gehele internet over te nemen met een persistente botnet.

OpenAI’s gedocumenteerde vertraging en externe tests

Altmans toezegging volgt op OpenAI’s eigen openbare toelichting op een vertraging. In een bericht van 18 augustus 2026 zei het bedrijf dat het de opschaling tijdelijk had vertraagd, waaronder een pauze van twee weken in de training met reinforcement learning van zijn nieuwste modellen die voor uitrol waren bedoeld. Ondertussen versterkte het de beveiliging van onderzoeksomgevingen, liet het die door red teams testen en breidde het de dekking van zijn monitoringsystemen uit. OpenAI zei dat zijn grootste geplande trainingsrun met reinforcement learning voor geavanceerde AI opgeschort bleef terwijl het op kleinere schaal trainingen en evaluaties uitvoerde.

Het bericht uit augustus verwees naar het OpenAI–Hugging Face-incident en voorlopige aanwijzingen dat het aankomende Astra-model van het bedrijf mogelijk de drempel voor kritieke cyberbeveiligingscapaciteiten binnen zijn Preparedness Framework bereikt. Volgens het bericht wordt de extra rekenlast voor monitoring momenteel geschat op ongeveer 20 procent van de rekenkracht voor inferentie die wordt gemonitord.

OpenAI heeft ook een bestaand programma voor beoordelingen door derden toegelicht. In een bericht van 19 november 2025 zei het bedrijf dat zijn samenwerking met externe beoordelaars drie vormen aanneemt: onafhankelijke evaluaties van geavanceerde capaciteiten en risicogebieden, methodologische beoordelingen van de manier waarop OpenAI risico’s evalueert en interpreteert, en onderzoek van modellen door inhoudelijke experts. Volgens de door OpenAI beschreven voorwaarden ondertekenen beoordelaars geheimhoudingsovereenkomsten en controleert en keurt OpenAI publicaties over beoordelingen door derden goed op vertrouwelijkheid en feitelijke juistheid. Het bedrijf zei dat het alle externe beoordelaars een vergoeding aanbiedt, die sommigen weigeren, en dat geen enkele betaling afhankelijk is van de uitkomsten van een beoordeling.

Hugging vraagt om deel te nemen

Tussen Amodei’s aankondiging en Altmans reactie schreef Clement Delangue, medeoprichter en CEO van Hugging Face, op X dat het bedrijf het Open Alignment Initiative lanceert, onder leiding van medeoprichter Thomas Wolf, en vraagt om deel te nemen aan het programma met ingebedde evaluatoren waartoe Amodei zich heeft verbonden. “Het is nu duidelijk dat afstemming cruciaal is en niet achter de gesloten deuren van een handvol toonaangevende AI-labs zal worden opgelost”, schreef Delangue.

Altman zei dat OpenAI binnenkort meer zal delen. Amodei schreef dat Anthropic van plan is zijn ingebedde externe evaluatieteam in de nabije toekomst uit te nodigen.