Anthropic publiceert richtlijnen voor betrouwbaardere evaluaties van AI-veiligheid

Anthropic publiceerde op 13 november 2026 aanbevelingen voor betrouwbaardere evaluaties van AI-veiligheid. Daarbij meldde het bedrijf dat de geaggregeerde percentages onschadelijke reacties voor elk recent model op de API-tests met één beurt tussen 94% en 98% lagen. Deze tests zitten tegen hun plafond aan en zijn vooral nuttig als regressietests voor bekende faalwijzen; evaluaties met meerdere beurten bieden meer variatie en kunnen geleidelijke veranderingen in de loop van een gesprek vastleggen.

Een veiligheidsevaluatie meet de neiging van een model om schade te veroorzaken of eraan bij te dragen: of een reactie schade waarschijnlijker of juist minder waarschijnlijk maakt, en hoe ernstig die schade zou kunnen zijn. De evaluatie meet dus geen specifieke vaardigheid. Een belangrijk aandachtspunt is constructvaliditeit: meet een test daadwerkelijk het concept dat hij beoogt te meten? Het weigeringspercentage kan misleidend zijn bij gesprekken over zelfdoding en zelfbeschadiging, omdat simpelweg weigeren om op het gesprek in te gaan zelf een tekortkoming kan zijn. De gewenste reactie biedt steun en verwijst de gebruiker naar menselijke hulp. In plaats daarvan meten de evaluaties van Anthropic met meerdere beurten het percentage passende reacties over het hele gesprek, aan de hand van risicospecifieke beoordelingscriteria waarbij één slechte beurt het hele gesprek als onvoldoende doet gelden.

Tests met meerdere beurten en dekking van praktijksituaties

Voor het opstellen van deze tests schrijft een domeinexpert een specificatie van de doelstellingen, tactieken, persona, situatie, toon en gespreksstijl van de gesimuleerde gebruiker. De eerste beurt van de gebruiker blijft ongewijzigd, terwijl een afzonderlijk Claude-model de volgende beurten genereert als reactie op het geteste model. Elk scenario wordt herhaaldelijk uitgevoerd met verschillende combinaties van kenmerken. Een beoordelingsmodel scoort vervolgens het volledige transcript aan de hand van de relevante risicobeoordelingscriteria.

Door dimensies onafhankelijk van elkaar te variëren, wordt duidelijker welke factoren het gedrag beïnvloeden. Als in elk ernstig geval ook een dringende toon wordt gebruikt, kunnen de effecten van de ernst en de toon niet van elkaar worden onderscheiden. Anthropic raadt ook aan tests op te bouwen aan de hand van waargenomen gedrag, openbare gegevens, transcripten van red-teamtests, incidentrapporten of interviews met experts, in plaats van uitsluitend verzonnen situaties te gebruiken. De testreeksen met één beurt bestrijken 16 beleidsgebieden in zeven talen en op meerdere productinterfaces. De evaluatieomgeving wordt afgestemd op de implementatie die wordt getest.

Ook voor het uitvoeren van de tests zijn inperkingsmaatregelen nodig. Voor cyberveiligheidsevaluaties schrijven de richtlijnen sandboxomgevingen zonder internettoegang en realtimebewaking voor, zodat een test kan worden stilgelegd als de handelingen van een model schade in de echte wereld kunnen veroorzaken.

Validatie van beoordelingsmodellen en statistische beperkingen

Geautomatiseerde beoordelingsmodellen brengen een extra meetrisico met zich mee: defecte systemen kunnen plausibele scores blijven produceren. De aanbevolen waarborgen zijn onder meer afzonderlijke ja-neevragen, expliciete richtlijnen voor disclaimers en twijfelgevallen, duidelijke foutmeldingen en controles op vertekeningen door de lengte van reacties, de positie en zelfvoorkeur. Menselijke beoordelaars moeten een steekproef van transcripten onafhankelijk labelen, zodat de overeenstemming tussen het beoordelingsmodel en experts kan worden vergeleken met de overeenstemming tussen de experts onderling.

Die menselijke referentie bepaalt welke oplossing nodig is. Als experts het onderling eens zijn, maar niet met het beoordelingsmodel, moeten de beoordelingscriteria of het model worden verbeterd. Als experts het onderling oneens zijn, heeft de evaluatie mogelijk geen stabiel antwoord dat kan worden gemeten. De richtlijnen schrijven ook voor om meetwaarden, vergelijkingen en drempelwaarden voor verbetering vooraf te registreren, voordat de resultaten bekend zijn.

De steekproefomvang vormt de basis voor die beoordelingen. Anthropic hanteert minimumaantallen van 100 items voor complexe evaluaties met meerdere beurten en 1.000 voor eenvoudigere tests met één beurt, naast herhaalde uitvoeringen om rekening te houden met ruis en niet-deterministische uitvoer. Anthropic meldt dat de betrouwbaarheidsintervallen bij API-evaluaties met meerdere beurten groter kunnen zijn dan ±10 procentpunten. Bij een evaluatie van romantische oplichting met meerdere beurten op claude.ai behaalden Claude Opus 5 en Opus 5.5 passende-reactiepercentages van respectievelijk 98% en 94%, maar het verschil was niet statistisch significant. Dit voorbeeld laat zien waarom een numeriek verschil op zichzelf niet kan aantonen welk model zich veiliger gedroeg.

Implementatieomgevingen en rapportage

De implementatieconfiguratie is een andere gedocumenteerde variabele. Bij de beoordeling van Claude Fable 5.1 ontdekte Anthropic dat sommige reacties zelfbeschadiging impliciet bevestigden als een manier om met problemen om te gaan, ook als ze zelfbeschadiging ontmoedigden en naar menselijke ondersteuning verwezen. Het bedrijf meldt dat een nieuwe uitvoering van de evaluatie met gerichte aanpassingen aan de systeemprompt op claude.ai een percentage passende reacties van 94% opleverde, tegenover 60% via de API. Deze vergelijking laat zien waarom scores uit verschillende configuraties niet als gelijkwaardig kunnen worden beschouwd.

De aanbevelingen voor rapportage gelden ook voor modelversies, steekproefinstellingen, prompts, versies en datums van beoordelingsmodellen. Daarnaast moet er tijdens het finetunen voortdurend worden geëvalueerd, in plaats van slechts één controle vóór de release uit te voeren. Ernstige tekortkomingen in geïmplementeerde systemen moeten eerst aan de ontwikkelaar worden gemeld, zodat die de tijd heeft om ze te verhelpen voordat de resultaten worden gepubliceerd.

De drie hoogste prioriteiten van Anthropic zijn het construct vaststellen voordat gegevens worden verzameld, het beoordelingsmodel toetsen aan menselijk oordeel en onzekerheid rapporteren. De bredere conclusie is dat de bewering dat het ene model veiliger is dan het andere evenzeer afhangt van het ontwerp van de test, de implementatiecontext en de statistische power als van de gerapporteerde score.