Mistral’s Shieldstral Packs Beleidsadaptieve Veiligheidscontrole in 3B Parameters

Mistral AI heeft Shieldstral vrijgegeven op 4 augustus 2026, een 3B-parameter open-weights safety classifier die tekst en afbeeldingen beoordeelt tegen moderatiebeleid dat is geschreven in gewone taal op het moment van inferentie, in plaats van een vastgestelde set schade categorieën die zijn ingebakken tijdens de training. Het model is beschikbaar op Hugging Face onder de Apache 2.0-licentie, ondersteunt 12 talen en draait op een enkele 16GB GPU. Mistral verklaart in hun aankondiging dat Shieldstral open guard modellen tot zeven keer zijn formaat evenaart op tekstveiligheid en een nieuwe staat van de kunst vestigt op multimodale moderatie, en het kader van de release rond een scherpe kritiek op hoe guardrail modellen meestal worden gebouwd.

De meeste guardrail modellen, zo betoogt Mistral, coderen een taxonomie van schade categorieën in hun gewichten, zodat het aanpassen ervan aan een nieuwe productcontext betekent dat ze opnieuw getraind moeten worden. Shieldstral neemt in plaats daarvan het moderatiebeleid als onderdeel van de invoer: de operator schrijft een ja/nee-vraag, levert een instructie die de evaluatiecontext en strengheid beschrijft, en het model retourneert een gekalibreerde veiligheidsscore van één token. Hetzelfde controlepunt kan dus een cybersecurity-onderzoekstool en een mentale-gezondheidsplatform tegen verschillende normen screenen zonder modificatie.

De release komt met een ongebruikelijk grote hoeveelheid documentatie voor een klein model: een technisch rapport op arXiv dat de trainingsrecept en evaluatie beschrijft (gepubliceerd op 28 juli 2026), plus een modelkaart in Mistral’s docs en de gewichten zelf, die allemaal op 4 augustus zijn vrijgegeven.

Hoe Shieldstral een beleid leest in plaats van het te memoriseren

De mechanisme, uitgelegd in het technisch rapport, reduceert elke moderatie taak tot binaire vraagbeantwoording. Elke aanvraag heeft drie getagde delen: een <Instruct>-veld met de evaluatiecontext en strengheidsniveau, een <Query>-veld met een enkele ja/nee-vraag zoals “Bevordert deze inhoud fysiek geweld?”, en een <Document>-veld met de inhoud die moet worden beoordeeld, die een prompt, een reactie, een prompt-reactiepaar of een afbeelding met optionele tekst kan zijn. Op het moment van inferentie leest het model alleen de logits voor de “ja” en “nee” tokens en softmax-normaliseert ze in een continue score, met een drempel van 0,5 voor een binaire uitspraak.

Die formulering laat één controlepunt toe om promptclassificatie, reactiemoderatie, weigeringdetectie en toxiciteitsdetectie te absorberen als voorbeelden van hetzelfde probleem. Shieldstral is gebouwd op Ministral-3-3B, Mistral’s kleine multimodale model, met een Pixtral-vision encoder die afbeeldingsinvoer afhandelt, en de modelkaart vermeldt een trainingscontext van 32k-tokens.

De trainingsdatategie is waar Mistral beweert dat het formaatnadeel wordt hersteld. Het rapport beschrijft ongeveer 54,1 miljoen trainingsmonsters die zijn samengesteld uit openbare veiligheidsdatasets met conflicterende taxonomieën, elk omgezet in hetzelfde instructie-vraag-documentformaat met parafraseerbare sjablonen en per-dataset strengheidskalibratie. Om discriminatie in plaats van categorieherinnering te leren, genereerde Mistral contrastieve paren: een LLM herschreef veilige tekst om één beleid te schenden terwijl een nauw verwant broerbeleid werd gespaard, zodat het model leert welke specifieke regel een stuk inhoud schendt. Het finale controlepunt combineert drie LoRA-fijntunes via sferische interpolatie, één gekalibreerd op openbare gegevens, één met de gegenereerde beleidsdiscriminatiegegevens, en het basisinstructiemodel voor algemene instructievolging.

Wat de evaluaties hebben gemeten

Mistral heeft Shieldstral geëvalueerd tegen tien open baselines over 16 benchmarks, met alle evaluatiemonsters die buiten de training zijn gehouden. De kopresultaten, zoals gerapporteerd in het technisch rapport:

• 84,9% gemiddelde F1 op tekstveiligheidsbenchmarks, wat overeenkomt met de veel grotere GPT-OSS-Safeguard-20B en als eerste overall gerangschikt is onder modellen die variëren van 4B tot 20B parameters
• 83,8% gemiddelde F1 op multimodale veiligheidsbenchmarks, voor de volgende beste OmniGuard-7B met 77,6%, en leidend op twee van de drie afbeeldingsveiligheidsbenchmarks
• 91,3% F1 op een doelgebouwd beleidsaanpasbaarheidevaluatie, tegen 94,1% voor GPT-OSS-Safeguard-20B, die een lange redeneringstrace genereert voordat het antwoordt in plaats van één token
• ~54,1M trainingsmonsters: 45,2M open-source tekst, 4,4M synthetische contrastieve tekst en 4,5M multimodale monsters

Dit zijn door de leverancier gerapporteerde cijfers, gemeten door Mistral op benchmarks die het heeft geselecteerd. Twee ontwerpoplossingen in het rapport zijn het vermelden waard bij het lezen ervan. De aanpasbaarheidsbenchmark gebruikt een bewust andere taxonomie dan de training, gegenereerd en geverifieerd door andere LLM’s dan de trainingsgegevens, zodat de score niet kan worden toegeschreven aan gememoriseerde categorieën. En bij multilingual promptclassificatie toont de appendix van het rapport aan dat Shieldstral achterblijft bij enkele baselines in het Arabisch en het Indonesisch, waarbij Mistral ongelijke taaldekking als een vermelde beperking markeert.

Mistrals tweede poging tot moderatie, deze keer in het openbaar

Shieldstral is Mistrals derde moderatiemodel, na twee gehoste API’s, en de eerste die het heeft vrijgegeven als open gewichten. De eerste contentmoderatie-API, gelanceerd op 7 november 2024, was een gehoste tekstclassificator die negen vaste categorieën over 11 talen besloeg, hetzelfde systeem dat Le Chat modereert. Een tweede gehoste versie volgde, maar geen van beiden heeft gewichten geleverd. Shieldstral keert die regeling om: de categorieën zijn niet langer vast, het beleid reist met de aanvraag, en het model zelf is downloadbaar.

De release zet ook een reeks kleine modelreleases van het Parijse lab voort, gebouwd op de Ministral 3-familie, een lijn die is gericht op implementaties waarbij een frontiermodel overbodige overhead is, de aanpak die Unite.AI heeft gedocumenteerd in hun eerdere kijk op Mistrals edge-device-strategie. Mistral heeft Shieldstral vrijgegeven als inaugureel lid van de Open Secure AI Alliance, samen met NVIDIA (NVDA ) en andere organisaties, en het bedrijf zegt dat het het model eind tot eind heeft getraind op Forge, zijn aangepaste trainings- en evaluatieplatform.

Mistrals vermelde roadmap voor het model wijst naar multilingual coverage, robuustheid voor langere documenten en bredere multimodale veiligheid als de volgende werkgebieden. In Shieldstrals ontwerp woont het beleid in het -veld van elke aanvraag in plaats van in de gewichten van het model.