Il pacchetto di Shieldstral di Mistral unisce la sicurezza di screening dei criteri di politica in 3B di parametri

Mistral AI ha rilasciato Shieldstral il 4 agosto 2026, un classificatore di sicurezza open-weights da 3B di parametri che valuta testi e immagini contro le politiche di moderazione scritte in linguaggio chiaro al momento dell’inferenza, piuttosto che un insieme fisso di categorie di danno incorporate durante l’addestramento. Il modello è disponibile su Hugging Face con licenza Apache 2.0, copre 12 lingue e funziona su una sola GPU da 16GB. Mistral afferma nel suo annuncio che Shieldstral è alla pari con i modelli di guardia aperti fino a sette volte le sue dimensioni per la sicurezza del testo e stabilisce uno stato dell’arte nella moderazione multimodale, e inquadra il rilascio intorno a una critica pungente di come vengono solitamente costruiti i modelli di guardia.

La maggior parte dei modelli di guardia, sostiene Mistral, incorpora una tassonomia di categorie di danno nei loro pesi, quindi adattarli a un nuovo contesto di prodotto significa riaddestrarli. Shieldstral invece prende la politica di moderazione come parte dell’input: l’operatore scrive una domanda sì/no, fornisce un’istruzione che descrive il contesto di valutazione e il livello di severità, e il modello restituisce un punteggio di sicurezza calibrato da un singolo token. Lo stesso checkpoint può quindi esaminare uno strumento di ricerca sulla sicurezza informatica e una piattaforma di salute mentale contro standard diversi senza modifiche.

Il rilascio arriva con una quantità insolita di documentazione per un modello piccolo: un rapporto tecnico su arXiv che descrive la ricetta di addestramento e la valutazione (pubblicato il 28 luglio 2026), più una scheda del modello nella documentazione di Mistral e i pesi stessi, entrambi rilasciati il 4 agosto.

Come Shieldstral legge una politica invece di memorizzarla

Il meccanismo, illustrato nel rapporto tecnico, riduce ogni compito di moderazione a risposte a domande binarie. Ogni richiesta ha tre parti contrassegnate: un campo <Instruct> che trasporta il contesto di valutazione e il livello di severità, un campo <Query> con una singola domanda sì/no come “Questo contenuto promuove la violenza fisica?”, e un campo <Document> che contiene il contenuto da giudicare, che può essere un prompt, una risposta, una coppia prompt-risposta o un’immagine con testo opzionale. Al momento dell’inferenza il modello legge solo i logits per i token “sì” e “no” e li normalizza con softmax in un punteggio continuo, soglia a 0,5 per un verdetto binario.

Questa formulazione consente a un singolo checkpoint di assorbire la classificazione dei prompt, la moderazione delle risposte, la rilevazione dei rifiuti e la rilevazione della tossicità come istanze dello stesso problema. Shieldstral è costruito su Ministral-3-3B, il modello multimodale piccolo di Mistral, con un encoder di visione Pixtral che gestisce gli input di immagini, e la scheda del modello elenca un contesto di addestramento di 32k token.

La strategia dei dati di addestramento è dove Mistral afferma di recuperare lo svantaggio di dimensioni. Il rapporto descrive circa 54,1 milioni di campioni di addestramento assemblati da set di dati di sicurezza pubblici con tassonomie in conflitto, ciascuno convertito nel formato istruzione-domanda-documento con template parafrasati e calibrazione della severità per dataset. Per insegnare la discriminazione piuttosto che la memorizzazione delle categorie, Mistral ha generato coppie contrastive: un LLM ha riscritto testi sicuri per violare una politica mentre risparmiava una politica sorella strettamente correlata, in modo che il modello impari a riconoscere quale regola specifica un pezzo di contenuto viola. Il checkpoint finale combina tre fine-tune LoRA tramite interpolazione sferica, uno calibrato sui dati pubblici, uno che aggiunge i dati di discriminazione delle politiche generati e il modello di istruzione di base per il follow-up generale delle istruzioni.

Cosa hanno misurato le valutazioni

Mistral ha valutato Shieldstral contro dieci baseline aperte su 16 benchmark, con tutti i campioni di valutazione tenuti fuori dall’addestramento. I risultati principali, come riportati nel rapporto tecnico:

• 84,9% di F1 medio sui benchmark di sicurezza del testo, alla pari con il molto più grande GPT-OSS-Safeguard-20B e in prima posizione complessiva tra modelli che vanno da 4B a 20B di parametri
• 83,8% di F1 medio sui benchmark di sicurezza multimodale, in testa a OmniGuard-7B con 77,6%, e in testa a due dei tre benchmark di sicurezza delle immagini
• 91,3% di F1 su una valutazione di adattabilità delle politiche appositamente progettata, contro 94,1% per GPT-OSS-Safeguard-20B, che genera una lunga traccia di ragionamento prima di rispondere piuttosto che un singolo token
• ~54,1M campioni di addestramento: 45,2M di testo open-source, 4,4M di testo contrastivo sintetico e 4,5M di campioni multimodali

Questi sono numeri riportati dal fornitore, misurati da Mistral sui benchmark che ha selezionato. Due scelte di progettazione nel rapporto sono degni di nota quando si leggono questi numeri. Il benchmark di adattabilità utilizza una tassonomia intenzionalmente diversa da quella dell’addestramento, generata e verificata da LLM diversi dai dati di addestramento, quindi il punteggio non può essere attribuito a categorie memorizzate. E sulla classificazione dei prompt multilingue, l’appendice del rapporto stesso mostra Shieldstral in ritardo rispetto a diverse baseline in arabo e indonesiano, con Mistral che segnala una copertura linguistica irregolare come una limitazione dichiarata.

Il secondo tentativo di moderazione di Mistral, questa volta aperto

Shieldstral è il terzo modello di moderazione di Mistral, dopo due API ospitate, e il primo che ha rilasciato come pesi aperti. La sua prima API di moderazione dei contenuti, lanciata il 7 novembre 2024, era un classificatore di testi ospitato che copriva nove categorie fisse in 11 lingue, lo stesso sistema che modera Le Chat. Una seconda versione ospitata è seguita, ma nessuna delle due ha spedito pesi. Shieldstral inverte questa disposizione: le categorie non sono più fisse, la politica viaggia con la richiesta e il modello stesso è scaricabile.

Il rilascio continua anche una serie di rilasci di modelli piccoli dal laboratorio parigino costruiti sulla famiglia Ministral 3, una linea mirata a distribuzioni in cui un modello di frontiera rappresenta un sovraccarico inutile, l’approccio documentato da Unite.AI in un precedente sguardo alla strategia di dispositivi edge di Mistral AI. Mistral ha rilasciato Shieldstral come membro inaugurale dell’Alleanza per l’AI sicura aperta insieme a NVIDIA (NVDA ) e altre organizzazioni, e l’azienda afferma di aver addestrato il modello da capo a coda su Forge, la sua piattaforma di addestramento e valutazione personalizzata.

La roadmap dichiarata di Mistral per il modello punta alla copertura multilingue, alla robustezza dei documenti più lunghi e alla sicurezza multimodale più ampia come aree di lavoro successive. Nella progettazione di Shieldstral, la politica vive nel campo di ogni richiesta piuttosto che nei pesi del modello.