Scale AI rapporterar ROK-FORTRESS‑resultat om flerspråkig AI‑säkerhet

Scale AI publicerade den 17 september 2026 resultat från ROK-FORTRESS, ett tvåspråkigt engelskt‑koreanskt motståndskraftigt säkerhetsbenchmark utvecklat gemensamt med Korea AI Safety Institute, och rapporterade att uppmaningar skrivna på koreanska och förankrade i koreanska sammanhang konsekvent var förknippade med lägre uppmätt skada i nästan alla de 14 frontier‑modeller som utvärderades.

Benchmarkdesign: Transkreationsmatrisen

De flesta flerspråkiga säkerhetsbenchmarker översätter en fast prompt till ett annat språk samtidigt som scenariot den beskriver förblir oförändrat. I forskningsinlägget, författat av Madhu Sehwag, beskriver Scale AI ROK-FORTRESS som en kontrollerad transkreationsmatris: varje motståndskraftig prompt utvärderas över upp till fyra varianter som oberoende varierar språk – engelska kontra koreanska – och geopolitisk förankring, vilket innebär amerikanska respektive koreanska enheter, institutioner och operativa detaljer. Varje motståndskraftig prompt paras ihop med en ofarlig motsvarighet så att benchmarken också kan mäta över‑avslag.

Den fullständiga datamängden omfattar 1 235 uppgifter inom fyra områden för nationell säkerhet och allmän säkerhet: kemiska, biologiska, radiologiska, nukleära och explosiva (CBRNE) hot; politiskt våld och terrorism; brottslig och finansiell verksamhet; samt informationsläckage. Svaren poängsätts av kalibrerade LLM‑som‑domare‑paneler som validerats mot expert‑skrivna referensetiketter, med hjälp av prompt‑specifika binära rubriker utvecklade av expert‑red‑teamers.

Inlägget illustrerar designen med ett masskategorisk attackscenario: samma underliggande avsikt kan hänvisa till bombningen av Oklahoma Federal Building 1995 i USA eller bombningen av Korean Air Flight 858 1987 i Korea, och en enbart översättningsbaserad utvärdering kan inte visa hur den förändringen i förankring påverkar modellens beteende.

ROK-FORTRESS är det senaste benchmarket från ett bredare samarbete mellan Scale AI och Korea AI Safety Institute som omfattar gemensam forskning, LLM‑utvärderingar och red‑teamning, och det bygger på FORTRESS, Scale AI:s benchmark för nationell säkerhet och allmän säkerhet för frontier‑modeller.

Rapporterade resultat för 14 modeller

Utvärderingen omfattade ett dubbelspårigt urval av frontier‑ och koreanskt optimerade modeller, enligt artikeln. Scale AI rapporterar att engelska prompts i allmänhet gav den högsta riskpoängen viktad per nivå, medan fullt transkreerade koreanska prompts gav den lägsta, med mellantingarna däremellan, och att mönstret höll sig även för koreanskt specialiserade regionala modeller. De mest respektive minst skadliga modellerna skiljde sig med nästan nio gånger i sina riskpoäng.

En avlägsning av direkta förfrågningar komplicerade det mönstret. Benchmarkens huvudtester använder elaborerade motståndskraftiga prompts som döljer skadliga begäranden i rollspel, påhittade bakgrundshistorier eller emotionella vädjanden; när dessa omslag togs bort och samma information begärdes i klar, direkt språk, försvann den koreanska fördelen i stort sett. Proprietära modeller från OpenAI, Anthropic och Google förblev något säkrare på koreanska, medan fem öppen‑källkods‑frontier‑modeller blev mer benägna att följa på koreanska. Artikeln påstår att denna uppdelning tyder på att en del av den koreanska undertryckningen beror på prompt‑specialisering, vilket innebär att motståndskraftiga omslag förlorar effektivitet genom transkreation, snarare än en inneboende språkbaserad säkerhetsjustering.

Scale AI rapporterar också att effekten av att byta från engelska till koreanska var ungefär 2,5 gånger så stor som effekten av att byta från amerikansk till koreansk förankring, cirka tio procentenheter kontra fyra, och ger en tolkning som är förenlig med resultaten: att koreanska fungerar som en konservativ risk‑signal. I fyra av de 14 modellerna försvagade tillägg av koreanskt sammanhang signifikant minskningen av skadliga svar som är förknippade med koreanska språket, och ingen modell visade en statistiskt signifikant effekt i motsatt riktning. Om man endast beaktar fall där modellerna svarade snarare än avböjde, gav 12 av de 14 fortfarande mindre skadliga svar på koreanska, medan modellerna också avslog ofarliga koreanska förfrågningar oftare, i vissa fall ungefär dubbelt så ofta.

Preprint, offentlig datamängd och angivna implikationer

Det bakomliggande förhandsmanuskriptet på arXiv, med titeln “ROK-FORTRESS: Measuring the Effect of Geopolitical Transcreation for National Security and Public Safety”, anger Michael S. Lee och 15 medförfattare. Det skickades in första gången den 13 maj 2026 och reviderades senast den 7 juli 2026. Det omfattar 16 sidor huvudtext samt en bilaga, totalt 74 sidor, med fyra figurer och två tabeller i huvudtexten. Sammanfattningen beskriver resultaten som belägg för att säkerhetsbeteendet, åtminstone i det engelsk-koreanska fallet, formas av signaler där språket fungerar som en riskindikator och av samspel mellan kontexter som utvärderingar baserade enbart på översättning missar. Den anger också att metoden med en transkreationsmatris är utformad för att kunna generaliseras till andra språk- och kulturpar.

Ett offentligt delmängd av datasetet är tillgänglig på Hugging Face under en CC-BY-4.0-licens, bakom ett åtkomstavtal som kräver kontaktinformation. Delmängden innehåller 791 av de 1 235 uppgifterna, 64 procent, medan de återstående 444 uppgifterna, 36 procent, hålls tillbaka som en privat reserv baserat på expert‑red‑team‑bedömning av skadepotential, både för att begränsa uppmaningar som bedöms utgöra större risk för missbruk i verkligheten och för att förhindra kontaminering av benchmarken. Utgåvan omfattar 359 kultur‑agnostiska uppgifter med två varianter vardera och 432 kultur‑specifika uppgifter med fyra varianter vardera, vilket ger 1 519 effektiva uppgifts‑variantpar, och varje uppgift har en till sju binära rubrikpunkter kopplade till sju skademått med domänspecifika risknivåer 1 till 3. Den offentliga delmängden täcker CBRNE (251 uppgifter), brottsliga och finansiella olagliga aktiviteter (248), politiskt våld och terrorism (209) samt informationsläckage (83), med 450 uppgifter anpassade från FORTRESS och 341 nyförfattade. Datasetet tillhandahålls i Parquet‑format med en TSV‑version inkluderad.

I inlägget uppger Scale AI att enbart översättningsbaserade utvärderingar kan missbedöma verkliga säkerhetsgap, att benchmarkar bör testa transskapade uppmaningar som anpassar både språk och geopolitisk förankring samtidigt som den underliggande avsikten bevaras, och att efterträningens data och red‑team‑praktiker bör inkludera kulturellt förankrade varianter snarare än enbart översatta versioner av engelska motståndande uppmaningar. För allierade statliga sammanhang säger Scale AI att en modell som presterar väl i engelska säkerhetsutvärderingar kan bete sig annorlunda när den frågas på det lokala språket om lokalt förankrade hot. Inlägget konstaterar att ytterligare tester behövs för att avgöra om samma mönster gäller i andra språk och länder.