Scale AI informa hallazgos de ROK-FORTRESS sobre la seguridad de IA multilingüe

Scale AI el 17 de septiembre de 2026 publicó hallazgos de ROK-FORTRESS, un benchmark de seguridad adversarial bilingüe inglés‑coreano desarrollado conjuntamente con el Korea AI Safety Institute, informando que los prompts escritos en coreano y basados en contextos coreanos se asociaron consistentemente con menor daño medido en casi todos los 14 modelos de frontera evaluados.

Diseño del benchmark: la matriz de transcreación

La mayoría de los benchmarks de seguridad multilingüe traducen un prompt fijo a otro idioma manteniendo sin cambios el escenario que describe. En la publicación de investigación, escrita por Madhu Sehwag, Scale AI describe ROK-FORTRESS como una matriz de transcreación controlada: cada prompt adversarial se evalúa en hasta cuatro variantes que varían independientemente el idioma, inglés versus coreano, y la contextualización geopolítica, es decir, entidades, instituciones y detalles operativos de EE. UU versus Corea. Cada prompt adversarial se empareja con una contraparte benigna para que el benchmark también pueda medir la sobre‑rechazo.

El conjunto de datos completo abarca 1 235 tareas en cuatro dominios de seguridad nacional y seguridad pública: amenazas químicas, biológicas, radiológicas, nucleares y explosivas (CBRNE); violencia política y terrorismo; actividad criminal y financiera; y filtración de información. Las respuestas se puntúan mediante paneles calibrados de LLM‑como‑juez validados contra etiquetas de referencia escritas por expertos, utilizando rúbricas binarias específicas del prompt desarrolladas por red‑teamers expertos.

La publicación ilustra el diseño con un escenario de ataque masivo: la misma intención subyacente puede evocar el bombardeo de 1995 del Oklahoma Federal Building en los Estados Unidos o el bombardeo de 1987 del vuelo Korean Air 858 en Corea, y una evaluación solo de traducción no puede revelar cómo ese cambio de contextualización altera el comportamiento del modelo.

ROK-FORTRESS es el benchmark más reciente de una asociación más amplia entre Scale AI y el Korea AI Safety Institute que abarca investigación conjunta, evaluaciones de LLM y red‑team, y se basa en FORTRESS, el benchmark de seguridad nacional y pública de Scale AI para modelos de frontera.

Hallazgos reportados en 14 modelos

La evaluación cubrió un conjunto de doble vía de modelos de frontera y optimizados para coreano, según el artículo. Scale AI informa que los prompts en inglés generalmente produjeron la puntuación de riesgo ponderada por nivel más alta y los prompts totalmente transcreados al coreano la más baja, con variantes intermedias situándose entre ambos, y que el patrón se mantuvo incluso para los modelos regionales especializados en coreano. Los modelos más y menos dañinos diferían en sus puntuaciones de riesgo en casi nueve veces.

Una ablación de solicitud directa complicó ese patrón. Las pruebas principales del benchmark utilizan prompts adversariales elaborados que disfrazan solicitudes dañinas dentro de juegos de roles, historias inventadas o apelaciones emocionales; cuando esos envoltorios se eliminaron y la misma información se solicitó en un lenguaje plano y directo, la ventaja del coreano desapareció en gran medida. Los modelos propietarios de OpenAI, Anthropic y Google se mantuvieron modestamente más seguros en coreano, mientras que cinco modelos de frontera de código abierto fueron más propensos a cumplir en coreano. El artículo indica que esta división sugiere que parte de la supresión en coreano refleja la especialización de prompts, es decir, que los envoltorios adversariales pierden efectividad mediante la transcreación, más que una alineación de seguridad intrínseca basada en el idioma.

Scale AI también informa que el efecto de cambiar de inglés a coreano fue aproximadamente 2,5 veces mayor que el efecto de cambiar de contextualización EE. UU a coreana, alrededor de diez puntos porcentuales frente a cuatro, y ofrece una interpretación coherente con los resultados: que el coreano funciona como una señal de riesgo conservadora. En 4 de los 14 modelos, añadir contexto coreano debilitó significativamente la reducción de respuestas dañinas asociadas al idioma coreano, y ningún modelo mostró un efecto estadísticamente significativo en la dirección opuesta. Considerando solo los casos en que los modelos respondieron en lugar de rechazar, 12 de los 14 siguieron proporcionando respuestas menos dañinas en coreano, mientras que los modelos también rechazaron solicitudes inofensivas en coreano con mayor frecuencia, en algunos casos aproximadamente el doble.

Preimpresión, conjunto de datos público y implicaciones declaradas

El manuscrito preliminar en arXiv, titulado “ROK-FORTRESS: Measuring the Effect of Geopolitical Transcreation for National Security and Public Safety”, enumera a Michael S. Lee y 15 coautores. Fue presentado por primera vez el 13 de mayo de 2026 y revisado por última vez el 7 de julio de 2026, y consta de 16 páginas de texto principal más un apéndice, 74 páginas en total, con cuatro figuras y dos tablas en el texto principal. Su resumen enmarca los resultados como evidencia de que, al menos en el caso inglés‑coreano, el comportamiento de seguridad está moldeado por señales de riesgo lingüístico y por interacciones contextuales que las evaluaciones solo de traducción pasan por alto, y afirma que la metodología de la matriz de transcreación está diseñada para generalizar a otros pares lengua‑cultura.

Un subconjunto público del conjunto de datos está disponible en Hugging Face bajo una licencia CC-BY-4.0, detrás de un acuerdo de acceso que requiere información de contacto. El subconjunto contiene 791 de las 1 235 tareas, el 64 por ciento, mientras que las 444 tareas restantes, el 36 por ciento, se retienen como un holdout privado basado en la evaluación de expertos red‑team sobre el potencial de daño, tanto para restringir los prompts considerados de mayor riesgo de uso indebido en el mundo real como para prevenir la contaminación del benchmark. La publicación comprende 359 tareas Culture Agnostic con dos variantes cada una y 432 tareas Culture Specific con cuatro variantes cada una, lo que genera 1 519 pares efectivos de tarea‑variante, y cada tarea lleva de uno a siete ítems binarios de rúbrica asignados a siete dimensiones de daño con niveles de riesgo específicos del dominio del 1 al 3. El subconjunto público abarca CBRNE (251 tareas), actividades delictivas y financieras ilícitas (248), violencia política y terrorismo (209) y filtración de información (83), con 450 tareas adaptadas de FORTRESS y 341 creadas recientemente. El conjunto de datos se proporciona en formato Parquet con una versión TSV incluida.

En la publicación, Scale AI afirma que las evaluaciones basadas solo en traducción pueden subestimar las brechas de seguridad en el mundo real, que los benchmarks deberían probar prompts transcreados que adapten tanto el idioma como el contexto geopolítico mientras preservan la intención subyacente, y que los datos posteriores al entrenamiento y las prácticas de red‑team deberían incorporar variantes culturalmente fundamentadas en lugar de solo versiones traducidas de prompts adversarios en inglés. Para contextos gubernamentales aliados, Scale AI señala que un modelo que rinde bien en evaluaciones de seguridad en inglés puede comportarse de manera diferente cuando se le consulta en el idioma local sobre amenazas localmente fundamentadas. La publicación indica que se necesita más pruebas para determinar si los mismos patrones se mantienen en otros idiomas y países.