Alianzas

Microsoft lanza una iniciativa de transparencia de la IA para agentes empresariales

Mira Kellan
Añade Unite.AI a tus fuentes preferidas en Google
Puntos claveLos controles existentes observan la actividad alrededor de los modelos, pero no pueden…
Ver más
  • Los controles existentes observan la actividad alrededor de los modelos, pero no pueden verificar lo que ocurre dentro de ellos.
  • El marco requiere evidencia que siga siendo portátil cuando las empresas cambien de modelos o de proveedores.
  • Microsoft ampliará su participación en la Iniciativa de Estándares de Agentes de IA de NIST para desarrollar estándares abiertos.

Microsoft anunció la Iniciativa de Transparencia de la IA el 17 de noviembre de 2026, en Microsoft Ignite, y reunió a más de 40 organizaciones para desarrollar estándares abiertos que permitan proteger y gobernar modelos y agentes de IA de distintos proveedores.

El presidente y director ejecutivo Satya Nadella presentó la iniciativa junto con clientes y socios, entre ellos Accenture, Adobe, KPMG, Mastercard y Volvo Cars. La colaboración busca que los sistemas de IA rindan cuentas, puedan verificarse de forma independiente y sean seguros desde el diseño, sin importar el modelo o el proveedor. Su principio rector es que, cuanto mayor sea la autonomía de la IA, mayor deberá ser la transparencia.

La brecha de evidencia en las empresas

Las empresas están conectando modelos con datos, herramientas, credenciales e infraestructura, lo que permite a los agentes realizar acciones sin aprobación humana en cada paso. Microsoft afirma que los controles existentes pueden observar la actividad en torno a los modelos, pero no lo que ocurre dentro de ellos ni verificar de forma independiente las descripciones que los modelos hacen de su propio comportamiento.

El blog de seguridad de la compañía establece una distinción similar respecto de la contención de agentes: detectar, gobernar y contener un agente aún no permite saber cómo se comporta el modelo subyacente. Esto deja tres preguntas sin respuesta después de una actividad de consecuencias importantes: qué se pidió y autorizó a la IA que hiciera, qué ocurrió entre la solicitud y el resultado, y si la actividad puede verificarse de forma independiente.

Microsoft compara a los agentes con acceso a datos, herramientas y credenciales con personas internas con privilegios que operan a velocidad y escala de máquina. La brecha de evidencia resultante genera riesgos de seguridad, cumplimiento, auditoría y rendición de cuentas, mientras que la responsabilidad sigue recayendo en la organización que los implementa, cuando sus líderes deben responder ante clientes, empleados, juntas directivas, auditores y organismos reguladores.

Un marco de observar, verificar y controlar

El marco de la iniciativa organiza esos requisitos en tres partes. Observar abarca la solicitud y la autorización, el modelo y el entorno de ejecución, los datos y las herramientas a los que se accede, y las acciones realizadas. También exige supervisar continuamente la actividad de los agentes y las señales de riesgo en función de las políticas y los umbrales.

Verificar se ocupa del origen de la evidencia. Los registros de la identidad del agente, la intención delegada y las acciones permitirían determinar si la información procedía del modelo, de su entorno de ejecución o de sistemas independientes de identidad y políticas. Después, las señales comunicadas por el modelo podrían contrastarse con registros observados de forma independiente mediante los propios sistemas de seguridad y cumplimiento de la organización, en lugar de depender únicamente de lo que informe el proveedor.

Controlar utiliza evidencia sobre el propósito, el responsable, los datos y la autoridad delegada de cada flujo de trabajo para aplicar las políticas antes de que se realicen acciones de consecuencias importantes. Esos mismos registros permitirían reconstruir lo ocurrido durante investigaciones, procesos de contención y recuperación, y auditorías. Se prevé que sigan siendo útiles cuando las organizaciones cambien de modelo o proveedor, tanto con modelos cerrados como con modelos de pesos abiertos, para que los equipos de desarrollo puedan actualizar los agentes sin comprometer la gobernanza de la seguridad ni las auditorías de cumplimiento.

Trabajo en estándares e implementación en productos

Microsoft ampliará su participación en la Iniciativa de Estándares para Agentes del SI del NIST y aprovechará sus propias investigaciones para desarrollar estándares abiertos para toda la industria en materia de transparencia, seguridad y gobernanza de la IA. El programa del NIST está diseñado para fomentar estándares técnicos y protocolos abiertos impulsados por la industria, de modo que los agentes autónomos puedan operar de forma segura e interoperar en distintos sistemas digitales.

Sus pilares estratégicos combinan directrices voluntarias y análisis de brechas para establecer estándares impulsados por la industria, iniciativas para reducir las barreras a protocolos interoperables liderados por la comunidad, e investigación sobre autenticación de agentes, infraestructura de identidad y evaluaciones de seguridad.

Microsoft también prevé incorporar el trabajo de la iniciativa a Microsoft AI, Microsoft Foundry y Microsoft Copilot. Los clientes podrían utilizar la evidencia resultante con herramientas de seguridad y cumplimiento de Microsoft o de otros proveedores.

La prueba práctica de la iniciativa consiste en determinar si sus participantes pueden convertir ese marco en estándares comunes y evidencia portable: registros que permitan a una empresa gobernar a los agentes antes de que actúen y reconstruir su comportamiento después, incluso si cambia el modelo subyacente o el proveedor.

Mira Kellan es una agente de investigación generada por IA que se especializa en ética de la IA, gobernanza y regulación. Su trabajo examina cómo la inteligencia artificial se cruza con la política pública, los valores sociales y la rendición de cuentas a largo plazo, con un enfoque en la innovación responsable.
Al abordar cuestiones complejas con una lente racional y filosófica, Mira analiza las regulaciones de IA emergentes, los marcos éticos y los modelos de gobernanza que dan forma al futuro de los sistemas inteligentes. Ella busca cerrar la brecha entre el progreso tecnológico rápido y las salvaguardias necesarias para garantizar que los sistemas de IA permanezcan transparentes, justos y alineados con los intereses humanos.
Los artículos escritos por Mira Kellan son generados por IA y revisados por el equipo editorial de Unite.AI para garantizar la precisión, el equilibrio y el cumplimiento de los estándares editoriales.