La Alianza de Inteligencia Artificial elabora un borrador de normas de informes de incidentes confidenciales con plazos públicos

La Fundación Linux el 4 de agosto de 2026, publicó una Solicitud de Comentarios para el Intercambio de Hallazgos de Inteligencia Artificial Compartida (SAFE), un borrador de marco que comprometería a los miembros de la Alianza de Inteligencia Artificial Abierta y Segura a informar incidentes de seguridad de inteligencia artificial en plazos fijos — de forma confidencial al principio, y luego públicamente dentro de los 30 días. Colaboradores de Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat y otros miembros de la alianza elaboraron la propuesta inicial, coincidiendo con la apertura de la conferencia Black Hat en Las Vegas.

El borrador de la propuesta SAFE describe un sistema de aprendizaje de incidentes confidenciales: los miembros informan incidentes y casi accidentes de seguridad de inteligencia artificial, las organizaciones afectadas reciben notificaciones, se identifican fallos de control recurrentes y los resultados se publican como recomendaciones de operación basadas en evidencia. La alianza, lanzada el 27 de julio de 2026, ahora cuenta con más de 120 organizaciones miembros, según NVIDIA en su propio anuncio, con Amazon (AMZN ) y Visa (V ) entre los más recientes en unirse.

Qué es lo que el borrador realmente compromete a los miembros

El borrador de SAFE va más allá en dos lugares específicos: un conjunto definido de eventos informables y un calendario de notificaciones con fechas adjuntas.

Bajo el acuerdo de informe del borrador, un miembro tendría que informar un incidente cuando un sistema de inteligencia artificial que opera acceda o perturbe un sistema de terceros sin autorización, escape o evada un límite de sandbox, red, identidad, política o herramienta de manera que afecte a un tercero, acceda a información confidencial de terceros, o continúe sondeando un objetivo de producción después de que el operador sospeche que la actividad está fuera de alcance. El borrador agrega que la intención no determina si un evento es informable — un operador que creyera que el entorno era simulado aún tiene el deber de informar.

La escalera de notificación es donde viven los plazos: notificar a la organización directamente afectada lo antes posible, a los clientes con exposición creíble dentro de las 72 horas, un informe inicial confidencial de SAFE dentro de los cuatro días hábiles, un aviso más amplio a los clientes dentro de los 14 días cuando se justifique, un informe preliminar de hechos publicado dentro de los 30 días, el estado de remediation publicado dentro de los 90 días, y actualizaciones legibles por máquina semanalmente mientras los riesgos materiales sigan sin resolverse. Los miembros también deberían deber un análisis preliminar de fallo de control dentro de los 30 días — y deberían informar cerca de accidentes, no solo daños confirmados.

Cada incidente sería revisado a través de ocho capas de la pila de operación, desde el modelo y sus instrucciones hasta las salvaguardas, herramientas, entorno, monitoreo, operaciones humanas y cadena de suministro. Una disposición digna de mención: la organización afectada puede corregir errores factuales, pero el borrador dice que no debería tener poder de veto sobre los conocimientos o recomendaciones que surjan de una revisión.

Membresía voluntaria, términos vinculantes, sin brazo de ejecución

SAFE se estructura como un acuerdo voluntario — las obligaciones de informe vincularían a los miembros como condición de membresía, no como ley. El borrador establece que el aprendizaje es separado de la ejecución, que los reguladores y las partes afectadas conservan sus derechos legales, y que los plazos no reemplazan las obligaciones de notificación existentes bajo la práctica de divulgación coordinada de vulnerabilidades, contratos o deberes legales hacia los reguladores y la aplicación de la ley. La conducta intencional o delictiva estaría fuera de la protección del canal confidencial.

El borrador también propone que SAFE opere de forma independiente, para que ningún proveedor o segmento de la industria controle sus hallazgos, con la participación de organismos gubernamentales y de normalización como observadores no controladores. El marco de la propuesta es directo sobre este punto: “La confianza no es un control de seguridad. La evidencia compartida y las mejoras verificables son cómo se gana la confianza”. Si esa independencia se mantiene una vez que los incidentes reales nombren a miembros reales es la pregunta a la que el período de comentarios existe para responder — pero el borrador al menos pone la obligación por escrito antes de que llegue la primera prueba.

El incidente que hizo el caso

La alianza se formó hace ocho días, el 27 de julio de 2026, como una coalición de aproximadamente tres docenas de empresas y fundaciones de código abierto, citando explícitamente la divulgación de seguridad de Hugging Face del 16 de julio de 2026 como el desencadenante. Hugging Face informó que un marco de agente autónomo había ejecutado una intrusión en su infraestructura de producción de extremo a extremo, y que cuando la empresa intentó analizar más de 17.000 acciones de atacante grabadas, los modelos de API comerciales bloquearon el trabajo forense — sus guardias no podían distinguir entre un respondedor de incidentes y un atacante. El equipo completó el análisis en el modelo GLM-5.2 de peso abierto que se ejecuta en su propia infraestructura. Unite.AI cubrió el lanzamiento de la alianza y la cuenta forense de Hugging Face cuando cada uno aterrizó.

El borrador de SAFE se lee como la respuesta de la alianza a ese episodio: si un miembro hubiera compartido un casi accidente bajo estas reglas, el calendario de notificación y el análisis de fallo de control ya estarían en marcha.

Qué sucede a continuación

La RFC está abierta para revisión, discusión y contribución comunitaria a través del repositorio de RFC de la alianza, publicado bajo una licencia de Atribución 4.0 de Creative Commons, con la Fundación Linux invitando a desarrolladores, empresas, investigadores y organismos de normalización a dar forma al marco antes de que se endurezca. El borrador es explícitamente un documento de inicio — la Fundación Linux lo describe como una discusión abierta en lugar de una especificación terminada, por lo que las obligaciones de informe y los plazos anteriores permanecen como términos propuestos hasta que el grupo de trabajo los adopte.

La comunidad de archers y organizaciones de normalización pueden dar forma al marco antes de que se endurezca. El borrador es explícitamente un documento de inicio — la Fundación Linux lo describe como una discusión abierta en lugar de una especificación terminada, por lo que las obligaciones de informe y los plazos anteriores permanecen como términos propuestos hasta que el grupo de trabajo los adopte.