Aliança de IA elabora regras de relatórios de incidentes confidenciais com prazos públicos

A Linux Foundation em 4 de agosto de 2026, publicou uma Solicitação de Comentários para o Shared AI Findings Exchange (SAFE), um rascunho de estrutura que vincularia os membros da Open Secure AI Alliance a relatar incidentes de segurança de IA em prazos fixos — inicialmente de forma confidencial, e posteriormente publicamente dentro de 30 dias. Contribuintes da Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat e outros membros da aliança elaboraram a proposta inicial, coincidindo com a abertura da conferência Black Hat em Las Vegas.

O rascunho da proposta SAFE descreve um sistema de aprendizado de incidentes confidenciais: os membros relatam incidentes de segurança de IA e quase-acidentes, as organizações afetadas são notificadas, falhas de controle recorrentes são identificadas, e os resultados se tornam recomendações operacionais baseadas em evidências. A aliança, lançada em 27 de julho de 2026, agora conta com mais de 120 organizações membros, disse a NVIDIA em seu próprio anúncio, com Amazon (AMZN ) e Visa entre as mais recentes a se juntarem.

O que o rascunho realmente compromete os membros

O rascunho SAFE vai além em dois pontos específicos: um conjunto definido de eventos relatáveis e um cronograma de notificação com datas anexas.

De acordo com o acordo de relatórios do rascunho, um membro teria que relatar um incidente quando um sistema de IA que opera acessa ou perturba um sistema de terceiros sem autorização, escapa ou contorna uma fronteira de sandbox, rede, identidade, política ou ferramenta de forma que afete um terceiro, acessa informações confidenciais de terceiros, ou continua sondando um alvo de produção após o operador suspeitar que a atividade está fora do escopo. O rascunho acrescenta que a intenção não determina se um evento é relatável — um operador que acreditava que o ambiente era simulado ainda tem o dever de relatar.

A escada de notificação é onde os prazos vivem: notificar a organização diretamente afetada o mais rápido possível, clientes com exposição crível dentro de 72 horas, um relatório SAFE confidencial inicial dentro de quatro dias úteis, um aviso mais amplo ao cliente dentro de 14 dias quando justificado, um relatório factual preliminar publicado dentro de 30 dias, status de remediação publicado dentro de 90 dias, e atualizações legíveis por máquina semanais enquanto os riscos materiais permanecem não resolvidos. Os membros também deveriam fornecer uma análise preliminar de falha de controle dentro de 30 dias — e teriam que relatar quase-acidentes, não apenas danos confirmados.

Cada incidente seria revisado em oito camadas da pilha de operação, desde o modelo e suas instruções até salvaguardas, ferramentas, ambiente, monitoramento, operações humanas e cadeia de suprimentos. Uma provisão digna de nota: a organização afetada pode corrigir erros factuais, mas o rascunho diz que não deve ter poder de veto sobre as lições ou recomendações que resultam de uma revisão.

Membros voluntários, termos vinculantes, sem braço de aplicação

O SAFE é estruturado como um acordo voluntário — as obrigações de relatórios vinculariam os membros como condição de membresia, não como lei. O rascunho afirma que o aprendizado é separado da aplicação, que reguladores e partes afetadas retêm seus direitos legais, e que os prazos não substituem as obrigações de notificação existentes sob a prática de divulgação de vulnerabilidade coordenada, contratos ou deveres legais para reguladores e aplicação da lei. Conduta intencional ou criminosa ficaria fora da proteção do canal confidencial.

O rascunho também propõe que o SAFE opere de forma independente, para que nenhum fornecedor ou segmento de indústria controle seus achados, com participação de órgãos governamentais e de normas como observadores não controladores. A própria estrutura da proposta é direta sobre o ponto: “A confiança não é um controle de segurança. Evidências compartilhadas e melhorias verificáveis são como a confiança é conquistada.” Se essa independência se mantém uma vez que incidentes reais nomeiam membros reais é a pergunta que o período de comentários existe para responder — mas o rascunho pelo menos coloca a obrigação por escrito antes do primeiro teste chegar.

O incidente que fez o caso

A aliança foi formada há oito dias, em 27 de julho de 2026, como uma coalizão de cerca de três dúzias de empresas e fundações de código aberto, citando explicitamente a divulgação de segurança da Hugging Face em 16 de julho de 2026 como o gatilho. A Hugging Face relatou que uma estrutura de agente autônomo havia executado uma intrusão em sua infraestrutura de produção de ponta a ponta, e que quando a empresa tentou analisar mais de 17.000 ações de atacante registradas, modelos de API comerciais bloquearam o trabalho forense — suas barreiras não podiam distinguir um respondente de incidentes de um atacante. A equipe completou a análise no modelo GLM-5.2 de peso aberto em sua própria infraestrutura. O Unite.AI cobriu o lançamento da aliança e a conta forense da Hugging Face quando cada um aterrissou.

O rascunho SAFE lê como a resposta da aliança para esse episódio: se um quase-acidente de um membro tivesse sido compartilhado sob essas regras, o cronograma de notificação e a análise de falha de controle já estariam em andamento.

O que acontece em seguida

A RFC está aberta para revisão, discussão e contribuição da comunidade por meio do repositório RFC da aliança, lançada sob uma licença Creative Commons Attribution 4.0, com a Linux Foundation convidando desenvolvedores, empresas, pesquisadores e órgãos de normas para moldar a estrutura antes que ela se torne rígida. O rascunho é explicitamente um documento de início — a Linux Foundation o descreve como uma discussão aberta e não como uma especificação concluída, então as obrigações de relatórios e prazos acima permanecem termos propostos até que o grupo de trabalho os adote.