AI 동맹, 공개 마감일이 포함된 기밀 사고 보고 규칙 초안 작성

Linux Foundation은 2026년 8월 4일 Shared AI Findings Exchange(SAFE)에 대한 의견수렴 문서(RFC)를 공개했다. 이 초안은 Open Secure AI Alliance 회원들이 AI 보안 사고를 정해진 기한에 따라 보고하도록 하는 체계로, 처음에는 기밀로 보고하고 이후 30일 이내에 공개하도록 한다. Cisco, CrowdStrike (CRWD ), Hugging Face, NVIDIA (NVDA ), Red Hat 등 연합 회원사의 참여자들이 초기 제안을 작성했으며, 공개 시점은 라스베이거스 Black Hat 콘퍼런스 개막에 맞췄다.

SAFE 초안은 기밀 사고 학습 체계를 설명한다. 회원들은 AI 보안 사고와 실제 피해로 이어질 뻔한 사례를 보고하고, 영향을 받은 조직에는 이를 알리며, 반복되는 통제 실패를 찾아내고, 그 결과를 증거에 기반한 운영 권고로 공개한다. 2026년 7월 27일 출범한 연합에는 현재 120개가 넘는 조직이 가입해 있다고 NVIDIA는 자체 발표에서 밝혔다. Amazon (AMZN )과 Visa (V )도 최근 합류했다.

초안이 회원에게 실제로 요구하는 것

SAFE 초안은 두 가지 부분을 구체화한다. 보고 대상 사고의 범위와 날짜가 명시된 통지 일정이다.

초안의 보고 협약에 따르면, 회원이 운영하는 AI 시스템이 허가 없이 제3자의 시스템에 접근하거나 이를 방해한 경우, 제3자에게 영향을 미치는 방식으로 샌드박스·네트워크·신원·정책·도구의 경계를 벗어나거나 우회한 경우, 제3자의 기밀 정보에 접근한 경우, 또는 운영자가 허용 범위를 벗어난 활동이라고 의심한 뒤에도 실제 운영 대상을 계속 탐색한 경우에는 사고를 보고해야 한다. 초안은 보고 의무가 의도에 따라 결정되지 않는다고 덧붙인다. 운영자가 해당 환경을 모의 환경으로 믿었더라도 보고 의무는 남는다.

단계별 통지 일정에는 구체적인 기한이 있다. 직접 영향을 받은 조직에는 가능한 한 빨리, 노출 가능성을 뒷받침하는 증거가 있는 고객에게는 72시간 이내에 알려야 한다. 초기 기밀 SAFE 보고서는 4영업일 이내에 제출하고, 필요한 경우 14일 이내에 더 넓은 고객 대상 권고문을 내야 한다. 예비 사실 보고서는 30일 이내에, 시정 조치 현황은 90일 이내에 공개하며, 중대한 위험이 해결되지 않은 동안에는 기계 판독 가능한 업데이트를 매주 제공해야 한다. 회원은 30일 이내에 예비 통제 실패 분석도 제출해야 하며, 확인된 피해뿐 아니라 피해로 이어질 뻔한 사례도 보고해야 한다.

각 사고는 모델과 모델 지침에서 시작해 안전장치, 도구, 환경, 모니터링, 사람에 의한 운영, 공급망에 이르는 운영 체계의 8개 계층에 걸쳐 검토된다. 눈여겨볼 조항도 있다. 영향을 받은 조직은 사실관계 오류를 바로잡을 수 있지만, 검토에서 도출된 교훈이나 권고에 대한 거부권을 가져서는 안 된다는 것이다.

가입은 자발적이지만 조건은 구속력을 가지며, 별도 집행 기관은 없다

SAFE는 자발적 협약으로 설계됐다. 보고 의무는 법률이 아니라 회원 자격의 조건으로 회원을 구속한다. 초안은 사고로부터의 학습과 법 집행이 분리되어 있고, 규제 기관과 피해 당사자의 법적 권리는 유지되며, 제시된 기한이 조정된 취약점 공개 관행이나 계약, 규제·수사 기관에 대한 법적 의무에 따른 기존 통지 요건을 대체하지 않는다고 명시한다. 고의적 행위나 범죄 행위는 기밀 채널의 보호 대상에서 제외된다.

초안은 또한 특정 공급업체나 산업 부문이 조사 결과를 통제하지 못하도록 SAFE를 독립적으로 운영하고, 정부와 표준화 기구는 통제권이 없는 참관자로 참여하도록 제안한다. 제안서는 이를 분명하게 표현한다. “신뢰는 보안 통제가 아니다. 공유된 증거와 검증 가능한 개선을 통해 신뢰를 얻는다.” 실제 사고에서 실제 회원의 이름이 거론될 때도 그 독립성이 유지될지는 의견수렴 과정에서 답해야 할 문제다. 적어도 초안은 첫 시험대에 오르기 전에 의무를 문서로 명시했다.

필요성을 드러낸 사고

연합은 8일 전인 2026년 7월 27일, 약 36개 기업과 오픈소스 재단이 참여한 연합체로 출범했다. 출범 계기로 명시적으로 지목한 것은 2026년 7월 16일 Hugging Face가 공개한 보안 사고였다. Hugging Face는 자율 에이전트 프레임워크가 자사의 실제 운영 인프라 침입을 처음부터 끝까지 수행했다고 보고했다. 회사가 기록된 공격자 행동 17,000여 건을 분석하려 하자 상용 API 모델은 포렌식 작업을 차단했다. 안전장치가 사고 대응 담당자와 공격자를 구분하지 못했기 때문이다. 팀은 자체 인프라에서 가중치가 공개된 GLM-5.2 모델을 실행해 분석을 마쳤다. Unite.AI는 연합 출범과 Hugging Face의 포렌식 분석 내용을 각각 공개 당시 보도했다.

SAFE 초안은 이 사건에 대한 연합의 대응으로 읽힌다. 회원 한 곳에서 피해로 이어질 뻔한 사례가 이 규칙에 따라 공유됐다면, 통지 일정과 통제 실패 분석의 기한은 이미 진행되고 있었을 것이다.

다음 단계

RFC는 연합의 RFC 저장소에서 커뮤니티 검토, 토론, 기여를 받을 수 있도록 공개됐으며, 크리에이티브 커먼즈 저작자표시 4.0 라이선스가 적용된다. Linux Foundation은 개발자, 기업, 연구자, 표준화 기구가 체계가 확정되기 전에 함께 내용을 다듬도록 초청하고 있다. 초안은 명시적으로 출발점이다. Linux Foundation은 이를 완성된 명세가 아닌 공개 토론으로 설명하므로, 앞서 제시한 보고 의무와 기한은 작업 그룹이 채택할 때까지 제안된 조건으로 남는다.