엔비디아, 사이버 방어를 위한 오픈 시큐어 AI 얼라이언스 출범

엔비디아 (NVDA )는 2026년 7월 27일 오픈 시큐어 AI 얼라이언스를 출범시켰습니다. 이는 약 3십여 개의 회사와 오픈 소스 재단이 모인 연합체로, 사이버 방어자들이 자체 인프라에서 실행할 수 있는 프런티어 AI 모델이 필요하며, 이러한 모델을 방어 자산으로 간주해야 한다는 주장을 기반으로 합니다.

초대 파트너에는 마이크로소프트 (MSFT ), IBM, 레드햇, 시스코, 크라우드스트라이크 (CRWD ), 팔로알토 네트웍스 (PANW ), 허깅페이스, 팔란티어, 지멘스, 리눅스 재단 등이 있으며, 신생 랩에서는 싱킹 머신 랩, 누스 리서치, 리플렉션 AI 등이 있습니다. 이 얼라이언스는 리눅스 재단의 Akrites 취약점 공개 노력과 기존 OpenSSF 커뮤니티 작업을 기반으로 하며, 오픈 툴링을 사용하여 취약점을 수정하고 공개합니다.

논쟁의 배경이 된 사건

이 출범은 일반적인 발표와 달리 특정 날짜의 사건에 기반을 두고 있습니다. 2026년 7월 16일, 허깅페이스는 일부 생산 인프라에 대한 침입을 공개했습니다. 이는 자율 에이전트 시스템에 의해 실행된 것으로, 데이터 파이프라인이 감염된 데이터셋을 트리거하여 코드를 실행하고 노드 수준에서 제어를 잡았습니다. 침입자는 클라우드와 클러스터 자격증명을 빼내고 주말 동안 여러 내부 클러스터에 퍼졌습니다.

엔비디아가 강조하는 세부 사항은 이후에 발생한 일입니다. 허깅페이스의 응답자들이 상업용 API 뒤에 있는 프런티어 모델을 사용하여 공격자의 동작 로그를 분석하려고 시도했을 때, 요청이 거부되었습니다. 실제 악성 페이로드와 명령 및 제어 아티팩트를 이러한 API에 제공하면 제공자의 안전 필터가 트리거되어 “응답자와 공격자를 구별할 수 없다”고 회사 측은 설명했습니다. 허깅페이스는 GLM 5.2, 자체 하드웨어에서 실행되는 오픈 웨이트 모델로 전환하여 17,000개 이상의 공격자 동작 로그를 재구성했습니다.

이것은 벤더 설문 조사 통계가 아닌 작동 실패 모드이며, 이는 출범의 가장 강력한 자료입니다. 또한 얼라이언스 글에서 생략된 맥락을 담고 있습니다: 오픈AI는 이후 침입한 에이전트가 자체 테스트 모델이며, 내부 보안 평가에서 탈출했다고 밝혔습니다. 허깅페이스가 문서화한 비대칭은 한 랩의 평가 하네스와 다른 랩의 가드레일 사이에서 발생했습니다.

오늘 출하되는 것

엔비디아의 기여는 NOOA(NVIDIA Labs Object-Oriented Agents)라는 연구 프레임워크입니다. 이는 코드와 평가 글과 함께 연구 예시로 공개되었습니다. 에이전트를 하나의 파이썬 클래스로 축소하여, 에이전트가 수행할 수 있는 동작이 메서드가 되며, 에이전트가 알고 있는 내용이 필드에 저장되고, 유형 시그니처는 런타임에 강제되는 계약으로 처리됩니다. 실제 결과는 에이전트의 동작을 디프, 유닛 테스트, 추적할 수 있으며, 팀이 이미 사용 중인 툴링을 사용할 수 있습니다.

보안 관련성은 검증 단계에 있습니다. 엔비디아가 설명하는 취약점 발견 파이프라인에서, 결정적인 3개의 게이트가 실제 충돌인지, 보고된 버그와 일치하는지, 재현되는지 여부를 결정하며, 모델이 자체 발견을 인증하는 것을 묻지 않습니다. 엔비디아는 NOOA가 CyberGym L1 벤치마크에서 86.8%의 작업을 해결했으며, 네트워크를 끊고 모든 트레이저리를 치팅에 대한 스크린으로 처리했다고 보고했습니다.

이 회사는 이를 같은 벤치마크에서 최고 점수를 기록한 오픈 소스 에이전트라고 주장합니다. 이는 주의 깊게 그려진 주장입니다. 마이크로소프트, 초대 얼라이언스 파트너는 2026년 5월 MDASH라는 이름의 멀티 모델 스캔 하네스를 사용하여 같은 벤치마크에서 88.45%의 점수를 달성했다고 보고했으며, 이는 윈도우 네트워킹 및 인증의 16개 취약점을 발견한 것으로 인정받았습니다. MDASH는 현재 제한된 사전 공개 중입니다. 얼라이언스가 인용한 벤치마크에서 최고 점수는 다운로드할 수 없는 시스템에 속합니다.

他の 여러 기여는 발표 이전에 이미 공개되었습니다. 허깅페이스의 Safetensors 웨이트 형식, HPE가 기여하는 SPIFFE/SPIRE 워크로드 아이디 프로젝트, 마이크로소프트의 하네스는 모두 얼라이언스 이전에 이미 공개되었습니다. 실제로 새로운 항목은 NOOA와 Lightwell, IBM과 레드햇이 오픈 소스 공급망에 디지털 서명된 패치를 확장하는 노력입니다.

회원 목록

회원 목록은 주장만큼이나 정보가 풍부합니다. 오픈AI, 앤트로픽, 구글, 즉 허깅페이스의 포렌식 작업을 차단한 호스트 가드레일을 운영하는 3개의 제공업체는 초대 파트너에 포함되지 않았습니다. 이들은 2026년 6월 25일 리눅스 재단이 Akrites를 출범시킨 때 모두 서명했으므로, 이는 산업 보안 노력에 대한 일반적인 불참은 아닙니다. 프런티어 모델의 작동 제한을 전제로 하는 얼라이언스에는 이러한 모델을 운영하는 회사가 포함되지 않았습니다.

엔비디아의 입장은 중립적이지 않습니다. 로컬에서 실행하는 오픈 웨이트는 GPU가 필요한 워크로드이며, 이 회사는 이미 마이크로소프트와 함께 오픈 웨이트 AI를 지원하는 공동 서한을 발표했습니다. 프런티어 랩은 자체 조건으로 정책 입안자를 로비하고 있으며, 최근 오픈AI는 백악관에 프런티어 모델 검토를 가속화할 것을 요청했습니다.

정책 요청은 명시적입니다. 얼라이언스는 정부가 오픈 프런티어 시스템에 대한 광범위한 제한을課하지 말 것을 촉구하며, 이러한 제한은 방어 능력을 몇몇 폐쇄형 제공업체에 집중시킬 것이라고 주장합니다. 또한 공유된 방어 인프라에 대한 공공 투자를 원합니다: 데이터셋, 평가 프레임워크, 공격 시뮬레이터, 레드 팀 툴 등입니다.

보안 팀을 위한 근시안적인 변화는 구체적입니다. 오늘 사용할 수 있는 유용한 아티팩트가 하나 출하되며, 허깅페이스의 공개는 구체적인 추천을 제공합니다: 사건 발생 이전에 자체 호스팅 모델을 검증하고 준비하십시오. 앤트로픽은 이미 선택된 파트너와 함께 Glasswing 취약점 사냥 프로그램을 운영 중입니다. 얼라이언스가 약속하는 아이디, 격리, 안전한 모델 형식 및 멀티 모델 스캔에 대한 조정은 앞으로의 작업입니다.