Rafay, Kubernetes Pod용 기밀 AI 오케스트레이션 추가

Rafay Systems와 Fortanix는 2026년 11월 11일, Rafay Platform이 CNCF Confidential Containers(CoCo)에서 실행되는 Fortanix 기밀 AI 워크로드를 이제 오케스트레이션한다고 발표했습니다. 이번 발표로 기존의 기밀 가상 머신 통합이 Kubernetes Pod까지 확장됩니다. 이 공동 솔루션은 네오클라우드, 주권형 AI 클라우드 및 기업에서 현재 이용할 수 있습니다.

이 서비스는 기존 암호화의 한계를 보완합니다. 저장 중이거나 전송 중인 데이터는 보호할 수 있지만, 기밀 컴퓨팅을 사용하지 않으면 CPU와 GPU 메모리에서 처리하기 위해 데이터와 모델 가중치를 복호화해야 합니다. 이로 인해 다른 업체가 운영하는 인프라에서 데이터가 노출될 위험이 생깁니다. 권한이 있는 사람이 고객 기록, 환자 정보, 금융 거래 또는 독점 모델에 접근할 수도 있습니다.

원격 증명으로 암호화 키 공개 통제

Kata Containers를 기반으로 하는 CNCF 인큐베이팅 프로젝트인 CoCo는 각 Kubernetes Pod를 자체 경량 기밀 가상 머신에서 실행합니다. CPU는 메모리를 암호화하며, 지원되는 하드웨어에서는 GPU도 신뢰 경계에 포함할 수 있습니다. 개발자는 표준 Kubernetes 워크플로를 계속 사용하면서 워크로드를 하드웨어 기반 신뢰 실행 환경(TEE) 안에서 실행할 수 있습니다. 이 환경은 처리 중인 코드와 데이터를 격리합니다.

Fortanix Confidential Computing Manager는 CPU 및 GPU 신뢰 실행 환경, 펌웨어와 소프트웨어의 무결성을 확인하는 복합 원격 증명을 수행한 뒤 키 공개를 승인합니다. 발표에 따르면 FIPS 140-3 레벨 3 하드웨어 보안 모듈 인증을 받은 Fortanix Data Security Manager는 원격 증명을 통과한 환경에만 암호화 키를 제공합니다. 원격 증명에 실패하면 키가 계속 보호되므로 워크로드는 민감한 데이터에 접근하거나 정상적으로 실행될 수 없습니다.

GPU 테넌트를 위한 셀프서비스 제어

Rafay는 이러한 보안 제어를 지원하는 운영 계층을 제공합니다. Rafay의 블루프린트는 Fortanix CoCo 애드온을 설치하고 기밀 클러스터 전반에서 동기화 상태를 유지합니다. 운영자는 GPU 인프라를 한 번 온보딩한 뒤 각 고객에게 격리된 테넌트를 할당할 수 있으며, 정책과 접근 제어, 할당량은 여러 테넌트와 클러스터 전반에 적용됩니다.

관리자는 기밀 워크로드를 SKU라고 하는 카탈로그 항목으로 묶어 Rafay SKU Studio에 등록할 수 있습니다. 최종 사용자는 지원 티켓을 제출하지 않고 Rafay Developer Hub를 통해 필요할 때 이를 실행할 수 있습니다. 이 워크플로는 테넌트별 서비스 관리와 민감한 정보의 잠금을 해제하기 전 각 보호 환경을 검증하는 Fortanix의 기능을 결합합니다.

Fortanix의 최고 제품 책임자인 Anuj Jaiswal은 “모델 소유자는 운영자와 고객이 모델 가중치를 볼 수 없기를 원하고, 기업은 모델 소유자와 운영자가 자사 데이터를 볼 수 없기를 원합니다. 운영자는 다른 테넌트나 침해된 소프트웨어를 이용하는 경우에도 어느 쪽에도 접근할 수 없음을 입증해야 합니다”라고 말했습니다.

두 회사는 이 서비스를 여러 운영 모델에 적용할 수 있다고 봅니다. 네오클라우드와 GPU 클라우드 제공업체는 테넌트 워크로드가 신뢰할 수 있는 환경에서 실행되고 키가 검증된 워크로드에만 제공된다는 증거를 바탕으로 기밀 AI를 프리미엄 옵션으로 제공할 수 있습니다. 주권형 AI 클라우드는 운영자가 제어하는 하드웨어 보안 모듈에 키를 보관할 수 있으며, 이를 온프레미스 또는 SaaS 형태로 운영할 수 있습니다. 규제 대상 기업은 민감한 데이터를 인프라 운영자에게 노출하지 않고 처리할 수 있고, 모델 제공업체는 고객 환경이 원격 증명을 통과할 때까지 모델 가중치를 암호화된 상태로 유지할 수 있습니다.

이전의 기밀 AI 통합

2026년 3월 16일자 Rafay 기술 게시물에는 두 회사가 앞서 진행한 기밀 가상 머신 통합이 소개되어 있습니다. 해당 워크플로에서 Fortanix는 환경을 검증하고 원격 증명 후 키를 제공했으며, Rafay는 반복해서 사용할 수 있는 서비스 정의, 중앙 집중식 멀티테넌시 및 셀프서비스 배포를 제공했습니다. 이번 출시는 이러한 역할 분담을 CoCo 기반 Kubernetes Pod까지 확장합니다.

Fortanix는 앞서 2026년 10월에도 CoCo에 대한 기밀 AI 지원을 발표했습니다. 당시 발표에서는 Fortanix의 원격 증명 및 키 제공 제품을 CoCo에 연결하는 오픈소스 플러그인 개발과 함께 SaaS, 온프레미스 및 완전한 에어갭 환경의 배포 옵션을 소개했습니다. 이번에 새롭게 추가된 것은 기존 가상 머신 통합에 더해 Rafay가 이러한 배포 환경을 현재 오케스트레이션할 수 있게 된 점입니다.

따라서 이번 출시를 통해 서비스 운영과 데이터 접근이 분리됩니다. Rafay는 카탈로그, 테넌트 격리 및 거버넌스를 담당하고, Fortanix의 원격 증명 결과에 따라 복호화 키 제공 여부가 결정됩니다. 공유 GPU 인프라에서 운영자는 AI 용량을 운영하고 판매하면서도, 고객이 운영자의 관리 권한을 데이터나 모델 가중치를 읽을 수 있는 묵시적 허가로 간주하지 않도록 할 수 있습니다.