기밀 컴퓨팅을 이해하는 프레임워크

기밀 컴퓨팅이 주목받고 있다

기밀 컴퓨팅 공간은 여러 방면에서同時적으로 혁신의 물결을 경험하고 있다. 신뢰할 수 있는 실행 환경(Trusted Execution Environments, TEEs)은 성숙하고 배포가 더 쉬워지고 있다. (완전 동형 암호화, Fully Homomorphic Encryption) FHE는 수년 동안 理論적인 것으로 남아 있던 성능 격차를 좁히고 있다. 그리고 Web3 생태계는 영 영역 증명 기술을惊異的な 속도로 발전시키고 있다. 일반적인 영 영역 가상 머신(zkVMs)은 이제 2년 전보다 훨씬 빠르게 임의의 계산을 증명하고 있다.

동시에, 에이전트 인공지능의 부상은 신뢰, 개인 정보, 검증 가능성에 대한 새로운 긴급성을 만들어내고 있다. 에이전트 인공지능 시스템이 콘텐츠 생성을 넘어 사용자를 대신하여 행동을 취하기 시작하면서, 조직은 전통적인 보안 및 규정 준수 제어가 기업 규모에서 자율 소프트웨어에 충분한지 질문하기 시작했다.

DataTribe에서 우리는 이 공간에 상당한 시간을 보냈고, 스타트업과 대화하고, 기술을 평가하고, 가장 지속 가능한 기회가 어디에서 나타날지 이해하려고 노력했다. 우리는 이를 다음과 같이 생각하고 있다.

기밀 컴퓨팅을 위한 프레임워크

기밀 컴퓨팅 풍경을 볼 때, 우리는 이를 세 가지 독립적인 기둥으로 나누는 것이 유용하다고 생각한다. 각 기둥은 독립적인 보증을 나타낸다. 중요하게는, 그들은 중복되지 않는다: 한 기둥을 제공하는 솔루션은 자동으로 다른 기둥을 제공하지 않는다.

• 보호된 컴퓨팅: 입력, 처리, 출력이 모두 끝까지 보호된다. حتى 운영자가 계산을 실행하는 경우에도 아무 것도 볼 수 없다.

• 컴퓨팅 무결성: 암호학적 증명이 올바른 계산이 실제로 실행되었는지, 잠재적으로 적대적인 하드웨어에서도 증명한다.

• 개인 정보 협력: 여러 당사자가 공동 데이터에 대해 공동으로 계산을 수행하지만, 어느 당사자도 입력을 다른 당사자에게 공개하지 않는다.

각 기둥은 다른 구매자 요구 사항, 기술 스택, 경쟁 역학을 매핑한다. 오늘날 우리는 첫 두 가지, 즉 보호된 컴퓨팅과 컴퓨팅 무결성에 초점을 맞춘다.

에이아이 개인 정보 패러독스와 보호된 컴퓨팅

에이아이가 보호된 컴퓨팅에 대한 관심을 촉발한 주요 요인 중 하나이다. 기업은 에이아이 제공업체와 공유하는 데이터에 대해 점점 더 불안해하고 있으며, 기밀 추론에 대한 수요가 증가하고 있다.

그러나 주목할 만한 역설이 있다. 고객 전사 데이터를 에이아이 제공업체에게 보내기 위해 고민하는 동일한 기업이 급여 데이터를 ADP를 통해 라우팅하고, 파이프라인을 Salesforce (CRM ) 로 보내고, 환자 기록을 의료 기록 벤더에게 넘긴다. 모든 경우의 보호는 동일하다: 데이터 보호 약속과 규정 준수 보고서가 포함된 계약이다. 암호학적 보증은 없다. 그래서 에이아이 제공업체는 왜 다르게 취급되는가?

실제 이유가 있다. 데이터가 훈련에 사용되고, 모델 가중치에 흡수되고, 다른 고객의 출력에서 나타날 수 있다는 страх은 전통적인 SaaS에는 유사한 것이 없다. 가치 교환은 비대칭적으로 느껴지며, 기업은 자신의 데이터가 경쟁사에게 제공업체의 제품을 개선할 수 있다고 생각한다. 그리고 규제 기관은 에이아이 데이터 처리에 대해 전통적인 SaaS 스택에 적용하지 않은 특별한 주의를 기울이고 있다. 에이아이 제공업체는 전통적인 SaaS 계약과 유사한 보호를 포함하는 계약을 체결하기 시작했지만, 채택 속도와 “암흑 에이아이”의 страх, 즉 기업과 계약하지 않은 에이아이 서비스를 사용하는 직원이 있는 경우, 전통적인 SaaS 조달에 최근 직면하지 않은 긴급성을 추가한다.

이러한 우려가完全하게 합리적이거나 부분적으로 에이아이의 신기술에 의해驱動되는지 여부와 상관없이, 실제 구매 긴급성을 만들어내고 있다. 더 흥미로운 질문은 이 긴급성이 에이아이에만 국한되는지, 아니면 확산하는지이다. 기업이 에이아이 제공업체로부터 암호학적 데이터 보호를 요구하기 시작하고, 이후 다른 모든 사람으로부터도 요구하기 시작하면, 보호된 컴퓨팅을 위한 총 주소 가능 시장은 에이아이 추론을 훨씬 넘어선다.

보호된 컴퓨팅을 위한 FHE와 TEEs

보호된 컴퓨팅을 위한 두 가지 주요 기술 접근법이競爭하고 있으며, 이는 근본적으로 다른 신뢰 모델을 나타낸다.

TEE와 같은 AMD SEV-SNP, Intel TDX, NVIDIA (NVDA ) 의 기밀 GPU는 현실적인 선택이다. 최소한의 성능 오버헤드로 보호된 컴퓨팅을 제공하며, 이미 주요 클라우드 제공업체에서 네이티브로 제공되고 있다. 신뢰 가정은 실리콘 벤더와, 다양한 정도로, 클라우드 제공업체에 있다.

FHE는 순수한 수학적 접근법을採用한다. 데이터는 전체 계산过程 동안 암호화되어 있으며, 보안 보증은 하드웨어나 운영자를 신뢰하는 데 завис하지 않는다. 역사적으로 성능이 트레이드 오프였다: FHE 연산은 평문 계산보다 수십 배 느렸다. 이는 좁은 사용 사례로 제한되었다.

그 격차는 많은 사람들이 인식하는 것보다 더 빠르게 좁혀지고 있다. 하드웨어 가속은 주요 驅動力이다. Niobium의 목적을 위한 FHE 가속 카드는 소프트웨어 전용 FHE보다 수십 배의 개선된 성능을 제공한다. Cornami는 “평문 속도”를 주장했지만, 독립 벤치마크는 아직 발표되지 않았다. 또 다른 회사는 FHE 기반의 LLM 추론을 Llama 3 70b 모델에서 평문 성능에 근접하는 속도로 수행했다. 이러한 주장은 주의를 필요로 하지만, 트렌드는 명확하다: FHE를 理論적인 것으로 유지했던 성능 격차가 빠르게 좁혀지고 있다.

FHE가 생산 워크로드에 충분히 빠르면, 그 영향은 심오할 것이다. 더 이상 실리콘 벤더, 클라우드 제공업체, 하드웨어에 대한 물리적 접근을 가진 누구에게도 신뢰할 필요가 없다. 보안 보증은 운영적이지 않다.

투자자에게 이는 중요한 전략적 질문을 만든다: 하드웨어 신뢰가 더 신뢰할 수 있게 되는 것(TEE 경로)에 베팅하는지, 아니면 암호학적 성능이 수학 전용 솔루션을 실제로 만들 수 있을만큼 충분히 개선되는지( FHE 경로) 여부를 결정한다. 대부분의 近期 수익은 TEE 측에 있다. 장기적인 방어 논증은 적어도 일부 컴퓨팅 도메인에 대해 수학적 접근을 선호할 수 있다.

컴퓨팅 무결성: 내부 위협에서 적대적인 환경까지

컴퓨팅 무결성은 다른 문제를 해결한다: 올바른 계산이 실제로 실행되었는지 어떻게 알 수 있는가?

제어된 환경에서, 기업 데이터 센터와 하이퍼스케일러 클라우드에서, TEE는 이것을 합리적으로 잘 처리한다. 증명 메커니즘을 통해 데이터를 보내기 전에 기대되는 코드가 실제 TEE에 로드되었는지 확인할 수 있다. 이는 내부 위협, 손상된 인프라, 배포 문제에 대한 보호에 유용하다. 대부분의 기업 사용 사례에서 TEE 기반 증명은 충분하다.

그러나 “충분하다”는 위협 모델에 따라 다르다.真正에 적대적인 환경에서, 하드웨어를 제어하지 못하고, 운영자가 적극적으로 적대적일 수 있다면, TEE 보증은 약화된다. 최근 연구에서는 저렴한 하드웨어 인터포저를 사용하여 TEE 증명에 대한 실제 공격을 보여주었으며, 주요 칩 벤더는 물리적 공격이 그들의 위협 모델 외부에 있다고 인정했다. 잘 관리되는 데이터 센터에서 물리적 보안이 있는 경우, 이 잔여 위험은 관리 가능하다. 하지만 desconocido 노드에 있는 분산 컴퓨팅 네트워크에서는 그렇지 않다.

이것은 Web3 세계가 영 영역 증명 혁신의 주요 驅動力인 이유이다. 영 영역 증명은 하드웨어 환경과 상관없이 컴퓨팅 무결성에 대한 수학적 확신을 제공한다. 증명이 검증되면, 계산이 올바르게 실행되었는지, 계산이 보안 시설에서还是誰かの 가라지에서 실행되었는지에 상관없이.

이 분야의 발전 속도는驚異的이다. 일반적인 영 영역 가상 머신(zkVMs)은 개발자가 정상적인 러스트 코드를 작성하고, 자동으로 증명을 생성할 수 있다. Succinct의 SP1 Hypercube는 16개의 GPU에서 12초 미만으로 이더리움 블록을 증명한다. ZKsync의 Airbender는 단일 H100에서 초당 21만 사이클을 보고한다.

에이아이 워크로드에 특히, zkML은 진행 중이지만 여전히 비싸다. LLM 추론을 증명하는 것은 아직 추론 자체보다 수천 배 느리다. 작은 모델, 분류기 및 임베딩 모델은 실제적인 영 영역 증명에 접근하고 있다. 최전선 LLM 증명은 2-3년 후에 나올 가능성이 있다. 흥미로운 중간 지점은 “낙관적” 검증으로, 결과가 도전될 때만 증명이 생성되고, 그 외에는 생성되지 않아 비용을 크게 줄인다.

이것이 어디로 향하는지

기밀 컴퓨팅 공간은 변곡점에 있다. TEE, FHE, 영 영역 증명 모두에서 동시에 혁신이 발생하고 있으며, 각기 다른 커뮤니티와 다른 우선순위로 공유 문제에 접근하고 있다.

구매자의 긴급성 역학은 어느 접근법이 먼저 트랙션을 얻을지 결정할 것이다. 규제 준수와 클라우드 데이터 보호에 초점을 맞춘 기업은 가능성이 TEE 기반 솔루션을 앞으로 밀어붙일 것이다. 에이아이 물결은 FHE 성능이 개선되면 수요를 가속화할 수 있다. 분산 컴퓨팅과 Web3 애플리케이션은 영 영역 기술을 더广い 적용성으로 밀어붙일 것이다.

또한混合 아키텍처가 실제적인 중간 지점으로 나타날 것으로 예상한다. TEE를 개인 정보 보호에, 영 영역 증명을 무결성에 사용하는 경우, 강력한 기밀성과 올바름에 대한 수학적 확신을 얻을 수 있다. 이는 하드웨어 환경이 부분적으로 신뢰되지만 완전히 제어되지 않는 시나리오에서 잘 작동한다.

이 프레임워크는 특히 리눅스 재단의 기밀 컴퓨팅 서밋에서중요한 주제가 된 최근, 기업 규모에서 에이전트 에이아이를 배포할 수 있는 보안 레이어로서 기밀 컴퓨팅의 역할을 논의하는 데 특히 관련이 있다. 조직이 에이아이 에이전트에 민감한 시스템, 데이터, 워크플로우에 대한 접근을 허용하기 시작하면서, 보호된 컴퓨팅, 컴퓨팅 무결성, 검증 가능한 신뢰와 같은 질문이 理論的な 아키텍처 토론에서 운영 요구 사항으로 이동한다.

스타트업에게는 기회가 크다: TEE 기반 기밀 컴퓨팅을 SaaS 회사에 더 쉽게 적용하는 것, FHE를 연구에서 생산으로 끌어들이는 툴링을 구축하는 것, 기업 환경에서 영 영역 기반 컴퓨팅 무결성 인프라를 생성하는 것, 고객과 클라우드 제공업체 사이에 신뢰 브로커 및 증명 레이어를 개발하는 것. 우리는 계속해서 이 공간을 연구하고 있으며, 만나는 창업가들에게 흥奮한다. 다른 워크로드, 위협 모델, 규제 체제는 세 기둥의 서로 다른 조합을 요구할 것이다. 승리하는 회사들은 기둥을 선택하고, 결정적으로 해결하며, 기업이 채택하기 쉽게 만드는 회사들이 될 것이다.