귀하의 AI는 너무 많은 것을 알고 있습니다: 기밀 AI는 더 이상 선택이 아닙니다

생성 모델은 연구실에서 정상적인 비즈니스 프로세스로 전환되고 있습니다 — 그리고 조용하고 구조적인 약점이 함께 성장하고 있습니다.

예를 들어, Microsoft Copilot은 접근 거의 3백만 개의 민감한 레코드를 2025년 상반기 동안 조직마다 사용했습니다. 이러한 숫자는 AI에 대한 접근 방식에 대한 체계적인 문제가 있음을 의미합니다. 회사들은 데이터를 처리하는 강력한 엔진을 구축했지만 사용하는 데이터에 대한 충분한 보호를 제공하지 않았습니다.

대규모 언어 모델과 도구는 종종 하드웨어 기반 보호 없이 문서, 메시지 및 데이터베이스를 계산합니다. 이러한 격차는 추론 중에 “사용 중인 데이터”를 공개하여 개인 정보, 준수 및 고객 신뢰를 우선하는 비즈니스에 직접적인 위협을 가합니다.

여기서 기밀 컴퓨팅이 등장합니다. 이 프로세스는 코드와 데이터를 사용 중일 때 안전하게 유지하기 위해 하드웨어 지원 트러스트된 실행 환경(TEE)을 사용합니다. 이러한 TEE는 호스트 운영 체제와 하이퍼바이저에서 분리된 메모리 영역입니다.

이 보호는 보안 모델을 변경하여 비밀을 노출되지 않고 처리할 수 있도록 허용합니다. Microsoft와 다른 클라우드 제공업체는 이제 개인 추론 및 TEE 내에서 추론을 통합하는 가상 머신(VM)을 제공합니다.

규칙 및 거버넌스에 대한 개인 정보 보호의 중요성

일반적인 암호화는 데이터가 저장되거나 전송 중일 때 보통 보호하지만, 처리 중인 데이터는 동일한 보호를享受하지 못합니다. 생성된 AI는 개인 정보를 가장 많이 상호 작용하는 곳에서 가장 많이 상호 작용합니다.

이번 년초에 Cornell University 연구자들은 트러스트된 컴퓨팅 유닛에 대한 연구에서 하드웨어 지원 분리 및 증명이 어떻게 신뢰 사이의 필요성을 줄이는 데 도움이 될 수 있는지 보여주었습니다. 또한, 지난 해, 분석가들은 사적 컴퓨팅 인프라의 가치가 13억 달러 이상에 달한다고 추정했으며, 2032년까지 350.04억 달러로 급격히 성장할 것으로 예상했습니다.

간단히 말해서, 더 많은 사람들이 기술을 사용하고 있으므로 규제 기관과 준수 팀은 이전보다 AI 시스템에 더 관심을 가지고 있습니다. 따라서 모델 쿼리 중에 민감한 데이터가 보호된 실행에서 결코 벗어나지 않는 것을 보장하는 프레임워크는 감사 추적을 더 쉽게 만들어서 법적 문제의 위험을 줄일 것입니다.

그러나 런타임 보호가 표준이 되지 않으면, 그 차이가 엄격하게 규제되는 분야에서 AI를 수용하는 데 더 오래 걸릴 수 있습니다.

개인 정보 보호가 반드시 필요한 실제 상황

기밀 AI가豪華하지 않으며 모든 조직이 반드시 필요한 여러 가지 기업 시나리오가 있습니다.

예를 들어, 금융에서 이것은 고객 거래 기록에 대해 사기 탐지 및 위험 모델을 실행해야 하는 기관에 적용될 수 있습니다. 외부 모델 운영자가 원시 레코드에 액세스하지 못하도록 합니다.

의료 분야에서는 모델이 엄격한 규제 요구 사항을 충족하면서 보호된 임상 데이터에서 작동해야 하는 상황이 있을 수 있습니다. 또한 정부와 국방 기관은 제3자 클라우드에서 민감한 워크로드를 실행하기 위해 증명된 실행을 요구할 수 있습니다.

여러 소스의 데이터셋을 결합하는 연구 파이프라인도 있습니다. 특히 각 참가자가 계산 중에 입력이 읽을 수 없도록 유지할 수 있다고 확신할 수 있는 연방 의료 연구가 진행될 수 있습니다.

의료 워크플로우에 대한 개인 정보 보호를 유지하는 ML 접근 방식을 잘하는 학술 및 산업 연구도 계속해서 문서화되고 있습니다.

기밀 실행이 실제로 데이터를 보호하는 방법

기밀 실행은 두 가지 연결된 시스템에 의존합니다. 하드웨어 분리 및 증명. 하드웨어 분리는 보안 영역 외부의 소프트웨어가 영역 메모리를 읽을 수 없도록 방지합니다.

증명은 영역 내에서 실행되는 코드와 영역 자체를 검증할 수 있는 방법입니다. 이러한 기능을 사용하면 모델 소유자는 모델이 검증된 환경에서 입력과 함께 작동할 수 있으며 출력은 영역의 규칙을 따를 때만 생성된다는 것을 보여줄 수 있습니다.

결과는 데이터 소유자, 모델 운영자 및 클라우드 제공업체 간의 계약으로, 적대적인 법적 회피 또는 취약한 정책 체조를 사용할 가능성이 줄어듭니다.

현실적인 제한 및 장애물

물론, 기밀 AI를 채택하면 자신의 문제가 있습니다. 증명 및 영역에서 작동할 수 있는 하드웨어는 배포를 더 복잡하게 만듭니다. 전통적인 모델 제공 도구와 영역 인식 런타임 사이에 생태계에 격차가 있습니다. 일부 영역 런타임은 큰 오버헤드를 부과할 수 있으며, 비용이 10배 이상 증가할 수 있으며, 작업 양에 따라 성능에 대한 트레이드 오프가 있을 수 있습니다.

또한 비용은 평범한 클라우드 추론보다 더 높습니다. 이는 작은 비즈니스들이 숫자를 이해하기 어렵게 만들 수 있습니다. 또한 상호 운용성 표준이 변경되면 일부 초기 채택자는 벤더에 의해 고정될 위험이 있습니다.

그러나 이러한 문제는 일시적인 엔지니어링 문제에 불과하며 해결할 수 있습니다. 클라우드 제공업체와 칩 제조업체는 새로운 제품을 계속 출시하고 있으며, 소프트웨어 프로젝트는 현재 ML 스택과 TEE를 연결하는 미들웨어를 만듭니다.

만약 그렇지 않으면, 표준 암호화 및 액세스 제어가 충분하다고 생각하는 회사는 더 큰 위험에 처할 것입니다. 모델이 많은 민감한 레코드를 처리할 때 취약할 수 있기 때문입니다.

기업 관행의 변화에 대한 호출

위험 관리 팀은 AI를 구입하고 사용하는 규칙을 변경해야 합니다. 데이터 분류 및 거버넌스는 여전히 중요하지만, 사용 중일 때 기술 보장이 필요합니다.

제3자 모델 제공업체와의 계약에는 증명서를 제공해야 하는 것을 요구해야 합니다. 조달 팀은 성능 기준과 감사된 기밀 실행 옵션을 요청해야 합니다. 적대적인 테스트는 영역 인식 테스트를 포함해야 합니다. 이러한 단계는 임의의 약속에서 검사 가능한 제어로 책임을 전환합니다.

또한, 공공 정책 및 산업 표준 그룹은 기대치를 설정해야 합니다. 감사관, 준수 담당자 및 규제 기관은 규제 데이터를 처리하는 워크로드 범주에 대한 검증 가능한 런타임 보안을 요구해야 합니다.

이러한 규칙은 이후 발생하는 침해의 수를 줄이고, 법적 문제에 대한 우려 없이 혁신할 수 있는 자유를 부여할 것입니다. 이는 금융, 의료, 공공 부문 워크플로우에서 새로운 모델을 사용할 수 있도록 규제 장벽 없이 사용할 수 있습니다.

기밀성은 표준입니다

생성된 AI는 매우 개인적인 정보를 다루는 비즈니스에서 유용한 도구가 되었습니다. 이러한 현실은 기밀 실행이 더 이상 니치 옵션이 아니며, 규제된, 소유된 또는 개인 데이터를 처리하는 모든 AI 시스템에서 표준적인 관행이되어야 함을 의미합니다.

TEE, 증명 서비스 및 개인 VM 제공과 같은 도구가 이미 사용 가능하며, 경제적 효율도 빠르게 개선되고 있습니다. 다른 옵션은 민감한 자산이 추론 시간에 누출되도록 유지하는 것입니다. 이는 법적, 재정적, 평판상 영향을 미칠 수 있습니다. 예를 들어, IBM의 2025년 데이터 침해 비용 보고서에 따르면, 평균 글로벌 침해 비용은 거의 5백만 달러에 달했으며, GDPR과 같은 규정은 중대 침해에 대해 2,000만 유로의 벌금을 부과할 수 있습니다.

개인 정보 보호를 AI 거버넌스에서 우선하는 회사는优势을 가지게 됩니다. 더彻底하고, 준수되는 테스트를 실행하고, 외부 혁신이曾经 금지된 영역에서 모델을 사용할 수 있습니다. 간단히 말해서, 모델이 실행 중인 동안 데이터를 보호하는 것은 채택의 장벽이 아닙니다. 비즈니스 및 정부에서 책임감 있고 확장 가능한 AI의基础입니다.