์ธํฐ๋ทฐ
์๋ก ํ์ปค์จ, OPAQUE์ CEO – ์ธํฐ๋ทฐ ์๋ฆฌ์ฆ
아론 풀커슨, OPAQUE의 CEO는 20년 이상의 경력을 가진 엔터프라이즈 소프트웨어 기업가이자 오픈소스 선구자입니다. 그는 OPAQUE에 합류하기 전에 MindTouch를 설립하여 이를 엔터프라이즈 지식 플랫폼으로 성장시키고, 이후 NICE Systems에 인수되었습니다. 또한 그는 ServiceNow Impact의 출시를 주도하여 ServiceNow 역사상 가장 빠르게 성장하는 비즈니스 유닛 중 하나를 만들었습니다. 그의 경력 동안, 풀커슨은 새로운 기술, 엔터프라이즈 소프트웨어, 오픈 에코시스템의 교차점에서 일했으며, 여러 기술 스타트업과 조직을 고문했습니다. 최근에 그는 기밀 AI의 강력한 옹호자가 되어, 프라이버시, 거버넌스, 검증 가능한 신뢰가 AI 시스템이 임계 엔터프라이즈 워크플로에 통합됨에 따라 기본 요구 사항이 될 것이라고 주장했습니다.
OPAQUE는 기밀 AI 회사로, 유명한 UC 버클리 RISELab에서 출현했으며, Apache Spark와 Databricks와 같은 기술을 개발한 동일한 연구 생태계에서 출현했습니다. 이 회사는 기밀 컴퓨팅, 암호화된 런타임 환경, 하드웨어 인증된 실행을 사용하여 민감한 정보를 보호하는 플랫폼을 개발했습니다. 이는 기관이 AI 모델, 에이전트, 워크플로를高度 민감한 데이터에서 실행할 수 있도록 허용하면서, 암호학적으로 검증 가능한 프라이버시와 컴플라이언스 보장을 제공합니다. OPAQUE의 기술은 금융, 보험, 헬스케어, 하이테크와 같은 규제 산업을 위해 설계되었으며, ServiceNow, Anthropic, Accenture와 같은 고객과 파트너를 보유하고 있습니다.
당신은 경력 동안 여러 엔터프라이즈 플랫폼을 구축하고 확장했습니다. OPAQUE의 CEO로 Trust, 프라이버시, AI 거버넌스에 집중하는 다음 장을 위해 무엇이 당신을 이끌었나요?
저는 거의 20년 동안 엔터프라이즈 플랫폼을 구축했습니다. 먼저 MindTouch에서, 현재도 10억 명의 사용자가 사용하고 있습니다. 그리고 ServiceNow에서, 저는 가장 빠르게 성장하는 제품을 만들었습니다. 두 경우 모두, 저는 사람들이 기술을 신뢰할 때 가장 강력한 기술이 승리한다는 것을 배웠습니다.
저는 OPAQUE의 공동 창립자 Raluca Ada Popa, Ion Stoica, Rishabh Poddar를 만났을 때, 저는 희귀한 재능과 비전의 조합을 보았습니다. Raluca는 프라이버시와 보안 연구의 세계 최고 전문가 중 한 명입니다. Ion은 Databricks의 공동 창립자입니다. Rishabh는 OPAQUE의 기초가 된 암호학적 시스템을 구축했습니다.
UC 버클리 RISELab에서, 그들은 저에게 기대할 수 없는 것을 만들었습니다. 데이터가 모든 AI 워크플로우에서 프라이버시를 유지한다는 암호학적 증거입니다. 약속이 아닙니다. 정책이 아닙니다. 증거입니다.
저는 AI가 향하는 방향을 보았고, 에이전트가 엔터프라이즈 시스템에서 자율적으로 작동하는 것을 보았습니다. 그리고 저는 30년 동안 Vint Cerf가 경고한 것과 같은 간격을 보았습니다. 신뢰 계층이 없습니다. 인터넷은 인간이 가드레일이었기 때문에 생존했습니다. 에이전트 웹에는 그 같은 럭셔리가 없습니다. 그것이 저를 끌어들였습니다.
MCP(모델 컨텍스트 프로토콜, 에이전트가 도구, 애플리케이션, 데이터에 안전하게 접근할 수 있는 표준)가 에이전트 워크플로에 대한 공통 기반으로 등장하고 있습니다. 어떻게 하면 이 것이 엔터프라이즈가 에이전트 AI를 배포하고 확장하는 방식을 변경할 수 있을까요?
MCP는 엔터프라이즈가 에이전트 AI를 배포하고 확장하는 방식에서 중요한 단계입니다. 에이전트 워크플로우에 대한 유니버설 커넥터라고 생각하세요. 이는 에이전트가 도구, 애플리케이션, 데이터에 연결하는 방식을 표준화하여 실제 마찰을 줄이고 실험을 가속화합니다.
하지만 접근을 표준화하는 것만으로 에이전트 AI를 안전하게 만들거나 확장할 수 없습니다. 에이전트가 도구, 애플리케이션, 데이터와 상호작용할 때, 데이터 유출 표면이 확장됩니다. 각 연결 지점에서 런타임 강제가 없으면 잠재적인 노출 벡터가 됩니다. 에이전트가 민감한 시스템과 고유 논리와 상호작용할 때, 데이터는 휴식 중이나 네트워크 제어만으로 충분하지 않습니다. 보안 경계는 런타임으로 이동했으며, 이는 에코시스템이 확장할수록 더緊迫해집니다.
에이전트 워크플로우에서 런타임 강제와 검증 가능한 신뢰가 중요합니다. MCP는 접근을 표준화하지만, 에이전트가 작동하는 방식을 표준화하지는 않습니다. 접근 및 검증 가능한 신뢰의 조합이 생산성을解除합니다.
에이전트 접근을 표준화하는 동안, 에이전트 기반 시스템에서 보안, 정책 시행, 신뢰의 가장 큰 간격은 어디에 있나요?
우리는 2026년 AI 유출 표면 연구를 완료하고, “AI 스택이 데이터를 유출하는 12가지 방법”이라는 요약본을 발행했습니다. 우리는 8개 범주에 걸친 46개의 노출 벡터를 확인했습니다. 이는 악의적인 행위자 없이 발생하는 시나리오입니다. 로그는 깨끗하게 보이지만, 시스템은 여전히 데이터를 유출합니다.
가장 큰 간격은 연결이 아닙니다. MCP는 이를 해결하고 있습니다. 간격은 에이전트가 연결된 후에 발생합니다. 대부분의 조직은 세 가지 기본 질문에 답할 수 없습니다. 우리의 AI는 실제로 어떻게 작동합니까?谁가 그것을 제어합니까? 그리고 우리는 정책이 시행되었다는 것을 어떻게 증명할 수 있습니까?
우리의 연구에 따르면, 경계는 구성되지만 강제되지 않습니다. 정책은 문서, 구성 파일 또는 배포 시간 설정에 존재하지만, 실행 중인 시스템은 제약을 받지 않습니다. AI 실행 보조는 물질 비공개 정보를 캘린더 초대에 넣습니다. RAG 공동 조종자는 이사급 재무 정보를 주니어 분석가에게 제공합니다. 벤더 SDK는 12개월 동안 1,000만 개의 쿼리를 무음으로 유출합니다. 모든 경우에 접근 제어가 있지만, 데이터는 여전히 유출됩니다.
엔터프라이즈가 구성된 정책과 시행된 정책 간의 간격을 닫을 때까지, MCP는 전면 도어가 표준화됩니다. 하지만, 집은 여전히 무방비입니다.
에이전트가 민감한 시스템과 고유 데이터에 접근할 때, 어떤 새로운 프라이버시 및 컴플라이언스 위험이 발생하며, 엔터프라이즈는 이를 위해 어떻게 준비해야 합니까?
대부분의 엔터프라이즈는 데이터가休息 중이거나 전송 중일 때 프라이버시를 생각합니다. 하지만 에이전트 워크플로우에서는 데이터가 사용 중일 때 가장 큰 위험이 있습니다.
예를 들어, 성능 자동차 제조업체는 생산 라인에 AI를 실행합니다. 원시 데이터는 무해한 것처럼 보입니다. 센서 읽기, 타이밍 시퀸스, 품질 검사. 하지만, 대규모 언어 모델(LLM)은 이제 그 데이터 배출에서 고유 제조 공정을 재구성할 수 있습니다. 5년 전에는 노이즈였지만, 이제는 경쟁자의 청사진입니다.
우리의 AI 유출 표면 연구는 수십 개의 시나리오에서 이 패턴을 문서화했습니다. 운영 텔레메트리 도구는 기본적으로 전체 AI 페이로드를 캡처하고, 한 유럽 은행은 APM 기본값을 변경하지 않아 2,100만 개의 프롬프트가 포함된 PII가 미국 SaaS 인스턴스로 흐르는 것을 보았습니다. 에이전트 메모리는 세션 간에 컨텍스트를 유출합니다. 사슬-생각 트레이스는 완전한 조사 기록을 관찰 가능성 플랫폼에 노출합니다. 전통적인 컴플라이언스 프레임워크는 이러한 유출을 감지하기 위해 설계되지 않았습니다. 그것들은 인간이 데이터를 인간의 속도로 이동한다고 가정했습니다.
기밀 AI는 MCP의 필수적인 대응이라고 왜 되는가? 그리고 어떻게하면 접근 표준만으로 해결할 수 없는 도전을 해결할 수 있나요?
MCP는 누가 무엇에 접근할 수 있는지와 어떻게 접근할 수 있는지 해결합니다. 기밀 AI는 접근이 허용된 후에 발생하는 것을 해결합니다. 그것들은 보완적인 계층입니다.
접근 표준만으로는 런타임 妥協, 정책 드리프트 또는 무단 데이터 사용을 방지할 수 없습니다. MCP는 에이전트가 시스템에 연결하는 표준화된 방법을 제공합니다. 기밀 AI는 에이전트가 연결된 후에 승인된 작업만 수행할 수 있으며, 이를 증명할 수 있습니다.
기밀 AI는 데이터, 身分, 코드, 통신에서 런타임에 걸쳐 검증 가능한 증거를 제공합니다. 또한 프라이버시 및 정책 시행이 접근 경계를 넘어 에이전트가 활발하게 추론, 생성 및 작동하는 동안 지속되도록 합니다. MCP만으로는坚実한 基礎ですが, 基礎だけでは 건물이 안전하지 않습니다.
실제적으로, 임계 엔터프라이즈 워크플로에서 에이전트를 실행하는 엔터프라이즈에서 검증 가능한 신뢰는 무엇을 의미합니까?
검증 가능한 신뢰는 코드가 실행되었는지, 어디서 실행되었는지, 어떤 정책하에 실행되었는지, 어떤 데이터에 접근했는지, 시스템이 시간의 경과에 따라 어떻게 작동했는지 증명할 수 있다는 것을 의미합니다.
예를 들어, 보험 회사에서 에이전트를 사용하여 수요서를 처리한다고 가정합니다. 실행 전에 하드웨어 인증은 에이전트의 身分과 환경의 무결성을 검증합니다. 실행 중에, 하드웨어 지원된 신뢰할 수 있는 실행 환경(TEE) 내에서 암호학적 정책 구속은 데이터가 보호되고 정책이 시행됨을 보장합니다. 실행 후에, 篡改 방지 감사 트레일은 정확히 무슨 일이 발생했는지 기록합니다.
에이전트 워크플로의 위험은 에이전트가 고장 나는 것이 아닙니다. 실제 위험은 정책이 시행되었는지, 민감한 데이터가 에이전트가 작동하는 동안 보호되었는지 증명할 수 없는 것입니다. 그것이 검증 가능한 신뢰의 의미입니다.
에이전트 시스템이 기계 속도로 작동할 때, 전통적인 인간 감시가 왜 깨지며, 조직은 이 새로운 환경에서 거버넌스를 어떻게 다시 생각해야 합니까?
수십 년 동안, 인터넷에는 인간이 가드레일이었습니다. 인간은 콘텐츠를 읽고, 의도적으로 클릭하고, 동시에 수백 개의 시스템에서 작동하지 않았습니다.
에이전트 AI는 이러한 가정들을 한밤중에 지워버립니다. 에이전트는 지속적으로 작동하고, 기계 속도로 결정하고, 인간이 설계된 환경에서 작동할 수 있지만, 기계에 의해 악용될 수 있습니다. 악의적인 웹 페이지는 인간을 속이는 방식으로 에이전트를 속일 필요가 없습니다. 그것은 단순히 지시할 수 있습니다.
에이전트당 1%의 위험이 있는 네트워크에서 100개의 에이전트는 63%의 위험을 가집니다. 1,000개로 확장하면 99.99%의 위험이 있습니다. 인간-루프-거버넌스는 이러한 숫자를 따라갈 수 없습니다. 감시는 반응형 검토에서 런타임 보장으로 이동해야 합니다. 즉, 기본적으로 정책 시행 및 에이전트의 동작에 대한 검증 가능한 실행이 필요합니다.
에이전트 AI를 실험할 때, 기축 신뢰 계층이 없는 경우 가장 일반적인 보안 실패는 무엇인가?
제가 가장 자주 보는 패턴은 기업이 에이전트가 작동하고 조정하는 것을 허용하면서, 에이전트의 동작에 대한 암호학적 보장을 제공하지 않는다는 것입니다. 그들은 민감한 지적 재산을 희망에 맡기고 있습니다.
그 다음에 따르는 것은 예측 가능하며, 우리는 우리의 AI 유출 표면 연구에서 이러한 패턴을 문서화했습니다. 런타임 妥協은 전통적인 주변 보안을 우회합니다. 자율 에이전트 체인은 연쇄 고장을 생성합니다. 하나의 악용된 에이전트는 연결된 시스템에서 도미노 효과를 일으킵니다. 고유 논리는 데이터 배출을 통해 누출되며, 이는 아무도 모니터링하지 않았습니다. 에이전트는 기업의 의도와 악의적인 입력을 구별할 수 있는 능력을 잃습니다. 이는 검증 가능한 身分 및 런타임 정책 구속이 없기 때문입니다.
이것은 가상적인 것이 아닙니다. 우리는 46개의 벡터를 매핑했으며, 여기서 데이터가 의도된 제어를 벗어납니다. 에이전트는 기계 속도로 데이터를 생성하고 공유합니다. 검증 가능한 런타임 안전이 워크플로에 내장되지 않으면, 보안 팀이 обнаруж하거나 대응할 수 더 빨리 실패가 전파됩니다.
선도적인 조직은 고급 AI 기능을 잠금과 동시에 가장 민감한 데이터 자산을 보호하는 방법으로 균형을 어떻게 맞추고 있나요?
선도적인 조직은 프라이버시와 거버넌스를 가속기로서, 브레이크로서가 아니라 다루고 있습니다. 그것이 핵심입니다.
현장에서 제가 보는 것은, 선도적인 기업이 고급 AI 기능과 기밀 AI 플랫폼을 결합하여 검증 가능한 보장을 제공한다는 것입니다. 그들은 민감한 데이터를 AI 혁신에开放하면서, 워크플로가 자율적으로 실행되는 경우에도 고유 정보가 보호되도록 합니다. 반면, 경쟁자는 여전히 파일럿 모드에 있으며, 중요한 데이터를 움직이지 않는 샌드박스 데이터셋에서 AI를 실행하고 있습니다.
현재의 상황을 기반으로, 에이전트 시스템이 파일럿에서 전체 생산으로 이동함에 따라, 향후 몇 년 동안 엔터프라이즈 AI 거버넌스 모델은 어떻게 진화할 것으로 예상합니까?
거버넌스는 서류에서 증거로 진화할 것입니다. 그것이 가장 간단한 방법입니다. 초기 거버넌스 모델은 인간의 속도 소프트웨어를 위해 구축되었습니다. 정책은 문서에, 승인은 배포 전에, 검토는何か가 잘못된 후에 이루어졌습니다. 에이전트 시스템은 이러한 모든 가정들을 깨뜨립니다. 그것들은 지속적으로 작동하고, 자율적으로 작동하며, 기계 속도로 작동합니다.
우리가 보는 것은 거버넌스가 런타임 검증 가능성으로 이동하고 있다는 것입니다. 이는 에이전트의 수명주기 전반에 걸쳐, 실행 전, 실행 중, 실행 후에 걸쳐 행동을 증명하는 암호학적 보장을 지원합니다. 우리는 HTTPS와 같은 패턴을 보았습니다. 이제는 웹 트래픽의 기본이 됩니다. 몇 년 내에, 에이전트 실행을 런타임에 검증하는 것이 기본이 될 것입니다. 그것은 표준이 될 것입니다.
감사합니다. 더 많은 정보를 원하는 독자는 OPAQUE를 방문하세요.
