조나단 모텐슨, 컨피던트 시큐리티의 설립자 및 CEO – 인터뷰 시리즈

조나단 모텐슨, 컨피던트 시큐리티의 설립자 및 CEO는 현재 보안 및 규정 준수 요구 사항이 엄격한 산업을 위한 프라이버시가 chứng명된 AI 시스템의 개발을 주도하고 있습니다. 그는 또한 사우스 파크 커먼즈의 설립자 펠로우로서 AI 컴퓨팅, 메모리, 프라이버시 및 소유권의 미래를 탐구합니다. 컨피던트 시큐리티를 설립하기 전에 그는 데이터브릭스의 스태프 소프트웨어 엔지니어로서 bit.io의 기술을 데이터 플랫폼에 통합하였으며, 멀티 테넌트 보안, IAM/ACL, VPC 분리, 암호화 및 데이터 소유권에 중점을 두었습니다. 이전에는 그는 bit.io의 설립자 및 CTO로서 수백 개의 보안 데이터베이스를 지원하는 멀티 클라우드, 멀티 리전 서버리스 PostgreSQL 서비스를 구축하였으며, 이후 데이터브릭스에 인수되었습니다.

컨피던트 시큐리티는 기업이 민감한 정보를 노출하지 않고 AI 워크플ロー를 실행할 수 있는 인프라를 구축합니다. 이 플랫폼은 프롬프트, 데이터 및 모델 출력이 완전히 프라이버시를 유지하고 로깅되지 않으며 재사용되지 않도록 설계되어 있습니다. 이는 조직이 엄격한 규정 및 규정 준수 표준을 충족하면서 AI를 채택할 수 있는 안전한 방법을 제공합니다.

컨피던트 시큐리티를 2024년에 설립한 후 bit.io를 구축하고 데이터브릭스에서 근무했습니다. AI에 대한 근본적으로 다른 프라이버시 접근 방식의 필요성을 인식하게 된 것은 무엇입니까?

데이터 인프라를 구축하는 경험을 통해 알게 된 것은 이것입니다. 사용자가 시스템에 민감한 정보를 입력할 때, 신뢰만으로는 충분하지 않습니다. 사용자에게 데이터 소유권을 제공하고, 데이터를 검증할 수 있는 방법을 제공했습니다.

LLM을 사용하는 회사를 살펴보면, 이러한 증거가 존재하지 않는다는 것을 알게 되었습니다. 직원들은 소스 코드, 법적 문서 및 환자 기록을 검증할 수 없는 제3자의 모델에 붙여 넣었습니다. 이미 개인 채팅이 실수로 온라인에 색인이 되고, 정책 변경으로 대화가 기본적으로 훈련 데이터가 되는 것을 보았습니다. 이것은 현재 프라이버시 모델이 얼마나 취약한지 보여줍니다.

AI가 세계에서 가장 민감한 정보를 처리하게 된다면, 벤더의 내부 약속에 의존하지 않는 보장이 필요합니다. 이것이 컨피던트 시큐리티를 시작하게 된 동기입니다.

OpenPCC는 “AI의 시그널”로 묘사됩니다. 이 프라이버시 레이어가 공개, 검증 가능 및 상호 운용 가능한 이유는 무엇입니까?

종단간 암호화는 모든 사람이 채택할 수 있는 표준이 된 후에야普及되었습니다. 우리는 AI 프라이버시에도 같은 것을 원합니다. 만약 몇몇 회사만 실제 보장을 제공할 수 있다면, 프라이버시는 확장되지 않을 것입니다.

OpenPCC는 아파치 2.0하에 공개되어 누구나 빌드하거나 검사할 수 있습니다. 비밀한 신뢰 요구 사항은 없습니다. 하드웨어 증명은 실행 중인 내용과 위치에 대한 암호학적 증거를 제공합니다. 또한 모든 클라우드, 모든 모델 제공자, 모든 개발자 스택에서 작동하도록 설계되었습니다.

일관된 프라이버시 기준은 가치가 있습니다. OpenPCC를 사용하면 모델 제공자, 규제 기관 또는 우리에게도 데이터가 표시되지 않는다는 것을 알 수 있습니다. 표준은 전체 생태계가 참여할 수 있을 때만 작동하므로, 우리는 가능한 한 포괄적으로 설계했습니다.

컨피던트 시큐리티 이전에 멀티 테넌트, 암호화 및 데이터 소유권을 위한 대규모 시스템을 구축했습니다. 이러한 경험은 OpenPCC의 아키텍처를 어떻게 형성했나요?

이 시스템은 두 가지 진리를 강조했습니다. 시스템이 데이터를 유지할 수 있다면, 결국에는 로그, 잘못된 구성 또는 법적 요청을 통해 유지할 것입니다. 또한 신뢰는 프라이버시 모델이 아닙니다. 사용자에게 가시성과 제어가 필요합니다.

OpenPCC는 상태 비저장 모드에서 실행되므로 프롬프트가 처리 후 삭제됩니다. 증명은 사용자가 데이터가 어디로 가는지 및 어떤 코드가 실행 중인지 확인할 수 있도록 합니다. 또한 제어를 데이터에서 분리하여 OpenPCC는 민감한 입력을 실행 가능한 명령으로 처리하지 않도록 방지합니다.

이 제약 조건은 기업이 기다리고 있던 것입니다. 데이터가 예상치 못한 곳에 다시 나타나지 않는다는 보장이 있습니다.

대부분의 “프라이버시 AI” 솔루션은 불투명한 시스템에 대한 신뢰에 의존한다고 주장했습니다. 독립적인 검증이真正한 프라이버시에 왜 필수적인지 설명해 주세요.

오늘날의 대부분의 프라이버시 언어는 효과적으로 “저희를 믿어주세요”입니다. 이것은 국가 안보 및 규제된 의료 데이터와 같은 높은 위험에 노출된 경우 충분하지 않습니다. 사용자가 주장을 검증할 수 없다면, 그것은 보장이 아닌 마케팅입니다.

검증 가능한 프라이버시는 다릅니다. 사용자는 운영자의 의도를 신뢰하지 않습니다. 사용자는 하드웨어, 소프트웨어 이미지 및 데이터 처리 보장을 검증합니다. 암호학은 경계를 강제합니다. 누군가가 실수로 누출하거나 소환할 로그가 존재하지 않습니다.

사용자가 프라이버시를 감사할 수 있는 시스템은 본질적으로 더 안전한 시스템을 생성합니다. 이는 수학에 근거한 책임입니다.

구글의 “프라이버시 AI” 발표는 OpenPCC 이후 곧이어 발생했습니다. 독립적인 테스트를 위해 TPU를 제공하도록 그들을 공개적으로 도전했습니다. 이 도전의 동기는 무엇이었으며, 무엇을 기대했습니까?

프라이버시 보장을 주장하려면 커뮤니티가 이를 검증할 수 있어야 합니다. NVIDIA (NVDA ) 는 이미 외부 검증을 허용하고 있으며, 우리는 심지어 외부 검증을 장려하기 위해 их 증명 라이브러리의 Go 버전을 공개했습니다.

구글이 TPU에서 유사한 약속을 하려면, 우리는 그것을 측정하고 검증할 수 있어야 합니다. 우리는 다른 프라이버시 시스템에서 기대하는 것과 같은 제어를 찾을 것입니다. 엄격한 데이터 유지 경계, 감사 가능한 증명 및 로그 또는 텔레메트리가 탈출하는 비밀 경로가 없습니다. 프라이버시 주장은 검토를 견딜 수 있어야 합니다.

기계학습이 아닌 경우, OpenPCC의 완전히 암호화된 채널이 전통적인 클라이언트 측 암호화 또는 기밀 컴퓨팅과 어떻게 다른지 설명해 주세요.

클라이언트 측 암호화는 데이터가 입력되는 동안 데이터를 보호하고, 기밀 컴퓨팅은 처리 중에 데이터를 보호합니다. 그러나 이러한 간격은 운영자가나 공격자가 민감한 정보에 접근할 수 있는 곳입니다.

OpenPCC는 이러한 간격을 닫습니다. 클라이언트와 모델 사이에 프롬프트, 응답, 사용자 ID 및 의도를 暗示하는 메타데이터 또는 타이밍 신호를 보호하는 봉인된 종단간 경로를 생성합니다. 운영자는 무엇도 해독할 수 없습니다. 로깅 또는 유지되지 않습니다. 심지어 침해 조건에서도 마찬가지입니다.

프라이버시는 제공자가 뒤에서 올바른 일을 하는 것을 희망하는 데 의존해서는 안 됩니다. 암호학적으로 시행되어야 합니다.

검증 가능한 프라이버시가 금융, 의료, 국방과 같은 규제 산업에 어떻게 영향을 미칩니까?

규제 산업은 AI에서 가장 많은 것을 얻을 수 있지만, 또한 누출되면 가장 많은 것을 잃을 수 있습니다. 오늘날, 78%의 직원이 내부 데이터를 AI 도구에 붙여 넣으며, 5분의 1의 경우에는 PHI 또는 PCI와 같은 규제 정보를 포함합니다. 이미 노출이 발생하고 있습니다.

검증 가능한 프라이버시는 가장 큰 장애물을 제거합니다. 민감한 프롬프트는 모델 제공자의 환경 내에서 평문으로 존재하지 않습니다. 훈련에 사용될 수 없습니다. 심지어 합법적인 요청도 시스템 자체가 볼 수 없는 것을 액세스할 수 없습니다.

리스크 및 규정 준수 팀은 “예”가 기본값이 되도록 경로를终于 얻었습니다.

클라우드에 중립적인 프라이버시 레이어를 설계하는 데 가장 큰 엔지니어링 도전은 무엇입니까? 이 레이어는 모든 기업 스택에서 작동해야 합니다.

기밀 컴퓨팅 및 원격 증명은 아직 초기 단계에 있습니다. 각 클라우드 제공자와 베어 메탈 제공자는 약간 다른 것을 수행합니다. 일부 제공자, 예를 들어 AWS는이를 수행하는 데 필요한 하드웨어가 없습니다. 따라서 추가하는 모든 기능은 1000개의 절단과 고위험을 걸으면서도 좁은 길을 걷는 것과 같습니다. 그러나 모든 클라우드에서 작동하도록 하는 것이 표준이 되기 때문에, 우리는 모든 사람의 클라우드에서 작동하도록 해야 합니다. 공개되므로, 지원되는 플랫폼 및 구성 추가를 장려합니다!

기본적으로 검증 가능한 암호화가 있는 세계는 어떤 모습일까요? 또한 기업, 클라우드 제공자 및 모델 제공자 간의 권력 균형을 어떻게 재정의할 수 있을까요?

기업은 가장 가치 있는 자산인 데이터를 유지합니다. 모델 제공자는 성능 및 비용에 따라 경쟁하며, 누가 가장 많은 독점 정보를 축적할 수 있는지에 따라 경쟁하지 않습니다. 클라우드는 프라이버시를 가능하게 하며, 그 위에 패치되지 않습니다.

이것은 더 건강한 권력 균형입니다. 또한 전체 생태계가 이익을 얻습니다.

AI가 普及되고 엄격하게 규제되는 미래에서, 검증 가능한 프라이버시가 기업, 클라우드 제공자 및 모델 개발자 간의 경쟁 환경을 어떻게 재정의할 수 있을까요?

규제 기관은 이미 사용자 데이터가 어떻게 저장되고 사용되는지에 대해 질문하고 있습니다. 신뢰 기반 프라이버시는 오래 지속되지 않을 것입니다. 사용자는 오늘날 메시징 앱에서 암호화를 기대하는 것과 같은 프라이버시 보장을 기대할 것입니다.

승자는 사용자에게妥協을 요구하지 않는 회사입니다. 프라이버시를 증명할 수 있다면, 세계에서 가장 가치 있는 데이터를 보유한 조직의 신뢰를 얻을 수 있습니다. 데이터는 잠겨 있던 곳에서 사용할 수 있게 됩니다.

멋진 인터뷰 감사합니다. 더 많은 정보를 배우고 싶은 독자는 컨피던트 시큐리티를 방문해야 합니다.