체스터 륭, OPAQUE의 공동 창립자이자 AI 플랫폼 책임자 – 인터뷰 시리즈

체스터 륭은 OPAQUE의 공동 창립자이자 플랫폼 아키텍처 책임자입니다. OPAQUE는 기밀 데이터와 AI 플랫폼을 구축하는 시리즈 A 스타트업으로, 기업 데이터 파이프라인에 기밀 레이어를 추가하여 더 빠른 통찰력과 검증 가능한 개인 정보 보호 및 제어를 제공합니다.

이전에는 체스터는 UC 버클리에서 컴퓨터 과학 대학원생으로, 최고의 컨퍼런스에서 동료 검토된 논문을 발표하고 안전한 협업 분석 및 기계 학습을 위한 오픈 소스 MC2 프로젝트의 리드 메인테이너로 활동했습니다.

UC 버클리의 RISELab에서 AI와 안전한 시스템을 연결하는 연구를 한 후 OPAQUE를 공동 창립했습니다. 기업 데이터 인프라에서 어떤 구체적인 격차를 발견했으며, 학술 경험은 회사 방향에 어떻게 영향을 미쳤나요?

당시에는 기계 학습을 특정 사용 사례에 활용하는 데 대한 관심이 학계와 산업계 모두에서 매우 높았습니다. 연구실에서 우리는 대기업 스폰서와 협력하여 더 긴급한 문제를 해결할 수 있는 기회를 가졌습니다. 우리 그룹은 특히 기술 및 금융, 은행, 보험 회사와 협력하여 기계 학습을 위한 민감한 데이터의 개인 정보 보호 문제를 해결하는 데 협력했습니다. 모든 AI 영역과 마찬가지로 기계 학습은 귀중한 통찰력을 생성하기 위해大量의 고품질 데이터에 의존합니다.

우리는 아마존, 스코샤 뱅크, 앤트 그룹(당시 앤트 파이낸셜)과 같은 팀과 협력하면서 같은 패턴을 계속 반복했습니다. 그들은 기계 학습 기반 프로젝트가 민감한 데이터를 사용할 수 없기 때문에 생산에 도달하기 전에 중단되었습니다. 즉, 그들은 기술적인 문제가 아니라 데이터에 접근할 수 없기 때문에 회사에 가치를 생성할 수 있는 프로젝트를 사용할 수 없었습니다.

OPAQUE에서는 동일한 문제를 해결하고 있습니다. 팀이 올바른 데이터에 접근할 수 있도록 도와서 AI 기능을 해제하거나 업셀링할 수 있도록 지원합니다. 연구 기간 이후로 바뀐 것은 문제의 긴급성입니다. 우리는 이제 일관되게 AI 채택 및 통합이 데이터에 접근하는 데 병목 현상이 되는 것을 보며, 이는 회사 전반의 전략적 임파티브가 되고 있습니다.

기업이 추론 모델과 에이전트 AI에大量 투자하는 풍경에서 왜 안전한 데이터 파이프라인이 더 중요할까요?

안전한 데이터 파이프라인은 기업이 추론 모델과 에이전트 AI를 구축하는 데 필요한 기반입니다. 이러한 모델을 훈련하고 에이전트 AI를 배포하는 모든 것이 민감한 데이터와 안전한 데이터 파이프라인에 의존합니다.

예를 들어, 우리는 높은 품질의 데이터를 생성하여 이러한 모델을 훈련하는 데大量 투자하는 것을 보는 산업입니다. 일부 보고서는 데이터 생성을 위한 컴퓨팅 투자가 곧 모델 훈련을 위한 컴퓨팅 투자보다 많을 것이라고 예측했습니다. 물론, 데이터 생성은 파이프라인에 의해 생성되는 기업의 가장 귀중한 지적 재산인 도메인별 데이터를 생성하는 다단계 프로세스입니다. 이러한 데이터는 모델을 훈련하여 엄청난 가치를 생성할 수 있습니다. 기업은 이 파이프라인을 안전하게 유지하기 위해 모든 것을 해야 합니다.

OPAQUE의 기밀 컴퓨팅 플랫폼은 암호화된 데이터에서 분석을 가능하게 합니다. 기업 환경에서 이것을 확장 가능하고 개발자 친화적으로 만드는 핵심 기술적인 도전은 무엇인가요?

우리의 기밀 AI 플랫폼은 암호화된 데이터에서 분석, 기계 학습 및 생성 AI를 가능하게 하며, 또한 데이터가 예상대로 사용된다는 검증 가능한 증거를 제공합니다.

확장성, 개발, 관리와 관련된 핵심 도전은 작업의 오케스트레이션을 확장성과 검증 가능성으로 만드는 것입니다. 특히 많은 기업은 확장을 필요로 할 때 관리형 클라우드 서비스를 사용합니다. 이것은 비용 효율적이고 편리할 수 있습니다. 그러나 관리형 클라우드 서비스를 제공하는 소프트웨어의 일부는 기본적으로 클라우드 제공업체에 의해 관리됩니다. 따라서 도전은 어떻게 조직이 제어할 수 없는 소프트웨어를 안전하고 검증 가능하게 만드는지입니다. 조직이 모든 소프트웨어를 제어하기 위해 관리형 서비스를 사용하지 않으면, 무엇을 포기해야 하며, 무엇을 잃게 될까요?

안전한 아키텍처 설계가 지속적인 경쟁 우위를 제공할 수 있다고 말했습니다. 이것이 실제로 기업 AI 팀에서 어떻게 작용하는지 설명해 주세요.

이것은 두 가지 관점에서 볼 수 있습니다. 제품 관점과 엔지니어링 관점입니다.

제품 관점에서, 모든 사람이 자신의 데이터가 방사성 물질, 모트, 또는 둘 다라는 것을 이해합니다. 기업은 데이터 개인 정보 보호, 보안, 주권에 대한 솔루션의 평가에서 점점 더 성숙해지고 있습니다. 따라서 데이터를 처리하는 모든 제품을 구축하는 팀은 처리된 데이터가 승인된 당사자와 엔티티만 볼 수 있고 사용할 수 있다는 보장을 제공해야 합니다. 안전한 아키텍처 설계는 데이터 개인 정보 보호, 보안, 주권이 제품 설계에서 1차 고려 사항임을 보장하고, 이러한 보장을 명시적으로 제공할 수 있습니다.

엔지니어링 관점에서, 안전한 아키텍처 설계는 더 확장 가능하고 미래 지향적입니다. 법률, 위험, 규제 팀은 새로운 위험과 규제에 대응하여 점점 더 엄격해지고 있습니다. 따라서 엔지니어링 조직은 안전한 엔터프라이즈 AI 시스템을 처음부터 구축하여 시스템이 불충분하게 안전하고 위험에 취약하다는 것을 깨닫지 않도록 해야 합니다. 시스템을 재구성하고 패치하는 것은 귀중한 엔지니어링 대역폭을 몇 개월, 아니면 몇 년 동안 비용을 지불하게 할 것입니다.

자율적인 AI 시스템이 발전함에 따라, 조직은 데이터를 리소스 이상으로 어떻게 재고해야 하나요?

산업에서 데이터가 곧 조직의 유일한 모트가 될 것이라는 합의가 증가하고 있습니다. 우리는 연구 및 엔지니어링 재능과, 그들이 구축하는 훌륭한 기술 및 제품이 조직에서 조직으로 이동하는 것을 보았습니다. 따라서 많은 조직이 동일한 제품을 제공할 수 있으며, 동일한 기술로 뒷받침됩니다.

그러나 조직에서 조직으로 쉽게 이전할 수 없는 것은 조직의 데이터입니다. 데이터는 유출되지 않는 한, 더 개인화된, 맞춤형, 도메인별 제품을 생성할 수 있습니다. 조직은 데이터를 보호하기 위해 모든 것을 해야 하며, 데이터를 경쟁 우위로 활용할 수 있습니다.

실제에서 회복력 있는 AI 파이프라인은 무엇이며, 회사는 어떻게 하면 AI 배포를 확장하면서 숨겨진 비용이나 위험을 피할 수 있나요?

회복력 있는 AI 파이프라인은 신뢰할 수 있고, 오류를 허용하지 않으며, 가장 중요한 것은 끝에서 끝까지 검증 가능한 보안을 제공합니다. 처리 전에, 회사들은 파이프라인이 데이터를 잘못 사용할 가능성이 없다는 것을 확인하기 위해 데이터와 파이프라인을 확인해야 합니다. 처리 중에, AI 파이프라인은 데이터를 훔치거나 통찰력을 왜곡할 수 없도록 튼튼해야 합니다. 처리 후에, AI 파이프라인은 검증 가능한 감사 가능성을 제공하여, 팀이 AI 파이프라인의 의사 결정과 궤적을 관찰하고 설명할 수 있으며, 무엇이 잘못되었는지 볼 수 있습니다.

회사는 불안전한 AI 파이프라인이 데이터를 누출하거나 고유 모델을 노출할 수 있으며, 이는 회사에 미칠 수 있는 영향에 대해 항상 질문해야 합니다. 더 중요한 것은, 회사가 AI를 더 중요한 사용 사례에 배포할수록, 불안전한 AI 파이프라인의 위험은指数적으로 증가합니다. 대출 결정과 고용 결정이 이미 AI를 사용하는 세상에서, AI 파이프라인의 의도적 또는 부주의한 오류는 개인의 삶에 극적인 영향을 미칠 수 있습니다.

기업은 모델 정확도 또는 대기 시간에 초점을 맞추고 있습니다. 데이터 무결성과 장기적인 운영 위험에 대해 무엇을 간과하고 있나요?

많은 기업이 모델이나 AI 기술에 초점을 맞추고 있습니다.私は 데이터가 AI를 론칭하는 데 대한 기본적인 병목 현상이라고 믿어왔습니다.

사용자가 관심 없는 주제에 대해 매우 빠르게 정확한 응답을 생성하는 모델은 가치가 없습니다. 고유한 제품을 구축하려면, 기업은 모델과 제품이 훈련된 데이터의 품질과 관련성이 높은지 확인해야 합니다. 데이터 하위 문제는 높은 품질의 입력 데이터가 없기 때문에 몇 개월 후에 나타날 수 있습니다.

두 번째로, 우리는 기업이 데이터 드리프트, 오염, 또는 누출을 감지하는 좋은 이야기를 가지고 있지 않다는 것을 발견했습니다. 이것은 모델 무결성을 위협합니다. 이것은 나의 첫 번째 지점과 밀접하게 관련되어 있으며, 반응적인 솔루션이지만, 평가와 관찰 가능성이 더 중요하게 만듭니다.

OPAQUE는 기존 클라우드 스택에 통합됩니다. 기업 환경에서 강력한 보안 보장을 제공하면서도 입양의 용이를 어떻게 균형을 잡았나요?

우리는 거의 10년 동안, 연구 기간부터, 이 문제를 해결했습니다. AI 시스템의 검증 가능한 보안, 특히 기업 환경에서, 매우 어려운 문제입니다. 이것은 시스템, 보안, 암호학, AI 전문 지식을 필요로 합니다. 따라서 우리가 접한 대부분의 시스템은 기본적으로 안전하지 않았습니다. 보안은 구현하기 어렵기 때문입니다.

OPAQUE에서는 두 세계의 최선을 제공하는 제품을 구축했습니다. 기본적으로 검증 가능한 보안이지만, 클라우드 시장과 충분히 유연하여 새로운 및 기존 AI 애플리케이션에 통합할 수 있습니다.

AI 파이프라인과 데이터 공유를 둘러싼 새로운 위협이나 취약성은 무엇이며, 기업 리더는 아직 충분히 이해하지 못하고 있나요?

우리는 에이전트 금융 열풍에서 AI 에이전트가 다양한 시스템에 접근할 수 있기 때문에巨大한 위험을 보았습니다. 이러한 에이전트는 가치를 제공할 수 있지만, 데이터를 접근할 수 있기 때문에巨大한 위험을 가집니다. 에이전트는 본질적으로 비결정적이며, 우리는 에이전트가 예상치 못한 행동을 하는 많은 경우를 보았습니다. 데이터가 유일한 모트인 세상에서, 기업 리더는 데이터를誤用하지 않을 것이라는 것을 항상 질문해야 합니다.

AI 규제가全球적으로 형성됨에 따라, 안전한 데이터 인프라, 모델 책임성, 규제 준수 간의 상호 작용은 향후 몇 년 동안 어떻게 진화할까요?

검증 가능한 안전한 데이터 인프라는 모델 및 에이전트 책임성을 가능하게 합니다. 특히, 에이전트 또는 모델의 의사 결정 또는 도구 사용에 대한 검증 가능한 증거가 없으면, 우리는 책임성을 확신할 수 없습니다. AI가 우리의 일상 생활에 더 많이 통합됨에 따라, 우리는 더 많은 설명 가능성과 관찰 가능성을 원할 것입니다. 그러나 AI가 기계 속도로 작동할 수 있고, 우리는那样하지 못할 때, 악의적인 AI는 쉽게 우리를 속일 수 있습니다. 우리는 AI를 책임지기 위해 검증 가능성을 필요로 합니다.

규제 준수는 매우 반응적입니다. 규제의 개발과 통과는 기술 혁신보다 훨씬 느립니다. 이것은 AI가 우리의 혁신 속도를 증가시키는 데 도움이 될 때 점점 더 사실이 될 것입니다. 규제 준수는 결국 후발주자들이 안전한 데이터 인프라를 채택하도록 이끌지만, 초기 채택자와 초기 다수는 그것이 AI 안전에 필수적이라는 것을 이해하고, 규제가 강제하기 전에 채택할 것입니다. 그들은 에이전트 책임성이 자신의 AI 기반 제품을 채택하는 데 필수적이라는 것을 이해합니다.

우수한 인터뷰에 감사드립니다. 더 많은 정보를 배우고 싶은 독자는 OPAQUE를 방문하십시오.