LangChain, LangSmith BYOC 베타를 Azure와 Google Cloud에 출시

LangChain은 2026년 11월 3일 발표를 통해 LangSmith Bring Your Own Cloud(BYOC)가 Microsoft Azure와 Google Cloud에서 베타 버전으로 제공되기 시작했다고 밝혔다. 이번 출시로 관리형 배포 옵션은 AWS를 넘어 확대됐다. AWS에서는 이미 정식 제공 중이다.

BYOC를 사용하면 민감한 LangSmith 데이터와 에이전트 배포 환경을 고객의 클라우드 계정에 둘 수 있다. 플랫폼을 개발한 LangChain은 오케스트레이션, 확장, 플랫폼 업데이트를 비롯한 데이터 플레인을 관리한다. BYOC는 전체 플랫폼을 직접 운영하지 않으면서 자체 호스팅 LangSmith의 데이터 상주성과 네트워크 격리를 원하는 조직을 위한 서비스다.

AWS가 먼저 출시됐다. LangChain은 2026년 8월 12일 발표에서 자체 AWS 계정과 VPC 안에 관리형 배포 환경을 구축하려는 기업을 대상으로 BYOC를 선보였다. 특히 데이터 거버넌스 요건이 엄격한 팀을 겨냥한 서비스다.

BYOC에서 LangSmith를 구성하는 방식

BYOC는 플랫폼을 LangChain이 운영하는 컨트롤 플레인과 고객이 소유하는 데이터 플레인으로 나눈다. 컨트롤 플레인에는 인증, 조직 및 작업 공간 설정, 결제 메타데이터, 해시 처리된 API 키, 정적 인터페이스 리소스가 포함된다. 데이터 플레인에는 추적 정보, 프롬프트, 데이터 세트, 실험, 에이전트 배포 환경, 작업 공간 비밀 정보가 포함된다.

조직은 여러 계정과 리전에 각각 데이터 플레인을 두고, 각 데이터 플레인 안에 작업 공간을 구성할 수 있다. 이 구조를 통해 리전, 환경 또는 사업부별로 분리할 수 있다. 예를 들어 플랫폼 팀은 별도의 AWS 계정에서 프로덕션과 스테이징 환경을 운영하고, Azure를 표준으로 채택한 사업부는 자체 배포 환경을 운영할 수 있다.

이 모델은 자체 호스팅 LangSmith에 따르는 업그레이드 부담도 바꾼다. 컴플라이언스 경계가 엄격한 팀은 이전에는 플랫폼 엔지니어를 통해 상태 저장 서비스를 패치하고, 데이터베이스를 구성하고, 스키마를 마이그레이션하고, 맞춤형 Helm 배포를 조율해야 했다. BYOC를 사용하면 데이터는 고객의 가상 네트워크에 그대로 두면서 LangChain이 확장, 스키마 업데이트, 런타임 종속성을 관리한다.

LangChain에 따르면 AWS 고객들은 지속적인 업그레이드, 자체 호스팅 릴리스 주기보다 빠르게 새 LangSmith 기능을 이용할 수 있다는 점, 자동 확장을 주요 이점으로 꼽았다.

클라우드 아키텍처와 보안 책임

세 클라우드 모두 BYOC 데이터 플레인에서 Managed Deep Agents 엔드포인트를 지원하지만, 구현에는 각 클라우드 제공업체 고유의 네트워킹 및 보안 구성 요소가 사용된다.

Azure에서는 전용 가상 네트워크에 데이터 플레인을 실행하고, 비공개 AKS API 엔드포인트를 사용한다. 인그레스 라우팅과 이벤트 기반 확장을 위해 Helm을 통해 Istio와 KEDA를 배포하며, 시스템 원격 측정 데이터는 Azure Monitor로 전송된다. LangChain은 Azure의 LangSmith Sandboxes 지원이 곧 제공될 예정이라고 밝혔다. Google Cloud 데이터 플레인은 출시 시점부터 모든 리전에서 실행할 수 있지만, LangSmith의 미국 컨트롤 플레인에서 관리된다. 네임스페이스 범위의 리소스 이름은 기존 인프라와의 충돌을 방지하기 위한 것이다.

AWS에서는 기존 VPC를 사용할 수 있으며, 데이터베이스를 고객이 선택한 서브넷에 배치한다. 보안 팀은 애플리케이션 역할에 자체 보안 그룹을 연결해 데이터 플레인이 기존 인그레스 및 이그레스 검사 정책에 부합하도록 할 수 있다.

AWS에서는 두 개의 PrivateLink 연결이 두 플레인 간 통신을 담당하며, LangChain은 퍼블릭 인터넷을 통해 고객 환경에 접속하지 않는다. 민감한 데이터 요청은 브라우저나 클라이언트에서 고객 데이터 플레인으로 직접 전송된다. 계정 간 IAM 역할은 인프라를 프로비저닝하고 관리할 수 있지만, 이 역할에는 s3:GetObject 추적 버킷에 대한 권한이 없고, rds-db:connect PostgreSQL에 대한 권한도 없으며, elasticache:Connect Redis에 대한 권한도 없다.

AWS에서는 공동 책임 모델에 따라 클라우드 계정 거버넌스, 내부 연결, 액세스 정책, 고객 측 보안 모니터링, 컴플라이언스 제어를 고객이 담당한다. LangChain은 관리형 구성 요소를 운영하고 업데이트한다. 사고 원인을 조사할 때는 고객이 승인한 비상 접근이 필요할 수 있으며, 접근 후에는 시각, 수행한 작업, 접근한 데이터가 포함된 요약 보고서를 제공한다.

마이그레이션 및 액세스

자체 호스팅 LangSmith에서 이전하는 조직을 위해 오픈소스 마이그레이션 도구는 사용자와 역할, 데이터 세트, 실험, 프롬프트, 주석 대기열 설정, 자동화 규칙, 대시보드, Fleet 리소스를 복사한다. 데이터는 이동하는 대신 복사되므로 원본 인스턴스는 변경되지 않은 채 계속 운영된다. 마이그레이션 문서에는 수동으로 처리해야 할 작업도 명시되어 있다. 배포된 에이전트는 다시 배포해야 하고, Insights 보고서는 인스턴스 간에 이전되지 않으며, Fleet을 마이그레이션하려면 비밀 값을 다시 입력하고 사용자별 OAuth 연결을 다시 설정해야 한다.

추적 정보, 실행 기록, 피드백은 LangChain이 내부 도구를 사용해 별도의 절차로 이전한다. AWS에서는 추적 정보 마이그레이션을 지원하지만, 오픈소스 도구로는 추적 정보를 이전할 수 없다.

BYOC와 마이그레이션 도구의 기반이 되는 Terraform 모듈은 공개되어 있다. LangChain에 따르면 데이터 플레인의 LLM Gateway는 기본적으로 11개 제공업체의 모델을 지원하며, OpenAI 또는 Anthropic과 호환되는 엔드포인트도 지원한다. AWS, Azure 또는 Google Cloud에 BYOC 데이터 플레인을 프로비저닝하려면 LangChain 영업팀에 문의해야 한다.

기업 입장에서는 클라우드 거버넌스를 넘기지 않고도 데이터를 어디에 둘지 더 폭넓게 선택할 수 있습니다. LangChain은 더 다양한 환경에서 LangSmith를 운영할 수 있으며, 계정 제어, 모니터링, 규정 준수와 여러 마이그레이션 작업은 여전히 고객 팀이 담당합니다.