ํ๋ฉ
Sedai, $20M ๋ฅผ ํ๋ณดํ์ฌ ์์จ ์ฃผํ ํด๋ผ์ฐ๋์ AI ์์ด์ ํธ๋ฅผ ํตํ DevOps ์ฌ์ ์
Sedai, 최초의 자율 주행 클라우드 플랫폼을 개발한 회사,는 자율 인프라 관리 비전을 확대하기 위해 2,000만 달러의 시리즈 B 라운드를 발표했습니다. AVP (Atlantic Vantage Point)가 주도하고 Norwest, Sierra Ventures, Uncorrelated Ventures의 지원을 받아 진행된 이번 자금 조달은 Sedai의 LLM 최적화, GPU 리소스 관리, Databricks 및 Snowflake와 같은 플랫폼을 위한 지능형 오케스트레이션과 같은 새로운 도메인으로의 확장을 지원할 것입니다.
이 플랫폼은 전통적인 알림 및 대시보드 패러다임을 대체하여 생산 환경에서 학습하고 비용, 성능, 가용성을 최적화하기 위해 자율적으로 행동하는 AI 에이전트를 도입함으로써 DevOps의 전환점을 표시합니다.
“웨이모가 자율 주행 자동차가 가능함을 증명한 것처럼, Sedai는 자율 주행 인프라가 가능하다는 것을 증명했으며, 필요한 것임을 보여주었습니다.”라고 Sedai의 CEO이자 설립자 인 Suresh Mathew는 말했습니다.
자율 주행 인프라의 실제 의미
대부분의 모니터링 도구가 단순히 알림을 생성하는 반면 Sedai의 접근 방식은 훨씬 더 적극적입니다. 플랫폼은 트래픽, 애플리케이션 동작 및 인프라 구성과 같은 것을 실시간으로 관찰한 다음 성능을 개선하고 비용을 줄이는 자율적인 결정을 내리며, 이는 인간의 개입이 필요하지 않습니다.
이것이 Sedai를真正한 “자율 주행” 플랫폼으로 만드는 것입니다. 시스템은 단순히 문제를 표시하지 않고, 해결합니다.
하위 시스템에서 Sedai는 계속해서 워크로드 및 시스템 상태의 변경에 적응하는 다중 에이전트 AI 아키텍처를 사용합니다. 이 시스템의 핵심은 딥 강화 학습 (DRL)입니다. 이는 에이전트가 시도와 오류를 통해 학습하는 강력한 형태의 기계 학습입니다. Sedai의 경우, 에이전트는 실제 성능 결과에 따라 인프라 리소스 (예: CPU 및 메모리)를 동적으로 확장하도록 훈련됩니다. 시간이 지남에 따라 이러한 에이전트는 라이브 환경에서 최상의 결과를 가져오는 작업을 학습합니다.
이 지능은 이상 탐지 및 인과 추론과 같은 기술로 더욱 강화되어 Sedai가 고객 경험에 영향을 미치기 전에 오류를 예측하고 근본 원인을 식별할 수 있습니다. 또한 계절성 모델링을 통해 시스템은 반복되는 패턴 (예: 일일 트래픽 피크 또는 월말 처리 로드) 에 자동으로 조정하여 인프라를 최적화합니다.
새로운 DevOps 효율성 시대
Sedai는 페이팔에서 마이크로 서비스의 확장 문제를 직접 경험한 Suresh Mathew와 Benji Thomas에 의해 설립되었습니다. DevOps는 배포를 가속화했지만, 또한 새로운 부담 (예: 끝없는 노동, 알림 피로, 수동 작업으로 유지되는 취약한 시스템)을 생성했습니다.
Sedai는 동적인 것을 변경합니다. 메트릭을 해석하고 수동으로 응답하는 엔지니어에 의존하는 대신, 플랫폼은 다음 작업을 처리합니다:
- 인프라 약화를 실시간으로 탐지 및 해결
- 실제 트래픽에 따라 워크로드를 수직 및 수평으로 확장
- 비용, 대기 시간, 가용성을 최적화하기 위한 구성 업데이트
- 사용자가 알기 전에 고장난 서비스를 다시 시작하거나 회복
이미 플랫폼은 프로덕션에서 2,500만 개 이상의 자율 동작을 수행했으며, 30억 달러의 클라우드 지출을 관리했습니다. 이는 고객에게 연간 500만 달러 이상의 비용을 절감했으며, 엔지니어링 팀에게 22,000시간 이상의 생산 시간을 돌려주었습니다.
임계 산업을 걸쳐 기업 리더들이 신뢰하는 플랫폼
Sedai는 사이버 보안, 금융 서비스, 제약, 교육, AI와 같은 분야의 포춘 500 리더들이 프로덕션에서 사용하고 있습니다. 고객에는 Palo Alto Networks, Experian, McGraw Hill과 같은 가계 이름이 포함되어 있습니다. 이러한 회사는 안정적이고 성능이 좋으며 비용 효율적인 인프라를 대규모로 확장하는 데 의존합니다.
KnowBe4의 경우 Sedai는 프로덕션 비용을 50%, 개발 비용은 87%까지 절감했습니다. 엔지니어링 VP Matthew Duren은 플랫폼을 예산 효율성뿐만 아니라 자신의 역할을 변환하여 저가치 작업 대신 전략적 이니셔티브에 집중할 수 있도록 그의 팀을 자유롭게 해주었다고赞했습니다.
이러한 결과는 예측이 아니라 라이브 환경에서 실제 AI를 반영하여 생산 시스템을 안전하게 관리하고 даже 높은 복잡성의 기계 학습 워크로드를 관리합니다.
자동화를 넘어서: AI 에이전트가 다음 도약인 이유
자동화와 자율성을 구별하는 것이 중요합니다. 자동화는 정적 임계값 또는 스크립트를 기반으로 미리 정의된 작업을 실행합니다. 반면 Sedai의 AI 에이전트는 시스템을 관찰하고 학습하여 동적으로 최상의 작업을 발견합니다. 조건이 변경되더라도如此입니다.
이 구별은 중요합니다. 트래픽 패턴, 서비스 종속성, 배포 아키텍처가不断 진화하는 세계에서 정적 규칙은 빠르게 구식이 됩니다. Sedai의 AI 최초 접근 방식은 복잡성하에서 지속적인 최적화를 보장합니다.
예를 들어, 플랫폼은 다양한 서비스가 다른 로드에서 어떻게 동작하는지 학습하고, 그에 따라 리소스 할당을 세부적으로 조정합니다. 메모리 병목 현상으로 인해 대기 시간이 증가하는 경우 Sedai는 인간이 알림을 해석하기를 기다리지 않고 즉시 행동할 수 있습니다.
전체 엔지니어링 조직을 위한 플랫폼
Sedai는 엔지니어링 스택의 모든 역할에서 가치를 제공합니다:
- SRE와 DevOps 엔지니어는 노동을 줄이고 신뢰성 목표를 달성하면서 소진되지 않습니다.
- 개발자는 코드를 배포하는 데 집중합니다. Sedai는 프로덕션에서 최적의 구성으로 보장합니다.
- 엔지니어링 리더는 운영 효율성과 대규모 클라우드 비용 절감을 얻습니다.
- 아키텍트 및 CTO는 인프라를 책임으로서가 아닌 전략적 차별점으로 전환합니다.
단 15분의 설정으로 팀은 Sedai를 클라우드 및 APM 도구에 연결할 수 있습니다. 그 후 플랫폼은 학습을 시작하고, 안전한 최적화를 확인하며, 라이브 프로덕션에서 행동을 취합니다. 이는 규정 준수를 위한 완전한 감사 추적과 함께 제공됩니다.
다음 단계: AI 인프라 스택 최적화
시리즈 B 자금 조달로 Sedai는 LLM 기반 애플리케이션의 자율 튜닝, 실시간으로 비싼 컴퓨팅 리소스를 관리하는 자율 GPU 오케스트레이션, Databricks 및 Snowflake와 같은 데이터 플랫폼의 AI 기반 최적화와 같은 현대적 AI 인프라의 가장 긴급한 도전 과제로 기능을 확장할 것입니다.
- LLM 기반 애플리케이션을 위한 자율 튜닝, 추론 중에 최적의 구성 보장
- 자율 GPU 오케스트레이션, 실시간으로 비싼 컴퓨팅 리소스 관리
- Databricks 및 Snowflake와 같은 데이터 플랫폼의 AI 기반 최적화
이러한 노력은 AI 모델, 추론 파이프라인, 실시간 분석과 같은 워크로드가 지능형 인프라 계층을 지원하기 위해 요구하는 미래와 일치합니다.
“클라우드 채택이 증가함에 따라, 회사들은 성능을 개선하면서 비용을 줄이기 위해 어려움을 겪고 있습니다. AI 에이전트는 이러한 문제를 대규모로 해결하기 위해 고유하게 위치하고 있습니다.”라고 AVP의 일반 파트너 Manish Agarwal은 말했습니다.
클라우드 인프라의 미래는 자율적입니다
자율 클라우드 플랫폼의 부상은 더广泛한 산업의 변화를 나타냅니다. 인간이 루프에 있는 시스템에서 실시간으로 독립적으로 작동하는 지능형 에이전트로 이동합니다. 기업이 클라우드足跡을 확대하고, 점점 더 복잡하고, 분산된 아키텍처를 채택함에 따라, 수동 인프라 관리는 제한에 도달하고 있습니다.
DevOps는 빠른 배포 및 운영 민첩성을 위한 궁극적인 해결책으로 간주되었습니다. 그러나 이제는 복잡성, 알림 피로, 비용 비효율성으로 인해 압력을 받고 있습니다. 전통적인 관찰 가능성 및 자동화 도구는 가시성을 제공하고 스크립팅을 제공하지만, 여전히 엔지니어가 분석, 해석 및 행동을 취할 수 있도록頼赖합니다. 이러한 반응형 접근 방식은 현대적인 서비스 요구에 따라 어려움을 겪고 있습니다.
자율 플랫폼은 다음 진화 단계를 나타냅니다. 딥 강화 학습, 인과 추론 및 적응형 확장을 핵심 인프라 워크플로에 통합함으로써, 이러한 플랫폼은 프로덕션에서 자율적으로 최적화하고, 자율적으로 치유하는 능력을 제공합니다. 이는 단순히 운영 효율성이 아니라, 구조적인 변환을 의미합니다. 즉, 더 적은 중단, 더 빠른 릴리스, 더 나은 비용 제어 및 개선된 개발자 경험입니다.
이 생태계가 성숙함에 따라, 이 전환은 팀이 구성되고 구조화되는 방식, 애플리케이션이 설계되고 테스트되고 배포되는 방식, 인프라가 책임으로 간주되는 방식에 영향을 미칠 것입니다. 초기 채택자는 이미 자율 운영이 생산성, 성능 및 금융 ROI에서 구체적인 이점을 제공할 수 있음을 입증했습니다.
Sedai는 이 비전을 현실로 만드는 선두 주자 중 하나이지만, 더 큰 관점은 명확합니다. 클라우드 인프라는 더 이상 엔지니어가不断 관리해야 하는 것이 아닙니다. 이제それは 자율적으로 관리되는 것입니다.
