리오르 코리앗, 퀄리 CEO – 인터뷰 시리즈

리오르 코리앗, 퀄리의 CEO는 거의 2십년 동안 퀄리에서 기술 책임자이자 기업가로 일해 왔으며, 초기 엔지니어링 및 운영 기반에서 글로벌 클라우드 에이전트 환경 서비스 제공업체로 성장하는 데 기여했습니다. 2011년부터 CEO이자 이사로 재직하면서 그는 미국, 유럽, 아시아, 이스라엘에서 퀄리의 확장을 주도하며, 이전에 연구개발 부문장, 최고운영책임자, CEO를 역임하며 엔지니어링, 판매, 고객 지원, 법률, 사업 개발, 국제 운영 등을 책임졌습니다. 또한 그는 인텔리테크 엔지니어링의 창립자이자 대표이사를 역임하였으며, 구글 런치패드 액셀러레이터와 UC 버클리의 스터드자 센터에서 스타트업을 대상으로 제품 전략, 시장 진출, DevOps, 확장 등에 대한 멘토링을 제공했습니다.

퀄리는 조직이 개발 팀의 속도를 떨어뜨리지 않고 거버넌스된 셀프 서비스 클라우드 환경을 제공할 수 있도록 설계된 인프라 자동화 및 플랫폼 엔지니어링 소프트웨어를 개발했습니다. 토르크 플랫폼은 플랫폼 팀을 위한 카탈로그 기반의 셀프 서비스 레이어를 제공하여 승인된 블루프린트, 역할 기반 액세스 제어, 수명주기 관리, 비용 귀속, 정책 시행, 실시간 가시성을 환경 전체에 걸쳐 제공합니다. 퀄리는 토르크를 멀티 클라우드 및 하이브리드 클라우드 설정에서 인프라 전달을 표준화하는 방법으로 пози션합니다. 이는 소프트웨어 개발, 테스트, 데모, 교육, 증명 환경, MLOps, 에이전트 AI, CI/CD 파이프라인 자동화, GPU를 서비스 형태로 제공하는 것을 포함한 사용 사례를 지원합니다. 더广い 제품 포트폴리오에는 또한 클라우드셸이 포함되어 있으며, 이는 온프레미스 및 클라우드 인프라를 통해 복잡한 환경을 위한 재사용 가능한 저코드 또는 노코드 빌딩 블록으로 인프라를 변환합니다.

여러 기술 회사들을 설립하고 성장시키기 전에 퀄리를 이끌었으며, 귀하의 경력은 군사 시스템, 로봇공학, 인프라 엔지니어링, 클라우드 자동화 등을 아우릅니다. 이러한 경험은 어떻게 AI 인프라 플랫폼을 구축하는 귀하의 비전에 영향을 주었나요? 또한 이 시점에 AI 네이티브 인프라 관리에 집중해야 한다는 것을 무엇이 확신시켰나요?

私の 경력은 일관되게 복잡한 시스템에 중심을 두었습니다. 이러한 시스템은 요구되는 조건에서 신뢰할 수 있게 작동해야 하는 시스템입니다.私は 로봇공학 및 항공우주 분야에서 시작하여 방위 응용 프로그램을 위한 자동화 및 시뮬레이션 시스템을 개발하였습니다. 이러한 환경에서는 반복성 및 거버넌스가 운영적 요구 사항이 아닌 엔지니어링적 선호도였습니다. 이러한 관점은 퀄리로 옮겨졌습니다.过去 10년 동안, 기업 인프라는 다양한 계층에서 분산되었습니다. 각 계층은 특정 기술 문제를 해결했지만, 또한 관리 인터페이스, 운영 워크플로, 복잡성의 또 다른 출처를 도입했습니다. 조직은 인프라를 생성하는 데 매우 능숙해졌지만, 이미 존재하는 인프라를 관리하는 데는 덜 효과적이었습니다.

AI는 이러한 불균형을 가속화했으며, 운영적 도전은 점점 더 AI 초기화를 생산 단계로 이동시키는지 여부를 결정합니다. 따라서私は AI 네이티브 인프라 관리가 필수적이라고 믿습니다. 이러한 도전은 이기종 환경에서 지속적으로 AI 인프라를 운영하는 것입니다. 거버넌스, 보안, 비용 규율을 유지하면서 사용률을 최적화하는 것입니다.

주권 AI는 정부와 기업 모두에게 급속히 우선순위가 되었습니다. 대부분의 조직은 주권에 대해 무엇을 오해하고 있으며, 왜 인프라 거버넌스가 모델 소유권만큼 중요해지고 있는지 설명해 주십시오.

많은 주권 AI 논의는 데이터 거주지 및 인프라 소유권에 초점을 맞추고 있습니다. 이러한 구성 요소는 필수적이지만, 운영적 현실의 일부만을 해결합니다.

조직이 자율 에이전트를 배포하기 시작하면, 주요 질문은 인프라가 어디에 거주하는지에서 에이전트가 인프라 내에서 어떻게 작동하는지로 변경됩니다. 현대 에이전트는 리소스를 프로비저닝하고, 정보를 검색하고, 워크플로우를 시작하며, 프로덕션 시스템과 상호 작용합니다. 이러한 모든 동작은 정책 시행을 필요로 합니다.

이것은 주권이 어떻게 평가되어야 하는지에 대한 관점을 변경합니다. 인프라를 소유하는 것은 자동으로 운영적 제어를 제공하지 않습니다. 에이전트가 결정적 거버넌스를 없이 행동을 실행할 수 있는 경우, 에이전트가 어떤 행동을 했는지, 왜 그렇게 했는지, 어떤 정책하에 행동했는지, 이러한 결정이 어떻게 감사될 수 있는지에 대한 설명이 필요합니다. 조직은 인프라를 지속적으로 이기종 환경에서 운영하면서 거버넌스, 보안, 비용 규율을 유지하고 사용률을 최적화하는 것을 목표로 해야 합니다.

私は 인프라 거버넌스가 모델 개발만큼 전략적으로 중요해질 것으로 예상합니다. 이는 조직이 AI를 책임 있게 확장할 수 있는 운영적 프레임워크를 제공하기 때문입니다. 기업이 여러 모델, 여러 클라우드, 점점 더 자율적인 워크플로우를 채택함에 따라, 거버넌스는 이러한 환경을 안전하고 책임 있게 유지하는 계층이 됩니다.

에이전트는 점점 더 자율적으로 되어가며, 리소스를 프로비저닝하고, 워크로드를 배포하고, 운영적 결정을 내리는 권한을 부여받고 있습니다. 이러한 자율 시스템을 임계 인프라에 신뢰하기 전에 어떤 가드레일이 있어야 하며, 이러한 가드레일은 어떻게 구현할 수 있나요?

많은 조직은 이미 프로덕션에서 에이전트를 배포하고 있습니다. 질문은 이러한 에이전트가 명확하게 정의된 경계 내에서 어떻게 작동하는지입니다.

첫 번째 요구 사항은 실행 계층에서 결정적 정책 시행입니다. 에이전트는 미리 정의된 인프라 정책을 준수하는 행동만을 수행할 수 있어야 합니다. 이러한 정책은 모델이 행동이 적절한지 여부를 결정하는 것을 의존해서는 안 됩니다. 모델 자체와 독립적으로 시행되어야 합니다.

액세스 제어도同等히 중요합니다. 영구적 권한은 불필요한 운영적 위험을 생성합니다. 액세스는 특정 작업을 수행하는 데 필요한 리소스에만 제한되어야 하며, 작업이 완료되면 자동으로 취소되어야 합니다. 이러한 모델은 자동화를 확장하면서 공격 표면을 확장하지 않도록 허용합니다.

모든 행동은 완전한 감사 추적이 필요합니다. 에이전트가 더 자율적으로 되면서, 기업은 어떤 에이전트가 행동을 수행했는지, 언제 발생했는지, 어떤 정책이 승인했는지, 어떤 변경이 있었는지 이해해야 합니다. 이러한 추적 가능성은 운영적 문제 해결 및 규제 준수를 지원합니다.

私は 또한 자율 인프라가 거버넌스된 환경에서 작동해야 한다고 믿습니다. 잘 정의된 환경은 에이전트가 워크로드를 실행하기 전에 명시적인 리소스 경계, 수명주기 제어, 운영적 정책을 제공합니다. 이는 조직이 자동화를 증가시키면서 예측 가능한 운영적 행동을 유지할 수 있도록 합니다.

귀하는 종종 전통적인 자동화에서 지능형 제어 플레인으로의 전환에 대해 논의합니다. 인프라가 정적 규칙 및 워크플로우 대신 의도에 따라 작동하기 시작했을 때 무엇이 근본적으로 변경되나요?

전통적인 자동화는 미리 정의된 단계를 실행합니다. 이는 인프라가 예측 가능하고, 워크로드가 안정적이며, 변경이 인간이 관리하는 워크플로우를 통해 발생할 때 작동합니다. AI 인프라는那样 작동하지 않습니다.

AI 워크로드는 동적입니다. GPU需求은 빠르게 변경되고, 환경은 자주 생성되고 파괴되며, 에이전트는 특정 작업을 위한 리소스에 액세스해야 할 수 있습니다. 지능형 제어 플레인은 환경의 목적, 소유자, 비용, 정책, 라이브 상태가 의도된 상태와 여전히 일치하는지 이해합니다.

이 컨텍스트는 인프라 관리를 변경합니다. 시스템은 드리프트를 감지하고, 최적화를 추천하며, 정책을 시행하고, 의도된 결과에 대한 라이프사이클 결정을 관리할 수 있습니다.

GPU 인프라는 AI 배포에서 가장 큰 병목 현상 중 하나가 되었습니다. 귀하는 산업이 GPU 활용에 대해 잘못된 접근 방식을 취하고 있다고 믿는가요? 또한 효율성을 크게 개선하기 위해 어떤 운영적 변경이 가능할까요?

산업은 종종 GPU 문제를 조달 문제로 취급합니다. 많은 기업에서 더 즉각적인 문제는 활용도입니다.

우리는 GPU 클러스터가 피크需求을 위해 사전 할당되어 있거나, 작업이 끝난 후에도 여전히 활성화되어 있거나, 작업이 끝난 후에도 환경에 계속 연결되어 있는 조직을 보았습니다. 이는 비용이 높지만 비즈니스 가치가 없습니다.

GPU 효율성을 개선하는 것은 수명주기 제어에서 시작됩니다. 환경은需求에 따라 프로비저닝되어야 하며, 워크로드에 맞게 조정되어야 하며, 팀이나 프로젝트에 귀속되어야 하며, 작업이 완료되면 자동으로 종료되어야 합니다. 기업은 또한 사용량, 워크로드당 비용, 각 환경의 비즈니스 목적에 대한 가시성을 필요로 합니다.

하드웨어를 추가하는 것은 여전히 필요할 수 있지만, 관리되지 않는 GPU 용량은 비용 문제만을 확대합니다.

다음 5년 동안 하이브리드 AI 환경은 어떻게 진화할까요? 또한 기술 리더들이 현재 주목해야 할 인프라 트렌드가 있나요?

하이브리드 AI는 기본적인 기업 모델이 될 것입니다. 조직은 유연성을 위해 공공 클라우드를 사용할 것이며, 제어 및 비용 관리를 위해 온프레미스 인프라를 사용할 것입니다. 또한 지연, 데이터 로컬리티 또는 운영적 요구 사항이 있는 경우 에지 환경을 사용할 것입니다.

まだ 해결되지 않은 도전은 일관성입니다. 대부분의 기업은 이미 여러 벤더, 클라우드, 자동화 도구, 인프라 유형에서 운영되고 있습니다. AI는 GPU 클러스터, 모델 서빙 환경, 파인튜닝 파이프라인, 에이전트 워크로드를 이러한 혼합에 추가합니다.

다음 5년 동안, 주요 조직은 이러한 환경에서 하나의 운영 표준을 생성할 것입니다.他們 需要 일관된 프로비저닝, 정책 시행, 비용 귀속, 감사 가능성, 수명주기 관리를 제공해야 하며, 워크로드가 실행되는 위치에 관계없이 이러한 기능을 제공해야 합니다.

DevOps는 지난 10년 동안 소프트웨어 배포를 변革했습니다. 귀하는 AI 인프라에 대해 완전히 새로운 운영 모델이 필요한지, 아니면 DevOps 및 플랫폼 엔지니어링의 자연스러운 진화인지 여부를 묻고 싶습니다.

AI 인프라는 DevOps를 확장하지만, 전통적인 DevOps 관행이 처리하지 못하는 요구 사항도 도입합니다.

DevOps는 파이프라인을 표준화하고, 반복 가능한 작업을 자동화하며, 팀이 필요한 리소스에 더 빠르게 액세스할 수 있도록 소프트웨어 배포를 개선했습니다. AI 인프라는 동일한 규율이 필요하지만, 워크로드가 더 리소스 집약적이고, 예측 가능성이 낮으며, 전문 인프라에 더 의존합니다.

플랫폼 엔지니어링은 이러한 환경에서 핵심이 됩니다. 팀은 티켓 기반의 프로비저닝이나 수동 구성이 아닌, 유효한 환경에 대한 거버넌스된 셀프 서비스 액세스가 필요합니다. 운영 모델은 여전히 속도와 자동화를 가치 있게 여기지만, 초기부터 더 강력한 거버넌스, 비용 제어, 인프라 컨텍스트도 필요로 합니다.

무인 작전은 인프라 관리에서 오랫동안 목표였습니다.真正한 자율 인프라에 얼마나 가까이 왔나요? 또한 여전히 방해가 되는 기술적 및 조직적 장벽은 무엇인가요?

우리는真正한 자율 인프라에 훨씬 가까이 왔습니다. 그러나 제한 요인은 자동화가 아닌 거버넌스입니다. 에이전트는 이미 환경을 프로비저닝하고, 워크로드를 배포하고, 이상을 조사하고, 개선을 추천할 수 있습니다. 도전은 이러한 행동이 명확하게 정의된 정책 경계 내에서 발생하는지 확인하는 것입니다.

조직은 또한 자율 시스템이 무엇을 했는지, 왜 그렇게 했는지, 어떤 정책하에 행동했는지 설명할 수 있는 자신감이 필요합니다. 이러한 추적 가능성은 많은 기업 환경에서 여전히 부족합니다. 자율 인프라는 거버넌스, 감사 가능성, 정책 시행이 운영적 계층에 내장될 때 주류가 될 것입니다.

AI 워크로드가 더 동적이고 리소스 집약적이 되면서, 비용 초과는 주요 우려 사항이 되고 있습니다. 기업이 AI 인프라를 확장하려고 할 때 가장 일반적인 실수는 무엇이며, 이러한 실수를 어떻게 피할 수 있나요?

많은 조직은 인프라를 효율적으로 사용하는 방법을 이해하기 전에 더 많은 컴퓨팅 파워를 획득하는 것에 집중합니다.

우리는 프로젝트가 끝난 후에도 여전히 활성화되어 있거나, 워크로드가 실행되지 않는 GPU 리소스가 예약되어 있거나, 인프라 비용을 유발하는 팀이나 애플리케이션에 대한 가시성이 거의 없는 환경을 종종 보았습니다. AI 워크로드는 이러한 비효율성을 증폭시킵니다. 요구 사항이 빠르게 변경되며, GPU 인프라는 비용이 많이 듭니다.

해결책은 거버넌스에서 시작됩니다. 모든 환경에는 정의된 소유자, 비즈니스 목적, 수명주기, 비용 프로필이 있어야 합니다. 조직이 정책 기반의 프로비저닝을 자동 종료 및 지속적인 사용량 가시성과 결합하면, 인프라 지출은 훨씬 더 예측 가능하고 정당화되기 쉽습니다.

앞으로, 조직이 AI를 대규모로 운영화하는 데 성공하는 데 무엇이 결정적일까요? 또한 기술 리더들이 현재 주목해야 할 인프라 트렌드가 있나요?

성공하는 조직은 AI 인프라를 기술의 집합이 아닌 운영적 능력으로 간주할 것입니다. 모델은 계속 개선될 것이며, 하드웨어는 더 강력해질 것입니다. 이러한 환경을 일관되게 여러 팀과 플랫폼에서 운영하는 것이 더 어려운 도전이 될 것입니다.

더 주목해야 할 트렌드는 인프라 인텔리전스로의 전환입니다. 인프라 플랫폼은 관리하는 컨텍스트를 이해하기 시작했습니다. 즉, 어떤 환경을 관리하고,谁가 소유하고, 어떤 워크로드를 지원하며, 얼마나 비용이 들며, 정책을 준수하는지, 언제 최적화 또는 폐기해야 하는지 등을 이해합니다. 이러한 운영적 컨텍스트는 기업이 더 많은 AI 에이전트와 더 이기종적인 인프라를 배포할 때 점점 더 가치 있게 될 것입니다.

私は 또한 거버넌스가 경쟁 우위를 점할 것으로 예상합니다. 인프라를 신속하게 프로비저닝하면서 가시성, 정책 시행, 비용 제어, 감사 가능성을 유지할 수 있는 조직은, 여전히 단편적인 운영 모델에 의존하는 조직보다 AI 프로젝트를 훨씬 더 빠르게 생산 단계로 이동시킬 것입니다.

감사합니다. 더 많은 정보를 원하는 독자는 퀄리를 방문하십시오.