라지 슈클라, SymphonyAI의 CTO – 인터뷰 시리즈

라지 슈클라는 SymphonyAI의 기술 로드맵과 실행을 주도하며, Eureka Gen AI 플랫폼을 구축하는 엔지니어링 팀을 이끌고 있습니다. 거의 20년간의 AI/ML 엔지니어링 및 연구 경험을 가지고 있으며, 마이크로소프트에서 엔지니어링 리더십 역할을 통해 얻은 광범위한 기업 AI SaaS 경험도 가지고 있습니다. 여기서 그의 14년간의 성공적인 경력에는 Azure, Dynamics 365, MSR 및 검색 및 광고 부문에서 글로벌 AI 과학 및 엔지니어링 조직을 이끈 경험이 포함됩니다. 라지 슈클라는 검색, 광고, 기업 AI에 걸쳐 광범위한 경험을 가지고 있으며, 소비자 및 비즈니스 도메인 모두에서 여러 성공적인 AI SaaS 제품을 구축했습니다.

SymphonyAI는 즉각적인 비즈니스 가치를 제공하는 산업별 AI 애플리케이션을 구축하는 기업 AI 회사입니다. 일반적인 모델 대신 소매, 소비재, 금융 서비스, 제조, 미디어, IT와 같은 분야를 위한 수직 솔루션을 제공하며, 예측, 사기 방지, 운영 최적화, 분석과 같은 도전 과제를 해결합니다. 그들의 제품은 예측, 생성, 에이전트 기능을 각 부문에 맞게 맞춤화된 워크플로에 결합하는 Eureka AI 플랫폼으로 구동됩니다. 2017년에 설립된 이 회사는 수직 AI의 글로벌 리더로 성장하여 확장 가능한, 도메인 중심의 솔루션을 제공하는 수천개의 기업 고객을 خدمت합니다.

마이크로소프트, 오라클, 그리고 현재 SymphonyAI에서 AI 혁신의 최전선에서 일해 왔습니다—원래 기업 AI 세계로 들어오게 된 것은 무엇이었으며, 그 동안您的 관점은 어떻게 진화해 왔나요?

내가 기업 AI 세계로 들어오게 된 것은 실제 비즈니스 문제를 해결하는 AI를 구현해야 하는企業의 핵심 믿음에서 시작되었습니다. 저는 일반적인 광범위한 AI 솔루션이 변혁적인 가치를 거의 제공하지 않는다는 것을 보았습니다. SymphonyAI에서 우리는 우리의 회사 전략과 문화를 산업별 도전 과제를 이해하는 AI를 개발하는 데 맞추어 구축했습니다. 기업 준비도는 또 다른 차원을 추가합니다 – 성공적인 기업 AI는 훌륭한 기술 이상의 것을 요구합니다. 데이터 거버넌스와 아키텍처, 복잡한 크로스 기능적 협력과 워크플로, 완전한 투명성과 감사가 필요합니다.

특히 금융이나 헬스케어와 같은 엄격하게 규제되는 부문에서 기업은 일반적인 사전 훈련된 모델과 어떤 구체적인 약점을遭遇합니까? 

일반적인 사전 훈련된 모델은 금융, 헬스케어, 식품과 같은 고위험 환경에 적합하지 않습니다. 일반적인 사전 훈련된 모델은 산업별 미세한 차이와 엄격한 규제 및 규정 요구 사항을 충족하는 데 필요한 필수적인 도메인 전문 지식을 포함하여 중요한 장벽에 직면합니다. 가장 중요한 것은, 기업이 요구하는 정확성과 추적 가능성을 제공할 수 없습니다. 여기서 SymphonyAI의 수직 AI 기술은 우리가 운영하는 산업을 위해 특별히 구축되고 훈련되어 비즈니스 영향을 직접 생성하는 결정이나 자동화를 가능하게 합니다.

사전 훈련된 모델과 깊은 도메인 논리를 결합하는 것은 기업 ROI를解除하는 데越來越重要한 키로 간주됩니다—이 접근법을 효과적으로 만드는 산업 지식, KPI 정렬, 규제 가드레일과 같은 필수 구성 요소는 무엇입니까? 

사전 훈련된 모델과 깊은 도메인 논리를 결합하면 비즈니스 컨텍스트와 운영 요구 사항을 이해하는 AI 시스템을 생성하여 가치를解除합니다. 이 접근법은 모델이 산업별 온톨로지로 강화되고, 기업의 KPI와 정렬되어 측정 가능한 비즈니스 목표를 직접 서비스하도록 출력되며, 규제 가드레일로 필요한 규정 프레임워크와 감사 추적을 제공할 때 성공합니다. 이러한 요소가 함께 작동하면 일반적인 AI는 비즈니스에 중요한 솔루션으로 변환되어 측정 가능한 결과를 생성하면서 기업이 요구하는 신뢰성과 규정 준수를 유지합니다.

IBM은 최근 Seek AI를 인수하고 뉴욕시에서 Watsonx Labs를 열어, 기업 AI의 지형에서 잠재적인 전략적 전환을 알리는 것 같습니다—이것은 기업 AI의 M&A와 투자 동향의 미래에 대해 무엇을 나타냅니까? 

IBM의 Seek AI 인수와 Watsonx Labs의 출시는 우리가 예상한 근본적인 전환의 검증입니다. 기업 AI 지형은 전환하여, 다음 波의 M&A는 사전 훈련된 수직 AI 모델을 가진 회사에 우선순위를 둘 것입니다. 이러한 모델은 깊은 산업 전문 지식, 거버넌스, 규제 가드레일 및 결과 중심의 KPI를 제공합니다. 전략적 인수자들은 IBM과 같이 AI 에이전트가 기업 데이터에서 즉각적인 ROI를 생성할 때 산업별 워크플로를 이해하는 것을 인정합니다. 시장은 일반적인 지능이 기업 변화를 주도하기 위해 수직 전문 지식을 필요로 하는 것을 인정하며 통합되고 있습니다.

기초 모델이 도메인별 에이전트로 진화하는 지점은 언제입니까—이 전환을 알리는 아키텍처 마일스톤은 무엇입니까? 

기초 모델은 자연스럽게 도메인 에이전트로 성장하지 않습니다. 그것은 하나로 설계되어야 합니다. 일반적인 모델이 단순히 ‘더智能해지’고 은행 조사官이 되는 직접적인 경로가 없습니다. 전환은 엔지니어링 팀이 모델의 원시적인 지능에 의존하는 것을 중단하고, 모델을 비즈니스 프로세스를 따르도록 강제하는 컨텍스트 레이어(예: 지식 그래프)와 오케스트레이션 레이어를 구축할 때 발생합니다.

수직별 에이전트 워크플로를 구축하는 데 핵심적인 도전은 무엇이며, SymphonyAI는 어떻게 이러한 도전을 해결합니까? 

수직별 에이전트 워크플로를 구축하는 데 핵심적인 도전은 복잡한 멀티스텝 프로세스에서 신뢰성을 유지하는 것입니다. SymphonyAI는 멀티레이어 아키텍처를 통해 이러한 도전을 해결합니다. 이 아키텍처는 에이전트에 도메인 전문 지식을 직접 삽입하고, 오류 처리 및 실패 복구를 구현하며, 기업 프로세스에서 지속적인 컨텍스트 관리를 유지합니다. 이것은 높은 위험성의 규제 환경에서 신뢰성, 규정 준수, 운영 무결성을 유지하는 에이전트가 작동할 수 있도록 합니다.

SymphonyAI는 강력한 데이터 기반, 지식 그래프, 메타데이터 레이어를 강조합니다—이러한 기능은 수직 AI 에이전트에 왜 중요하며, 많은 기업이 이러한 기능을 구현하는 데 어려움을 겪는 이유는 무엇입니까? 

강력한 데이터 기반과 지식 그래프는 수직 AI 에이전트가 의미 있는 소스를 제공하고, 컨텍스트화된 추천을 제공하며, 시장, 고객, 프로세스 변경에 대한 최신 정보를 유지할 수 있도록 하는데 중요합니다. 대부분의 기업은 이러한 기능을 구현하는 데 어려움을 겪는 이유는, 데이터 아키텍처에 대한 상당한 초기 투자와 전문적인 온톨로지 전문 지식 및 기존 데이터 관행의 근본적인 변경이 필요하기 때문입니다. 이것이 산업에서 깊은 경험과 지식을 가진 AI 기술 파트너가 귀중한 것입니다. 이러한 파트너는 산업의 방대한 데이터와 소스에서 사전 훈련된 AI를 제공할 수 있습니다.

실제 시나리오에서—예를 들어 금융 범죄 탐지 또는 소매 예측—SymphonyAI는 예측, 생성, 에이전트 AI를 어떻게 통합하여 일관된 “스킬”을 생성합니까?

SymphonyAI는 예측, 생성, 에이전트 AI를 통합하여 일관된 “스킬”을 생성합니다. 이는 비즈니스 문제를 해결하는 통합 워크플로를 생성하여 각 AI 제품이 특정 비즈니스 문제를 해결하도록 합니다. 금융 범죄 탐지에서, 예측 모델은 의심스러운 거래 패턴을 식별하고, 생성 AI는 상세한 조사 보고서와 위험 평가를 생성합니다.同時에, 에이전트 AI는 전체 워크플로를 오케스트레이션하여 자동으로 사례를 에스컬레이션하고, 규정 준수 팀과 협조하며, 실시간 결과에 따라 조사 전략을 조정합니다.

많은 기업 AI 에이전트가 강건하지 않으면 실패할 수 있다는 경고를 하셨습니다—잘 설계된, 오류 허용 에이전트의 핵심 특성은 무엇입니까? 

잘 설계된, 오류 허용 에이전트는 다음과 같은 핵심 특성을 요구합니다. 많은 비즈니스들이 빠르게 AI 에이전트를 투자하고 배포하여 효율성, 생산성, 혁신을 향상시키고 있지만, 성공을 위한 필수적인 기초 작업을 종종 과소평가합니다. 잘 설계된 에이전트가 성공하기 위해 필요한 일부 중요한 측면은 다음과 같습니다:

• 기업 AI 에이전트는 기업 데이터에서 작동하며, 이는 종종 시로화되어 있으며 적절한 프로그램 액세스, 권한, 액세스 제어가 없습니다. 에이전트는 직원과 동일한 인증 및 권한을 갖추어야 합니다.
• 에이전트는 또한 기업 시스템 실패, 네트워크 중단, 불안정한 엔드포인트에서 회복할 수 있어야 합니다. 오케스트레이션 레이어는 장기 실행, 지속적인, 오류 허용 워크플로를 가능하게 해야 합니다.
• LLM은 비결정론적이며 작업에 실패할 수 있습니다. 실패 복구, 재시도, 최적 경로 발견은 에이전트 시스템의 핵심 기능이어야 합니다.

수직 AI 플랫폼을 내부적으로 구축하는 것과 니치 벤더와 파트너하는 것을 고려하는 CTO에게 어떤 조언을 드리겠습니까? 

수직 AI 솔루션을 구축하는 것은 기업 AI 솔루션에서 실제 가치를 달성하기 위해 동시에 최신 AI 기술과 깊은 도메인 전문 지식을 마스터링하는 것을 필요로 합니다. 우리의 Eureka AI 플랫폼은 각 산업에 맞게 맞춤화된 데이터 소스, 지식 그래프, 예측 모델 및 에이전트가 필요함을 보여줍니다. 그러나 이것은 내부 팀이 결여하는 수년간의 연구 투자와 고객 반복을 나타냅니다. 비즈니스와 CTO가 AI에 투자하려는 경우, 실제 결과를 제공하는 솔루션을 선택하도록 조언합니다. 수직 AI 솔루션은 사용자에게 데이터를 제공하여 비즈니스 가치를 생성할 수 있도록 합니다.

앞으로, 기업 AI 아키텍처를 어떻게 예상합니까—공유 기초 모델을 기반으로 하는 연방 수직 에이전트가 표준이 될 것입니까?

우리는 단순히 ‘연방’ 에이전트를 볼 수 있을 것입니다. 우리는 거버넌스 아키텍처를 볼 것입니다. 공유 기초 모델은 이유 엔진을 제공하지만, 본질적으로 상품입니다. 성공적인 기업의 표준은 전문적인 수직 에이전트를 배포하여, 단순히 서로 통신하는 것이 아니라, 엄격하게 오케스트레이션된 공유 컨텍스트 레이어를 통해 작동하는 것입니다. 만약에 당신이 단순히 ‘연방’ 에이전트를 공유 기초 모델로 구축한다면, 당신은 소음이 많은, 환각을 일으키는 시스템을 얻습니다—우리가 ‘企業 AI의 누수 파이프’라고 부르는 것입니다. 이 아키텍처를 생산에서 확장하기 위해, 당신은 단순한 연방화 이상의 세 가지 레이어가 필요합니다:

• 컨텍스트 (도메인 지식 그래프): 에이전트는 단순히 확률을 교환하는 것 이상의 단일한 진실의 원천을 공유해야 합니다.
• 오케스트레이션: 당신은 전문적인 에이전트를 사용할 때와 인간을 루프에 유지할 때를 결정하는 ‘마스터 아키텍트’가 필요합니다.
• 거버넌스: 출력은 시스템을 떠나기 전에 법적 및 운영적으로 안전해야 합니다.

멋진 인터뷰 감사합니다. 더 많은 정보를 배우고 싶은 독자는 SymphonyAI를 방문해야 합니다.