SymphonyAI의 CTO인 Raj Shukla – 인터뷰 시리즈

Raj Shukla는 SymphonyAI의 기술 로드맵과 실행을 주도하며, Eureka Gen AI 플랫폼을 구축하는 엔지니어링 팀을 이끌고 있습니다. 거의 20년간의 AI/ML 엔지니어링 및 연구 경험을 보유한 Shukla는 또한 Microsoft에서 엔지니어링 리더십 역할을 통해 기업 AI SaaS 경험을 쌓았습니다. 그의 14년간의 경력에는 Azure, Dynamics 365, MSR 및 검색 및 광고 부문에서 글로벌 AI 과학 및 엔지니어링 조직을 이끈 경험이 포함됩니다. Raj는 검색, 광고, 기업 AI 등 다양한 분야에서 광범위한 경험을 보유하고 있으며, 소비자 및 비즈니스 도메인에서 여러 성공적인 AI SaaS 제품을 개발했습니다.

SymphonyAI는 산업별 AI 애플리케이션을 구축하는 기업 AI 회사입니다. 일반적인 모델 대신垂直 솔루션을 제공하여 즉시 비즈니스 가치를 제공합니다. 소매, 소비재, 금융 서비스, 제조, 미디어, IT 등 다양한 산업에서 예측, 사기 방지, 운영 최적화, 분석 등의 도전을 해결합니다. 제품은 Eureka AI 플랫폼에 의해 구동되며, 예측, 생성, 에이전트 기능을 각 산업에 맞게 조정된 워크플로우로 결합합니다. 2017년에 설립된 SymphonyAI는 수천개의 기업 고객을 대상으로 하는 산업별 AI의 글로벌 리더로 성장했습니다.

Microsoft (MSFT ), Oracle (ORCL ), SymphonyAI에서 AI 혁신의 최전선에서 일해왔습니다. 기업 AI 세계에 처음으로 관심을 가졌던 이유는 무엇이며, 시간이 지남에 따라您的 관점은 어떻게 바뀌었나요?

제가 기업 AI 세계에 처음으로 관심을 가졌던 이유는 기업들이 실제 비즈니스 문제를 해결하는 AI를 구현해야 한다는 믿음에서 비롯되었습니다. 일반적인 광범위한 AI 솔루션은 변혁적인 가치를 제공하지 않는다는 것을 보았습니다. SymphonyAI에서는 산업별 도전을 이해하는 AI를 개발하는 회사 전략과 문화를 구축했습니다. 기업 준비도는 또 다른 차원을 추가합니다. 성공적인 기업 AI는 뛰어난 기술 이상의 것을 필요로 합니다. 데이터 거버넌스와 아키텍처, 교차 기능적 협력과 워크플로우, 투명성과 감사 가능성이 필요합니다.

기업에서는 일반적인 사전 훈련된 모델이 특히 금융, 의료 등 규제가 심한 산업에서 어떤 단점을 gặp는지 설명해 주시겠습니까? 

일반적인 사전 훈련된 모델은 금융, 의료, 소매 등 규제가 심한 산업에서 사용하기에 적합하지 않습니다. 이러한 모델은 산업별 뉴앙스를 다루고 규제 및 컴플라이언스 요구사항을 충족하는 데 필요한 도메인 전문 지식을 갖추지 못합니다. 또한, 기업이 요구하는 정확성과 추적 가능성을 제공하지 못합니다. SymphonyAI의 산업별 AI 기술은 산업별 온톨로지에 훈련되어 비즈니스에 직접적인 영향을 미치는 결정이나 자동화를 가능하게 합니다.

사전 훈련된 모델에 깊은 도메인 논리를 결합하는 것은 기업 ROI를解放하는 열쇠로 간주됩니다. 이 접근법을 효과적으로 만드는 구성 요소는 무엇이며, 산업 지식, KPI 정렬, 규제 가드레일 등이 포함됩니다. 

사전 훈련된 모델에 깊은 도메인 논리를 결합하면 비즈니스 컨텍스트와 운영 요구사항을 이해하는 AI 시스템을 생성할 수 있습니다. 이 접근법은 모델이 산업별 온톨로지로 강화되고, 기업의 KPI와 정렬되어 측정 가능한 비즈니스 목표를 직접 지원하며, 규제 가드레일로 필요한 컴플라이언스 프레임워크와 감사 트레일을 제공할 때 성공합니다. 이러한 요소가 함께 작동하면 일반적인 AI가 비즈니스에 중요한 솔루션으로 변환되어 측정 가능한 결과를 제공하면서 기업이 요구하는 신뢰성과 컴플라이언스를 유지합니다.

IBM은 최근 Seek AI를 인수하고 뉴욕시에서 Watsonx Labs를 개설했는데, 이는 기업 AI 랜드스케이프에서 전략적 변화를 예고합니다. 이는 M&A와 투자 트렌드에 대해 무엇을 의미합니까? 

IBM의 Seek AI 인수와 Watsonx Labs 개설은 기업 AI 랜드스케이프의 근본적인 변화를 예고합니다. 이는 기업 AI의 다음 물결이 산업별 사전 훈련된 모델을 갖춘 회사에 중점을 두어 즉시 ROI를 제공하는 것을 의미합니다. 전략적 인수자들은 산업별 워크플로우를 이해하는 AI 에이전트가 기업 데이터에서 즉시 ROI를 제공할 수 있다는 것을認識합니다. 시장은 일반적인 지능이 기업 변革을 주도하기 위해 산업별 전문성을 필요로 하는 것을 인식하고 있습니다.

기반 모델이 도메인별 에이전트로 진화하는 지점은 무엇입니까? 이 전환을 나타내는 아키텍처 마일스톤은 무엇입니까? 

기반 모델은 도메인 에이전트로 자연스럽게 진화하지 않습니다. 그것은 엔지니어링 팀에 의해 에이전트로 구축되어야 합니다. 일반적인 모델이 단순히 ‘지능’을 갖춘다고 해서 은행 조사官이 되는 것은 아닙니다. 전환은 엔지니어링 팀이 모델의 원시적인 지능에 의존하지 않고, 모델 주변에 거버넌스 아키텍처를 구축할 때 발생합니다. 즉, 컨텍스트 레이어(예: 지식 그래프)와 오케스트레이션 레이어를 모델에 주입하여 비즈니스 프로세스를 따르도록 강제합니다.

SymphonyAI는 탄력性과 산업별 에이전트 워크플로우를 구축하는 핵심 도전을 어떻게 해결합니까? 

탄력성과 산업별 에이전트 워크플로우를 구축하는 핵심 도전은 복잡한 멀티스텝 프로세스에서 신뢰성을 유지하는 것입니다. SymphonyAI는 다층 아키텍처를 통해 이러한 도전을 해결합니다. 도메인 전문 지식을 에이전트에 직접 삽입하고, 오류 처리 및 실패 복구를 구현하며, 멀티세션 엔터프라이즈 프로세스에서 지속적인 컨텍스트 관리를 유지합니다. 이는 에이전트가 높은 스테이크와 규제 환경에서 신뢰성과 컴플라이언스를 유지할 수 있도록 합니다.

SymphonyAI는 강력한 데이터 재단, 지식 그래프, 메타데이터 레이어를 강조합니다. 이러한 기능은 산업별 AI 에이전트에 왜 중요하며, 많은 기업이 이러한 기능을 구현하는 데 어려움을 겪는 이유는 무엇입니까? 

강력한 데이터 재단과 지식 그래프는 산업별 AI 에이전트가 의미 있는 소스를 제공하고, 컨텍스트화된 추천을 제공하며, 시장, 고객, 프로세스 변경에 대한 최신 정보를 유지하는 데 중요합니다. 많은 기업이 이러한 기능을 구현하는 데 어려움을 겪는 이유는 데이터 아키텍처에 대한 상당한 초기 투자와 전문적인 온톨로지 전문 지식이 필요하며, 기존 데이터 관행에 대한 근본적인 변경이 필요하기 때문입니다. SymphonyAI와 같은 산업별 전문 지식과 경험을 갖춘 AI 기술 파트너는 이러한 기능을 구축하는 데 도움이 될 수 있습니다.

실제 시나리오에서 – 예를 들어 금융 사기 탐지 또는 소매 예측 – SymphonyAI는 예측, 생성, 에이전트 AI를 어떻게 통합하여 일관된 “스킬”을 만듭니까?

SymphonyAI는 예측, 생성, 에이전트 AI를 통합하여 일관된 “스킬”을 만듭니다. 비즈니스 문제를 해결하는 통합 워크플로우를 생성하여 각 AI 제품이 특정 비즈니스 문제를 해결하도록 합니다. 금융 사기 탐지에서 예측 모델은 의심스러운 거래 패턴을 식별하고, 생성 AI는詳細한 조사 보고서와 위험 평가를 생성합니다. 동시에 에이전트 AI는 전체 워크플로우를 오케스트레이션하여 자동으로 사례를 상승시키고, 컴플라이언스 팀과 협력하며, 실시간 발견에 따라 조사 전략을 조정합니다.

이것은 단순한 AI 도구가 아니라, 비즈니스 컨텍스트를 이해하고 워크플로우 상태를 유지하며, 예측 분석, 콘텐츠 생성, 자동화된 동작 사이에서 무손실로 전환할 수 있는 산업별 에이전트입니다.

잘 구축된, 오류 허용 entreprise AI 에이전트의 핵심 특성은 무엇입니까? 

잘 구축된 entreprise AI 에이전트는 여러 가지 중요한 특성을 갖추어야 합니다. 많은 비즈니스들이 빠르게 AI 에이전트를 배포하고 있지만, 성공을 위한 필수적인 기초 작업을 과소평가하는 경우가 많습니다. 일부 중요한 특성은 다음과 같습니다.

• 엔터프라이즈 AI 에이전트는 엔터프라이즈 데이터에서 작동하며, 이는 종종 시โล化되어 프로그램적 액세스, 권한, 액세스 제어가 부족합니다. 에이전트는 직원과 동일한 인증 및 권한을 갖추어야 합니다.
• 에이전트는 또한 모든 형태의 엔터프라이즈 시스템 실패, 네트워크 중단, 불안정한 엔드포인트에서 복구할 수 있어야 합니다. 오케스트레이션 레이어는 장기 실행, 내구성, 오류 허용 워크플로우를 가능하게 해야 합니다.
• LLM은 비결정론적이며 작업에 실패할 수 있습니다. 실패 복구, 재시도, 최적 경로 발견은 에이전트 시스템의 핵심 기능이어야 합니다.

내부적으로 산업별 AI 플랫폼을 구축하는 것과 전문 벤더와 파트너십을 맺는 것에 대해 조언해 주시겠습니까? 

여러 산업에서 기업 AI 솔루션을 구축하는 것은 최신 AI 기술과 산업별 전문 지식을 동시에 마스터링을 필요로 합니다. SymphonyAI의 Eureka AI 플랫폼은 산업별 데이터 소스, 지식 그래프, 예측 모델, 에이전트가 각 산업에 맞게 조정되어야 함을 보여줍니다. 그러나 이는 고객 반복과 연구 투자에 의한 수년간의 결과입니다. AI에 투자하고자 하는 비즈니스와 CTO에게 조언을 드리자면, 실제 결과를 제공하는 솔루션을 선택하십시오. 산업별 AI 솔루션은 사용자에게 비즈니스 가치를 창출할 수 있는 데이터를 제공합니다.

앞으로 기업 AI 아키텍처는 어떻게 될까요? 공유된 기반 모델을 기반으로 하는 연방 에이전트가 표준이 될까요?

우리는 단순한 ‘연방’ 에이전트를 볼 수 있을 것입니다. 우리는 거버넌스된 에이전트 아키텍처를 볼 것입니다. 공유된 기반 모델은 이유 엔진을 제공하지만, 이는 본질적으로 공산품입니다. 성공적인 기업의 표준은 전문적인, 산업별 에이전트를 배포하는 것입니다. 이러한 에이전트는 단순히 서로 통신하는 것이 아니라, 엄격하게 오케스트레이션되는 공유 컨텍스트 레이어를 통해 작동합니다. 단순히 ‘연방’ 에이전트를 갖는 것은 시끄럽고, 환각을 일으키는 시스템을 만듭니다. 우리는 이를 ‘企業 AI의 누수 파이프’라고 부릅니다. 이러한 아키텍처를 프로덕션에서 확장하기 위해, 세 가지 특정 레이어가 필요합니다.

• 컨텍스트 (도메인 지식 그래프): 에이전트는 단순히 확률을 교환하는 것이 아니라, 단일의 진실을 공유해야 합니다.
• 오케스트레이션: 우리는 에이전트를 사용할 때와 인간을 루프에 유지할 때를 결정하는 ‘마스터 아키텍트’가 필요합니다.
• 거버넌스: 시스템을 떠나는 출력은 법적 및 운영적으로 안전해야 합니다.

멋진 인터뷰 감사합니다. 더 많은 정보를 원하는 독자는 SymphonyAI를 방문하십시오.