Jitendra Putcha, Tredence COO – 인터뷰 시리즈

Jitendra Putcha, Tredence COO는 인공지능, 데이터 분석, 디지털 전환, 딜리버리 및 엔터프라이즈 기술 서비스에 걸쳐 거의 30년에 달하는 풍부한 경험을 가진 숙련된 기술 및 운영 임원입니다. 2026년 4월 Tredence에 합류하기 전에는 Mastech Digital에서 최고 딜리버리 책임자(Chief Delivery Officer)로 재직하며 전략, 전환, P&L 책임 및 서비스 제공을 담당하는 경영진 팀의 일원でした. 그는 이전에 LTIMindtree와 LTI에서 여러 해를 보냈으며, 궁극적으로 수석 부사장 겸 글로벌 데이터·AI 책임자로서 기업 AI 도입, 생성 AI, AI 에이전트, 데이터 및 분석 서비스, 제품 엔지니어링, 플랫폼 개발을 담당했습니다. 그 이전에 Putcha는 Cognizant에서 거의 18년 동안 근무하며 AI·분석 부사장 및 Hyderabad 센터 책임자 등 고위 리더십 역할을 수행했으며, 전 세계 데이터·분석 제공, AI 기반 전환, 산업 전반에 걸친 분석 역량 확대 업무를 담당했습니다. 그의 초기 경력은 Wipro와 DSQ Software에서의 역할을 포함하며, 데이터 웨어하우징, 비즈니스 인텔리전스, 분석 및 대규모 엔터프라이즈 딜리버리 분야에 기반을 두고 있습니다.

Tredence는 AI에서 말하는 “라스트 마일” 문제—인사이트를 생성하는 것과 이를 측정 가능한 비즈니스 성과로 전환하는 사이의 격차—를 해결하는 데 초점을 맞춘 글로벌 데이터 과학 및 AI 솔루션 기업입니다. 2013년에 설립된 이 회사는 산업 전문성에 데이터 엔지니어링, 데이터 사이언스, 머신러닝, 생성 AI, AI 에이전트, 클라우드 기술 및 독자적인 가속기를 결합해 기업이 AI를 대규모로 운영화하도록 돕습니다. Tredence는 직원 수가 4,200명 이상이며 소매, 소비재, 기술, 통신, 헬스케어, 여행, 산업 등 다양한 분야의 기업과 협업한다고 밝혔습니다. 이 회사의 접근 방식은 모델이나 대시보드에 머무르지 않고 분석과 AI를 실제 비즈니스 프로세스에 내재화하는 데 중점을 두며, 엔터프라이즈 수준의 생성 AI, 멀티모달 및 에이전시 시스템, 책임 있는 AI, 데이터 현대화 및 AI 거버넌스 등 광범위한 역량을 보유하고 있습니다.

당신은 Cognizant, LTIMindtree, Mastech Digital에서의 리더십 역할을 포함해 기업 데이터, 분석, AI 및 대규모 글로벌 딜리버리 분야에서 28년 이상의 경험을 가지고 있습니다. 2026년에 COO로 Tredence에 합류하기 전까지 말이죠. 이 특정 시점에 Tredence에 끌린 이유는 무엇이며, 기업이 실험 단계에서 AI 규모 확장 단계로 이동함에 따라 AI 중심 서비스 기업이 운영 및 가치 제공 방식을 재구성할 가장 큰 기회는 무엇이라고 보십니까?

제가 Tredence에 끌린 이유는 회사가 매우 실질적이라는 점입니다. 제 경력 동안 수많은 기술 변화들을 보아왔지만, 깊은 AI 전문성을 실제 비즈니스 성과와 직접 연결하는 조직은 드뭅니다. Tredence는 AI에 대해 말만 하는 것이 아니라 실제 기업 문제를 해결하는 솔루션을 구축합니다.

현재 업계는 놀라운 전환점에 있습니다. 테스트 단계에서 벗어나 AI를 일상 운영에 어떻게 내재화할 것인가라는 어려운 질문을 던지고 있습니다. 이것이 우리가 “AI의 라스트 마일”이라고 부르는 것으로, 인사이트를 생성하는 것과 그 인사이트가 특정 사람, 프로세스, 혹은 의사결정에 도달해 유용한 결과를 만들도록 하는 사이의 격차를 메우는 것입니다.

여기서 기회는 단순히 더 멋진 도구를 배포하는 것에만 있지 않습니다. 실행 문제를 해결하고, 조직이 새로운 방식으로 사고하도록 돕고, 측정 가능한 가치를 창출하는 것이 핵심입니다. COO로서 제 역할은 그 경쟁력을 유지하는 것입니다. 우리는 민첩성과 고객 중심성을 잃지 않으면서 운영을 확장하고, 고수준의 AI 목표를 실제 비즈니스 수익으로 전환하고자 합니다.

우리는 여전히 기업들이 유망한 AI 파일럿을 실행하지만 실제 생산 시스템으로 전환되지 않는 경우를 목격합니다. 중단되는 프로젝트를 살펴볼 때 가장 흔한 실패 요인은 무엇이며, 그 중 어느 문제가 경영진에 의해 아직 과소평가되고 있습니까?

솔직히 말해 대부분의 AI 파일럿이 실패하는 이유는 기술이 실패해서가 아니라, AI를 강력한 엔진으로만 여기고 그 주변의 실제 자동차를 구축하는 것을 잊기 때문입니다. 이렇게 생각해 보세요: 최고 수준의 엔진도 깨끗한 연료와 스티어링 휠, 운전자가 없으면 완전히 쓸모가 없습니다.

AI 모델도 세 가지 기본 요소를 과소평가한다면 차고에 방치된 채와 같습니다. 신뢰할 수 있는 데이터는 깨끗한 연료입니다. 데이터가 지저분하고 정돈되지 않은 기본 상태라면 엔진이 막히고 모델은 신뢰할 수 없는 답변을 내보냅니다. 강력한 거버넌스는 스티어링 휠입니다. 명확한 규칙과 안전 가드레일이 없으면 팀은 위험을 두려워해 차를 도로에 올리려 하지 못합니다.

마지막으로, 명확한 비즈니스 소유권이 바로 운전자가 되며, 이는 경영진이 가장 과소평가하는 부분입니다. 비즈니스 리더가 직접 운전대에 서서 도구를 옹호하고 팀의 일상 업무에 직접 내재화하지 않으면 프로젝트는 결과를 내기 어렵습니다. 우리는 “데모 함정”을 벗어나야 합니다. 성공은 다수의 파일럿을 실행하거나 테스트 엔진을 모으는 것이 아니라, 데이터를 확실히 고정하고 명확한 가드레일을 설정하며 실질적인 책임을 부여하고 AI를 일상 업무에 조용히 내재화하는 데 있습니다.

Tredence는 오랫동안 AI의 “마지막 마일”을 통찰을 행동으로 연결하는 것으로 설명해 왔습니다. 에이전시 AI는 소프트웨어가 결정을 실행하도록 허용함으로써 이를 훨씬 더 확장시킬 수 있습니다. AI가 행동을 권고하는 단계에서 스스로 그 행동을 수행하게 될 때 마지막 마일 문제는 어떻게 변할까요?

과거에 AI의 마지막 마일을 다루는 것은 GPS를 이용해 운전하는 것과 매우 비슷했습니다. 화면이 정확히 어디서 돌아야 할지 알려주었지만, 여전히 직접 핸들을 움직여야 했습니다. 에이전시 AI는 이를 완전히 뒤바꿉니다. 이제 차가 스스로 운전하고 있는 셈입니다.

이는 전체 대화를 바꿉니다. 우리는 더 이상 관리자가 대시보드의 차트를 신뢰하도록 설득하려는 것이 아니라, 우리를 대신해 결정을 내릴 수 있는 시스템을 구축하고 있습니다. 실제 과제는 이제 사람들을 데이터에 눈을 돌리게 하는 것이 아니라, 소프트웨어에 어느 정도의 통제권을 넘겨줄지 판단하는 것입니다.

재고 로그 업데이트나 데이터 파일 정리와 같은 일상적이고 위험도가 낮은 작업에서는 에이전트를 자동 파일럿으로 두는 것이 당연합니다. 이는 일반적인 기업 절차 지연을 없애기 때문입니다. 그러나 결정이 대규모 금융 거래, 민감한 고객 불만, 혹은 법적 경계에 영향을 미치는 순간에는 인간이 개입해 제동을 걸 준비가 되어 있어야 합니다.

궁극적으로 에이전시 AI로 성공하는 기업은 가장 똑똑한 기술을 보유한 기업만이 아닙니다. 소프트웨어가 스스로 작동할 수 있는 영역과 인간의 판단이 다시 필요해지는 영역을 명확히 구분하는 조직이 승리할 것입니다.

귀하는 에이전시 엔터프라이즈가 도메인 컨텍스트, 거버넌스, 그리고 지능형 실행이 결합되어야 한다고 주장했습니다. 기업이 기존 데이터 스택 위에 LLM이나 AI 에이전트를 단순히 배치하는 것만으로는 왜 충분하지 않으며, 어떤 아키텍처적 변화가 필요합니까?

엔터프라이즈 데이터 위에 LLM을 두는 것은 똑똑한 직원을 고용하고 첫날부터 회사의 모든 문서에 접근 권한을 부여하는 것과 같습니다. 그들은 똑똑하고 유능하지만, 귀사의 시스템, 프로세스, 내부 규칙 및 규제에 대해 전혀 모릅니다.

기업은 환경이 자연스럽게 복잡하기 때문에 유사한 과제에 직면합니다. 데이터는 여러 시스템에 흩어져 있고, 비즈니스 규칙은 수년간 조용히 진화해 왔습니다. 게다가 규제 의무는 산업 및 지역에 따라 다릅니다. 에이전트가 효과적으로 작동하려면 단순한 정보가 아니라 컨텍스트가 필요합니다.

그래서 우리는 엔터프라이즈 AI를 3계층 아키텍처로 생각합니다. 첫 번째 계층은 신뢰할 수 있는 데이터 기반이며, 두 번째는 비즈니스 컨텍스트, 관계, 정의 및 워크플로를 포착하는 도메인 인텔리전스입니다. 세 번째는 경험 계층 및 폐쇄‑루프 실행으로, 에이전트가 관리된 경계 내에서 추론하고 행동할 수 있습니다.

많은 조직이 첫 번째 계층에 막대한 투자를 했으며, 일부는 두 번째 계층의 요소를 구축했습니다. 그러나 진정한 기회는 세 계층을 모두 연결하는 데 있습니다.

컨텍스트와 거버넌스가 없으면 가장 뛰어난 모델이라도 비즈니스 현실에 맞지 않는 그럴듯한 답변을 생성할 수 있습니다. 엔터프라이즈 AI에 필요한 것은 더 많은 지능이 아니라 더 많은 컨텍스트입니다.

“AI 에이전트”는 업계에서 가장 남용되는 용어 중 하나가 되었습니다. 기술적인 관점에서 진정으로 유용한 엔터프라이즈 에이전트를 몇 가지 도구와 워크플로에 연결된 챗봇과 구분 짓는 요소는 무엇입니까?

진정으로 유용한 엔터프라이즈 에이전트는 대화가 얼마나 매끄러운가보다 책임 있게 수행할 수 있는 작업에 의해 정의됩니다. 현재 사람들은 “에이전트”라고 부르는 많은 경우가 단지 몇 개의 API에 연결된 챗봇에 불과합니다. 이들은 기본적인 질문에 답하거나 단순하고 경직된 워크플로를 트리거할 수 있습니다. 이는 편리하지만 혁신적이지는 않습니다.

진정한 엔터프라이즈 에이전트는 단순히 스크립트를 따르는 것이 아니라 최종 목표를 이해하고 다양한 옵션을 검토하며 여러 레거시 시스템을 가로질러 작업하고 상황 변화에 적응하며 기업 거버넌스 라인 내에서 엄격히 머무릅니다. 저는 이를 검색 엔진과 신뢰할 수 있는 운영 관리자 사이의 차이로 봅니다. 하나는 정보를 제공하고, 다른 하나는 작업을 수행할 책임을 집니다.

이를 위해 에이전트는 깊은 도메인 컨텍스트가 필요합니다. 예를 들어 소매 재고 에이전트는 단순히 스프레드시트를 보는 것이 아니라 보충 주기, 수요 패턴, 서비스 수준 및 마진 영향을 동시에 이해해야 합니다. 진정한 에이전트와 정교한 챗봇을 구분 짓는 것은 채팅 인터페이스가 아니라 도메인 이해, 메모리, 추론, 백엔드 오케스트레이션 및 내재된 책임성입니다. 궁극적으로 기업이 필요한 것은 또 다른 인터페이스가 아니라 신뢰성 있게 대규모로 작업을 실행할 수 있는 시스템입니다.

Tredence는 소매 및 소비재와 같은 분야에서 산업 특화 AI에 큰 비중을 둡니다. 기본 모델이 점점 더 강력해짐에 따라, 도메인 전문성이 여전히 어떤 영역에서 경쟁력을 제공하며, 궁극적으로 지능의 어느 정도가 특정 산업의 워크플로, 용어, 제약 및 경제성을 이해하는 데서 비롯되어야 할까요?

기초 모델은 믿을 수 없을 정도로 강력해졌지만, 도메인 전문성은 원시 지능과 실제 유용성 사이의 차이를 만들어냅니다. 이는 동일한 고성능 의료 교과서를 외과 의사, 기업 변호사, 그리고 소매 관리자에게 각각 건네주는 것과 같습니다. 책에 담긴 정보는 동일하지만, 실제로 환자와 수술실, 그리고 업무의 위험성을 이해하는 사람에게만 가치가 있습니다.

모든 산업은 고유한 보이지 않는 규칙, 독특한 경제 구조, 엄격한 규제, 그리고 일상적인 운영 제약을 가지고 있습니다. 예를 들어 소매업에서는, 기술적으로 예측 정확도를 향상시키지만 실수로 매장 선반에 대규모 품절 상황을 초래하는 AI 추천은 도움이 되지 않으며, 오히려 책임이 됩니다.

일반 목적 모델에 깊은 도메인 인텔리전스를 적용하면 비즈니스 성과가 막대합니다. 예를 들어 Tredence에서는 고객에게 놀라울 정도로 검증된 결과를 제공하는 도메인 특화 솔루션을 배포했습니다. 슈퍼마켓 예측 프로그램은 약 2억 달러에 달하는 가치를 창출하고 재고 보충 일치율을 90% 이상으로 끌어올렸습니다. 제조업 공급망 플랫폼은 첫 해에 1천만 달러의 절감을 달성했습니다. 소매 워크플로우 현대화는 분석가 업무량을 70% 감소시켰으며, 또 다른 프로그램은 1억 달러의 손실 감소를 이루었습니다.

기초 모델이 전기와 같은 상품화된 유틸리티가 되면서, 실제 경쟁 우위는 일반적인 인텔리전스를 정확한 비즈니스 결과로 전환할 수 있는 최고의 독점적 컨텍스트와 워크플로우 이해를 가진 사람에게 완전히 이전됩니다.

재사용 가능한 AI 플랫폼을 구축하는 것과 각 기업의 특정 데이터와 프로세스에 맞게 시스템을 맞춤화하는 것 사이에는 긴장이 존재합니다. 무엇을 표준화하고 무엇을 맞춤화해야 하는지 어떻게 판단하며, 과도한 맞춤화가 결국 AI 확장의 장벽이 될 수 있을까요?

표준 플랫폼과 맞춤형 기능 사이의 적절한 균형을 찾는 일은 언제나 어려운 선택입니다. 개인적으로는 이를 도시 계획에 비유합니다. 도로, 전력망, 급수관을 표준화해야 하는 것은 분명하지만, 그렇다고 해서 이웃의 모든 가정이 똑같은 복제본이어야 하는 것은 아닙니다.

같은 원칙이 AI에도 적용됩니다. 데이터 보안, 거버넌스, 모니터링과 같은 요소는 완전히 표준화되어야 합니다. 이는 기본적으로 보이지 않는 기업 인프라가 되어야 합니다. 이를 효율적으로 구현하기 위해서는 기업이 재사용 가능한 에이전트를 위한 내부 마켓플레이스를 구축하여 팀이 지속적으로 휠을 재발명하지 않도록 하는 것이 좋습니다.

하지만 실제 비즈니스 워크플로우는 유연성을 유지해야 합니다. 바로 그곳이 고유한 경쟁 우위가 존재하는 영역이기 때문입니다. 현재 가장 큰 위험은 맞춤화 부족이 아니라 과도한 맞춤화입니다. 모든 AI 배포가 고유하고 고립된 엔지니어링 프로젝트로 전락하면 확장이 악몽이 되고 유지보수 비용이 급증합니다. 목표는 재현 가능한 역량을 구축하는 것입니다. 견고한 기반을 표준화한 뒤, 팀이 자신의 필요에 맞게 신속히 적용할 수 있는 블록을 제공해야 합니다. AI 역량을 활용하고 재사용하는 능력이 핵심 차별화 요소가 되어 채택을 가속화하고 더 빠른 가치 실현과 강력한 ROI를 제공합니다.

에이전트가 의사결정 및 작업 실행 능력을 갖추게 되면서, 기업은 어느 영역에서 자율성이 적절하고 어느 영역에서 인간 승인이 반드시 필요할지 어떻게 판단해야 할까요? 조직이 지나치게 빠르거나 지나치게 신중하게 움직이고 있다고 생각되는 특정 비즈니스 기능이 있습니까?

AI에 자율성을 부여할 때는 위험이 항상 규칙을 결정해야 하며, 기술이 처리할 수 있는 범위만이 기준이 되어서는 안 됩니다. 에이전트가 프로세스를 처음부터 끝까지 실행할 수 있다고 해서 안전장치를 완전히 제거해도 된다는 뜻은 아닙니다. 재고 기록이나 백오피스 파일 동기화와 같은 일상적인 루틴 작업은 대규모 운영 병목을 해소하므로 완전 자동화에 적합합니다. 그러나 결정이 엄격한 규제, 대규모 재정 지출, 혹은 고위험 고객 문제와 관련될 경우에는 반드시 인간이 개입해야 합니다.

현재 저는 기업들이 공급망 및 백오피스 운영에서 지나치게 신중하게 행동하고 있다고 봅니다. 에이전트가 오늘날 안전하게 시간을 절감할 수 있는 일상적인 조달 및 청구서 매칭 자동화를 미루고 있습니다. 반면에 고객 서비스와 법률 준수 분야에서는 너무 급속히 진행하여, 예측 불가능한 고객 분쟁이나 실제 방어 장치 없이 자동 계약 검토에 자율 에이전트를 투입하고 있습니다. 여기서 목표는 최대 자동화가 아니라 책임 있는 자동화입니다.

최첨단 모델이 더 저렴해지고 능력이 향상됨에 따라 AI 서비스 기업의 역할도 변할 가능성이 높습니다. 가치가 모델 구축에서 데이터 아키텍처, 통합, 평가, 오케스트레이션, 거버넌스, 그리고 AI 중심 비즈니스 프로세스 재설계로 점점 이동하고 있습니까? 앞으로도 가치 있는 AI 서비스 기업을 차별화시키는 요소는 무엇일까요?

우리는 가치가 창출되는 위치에서 자연스러운 변화를 목격하고 있습니다. 몇 년 전만 해도 순수한 컴퓨팅 인프라가 주요 경쟁 우위였지만, 오늘날 그것은 대부분 유틸리티가 되었으며 AI 모델도 빠르게 같은 방향으로 나아가고 있습니다.

기업들은 더 큰 모델을 찾고 있지 않습니다. 그들은 더 빠른 의사결정, 높은 생산성, 그리고 명확한 비즈니스 결과를 원합니다. 그래서 가치가 모델을 둘러싞는 생태계—깨끗한 데이터 아키텍처, 엄격한 거버넌스, 스마트 오케스트레이션, 그리고 AI를 실제 규모에서 실용화하기 위한 워크플로우 전면 재고—전체로 이동했습니다. 승자는 반드시 가장 정교한 기술을 보유한 기업이 아니라, 기술을 실질적인 비즈니스 성과로 전환할 수 있는 기업일 것입니다.

우리는 또한 기업들이 AI에 포트폴리오 접근 방식을 취하고 있음을 보고 있습니다. 프론티어 모델, 오픈웨이트 모델, 그리고 더 작은 특화 모델은 각각 사용 사례, 비용, 지연 시간, 그리고 거버넌스 요구사항에 따라 역할을 가집니다. AI가 성숙해짐에 따라 성공은 엔진을 누가 구축했는가보다, 비즈니스 안에서 이를 어떻게 활용할 수 있는가에 달려 있게 됩니다. 제가 “실행 리듬”이라고 부르는 것이 결국 승자와 나머지를 구분하게 될 것입니다.

몇 년을 앞다보며, 기업들이 오늘날의 데이터, 거버넌스, 통합 문제를 성공적으로 극복한다면, AI‑네이티브 대기업은 실제로 어떻게 보일까요? 에이전트가 직원이 사용하는 도구로 남을 것이라고 예상하십니까, 아니면 점점 더 전체 워크플로우와 비즈니스 기능이 조정된 AI 에이전트 네트워크에 의해 운영되는 모습을 보게 될까요?

AI‑네이티브 기업은 단순히 몇 가지 추가 소프트웨어 도구를 가진 전통적인 기업이 아닙니다. 근본적으로 재구상된 기업이 될 것입니다. 우리는 인터넷 및 디지털 시대에 기술이 기업의 운영 방식뿐 아니라 조직 구조 자체를 변화시켰을 때와 유사한 변화를 목격했습니다. 이러한 기업들은 매우 다르게 기능할 것입니다.

오늘날 기업은 소프트웨어가 지원하는 수동 작업을 수행하는 사람들을 중심으로 조직됩니다. 미래에는 전체 워크플로우가 조정된 AI 에이전트 네트워크에 의해 오케스트레이션될 수 있으며, 인간은 점점 더 감독 및 전략적 역할을 맡게 될 것입니다. 이는 전기가 공장을 변화시킨 방식과 매우 흡사합니다. 전기가 공장을 없애진 않았지만, 공장의 설계와 운영 방식을 완전히 바꾸어 놓았습니다.

이러한 미래 기업에서는 에이전트가 지속적으로 운영을 모니터링하고, 기회를 포착하며, 다양한 부서에 걸쳐 일상적인 실행을 처리합니다. 이는 인간이 사라진다는 의미가 아니라, 우리의 업무가 판단, 혁신, 관계 구축 등 훨씬 더 전략적인 영역으로 전환된다는 뜻입니다.

승자는 가장 많은 에이전트를 배치한 기업이 아니라, 신뢰할 수 있는 데이터, 도메인 인텔리전스, 그리고 인간 감독을 가장 강력하게 결합한 기업이 될 것입니다. 미래는 완전 자율 기업이 아니라, 인간과 에이전트가 함께 목표를 달성하는 지능형 오케스트레이션 기업입니다.

멋진 인터뷰에 감사드립니다. 더 알고 싶은 독자분들은 Tredence를 방문하시기 바랍니다.