Sobhan Daliry, CPO & AI Strategy Leader at Pipefy – 인터뷰 시리즈

Sobhan Daliry, Pipefy의 CPO & AI Strategy Leader,는 2023년부터 회사의 AI 전략을 이끌어 온 경험 풍부한 제품 및 기술 임원으로, 전통적인 비즈니스 워크플로를 점점 더 지능적이고 자율적인 프로세스로 전환하는 데 기여했습니다. 그의 경력 전반에 걸쳐 Daliry는 스타트업과 기존 기업에서 제품 전략, 조직 변혁, 기술 리더십을 결합해 왔습니다. Pipefy에 합류하기 전, 그는 Polen.me를 설립하고 CEO로 재직했으며 NZN에서 CEO/CPO로 5년 이상 근무하며 회사의 구조조정과 제품 전략을 이끌었습니다. 그의 초기 경력에는 PSafe의 제품 관리 이사, Peixe Urbano의 제품 매니저, 그리고 Oi/Telemar, Claro, AIRCOM International, Planeta Tecnologia에서 디지털 서비스, 통신, 컨설팅, 사업 개발에 이르는 다양한 직책이 포함됩니다.

Pipefy는 조직이 비즈니스 워크플로를 자동화하고 조정하도록 설계된 글로벌 프로세스 관리 및 AI 플랫폼입니다. 2015년에 설립된 이 회사는 코드 없이 프로세스 자동화 플랫폼에서 AI 중심의 오케스트레이션 환경으로 발전했으며, AI 에이전트, 워크플로, 양식, 포털, 애플리케이션, 데이터, 분석, 메시징 및 통합을 하나로 결합합니다. 이 플랫폼을 통해 팀은 자연어와 코드 없는 도구를 사용해 AI 에이전트를 생성하고 관리하면서 기업 거버넌스, 보안 및 가시성을 유지할 수 있습니다. Pipefy의 AI 기능에는 문서를 해석하고, 워크플로 작업을 실행하며, 의사결정을 지원하고, 외부 시스템과 상호 작용하고, 재무, 인사, 조달, 고객 운영 및 컴플라이언스와 같은 영역 전반에 걸쳐 프로세스를 조정하는 에이전트가 포함됩니다.

귀하의 경력은 Claro와 Oi와 같은 통신 엔지니어링 직무에서 시작해 Peixe Urbano와 PSafe에서 제품 리더십을 담당하고, NZN에서 CEO/CPO를 역임하며 Polen.me를 설립한 뒤 현재 Pipefy에서 제품 및 AI 전략을 이끌고 있습니다. 이러한 진행 과정이 실제 운영 문제를 해결하는 AI 제품을 구축하는 방식에 어떤 영향을 미쳤습니까?

통신 분야에서 배운 교훈은 인프라가 언제든지, 대규모로, ‘대부분은 작동한다’는 여유 없이 반드시 정상적으로 작동해야 한다는 것입니다. 끊어진 통화는 데모 실패가 아니라 고객이 떠나는 상황입니다. 이러한 사고방식—신뢰성을 신기술보다 우선시하는—은 저에게서 사라지지 않았습니다. Peixe Urbano와 PSafe에서는 반대의 교훈을 얻었습니다: 소비자 제품은 오늘 실제로 느껴지는 문제를 해결하느냐에 따라 빠르게 성공하거나 실패한다는 점, 이론적인 문제는 아닙니다. NZN을 CEO/CPO로 운영하면서 두 진실을 동시에 받아들여야 했습니다—잘못된 가설을 실행으로 앞설 수 없고, 잘못된 실행을 가설로 앞설 수도 없습니다. Polen.me를 설립하면서 가장 비싼 교훈을 얻었습니다: 자본과 시간은 한정되어 있어, 구축하는 모든 기능은 구축하지 않은 기능을 의미하고, 인상적인 데모를 쫓는 비용은 실제 워크플로 대신 몇 달 뒤에 나타납니다. Pipefy에 합류했을 때, 모든 AI 기능에 대해 묻는 질문은 셀 타워에 대해 묻는 질문과 동일합니다: 실제 운영 환경에서, 실제 부하 하에, 아무도 감시하지 않을 때에도 이 기능이 견고한가? AI 에이전트가 정제된 데모 환경에서만 작동한다면, 그것은 제품이 아니라 트레일러에 불과합니다.

당신은 2023년부터 Pipefy의 AI 전략 수립 및 구현을 이끌어 왔습니다. 생성 AI와 AI 에이전트가 성숙해짐에 따라 초기 기업 AI에 대한 어떤 가정이 가장 크게 바뀌었습니까?

제가 없애야 했던 가장 큰 가정은 모델이 병목 현상이 될 것이라는 믿음이었습니다. 2023년에는 저를 포함한 모든 사람이 “어떤 LLM이 가장 똑똑한가”에 최적화하고 있었습니다. 실제 병목 현상은 컨텍스트였습니다: 에이전트가 프로세스가 무엇인지, 가드레일이 무엇인지, 특정 고객의 미지급금 처리에서 ‘완료’가 어떤 모습인지 알고 있는가? 모델 품질은 모두가 예상한 대로 계속 향상되었지만, 프로세스 컨텍스트는 스스로 개선되지 않았습니다. 왜냐하면 아무도 이를 구조화하지 않았기 때문입니다. 두 번째로 뒤바뀐 가정은 자율성에 관한 것이었습니다. 저는 시장이 가능한 한 빠르게 완전히 독립적으로 행동하는 에이전트를 원한다고 가정했습니다. 실제로 기업이 원하고—여전히 원하고—있는 것은 제한된 자율성입니다: 규칙을 위반할 수 없는 범위 내에서 실제 결정을 내리고, 이후에 이를 증명할 수 있는 기록을 남기는 에이전트. 거버넌스 없이 완전 자율성은 야망이 아니라 더 나은 UI를 가진 위험에 불과합니다. 시장은 원시적인 기능 요구보다 신뢰 요구에 더 빠르게 성숙했으며, 이 순서 변화가 제가 처음에 가장 크게 놓친 점입니다.

Pipefy는 비교적 단순한 AI 자동화와 모호한 상황을 추론하고, 여러 단계를 계획하며, 워크플로 전반에 걸쳐 작업을 실행할 수 있는 AI 에이전트를 구분합니다. 기업은 작업이 실제로 AI 에이전트를 필요로 하는지, 아니면 결정론적 자동화가 여전히 더 나은 해결책인지 어떻게 판단해야 할까요?

제가 사용하는 테스트는 간단합니다: 규칙을 쓸 수 있다면, 규칙을 쓰세요. 결정 트리가 사전에 알려져 있고 변하지 않는 경우에는 결정론적 자동화가 여전히 올바른 답입니다 — 금액이 이 이하이면 이 청구서를 해당 승인자에게 라우팅합니다. 이는 에이전트가 할 일은 아니며, 그렇다고 가장하면 이미 해결된 문제에 지연과 예측 불가능성을 추가할 뿐입니다. 상황에 모호함이 있어 고정된 규칙으로 해결할 수 없을 때, 즉 청구서가 PO와 정확히 일치하지 않거나 누락된 필드가 있거나 고객 요청이 기존 카테고리에 맞지 않을 때 에이전트는 그 자격을 얻습니다. 바로 여기서 추론이 실제 가치를 발휘합니다: “다음”이 이미 적혀 있지 않을 때 다음에 무엇을 할지 결정하는 것입니다. 제가 기업에서 지속적으로 보는 실수는 이미 결정론적인 80%의 경우에 에이전트를 구축하고, 더 화려하기 때문이라는 이유로 모호한 20%—실제로 어려운 부분—를 인간이 수동으로 풀어야 하도록 남겨두는 것입니다. 그 비율을 뒤집으면 진정한 무언가를 만든 것입니다.

독립형 코파일럿에서 “에이전트형 오케스트레이션”으로의 전환이 점점 늘어나고 있습니다. AI가 여러 시스템에 걸친 프로세스를 조정할 수 있게 되는 것입니다. 진정한 에이전트형 오케스트레이션을 기존 자동화 플랫폼에 대형 언어 모델을 단순히 추가하는 것과 구분 짓는 요소는 무엇입니까?

기존 자동화 흐름에 LLM 노드를 삽입하면 더 똑똑한 단일 단계가 됩니다. 진정한 오케스트레이션은 AI가 전체 프로세스에 대한 지속적이고 구조화된 뷰를 갖는 것을 의미합니다 — 단순히 해당 작업만이 아니라, 순서 내에서의 위치, 상류에서 이미 일어난 일, 하류에서 이 작업이 완료되기 위해 충족되어야 할 조건까지 모두 포함합니다. 차이점은 인텔리전스가 프로세스 자체에 대한 메모리를 가지고 있는가, 아니면 프롬프트에 대한 메모리만 가지고 있는가 입니다. 코파일럿은 사용자가 묻는 질문에 답합니다. 오케스트레이션은 ERP, CRM, 파트너 API와 같이 기본적으로 서로 통신하지 않는 시스템 간의 행동을 조정하면서, 나머지 프로세스가 이미 적용하고 있는 동일한 규칙, 권한 및 감사 추적을 물려받습니다. 만약 자동화 플랫폼 아래에 거버넌스 레이어가 없어 AI 기능 주위에 별도의 거버넌스 레이어를 구축해야 한다면, 이는 에이전트형 오케스트레이션이 아니라 API 접근 권한을 가진 챗봇이며, 위험 프로파일도 전혀 다릅니다.

코드 없는 AI 에이전트는 엔지니어링 리소스를 기다리지 않고도 비즈니스 팀이 점점 복잡해지는 프로세스를 자동화할 수 있게 합니다. 어떻게 하면 새로운 세대의 그림자 AI, 설계가 부실한 에이전트, 혹은 보안 위험을 만들지 않으면서 이 역량을 민주화할 수 있을까요?

비즈니스 사용자에게 더 주의하라고 요구해서 안전한 민주화를 얻는 것이 아니라 — 이렇게 함으로써 얻습니다.

가드레일을 별도의 차선이 아니라 포장 자체의 일부로 만드는 것입니다. 비즈니스 사용자가 만드는 모든 에이전트는 동일한 역할 기반 접근 권한, 동일한 감사 추적, 그리고 이미 해당 프로세스를 관리하고 있는 동일한 비즈니스 규칙을 물려받습니다 — 이것은 선택적인 설정이 아니라 구조적인 요소입니다. 이것이 그림자 AI에 대한 실제 답변입니다: 정책 문제가 아니라 아키텍처 문제입니다. 그림자 AI는 승인된 도구가 비승인 도구보다 사용하기 어려울 때 발생합니다. 그래서 사람들은 개인 ChatGPT 계정이나 IT 가시성이 전혀 없는 무작위 자동화 도구에 에이전트를 구축합니다. 코드 없는 경험이 진정으로 빠르고 거버넌스가 자동으로 보이지 않게 이루어진다면, 비즈니스 팀이 이를 우회할 이유가 없습니다. 거버넌스를 누군가가 기억해야 하는 수동 단계로 만들면, 이미 패배한 것입니다.

AI 에이전트가 단순히 권고하는 수준을 넘어 결정을 내리고 행동을 실행할 수 있게 되면서, 조직은 언제 완전한 자율성이 적절하고 언제 인간이 루프에 남아 있어야 하는지를 어떻게 결정해야 할까요?

제가 사용하는 축은 “에이전트가 얼마나 똑똑한가”가 아니라 복구 가능성과 파급 범위입니다. 잘못된 결정이 감지하기도 복구하기도 저렴한 경우 — 라우팅, 분류, 초안 작성 등 — 에이전트가 행동하도록 하고 전체적으로 검토합니다. 반면 잘못된 결정이 비용이 많이 들고 되돌리기 어렵거나 금전, 규정 준수, 고객 관계에 직접 영향을 미치는 경우, 해당 단계에서는 인간을 루프에 유지합니다, 비록 에이전트가 최근 천 번의 결정을 모두 정확히 했더라도 말이죠. 실수는 자율성을 전체 워크플로에 대해 하나의 다이얼처럼 올리는 것입니다. 실제 프로세스는 위험 프로파일이 크게 다른 단계들의 연속이며, 올바른 설계는 실수가 비용이 많이 드는 정확한 단계에 인간을 배치합니다 — 모든 곳이 아니라, 어디에도 아닌 곳도 아닙니다. 이것이 인간‑인‑루프가 제대로 구현될 때 속도에 대한 세금이 아니라, 에이전트가 일관되게 올바른 결정을 내린다는 증거를 가지고 낮은 위험 단계에서 점차 제거할 수 있는 자신감을 구축하는 방법인 이유입니다.

Pipefy는 감사 추적, 역할 기반 접근 제어, 비즈니스 규칙, 워크플로 자체 내 추적성 등 메커니즘을 통해 거버넌스를 강조합니다. 기업이 AI 에이전트를 실험 단계에서 프로덕션으로 옮길 때, 거버넌스를 오케스트레이션 레이어에 직접 내장하는 것이 필수가 되고 있습니까?

중요해지는 것이 아니라 이미 필수적이며, 이를 힘들게 깨달은 기업들은 먼저 에이전트를 프로덕션에 배포하고 나서야 감사 추적을 구축하고 있는 경우입니다. 이는 역행하는 것이며 사후에 수정하는 데 비용이 많이 듭니다. 감사 추적, 역할 기반 접근 제어 및 추적 가능성이 오케스트레이션 레이어 자체에 내재되어 있지 않다면, 배포하는 새로운 에이전트마다 거버넌스가 조용히 실패할 수 있는 새로운 지점이 생기며, 감사인, 규제 기관 또는 사고가 발생하기 전까지는 그 문제를 알 수 없습니다. 거버넌스를 오케스트레이션 레이어에 내장하면 에이전트가 수행하는 모든 행동이 자동으로 동일한 규칙을 상속하고 인간 행동과 동일한 증거를 남기게 되며, 별도로 설정을 기억할 필요가 없습니다. AI 실험 단계에서 프로덕션 단계로 이동하는 기업들은 파일럿의 성공 기준과 프로덕션의 성공 기준이 다르다는 것을 발견하고 있습니다: 파일럿은 작동해야 하고, 프로덕션은 방어 가능해야 합니다. 거버넌스가 바로 그 두 기준 사이의 차이를 만들어 줍니다.

많은 기업이 인상적인 AI 파일럿을 보여줄 수 있지만 이를 측정 가능한 비즈니스 가치로 전환하는 데 어려움을 겪고 있습니다. AI 자동화 이니셔티브가 실제로 ROI를 제공하고 있는지 판단할 때 리더들이 집중해야 할 지표는 무엇이며, 유망한 파일럿이 규모 확대에 실패하는 가장 흔한 이유는 무엇인가요?

‘절감된 시간’이라는 말로 시작하는 AI ROI 논의는 신뢰할 수 없습니다. 누가 얼마나 절감했는지, 어떻게 검증했는지가 명확하지 않기 때문입니다. CFO의 검증을 견디는 실제 지표는 감사인이 독립적으로 확인할 수 있는 항목들입니다: 특정 프로세스의 사이클 타임(전후 비교), 오류 또는 재작업 비율, 이제 인간의 개입 없이 완료되는 워크플로우 비율, 그리고 감사 추적 범위—각 에이전트 결정이 왜 내려졌는지 보여줄 수 있나요. 그 추적을 제공하지 못한다면 ROI 수치는 없고 일화에 불과합니다. 파일럿이 규모 확대에 실패하는 대부분의 경우는 모델이 작동한다는 것을 증명하기 위해 구축되었을 뿐, 프로세스가 엔드‑투‑엔드로, 프로덕션 환경에서, 기업이 이미 의존하고 있는 시스템들과 통합되어 작동한다는 것을 증명하지 못했기 때문입니다. 실제 기록 시스템과 연결되지 않은 샌드박스 내 파일럿은 모든 것이 연결된 후 실제 성능보다 항상 더 좋아 보입니다. 규모 확대는 AI 복장을 입은 시스템 통합 문제입니다.

당신은 Pipefy에서 새로운 AI 기능을 도입하면서 조직 변화 이니셔티브도 이끌었습니다. 당신의 경험에 비추어 볼 때, 성공적인 기업 AI 도입에서 기술적 과제가 차지하는 비중은 어느 정도이며, 프로세스·문화·변화 관리 과제가 차지하는 비중은 얼마나 될까요?

솔직히 말하자면, 성공적인 기업 AI 도입은 기술이 20%, 나머지 80%는 기타 모든 요소입니다. 기술은 대부분 이제 작동합니다—그것이 제가 잠을 설치하게 하는 부분은 아닙니다. AI 이니셔티브가 지속될지를 결정하는 실제 요인은 업무가 변화하는 사람들이 시스템을 충분히 신뢰해 10년 동안 해오던 수동 검증을 포기할 수 있는가, 그리고 리더십이 기존 프로세스 위에 AI를 얹는 것이 아니라 프로세스를 재설계할 의지가 있는가입니다. 우리는 내부적으로 자체 엔지니어링 툴을 구축하면서 이 과정을 겪었습니다—소프트웨어 구축 방식을 자동화하는 기술은 이미 존재했지만 팀이 손으로 모든 것을 이중 확인하는 것을 멈출 만큼 신뢰를 갖게 된 것은 나중이었습니다. 전환점은 더 나은 모델이 아니라, 시스템의 판단이 사람의 판단과 일치한다는 것을 충분히 반복해서 보여준 가시적인 증거였습니다. AI를 위한 변화 관리는 커뮤니케이션 작업이 아니라 증거 축적 작업입니다—작고 검증 가능한 배치를 통해 신뢰를 쌓아가야 하며, 타운홀에서 선언하는 것이 아닙니다.

앞으로 전통적인 워크플로우 및 비즈니스 프로세스 소프트웨어가 인간, AI 에이전트, 기업 시스템이 지속적으로 협업하는 오케스트레이션 레이어로 진화할 것으로 보십니까? 그렇다면 기업이 운영을 설계하고 관리하는 방식에 근본적으로 어떤 변화가 일어날까요?

네, 그리고 그 변화는 대부분의 사람들이 예상하는 것보다 훨씬 큽니다. 워크플로우 소프트웨어는 과거에 작업이 어떻게 진행되어야 하는지를 문서화하는 곳이었습니다. 이제는 실제 작업이 일어나는 실시간 런타임이 되고 있습니다—인간, 에이전트, 기업 시스템이 모두 같은 거버넌스된 프로세스 안에서 동시에 작동하는 환경이며, 사후에 소프트웨어를 수동 기록 보관용으로 사용하는 것이 아니라 실시간으로 진행되는 것입니다. 근본적으로 바뀌는 것은 ‘기록 시스템’이 실제로 존재하는 위치입니다. 기록은 과거에 무언가가 일어난 뒤에 업데이트되는 데이터베이스였지만, 오케스트레이션 레이어에서는 기록과 실행이 동일합니다—프로세스 자체가 인터페이스가 되며, 화면뿐 아니라 API, MCP 서버, CLI 등을 통해 접근할 수 있어 내부 에이전트든 파트너 에이전트든 인간과 동일한 규칙 하에 행동할 수 있습니다. 이 변화를 ‘기존 도구에 AI를 추가한다’는 식으로만 접근하는 기업은 앞서 언급한 한계에 계속 부딪히게 될 것입니다. 반면 프로세스 레이어를 실제 제품, 즉 제대로 구조화에 투자할 가치가 있는 것으로 보는 기업은 동일한 AI 모델을 구매한다고 해도 복제할 수 없는 경쟁 우위를 지속적으로 쌓아갈 것입니다.

훌륭한 인터뷰에 감사드립니다. 더 알고 싶은 독자분들은 Pipefy를 방문해 주세요.