Sobhan Daliry, CPO & Trưởng phòng Chiến lược AI tại Pipefy – Loạt phỏng vấn

Sobhan Daliry, CPO & Trưởng phòng Chiến lược AI tại Pipefy, là một giám đốc sản phẩm và công nghệ có kinh nghiệm, người đã dẫn dắt chiến lược AI của công ty kể từ năm 2023, giúp chuyển đổi các quy trình kinh doanh truyền thống thành các quy trình ngày càng thông minh và tự động. Trong suốt sự nghiệp, Daliry đã kết hợp chiến lược sản phẩm, chuyển đổi tổ chức và lãnh đạo công nghệ tại các công ty khởi nghiệp và các công ty đã thành lập. Trước khi gia nhập Pipefy, ông đã sáng lập và giữ vị trí CEO của Polen.me và dành hơn năm năm làm CEO/CPO của NZN, nơi ông dẫn dắt việc cải tổ công ty và chiến lược sản phẩm. Các vai trò trước đây của ông bao gồm Giám đốc Quản lý Sản phẩm tại PSafe, Quản lý Sản phẩm tại Peixe Urbano, và các vị trí trải rộng trong dịch vụ kỹ thuật số, viễn thông, tư vấn và phát triển kinh doanh tại Oi/Telemar, Claro, AIRCOM International và Planeta Tecnologia.

Pipefy là một nền tảng quản lý quy trình và AI toàn cầu được thiết kế để giúp các tổ chức tự động hoá và điều phối các quy trình kinh doanh. Được thành lập vào năm 2015, công ty đã phát triển từ một nền tảng tự động hoá quy trình không cần mã thành một môi trường điều phối tập trung vào AI, kết hợp AI Agents, quy trình làm việc, biểu mẫu, cổng thông tin, ứng dụng, dữ liệu, phân tích, tin nhắn và tích hợp. Nền tảng của nó cho phép các đội ngũ tạo và quản lý AI Agents bằng ngôn ngữ tự nhiên và công cụ không cần mã, đồng thời duy trì quản trị doanh nghiệp, bảo mật và khả năng hiển thị. Các khả năng AI của Pipefy bao gồm các đại lý có thể diễn giải tài liệu, thực thi các nhiệm vụ quy trình, hỗ trợ ra quyết định, tương tác với hệ thống bên ngoài và điều phối các quy trình trong các lĩnh vực như tài chính, nhân sự, mua sắm, vận hành khách hàng và tuân thủ.

Sự nghiệp của bạn đã đưa bạn từ kỹ thuật viễn thông tại các công ty như Claro và Oi đến vai trò lãnh đạo sản phẩm tại Peixe Urbano và PSafe, giữ vị trí CEO/CPO tại NZN, sáng lập Polen.me, và hiện đang dẫn dắt chiến lược sản phẩm và AI tại Pipefy. Quá trình này đã ảnh hưởng như thế nào đến cách bạn suy nghĩ về việc xây dựng các sản phẩm AI giải quyết các vấn đề vận hành thực tế thay vì chỉ trình diễn công nghệ mới?

Viễn thông đã dạy tôi rằng cơ sở hạ tầng phải hoạt động mỗi lần, ở quy mô lớn, không có chỗ cho “hầu như hoạt động”. Một cuộc gọi bị ngắt không phải là thất bại trong bản demo, mà là một khách hàng rời đi. Tư duy đó — độ tin cậy hơn sự mới lạ — không bao giờ rời khỏi tôi. Tại Peixe Urbano và PSafe, tôi học được bài học ngược lại: các sản phẩm tiêu dùng sống hoặc chết nhanh chóng tùy thuộc vào việc chúng giải quyết một vấn đề thực tế, cảm nhận được hôm nay, chứ không phải một vấn đề lý thuyết. Điều hành NZN với vai trò CEO/CPO buộc tôi phải đồng thời nắm giữ cả hai chân lý — bạn không thể thi hành nhanh hơn một giả thuyết kém, và bạn không thể đưa ra giả thuyết tốt hơn một việc thực thi kém. Sáng lập Polen.me dạy tôi bài học đắt giá nhất: vốn và thời gian là hữu hạn, vì vậy mỗi tính năng bạn xây dựng là một tính năng bạn không xây dựng, và chi phí theo đuổi một bản demo ấn tượng thay vì một quy trình thực tế sẽ xuất hiện sau vài tháng, không phải trên sân khấu. Khi tôi đến Pipefy, câu hỏi tôi đặt ra cho mỗi tính năng AI là câu hỏi tôi sẽ hỏi về một trạm phát sóng: liệu điều này có bền vững trong môi trường sản xuất, dưới tải thực tế, khi không có ai giám sát không? Nếu một AI agent chỉ hoạt động trong môi trường demo được chuẩn bị, nó không phải là một sản phẩm — mà chỉ là một đoạn trailer cho một sản phẩm.

Bạn đã dẫn dắt việc xây dựng và thực hiện chiến lược AI của Pipefy kể từ năm 2023. Những giả định nào về AI doanh nghiệp mà bạn có lúc đầu đã thay đổi nhiều nhất khi AI sinh tạo và các AI agent đã trưởng thành?

Giả định lớn nhất mà tôi phải loại bỏ là mô hình sẽ là nút thắt. Vào năm 2023, mọi người — bao gồm cả tôi — đều đang tối ưu cho “LLM nào thông minh nhất”. Thực tế, nút thắt lại là ngữ cảnh: liệu agent có biết quy trình thực sự là gì, các rào cản là gì, và “hoàn thành” trông như thế nào đối với phiên bản tài khoản phải trả của khách hàng cụ thể này. Chất lượng mô hình tiếp tục cải thiện trên một đường cong mà mọi người đều dự đoán được; ngữ cảnh quy trình không tự cải thiện, vì không ai có cấu trúc nó. Giả định thứ hai bị đảo ngược liên quan đến tính tự chủ. Tôi cho rằng thị trường muốn các agent hoạt động hoàn toàn độc lập và nhanh nhất có thể. Những gì doanh nghiệp thực sự muốn — và vẫn muốn — là tính tự chủ có giới hạn: các agent đưa ra quyết định thực tế trong khuôn khổ các quy tắc mà chúng không thể vi phạm, kèm theo một dấu vết chứng minh sau này. Tự chủ hoàn toàn không có quản trị không phải là tham vọng, mà chỉ là rủi ro với giao diện người dùng tốt hơn. Thị trường đã trưởng thành nhanh hơn về yêu cầu tin cậy hơn là yêu cầu về khả năng thuần túy, và sự sắp xếp lại này là điều lớn nhất mà tôi đã sai lầm ngay từ đầu.

Pipefy phân biệt giữa tự động hoá AI tương đối đơn giản và các AI agent có khả năng suy luận qua các tình huống mơ hồ, lên kế hoạch nhiều bước và thực thi hành động trong suốt một quy trình làm việc. Doanh nghiệp nên xác định khi nào một nhiệm vụ thực sự cần một AI agent và khi nào tự động hoá quyết định vẫn là giải pháp tốt hơn như thế nào?

Kiểm tra tôi dùng rất đơn giản: nếu bạn có thể viết quy tắc, hãy viết quy tắc. Tự động hoá quyết định vẫn là câu trả lời đúng cho bất kỳ trường hợp nào mà cây quyết định đã được biết trước và không thay đổi — chuyển hoá đơn này tới người phê duyệt này nếu số tiền dưới mức này. Đó không phải là công việc của một agent, và giả vờ như vậy chỉ làm tăng độ trễ và tính không chắc chắn cho một việc đã được giải quyết. Một agent xứng đáng khi tình huống có sự mơ hồ mà một quy tắc cố định không thể giải quyết — hoá đơn không khớp chính xác với PO, có trường bị thiếu, yêu cầu của khách hàng không phù hợp với bất kỳ danh mục hiện có nào của bạn. Đó là nơi lý luận thực sự có giá trị: quyết định bước tiếp theo khi “tiếp theo” chưa được ghi sẵn. Sai lầm tôi thường thấy các doanh nghiệp mắc phải là xây dựng một agent cho 80% các trường hợp đã quyết định, vì nó hấp dẫn hơn, và để lại 20% mơ hồ — phần khó thực sự — cho con người phải tự giải quyết thủ công. Đảo ngược tỷ lệ đó và bạn đã tạo ra một thứ thực sự.

Có một xu hướng ngày càng tăng chuyển từ các copilot độc lập sang “orchestration có tính agent,” nơi AI có thể điều phối các quy trình trải dài qua nhiều hệ thống. Điều gì tách biệt orchestration có tính agent thực sự với việc chỉ đơn giản thêm một mô hình ngôn ngữ lớn vào nền tảng tự động hoá hiện có?

Thêm một nút LLM vào luồng tự động hoá hiện có sẽ cho bạn một bước thực hiện thông minh hơn. Orchestration thực sự có nghĩa là AI có một cái nhìn liên tục, có cấu trúc về toàn bộ quy trình — không chỉ nhiệm vụ này, mà còn vị trí của nó trong chuỗi, những gì đã xảy ra ở phía trên, những gì phải đúng ở phía dưới để được coi là hoàn thành. Sự khác biệt là trí tuệ có nhớ quy trình hay chỉ nhớ lời nhắc. Một copilot trả lời câu hỏi bạn đặt ra. Orchestration điều phối hành động giữa các hệ thống mà chúng không giao tiếp nguyên bản với nhau — ERP, CRM, API của đối tác — đồng thời kế thừa cùng các quy tắc, quyền hạn và dấu vết kiểm toán mà phần còn lại của quy trình đã vận hành. Nếu bạn phải xây dựng một lớp quản trị riêng quanh tính năng AI của mình vì nền tảng tự động hoá bên dưới không có, bạn không có orchestration có tính agent — bạn chỉ có một chatbot có quyền truy cập API, và chúng không có cùng hồ sơ rủi ro.

Các agent AI không cần mã có thể cho phép các đội ngũ kinh doanh tự động hoá các quy trình ngày càng phức tạp mà không phải chờ tài nguyên kỹ thuật. Làm thế nào để dân chủ hoá khả năng này mà không tạo ra một thế hệ AI bóng tối mới, các agent thiết kế kém, hoặc rủi ro bảo mật?

Bạn không đạt được việc dân chủ hoá an toàn bằng cách yêu cầu người dùng doanh nghiệp cẩn thận hơn — bạn đạt được nó bằng cách

biến các rào chắn thành một phần của nền đường, không phải là một làn đường riêng mà mọi người phải chọn để lái. Mỗi agent mà người dùng doanh nghiệp xây dựng thừa hưởng cùng quyền truy cập dựa trên vai trò, cùng dấu vết kiểm toán và cùng các quy tắc kinh doanh đã điều khiển quy trình mà nó được xây dựng bên trong — chúng không phải là cấu hình tùy chọn, mà là cấu trúc. Đó là câu trả lời thực sự cho AI bóng tối: vấn đề không phải là chính sách, mà là kiến trúc. AI bóng tối xảy ra khi công cụ được phê duyệt khó sử dụng hơn công cụ không được phê duyệt, vì vậy mọi người xây dựng agent của mình trong tài khoản ChatGPT cá nhân hoặc một công cụ tự động hoá ngẫu nhiên mà bộ phận IT không thể nhìn thấy. Nếu trải nghiệm không cần mã thực sự nhanh và quản trị vô hình vì nó tự động, không có lý do nào để đội ngũ doanh nghiệp bỏ qua nó. Ngay khi bạn biến quản trị thành một bước thủ công mà ai đó phải nhớ, bạn đã thua.

Khi các agent AI có khả năng đưa ra quyết định và thực hiện hành động thay vì chỉ đề xuất, các tổ chức nên quyết định ở đâu thì tự chủ hoàn toàn là phù hợp và ở đâu thì con người nên vẫn tham gia?

Trục tôi dùng không phải là “agent thông minh như thế nào,” mà là khả năng đảo ngược và phạm vi ảnh hưởng. Nếu một quyết định sai dễ phát hiện và dễ khôi phục — định tuyến, phân loại, soạn thảo — hãy để agent thực hiện và xem xét tổng hợp. Nếu một quyết định sai tốn kém, khó đảo ngược, hoặc liên quan trực tiếp đến tiền bạc, tuân thủ, hoặc mối quan hệ khách hàng, hãy giữ con người trong vòng lặp cho bước cụ thể đó, ngay cả khi agent đã đưa ra đúng hàng nghìn quyết định gần đây. Sai lầm là coi tự chủ như một nút duy nhất bạn tăng lên cho toàn bộ quy trình làm việc. Các quy trình thực tế là một chuỗi các bước với các hồ sơ rủi ro khác nhau đáng kể, và thiết kế đúng sẽ đặt con người chính xác ở bước mà lỗi tốn kém — không phải ở mọi nơi và không phải không nơi nào. Đó cũng là lý do tại sao con người trong vòng lặp, nếu thực hiện đúng, không phải là thuế lên tốc độ — mà là cách bạn xây dựng niềm tin để cuối cùng loại bỏ nó khỏi các bước ít rủi ro, vì bạn có bằng chứng chứng minh những quyết định mà agent luôn đúng.

Pipefy nhấn mạnh quản trị thông qua các cơ chế như dấu vết kiểm toán, kiểm soát truy cập dựa trên vai trò, quy tắc kinh doanh và khả năng truy xuất trong chính quy trình làm việc. Việc nhúng quản trị trực tiếp vào lớp orchestration có trở nên thiết yếu khi các công ty đưa các agent AI từ giai đoạn thí nghiệm vào sản xuất không?

Không phải nó đang trở nên cần thiết — nó đã là cần thiết, và những công ty nhận ra điều này một cách khó khăn là những công ty đã đưa các tác nhân vào sản xuất trước và hiện đang xây dựng nhật ký kiểm toán sau khi đã xảy ra. Điều đó ngược lại, và việc sửa chữa sau này tốn kém. Nếu nhật ký kiểm toán, kiểm soát truy cập dựa trên vai trò và khả năng truy xuất không phải là bản địa trong lớp điều phối, mỗi tác nhân mới bạn triển khai sẽ là một nơi mới mà quản trị có thể im lặng thất bại — và bạn sẽ không biết cho đến khi một kiểm toán viên, một cơ quan quản lý, hoặc một sự cố đặt ra câu hỏi. Nhúng quản trị vào lớp điều phối có nghĩa là mọi hành động của một tác nhân sẽ tự động kế thừa cùng các quy tắc và để lại cùng bằng chứng như hành động của con người, mà không ai phải nhớ cấu hình riêng. Các doanh nghiệp chuyển từ thí nghiệm AI sang AI trong sản xuất đang phát hiện ra rằng tiêu chí thành công của thí điểm và tiêu chí thành công của sản xuất là khác nhau: thí điểm phải hoạt động, sản xuất phải có thể bảo vệ được. Quản trị là sự khác biệt giữa hai tiêu chuẩn đó.

Nhiều công ty có thể chứng minh một thí điểm AI ấn tượng nhưng gặp khó khăn trong việc chuyển đổi nó thành giá trị kinh doanh có thể đo lường. Các chỉ số nào các nhà lãnh đạo nên tập trung khi xác định liệu một sáng kiến tự động hoá AI thực sự mang lại ROI, và những lý do phổ biến nhất khiến các thí điểm đầy hứa hẹn không thể mở rộng là gì?

Tôi không tin tưởng bất kỳ cuộc trò chuyện nào về ROI AI bắt đầu bằng “giờ đã tiết kiệm”, vì giờ đã tiết kiệm cho ai, được xác minh như thế nào? Các chỉ số thực sự chịu được sự kiểm tra của CFO là những gì các kiểm toán viên có thể xác nhận độc lập: thời gian chu kỳ của một quy trình cụ thể, trước và sau; tỷ lệ lỗi hoặc tái làm; phần trăm của một luồng công việc hiện hoàn thành mà không cần can thiệp của con người; và phạm vi truy xuất nguồn gốc kiểm toán — bạn có thể chỉ ra, cho mỗi quyết định có tính năng tác nhân, lý do tại sao nó được đưa ra không. Nếu bạn không thể cung cấp chuỗi truy xuất đó, bạn không có con số ROI, bạn chỉ có một giai thoại. Các thí điểm hầu hết không mở rộng vì cùng một lý do: chúng được xây dựng để chứng minh mô hình hoạt động, chứ không phải để chứng minh quy trình hoạt động từ đầu đến cuối, trong môi trường sản xuất, tích hợp với các hệ thống mà phần còn lại của công ty đã phụ thuộc. Một thí điểm tồn tại trong môi trường sandbox, tách rời khỏi hệ thống ghi chép thực tế, sẽ luôn trông tốt hơn so với khi nó được kết nối vào mọi thứ khác đã đang chạy. Việc mở rộng là một vấn đề tích hợp hệ thống mặc dù được bao bọc trong một lớp AI.

Bạn cũng đã dẫn dắt các sáng kiến thay đổi tổ chức tại Pipefy đồng thời giới thiệu các khả năng AI mới. Từ kinh nghiệm của bạn, bao nhiêu phần trăm thành công trong việc áp dụng AI doanh nghiệp thực sự là thách thức công nghệ so với thách thức về quy trình, văn hoá và quản lý thay đổi?

Nếu tôi thành thật, việc áp dụng AI doanh nghiệp thành công chỉ 20% là công nghệ và 80% là mọi thứ còn lại. Công nghệ hiện nay hầu như đã hoạt động — đó không phải là nơi tôi lo lắng. Điều thực sự quyết định liệu một sáng kiến AI có bền vững hay không là liệu những người công việc của họ thay đổi có tin tưởng hệ thống đủ để bỏ qua việc kiểm tra thủ công mà họ đã thực hiện trong mười năm, và liệu lãnh đạo có sẵn sàng thiết kế lại quy trình thay vì chỉ gắn AI lên trên quy trình cũ hay không. Chúng tôi đã trải qua điều này nội bộ khi xây dựng công cụ kỹ thuật của riêng mình — công nghệ tự động hoá một phần cách chúng tôi xây dựng phần mềm đã tồn tại từ lâu trước khi đội ngũ thực sự tin tưởng đủ để ngừng kiểm tra lại mọi thứ bằng tay. Điều mở khóa không phải là một mô hình tốt hơn, mà là bằng chứng rõ ràng, lặp lại đủ lần, rằng phán đoán của hệ thống phù hợp với họ. Quản lý thay đổi cho AI không phải là một bài tập truyền thông, mà là một bài tập tích lũy bằng chứng — bạn kiếm được sự tin tưởng qua các lô nhỏ, có thể xác minh, chứ không phải công bố nó trong một buổi họp toàn công ty.

Nhìn về phía trước, bạn có kỳ vọng phần mềm quy trình làm việc truyền thống và phần mềm quy trình kinh doanh sẽ phát triển thành các lớp điều phối, nơi con người, các tác nhân AI và các hệ thống doanh nghiệp liên tục hợp tác? Nếu có, điều gì sẽ thay đổi căn bản về cách các công ty thiết kế và quản lý hoạt động của mình?

Có, và tôi nghĩ sự chuyển đổi này lớn hơn so với những gì hầu hết mọi người dự tính. Phần mềm quy trình làm việc trước đây chỉ là nơi bạn ghi lại cách công việc nên diễn ra. Nó đang trở thành nơi công việc thực sự diễn ra — một môi trường chạy thời gian thực, nơi con người, các tác nhân và các hệ thống doanh nghiệp đều hoạt động trong cùng một quy trình được quản trị đồng thời, thay vì một con người sử dụng phần mềm như một công cụ ghi chép thụ động sau khi đã xảy ra. Điều thay đổi căn bản là nơi “hệ thống ghi chép” thực sự tồn tại. Trước đây, bản ghi là một cơ sở dữ liệu được cập nhật một khi điều gì đó đã xảy ra bên ngoài nó. Trong một lớp điều phối, bản ghi và quá trình thực thi là cùng một thứ — quy trình tự trở thành giao diện, có thể truy cập không chỉ qua màn hình mà còn qua API, máy chủ MCP, CLI, để bất kỳ tác nhân nào, nội bộ hay của đối tác, cũng có thể hoạt động trong đó dưới cùng các quy tắc mà con người sẽ áp dụng. Các công ty coi sự chuyển đổi này chỉ là “thêm AI vào công cụ hiện có” sẽ luôn gặp giới hạn tôi đã mô tả trước đó. Những công ty coi lớp quy trình của họ là sản phẩm thực sự — thứ đáng đầu tư để cấu trúc đúng cách — sẽ tạo ra lợi thế mà không ai có thể sao chép chỉ bằng cách mua cùng một mô hình AI.

Cảm ơn bạn đã tham gia buổi phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Pipefy.