Andrej Jonovic, Giám đốc điều hành của XBP Global – Loạt bài phỏng vấn

Andrej Jonovic là Giám đốc điều hành của XBP Global, một công ty đa quốc gia cung cấp công nghệ và dịch vụ, tập trung vào các quy trình doanh nghiệp tối quan trọng. XBP Global đang ứng dụng AI tác nhân trong các lĩnh vực chịu sự quản lý chặt chẽ, bao gồm y tế, khu vực công và dịch vụ tài chính, nơi độ chính xác, tính bảo mật, chủ quyền dữ liệu và khả năng kiểm toán là những yêu cầu thiết yếu. Trong cuộc phỏng vấn này, Jonovic trao đổi về điều phối quy trình thích ứng, mô hình có trọng số mở, xử lý tài liệu thông minh, thẩm định của con người và những yếu tố cần thiết để biến AI từ một năng lực kỹ thuật thành kết quả vận hành có thể đo lường được.

Ông bắt đầu sự nghiệp với tư cách là luật sư chuyên về giao dịch, sau đó chuyển sang lĩnh vực mua bán và sáp nhập, chuyển đổi doanh nghiệp, rồi cuối cùng lãnh đạo XBP Global. Nền tảng đó đã định hình cách ông đánh giá việc triển khai trí tuệ nhân tạo trong các quy trình tối quan trọng như thế nào, xét trên phương diện quản trị, rủi ro thương mại và tác động đến tổ chức?

Tôi thường xem xét AI trước tiên qua mô hình vận hành. Khi làm việc trong lĩnh vực giao dịch và chuyển đổi, ta quen đặt câu hỏi liệu cấu trúc đó có thực sự vững chắc khi vượt qua phần trình bày và bắt tay vào triển khai hay không.

Điều đó đặc biệt quan trọng với AI, bởi một mô hình có thể hoạt động cực kỳ tốt khi được đánh giá riêng lẻ nhưng vẫn dẫn đến kết quả vận hành tồi. Trong lĩnh vực y tế, khu vực công và ngân hàng, độ chính xác trong xử lý, việc tuân thủ quy định và khả năng kiểm toán là những yêu cầu bắt buộc. Bạn phải hiểu dữ liệu nằm ở đâu, hệ thống được phép làm gì, các quyết định được kiểm soát ra sao và cơ cấu chi phí sẽ như thế nào khi quy trình được vận hành ở quy mô lớn.

Cần tích hợp các yêu cầu quản trị ngay từ khâu thiết kế kiến trúc đó. Tôi muốn biết mô hình đang chạy ở đâu, thông tin nào được truyền qua ranh giới doanh nghiệp, nội dung gì được ghi lại trong nhật ký kiểm toán và điều gì xảy ra khi quy trình đi đến một quyết định đòi hỏi mức độ kiểm soát khác.

Có lẽ nền tảng của tôi tác động nhiều nhất ở điểm đó. Nhìn chung, tôi ít quan tâm đến những gì công nghệ có thể làm trong một buổi trình diễn được kiểm soát. Tôi muốn biết liệu có thể đưa công nghệ đó vào một quy trình tối quan trọng và tin cậy vào nó hay không.

XBP Global mô tả AI tác nhân là bước phát triển vượt ra ngoài tự động hóa dựa trên quy tắc thông thường và tự động hóa quy trình bằng robot. Những thay đổi nào về mặt kỹ thuật diễn ra khi quy trình chuyển từ việc làm theo chỉ dẫn định sẵn sang sử dụng các tác tử AI có khả năng suy luận, ra quyết định và phối hợp nhiều nhiệm vụ?

Kiến trúc trở nên linh hoạt hơn nhiều.

Tự động hóa quy trình truyền thống hoạt động theo cơ chế tất định. Bạn có các quy tắc, biết bước tiếp theo sẽ diễn ra thế nào và bổ sung thêm logic được lập trình cứng khi quy trình trở nên phức tạp hơn. Cách này rất hiệu quả với những công việc có thể dự đoán. Khó khăn xuất hiện khi số lượng quy tắc trở nên khổng lồ hoặc quy trình thay đổi nhanh hơn khả năng xây dựng lại hệ thống.

Hiện nay, chúng tôi đang triển khai điều phối quy trình thích ứng. Bạn có thể giữ lại các công cụ xử lý quy tắc tất định ở những khâu đòi hỏi độ chính xác và tuân thủ, rồi đưa các mô hình thông minh vào những phần của quy trình mà khả năng suy luận tạo ra giá trị. Các tác tử có thể phối hợp nhiệm vụ, truy cập thông tin và chọn hành động tiếp theo mà không cần ai đó lập trình cứng mọi lộ trình có thể có trong quy trình.

Một thay đổi khác là mô hình nền tảng ngày càng dễ thay thế hơn. Chúng tôi nhận thấy các mô hình có trọng số mở đạt chuẩn doanh nghiệp đang tiến bộ rất nhanh. Nếu được thiết kế phù hợp, quy trình xử lý có thể tích hợp mô hình mạnh hơn khi hệ sinh thái phát triển mà không phải xây dựng lại toàn bộ quy trình vận hành xung quanh mô hình đó.

Vì vậy, tôi cho rằng tài sản kỹ thuật ngày càng quan trọng chính là quy trình: khâu điều phối, kiến thức chuyên ngành, cơ chế kiểm soát và dữ liệu xoay quanh mô hình.

Nhiều công ty đang thử nghiệm AI nhưng gặp khó khăn khi chuyển từ các dự án thí điểm sang triển khai thực tế. Những rào cản phổ biến nhất về kiến trúc hoặc tổ chức khiến doanh nghiệp không thể triển khai quy trình tác nhân ở quy mô lớn là gì? 

Khách hàng đang vượt qua giai đoạn thử nghiệm. Họ đã xem các buổi trình diễn và nghe những lời hứa hẹn rất mạnh mẽ về tỷ suất hoàn vốn đầu tư. Đến một lúc nào đó, phải có người đưa công nghệ vào một quy trình thực tế và khiến nó vận hành hiệu quả.

Đó là lúc kiến trúc trở nên phức tạp. Quy trình đưa vào vận hành phải kết nối được với môi trường hiện có của công ty. Thông tin nhạy cảm có thể cần được lưu trữ trong đám mây riêng hoặc tại chỗ. Các hệ thống hiện hữu vẫn phải truy cập được. Các yêu cầu pháp lý phải được đáp ứng. Hiệu quả kinh tế cũng phải được duy trì khi vận hành ở quy mô doanh nghiệp.

Gần đây, chúng tôi đã giành được một dự án liên quan đến vòng đời bảo trì của đội bay thuộc một hãng hàng không toàn cầu. Mọi hạng mục bảo trì sẽ được chuyển thành vector và lưu trong cơ sở dữ liệu vector riêng tư, đặt trong đám mây riêng của khách hàng. Hạ tầng tác nhân quản lý quyền truy cập vào thông tin đó và hỗ trợ tái tạo hồ sơ khi máy bay hết hạn thuê hoặc được bán.

Đó là một vấn đề hoàn toàn khác với việc chứng minh rằng mô hình có thể trả lời câu hỏi về hồ sơ máy bay. Bạn đang xử lý cả một môi trường vận hành, với các biện pháp kiểm soát dữ liệu và một quy trình phải hoạt động ổn định qua nhiều lần.

Về mặt tổ chức, điểm thiếu hụt thường nằm ở khâu chịu trách nhiệm. Cần có người hiểu quy trình đủ sâu để xác định thế nào mới thực sự được xem là đưa vào vận hành sản xuất. Thiếu kỷ luật vận hành đó, dự án thí điểm có thể gây ấn tượng trong thời gian rất dài mà vẫn không trở nên hữu ích.

XBP Global kết hợp tự động hóa với sự giám sát có con người tham gia, đặc biệt đối với những quyết định có hệ quả lớn. Các ông xác định thế nào những quyết định nào hệ thống AI có thể tự thực hiện và những quyết định nào vẫn cần có sự phán đoán của con người trong quy trình? 

Chúng tôi thiết kế vai trò của con người xoay quanh khâu thẩm định.

Trong một quy trình có hệ quả lớn, thường có khối lượng công việc lớn có thể đi qua các bước xử lý với độ tin cậy cao. Sau đó là những trường hợp ngoại lệ, khi thông tin chưa đầy đủ, tình huống bất thường hoặc hậu quả của việc đưa ra câu trả lời sai quá nghiêm trọng.

Khi quy trình gặp một trong những trường hợp đó, giao dịch sẽ được chuyển đến chuyên gia trong lĩnh vực liên quan. Người đó xử lý trường hợp và phán đoán của họ sau đó có thể được đưa trở lại hệ thống để mô hình tiếp tục cải thiện.

Tôi cho rằng vòng phản hồi đó rất quan trọng. Sự giám sát của con người có giá trị hơn khi giúp cải thiện quy trình theo thời gian. Chuyên gia đóng góp kiến thức chuyên môn vào những trường hợp mà mô hình vẫn cần đến kiến thức đó.

Ngưỡng tự chủ cũng phụ thuộc rất nhiều vào môi trường. Việc thẩm định trong lĩnh vực chăm sóc sức khỏe, hồ sơ khu vực công và các quy trình tài chính chịu sự quản lý có những yêu cầu khác với một nhiệm vụ nội bộ ít hệ quả. Mức độ tin cậy có thể chấp nhận phải phản ánh đúng tác động thực tế của quyết định khi hệ thống thực hiện quyết định đó.

Khách hàng của các ông hoạt động trong những ngành chịu sự quản lý và khu vực công, nơi chủ quyền dữ liệu, bảo mật và khả năng kiểm toán là thiết yếu. Các tổ chức có thể triển khai mô hình ngôn ngữ lớn trong môi trường được bảo vệ như thế nào mà không làm suy giảm những năng lực khiến các hệ thống này trở nên hữu ích? 

Các mô hình có trọng số mở đang làm thay đổi đáng kể câu trả lời cho câu hỏi đó.

Trong một thời gian dài, người ta cho rằng muốn đạt hiệu năng mô hình tốt nhất thì phải gửi thông tin sang môi trường của một bên khác. Điều đó tạo ra một vấn đề hiển nhiên khi dữ liệu phải được giữ bên trong phạm vi của doanh nghiệp.

Giờ đây, chúng tôi có thể sử dụng các mô hình có trọng số mở đạt tiêu chuẩn doanh nghiệp và tích hợp chúng vào các quy trình AI tác tử đã triển khai, đồng thời giữ dữ liệu trong môi trường của khách hàng. Tùy theo yêu cầu, hạ tầng đó có thể là đám mây riêng hoặc tại chỗ. Các tổ chức vẫn hưởng lợi từ những tiến bộ trong hệ sinh thái mô hình rộng hơn, đồng thời duy trì các biện pháp kiểm soát cần thiết để bảo đảm chủ quyền dữ liệu.

Kiến trúc cũng phải có khả năng thay đổi. Không có lý do gì để cho rằng mô hình hiện nay sẽ tiếp tục là mô hình tốt nhất cho một nhiệm vụ cụ thể. Các quy trình huấn luyện của chúng tôi được thiết kế để có thể nhanh chóng tích hợp mô hình mới vào quy trình hiện có.

Đối với khách hàng thuộc các ngành chịu sự quản lý, tính linh hoạt đó vô cùng giá trị vì quy trình làm việc có thể tiếp tục được cải thiện trong khi ranh giới dữ liệu vẫn được bảo toàn. Đây cũng là cách bắt đầu đáp ứng những yêu cầu như Đạo luật AI của EU mà không xem việc tuân thủ là thứ chỉ được bổ sung sau khi công nghệ đã triển khai.

Một lượng lớn thông tin của doanh nghiệp vẫn nằm trong tài liệu, hình ảnh, hệ thống cũ và hồ sơ giấy. Xử lý tài liệu thông minh đang phát triển ra sao, và công nghệ này đóng vai trò gì trong việc chuyển dữ liệu phân mảnh thành thông tin mà các tác tử AI có thể sử dụng một cách đáng tin cậy?

Tôi cho rằng xử lý tài liệu thông minh đang trở thành một phần hạ tầng của các quy trình làm việc vận hành bằng tác tử AI.

Trước đây, phần lớn hoạt động xử lý tài liệu dựa trên mẫu. Người ta biết tài liệu có hình thức ra sao, biết cần lấy trường thông tin nào, rồi hệ thống trích xuất trường đó. Thông tin trong doanh nghiệp hiếm khi gọn gàng như vậy. Riêng lĩnh vực chăm sóc sức khỏe đã có thể bao gồm EOB, thư từ phức tạp, thông tin yêu cầu thanh toán và hồ sơ được gửi đến dưới nhiều định dạng khác nhau.

Cách tiếp cận mới chú trọng nhiều hơn đến ngữ cảnh. Ta có thể tiếp nhận thông tin phi cấu trúc, xác định nội dung nào có liên quan và chuyển đổi thành dữ liệu đầu ra có cấu trúc để các hệ thống ở những bước tiếp theo thực sự sử dụng được. Điều đó quan trọng vì một tác tử không thể điều phối công việc một cách đáng tin cậy nếu thông tin làm cơ sở cho nó chưa đầy đủ hoặc bị diễn giải sai.

Quy mô cũng làm thay đổi bài toán. Chúng tôi vận hành các môi trường xử lý khối lượng cực lớn hình ảnh, yêu cầu thanh toán, giao dịch thanh toán và các tài liệu khác. Ở quy mô đó, chỉ một khác biệt nhỏ về chất lượng trích xuất cũng có thể trở thành vấn đề vận hành rất lớn.

Vì vậy, xử lý tài liệu thông minh ngày càng đóng vai trò ở khâu đầu của quy trình làm việc thông minh. Công nghệ này chuyển thông tin phân mảnh thành dữ liệu có thể sử dụng, cung cấp cho bước tiếp theo trong quy trình cơ sở đáng tin cậy để xử lý và tạo nền tảng cho mức độ tự động hóa cao hơn ở các bước sau.

XBP Global đã đề cập đến việc chuyển các quy trình cũ dựa trên quy tắc sang các quy trình AI tác tử và đạt tỷ lệ xử lý thành công ngay lần đầu cao hơn. Hệ thống AI cần hiểu những gì về quy trình, ngoại lệ và kiến thức tích lũy trong tổ chức trước khi có thể mang lại kết quả đáng tin cậy?

Phần lớn kiến thức tích lũy trong tổ chức chưa bao giờ được ghi lại thành một tài liệu quy trình rõ ràng.

Điều đó nằm trong các hệ thống cũ, những bộ quy tắc và kinh nghiệm phán đoán của những người đã vận hành quy trình trong nhiều năm. Họ biết thông tin nào quan trọng, quy tắc nào áp dụng trong từng hoàn cảnh cụ thể và điều gì sẽ xảy ra ở các khâu tiếp theo nếu đưa ra quyết định sai.

Khi chuyển đổi công việc đó, bạn phải bảo toàn kiến thức vận hành ấy. Trong lĩnh vực của chúng tôi, điều đó thường có nghĩa là kết hợp logic xác định với AI, thay vì cho rằng cần loại bỏ ngay mọi quy tắc. Trong quy trình thuộc lĩnh vực chịu sự quản lý, có những khâu mà công cụ luật lệ đặc biệt hữu ích vì yêu cầu rất chính xác. Ở những khâu khác, mô hình thông minh có thể xử lý các tình huống khác nhau hiệu quả hơn nhiều.

Chuyên môn trong lĩnh vực sẽ cho bạn biết mỗi giải pháp phù hợp với khâu nào.

Đó cũng là lý do không thể chỉ xem tỷ lệ giải quyết ngay lần đầu như một điểm số của mô hình. Quy trình phải tạo ra kết quả có thể đáp ứng yêu cầu ở bước tiếp theo. Nếu vấn đề lại dẫn đến một lần chuyển cấp xử lý ở khâu sau, thì bạn chỉ chuyển vấn đề sang nơi khác chứ chưa giải quyết được.

Hệ thống phải hiểu quy trình đủ sâu để biết một giao dịch thành công cần có kết quả như thế nào từ đầu đến cuối.

XBP Global đang áp dụng tự động hóa không chỉ trong hoạt động phục vụ khách hàng mà còn trong quá trình chuyển đổi nội bộ sang mô hình vận hành ưu tiên AI. Ông đã rút ra bài học gì khi dùng chính công ty làm nơi thử nghiệm, và ông cân bằng việc nâng cao năng suất với phát triển lực lượng lao động và quản lý sự thay đổi như thế nào?

Chúng tôi đã khá quyết liệt trong việc áp dụng AI nội bộ, bởi tôi cho rằng bạn sẽ học được rất nhanh khi chính hiệu quả kinh tế của mình phụ thuộc vào kết quả.

Các nỗ lực tự động hóa ưu tiên AI của chúng tôi hiện được kỳ vọng sẽ tạo ra khoản tiết kiệm chi phí vận hành quy đổi theo năm từ 65 triệu USD đến 75 triệu USD, trong đó lợi ích dự kiến đạt khoảng 35 triệu USD trong năm 2026. Doanh thu trên mỗi nhân viên đạt khoảng 89.000 USD trong quý II, tăng so với khoảng 82.000 USD của quý trước; chúng tôi kỳ vọng con số này sẽ tiến gần 100.000 USD vào cuối năm.

Đây là những thước đo hữu ích vì chúng cho biết mô hình vận hành có thực sự nâng cao năng suất hay không.

Tác động đến lực lượng lao động là điều có thật. Chúng tôi ước tính số lượng nhân sự toàn cầu sẽ giảm khoảng 20% vào cuối năm 2026 khi chuyển sang mô hình vận hành có năng suất cao hơn. Quản lý sự thay đổi phải thừa nhận rằng năng suất thay đổi sẽ kéo theo yêu cầu về nhân sự thay đổi.

Đồng thời, những người tiếp tục làm việc trong các quy trình này cần nâng cao năng lực. Chúng tôi cần các chuyên gia trong lĩnh vực, kiến trúc sư và nhân sự vận hành có thể tổ chức công việc, đánh giá đầu ra và chịu trách nhiệm về những quyết định có giá trị cao hơn.

Thực hiện quá trình chuyển đổi ngay trong công ty đã giúp cuộc trao đổi trở nên thực tế hơn nhiều. Bạn sẽ nhanh chóng nhận ra hoạt động tự động hóa nào tạo ra hiệu quả bền vững và hoạt động nào chỉ đơn thuần là có người sử dụng AI thường xuyên hơn.

Các dự án AI doanh nghiệp thường được quảng bá bằng những màn trình diễn thay vì kết quả kinh doanh có thể đo lường. Lãnh đạo nên sử dụng những chỉ số nào để đánh giá một quy trình thông minh, và nên tính đến độ chính xác, tỷ lệ ngoại lệ, thời gian xử lý, chi phí vận hành và mức độ giảm thiểu rủi ro như thế nào?

Tôi sẽ đánh giá quy trình ở hai cấp độ.

Ở cấp độ vận hành, tôi muốn biết độ chính xác, tỷ lệ giải quyết ngay lần đầu, thời gian xử lý, số lượng ngoại lệ và chi phí xử lý công việc. Trong môi trường chịu sự quản lý, tôi cũng quan tâm đến việc giao dịch có thể được kiểm toán hay không và các biện pháp kiểm soát có được duy trì nhất quán khi triển khai ở quy mô lớn hay không.

Tiếp đó, tôi muốn biết những cải thiện đó có giúp nâng cao hiệu quả kinh tế của doanh nghiệp hay không.

Tại XBP, biên lợi nhuận gộp điều chỉnh đạt 24,9% trong quý II, mức cao nhất từ trước đến nay, trong khi doanh thu trên mỗi nhân viên tăng lên khoảng 89.000 USD. Mục tiêu tiết kiệm chi phí vận hành quy đổi theo năm của chúng tôi cũng được nâng lên mức từ 65 triệu USD đến 75 triệu USD khi xác định thêm các cơ hội tự động hóa.

Những thước đo đó cho biết nhiều điều khác với điểm số đánh giá chuẩn. Chúng cho thấy công nghệ có đang làm thay đổi cơ cấu chi phí vận hành hay không.

Một quy trình có thể đạt độ chính xác mô hình rất cao nhưng vẫn là một triển khai kém hiệu quả nếu chi phí vận hành quá lớn hoặc phát sinh quá nhiều công việc phải làm lại thủ công. Tôi cho rằng lãnh đạo cần theo dõi kết quả đến cùng. Công nghệ phải tạo ra lợi ích vận hành thể hiện ở một chỉ số thực sự có thể đo lường.

Trong thời gian tới, ông có cho rằng AI tác tử sẽ tiếp tục là một lớp được bổ sung vào các hệ thống doanh nghiệp hiện có, hay sẽ trở thành lớp điều phối chính, nơi con người, phần mềm, dữ liệu và quy trình kinh doanh tương tác với nhau?

Tôi cho rằng ngày càng nhiều quy trình sẽ vận hành theo mô hình tác tử.

Doanh nghiệp vẫn sẽ có các hệ thống, kho dữ liệu và ứng dụng thực hiện những chức năng cụ thể. Điều thay đổi là cách công việc luân chuyển giữa chúng. Một quy trình dạng tác tử có thể truy xuất thông tin, điều phối các công cụ, kích hoạt hành động và xác định khi nào một giao dịch cần được can thiệp theo cách khác.

Bạn có thể thấy điều đó ngay trong ví dụ về hãng hàng không. Hồ sơ bảo trì được lưu trong một cơ sở dữ liệu vector riêng tư, bên trong môi trường của khách hàng, còn lớp tác tử quản lý cách truy cập và sử dụng thông tin đó trong suốt vòng đời bảo trì.

Tôi cho rằng kiểu điều phối đó sẽ trở nên phổ biến hơn nhiều.

Các mô hình nền tảng sẽ tiếp tục thay đổi. Các mô hình có trọng số mở đang được cải thiện nhanh chóng, và sẽ có thêm một thế hệ mô hình mới sau thế hệ mà chúng ta đang sử dụng hiện nay. Vì vậy, lớp điều phối ngày càng quan trọng, bởi doanh nghiệp cần một nền tảng bền vững bao quanh các mô hình đó.

Nếu xây dựng quy trình dựa trên quy trình nghiệp vụ, kiến thức chuyên ngành, yêu cầu bảo mật và các biện pháp kiểm soát của doanh nghiệp, bạn có thể tiếp tục tận dụng những mô hình tốt hơn khi chúng ra mắt. Tôi cho rằng đó sẽ là nơi tạo ra phần lớn giá trị dài hạn.

Cảm ơn ông về cuộc phỏng vấn tuyệt vời. Độc giả muốn tìm hiểu thêm có thể truy cập XBP Global.