Jayant Swamy, Kiến trúc sư Doanh nghiệp Chính tại Genpact – Loạt Phỏng vấn

Jayant Swamy, Kiến trúc sư Doanh nghiệp Chính tại Genpact, là một nhà lãnh đạo công nghệ và dữ liệu với hơn hai thập kỷ kinh nghiệm bao quát kiến trúc doanh nghiệp, trí tuệ nhân tạo, kỹ thuật dữ liệu, công nghệ đám mây và chuyển đổi số quy mô lớn. Trước khi gia nhập Genpact vào năm 2024, ông đã giữ chức CTO và Kiến trúc sư Chính tại Xtrac8.Tech và là CTO kiêm Đồng sáng lập một công ty khởi nghiệp AI tập trung vào các công nghệ như AI sinh tạo và các mô hình ngôn ngữ lớn. Trước đó, Swamy đã làm việc hơn một thập kỷ tại Accenture, nơi ông đảm nhiệm các vai trò lãnh đạo bao gồm CTO, Trưởng nhóm Toàn cầu và Giám đốc Điều hành Toàn cầu của Viện Trí tuệ Ứng dụng, Giám đốc Điều hành và Trưởng bộ phận Kinh doanh Toàn cầu cho mảng Dữ liệu trên Đám mây, và Kiến trúc sư Dữ liệu Chính và Trưởng nhóm Toàn cầu cho Kỹ thuật Dữ liệu và Đổi mới Dữ liệu. Ở giai đoạn đầu sự nghiệp, ông đã dành hơn bảy năm tại Fannie Mae giám sát các sáng kiến công nghệ và thông tin kinh doanh liên quan đến dịch vụ và quản lý tổn thất tín dụng, sau một thời gian làm Senior Principal tại Oracle (ORCL ).

Genpact là một công ty công nghệ và dịch vụ kinh doanh toàn cầu, tập trung giúp các doanh nghiệp chuyển đổi các hoạt động phức tạp thông qua trí tuệ nhân tạo, dữ liệu, trí tuệ quy trình và chuyên môn ngành. Công ty có nguồn gốc từ một sáng kiến năm 1997 trong GE Capital, trở thành độc lập vào năm 2005 và niêm yết trên Sàn giao dịch chứng khoán New York vào năm 2007. Hiện nay, Genpact hợp tác với các tổ chức trên nhiều ngành, bao gồm ngân hàng, bảo hiểm, tài chính, chuỗi cung ứng, hàng tiêu dùng, chăm sóc sức khỏe và công nghệ, với trọng tâm ngày càng tăng vào AI sinh tạo, các hệ thống tự động (agentic systems), tự động hoá và các hoạt động doanh nghiệp được hỗ trợ bởi AI.

Hành trình nghề nghiệp của bạn đã đưa bạn từ các vai trò lãnh đạo về kiến trúc doanh nghiệp và dữ liệu tại Oracle, Fannie Mae và Accenture, tới môi trường khởi nghiệp và vị trí hiện tại là Kiến trúc sư Doanh nghiệp Chính tại Genpact. Trải nghiệm đó đã hình thành quan điểm của bạn như thế nào về việc AI tự chủ tạo ra giá trị thực sự cho doanh nghiệp và khi nào phán đoán của con người vẫn là thiết yếu? 

Trong suốt sự nghiệp của mình, tôi đã nhận ra rằng quy mô, quản trị, tích hợp và rủi ro quan trọng không kém sự đổi mới. Kinh nghiệm doanh nghiệp cho thấy công nghệ ấn tượng vẫn có thể thất bại nếu không thể hoạt động trong tổ chức; các công ty khởi nghiệp nhấn mạnh giá trị của việc di chuyển nhanh, thử nghiệm và duy trì kiến trúc đơn giản, linh hoạt. AI tự chủ hoạt động tốt nhất khi bạn kết hợp cả hai tư duy — đổi mới với tốc độ cao đồng thời duy trì nền tảng vững chắc. Theo cách đó, AI có thể thực sự biến đổi cách công việc lưu thông trong một tổ chức. Những phát hiện từ nghiên cứu gần đây đã khẳng định quan điểm này một cách rõ ràng.

Mô hình tự nó chỉ là một phần của phương trình. Kiến trúc xung quanh — dữ liệu, hệ thống, quy trình làm việc, kiểm soát và tích hợp — quyết định liệu AI có tạo ra giá trị ở quy mô lớn hay không. Đó là ý nghĩa của câu “không có trí tuệ nhân tạo mà không có trí tuệ quy trình”. Đây cũng là nền tảng cho công việc AI ứng dụng của chúng tôi tại Genpact Labs, nơi chúng tôi biến các khả năng AI mới nổi thành các giải pháp cấp sản xuất, sẵn sàng cho khách hàng. Mỗi khả năng đều gắn liền với một kết quả kinh doanh có thể đo lường và được tích hợp vào quy trình làm việc, dữ liệu và các kiểm soát cần thiết để vận hành.

AI nên được phép hành động khi mục tiêu rõ ràng, dữ liệu đáng tin cậy và các giới hạn được hiểu rõ. Phán đoán của con người vẫn thiết yếu đối với những quyết định có mức độ rủi ro cao, mơ hồ, mang tính chủ quan, chịu quy định, hoặc đòi hỏi trách nhiệm và sự đồng cảm. Tự chủ không có nghĩa là loại bỏ con người khỏi hệ thống. Nó là việc thiết kế hệ thống sao cho mọi người biết AI có thể hoạt động độc lập ở đâu, con người cần sự minh bạch ở đâu, và khi nào phán đoán của con người phải tiếp quản.

Nhiều công ty đánh giá AI hướng tới khách hàng chủ yếu dựa trên tốc độ, tỷ lệ giữ lại (containment) và tiết kiệm chi phí. Tại sao các chỉ số này lại có thể tạo ra một bức tranh sai lệch về việc công nghệ thực sự cải thiện trải nghiệm khách hàng hay không?

Vấn đề là những chỉ số này chủ yếu đo lường hiệu suất. Chúng cho bạn biết hệ thống hoạt động như thế nào, nhưng không nhất thiết phản ánh cách khách hàng trải nghiệm. Lấy ví dụ về tỷ lệ giữ lại (containment): một tỷ lệ cao có thể trông thành công nội bộ, nhưng lại có thể che giấu kết quả kém nếu khách hàng bỏ cuộc, lặp lại yêu cầu, nhận được câu trả lời không đầy đủ, hoặc không thể tiếp cận người khi cần. Containment chỉ cho thấy AI đã giữ khách hàng trong hệ thống, không phải rằng họ đã nhận được những gì họ cần. Điều tương tự cũng áp dụng cho việc tiết kiệm chi phí, có thể xảy ra với cái giá là mất đi niềm tin, sự hài lòng hoặc chất lượng giải quyết.

Các hệ thống AI tối ưu hoá dựa trên các tín hiệu bạn cung cấp, vì vậy doanh nghiệp cần thiết kế các chỉ báo đo lường vào hệ thống ngay từ đầu — kết nối các chỉ số đầu cuối như tốc độ và containment với các tín hiệu hạ lưu như việc giải quyết vấn đề và liệu kết quả có tạo ra vấn đề ở nơi khác hay không. Cuối cùng, AI hướng tới khách hàng nên được đo lường dựa trên việc nó có giải quyết được vấn đề nền tảng của người dùng cuối một cách chính xác, công bằng và với mức độ hỗ trợ con người phù hợp hay không.

AI agent nên dựa vào những tín hiệu nào để nhận diện sự không chắc chắn, bực bội, khẩn cấp, hoặc một tình huống nằm ngoài quy trình đã thiết lập? 

Không có một tín hiệu “ma thuật” duy nhất — điều quan trọng là cung cấp cho hệ thống đủ ngữ cảnh và khả năng quan sát để nhận ra khi mức độ tự tin, quyền hạn hoặc thông tin của nó không còn đủ. Điều này có thể biểu hiện qua thông tin mâu thuẫn, các cố gắng thất bại lặp lại, hoặc agent lặp lại vòng lặp. Nó cũng có thể là sự thay đổi trong ngôn ngữ của khách hàng — một tín hiệu rõ ràng về sự bực bội hoặc khẩn cấp — hoặc nhiệm vụ tự nó yêu cầu thông tin, truy cập hoặc quyền hạn mà agent không có.

Hệ thống cũng cần biết giới hạn của chính nó. Nếu một vấn đề nằm ngoài quy trình đã thiết kế, yêu cầu dữ liệu không thể truy cập, hoặc vượt qua ngưỡng rủi ro đã định, thì nên kích hoạt một lộ trình khác. Mục tiêu không phải là để agent xử lý mọi kịch bản có thể — mà là để nó biết khi nào nên dừng lại, nâng cấp, hoặc yêu cầu trợ giúp.

Các công ty có thể phân biệt giữa một tương tác chỉ phức tạp và một tương tác thực sự cần phán đoán hoặc sự đồng cảm của con người như thế nào?

Ranh giới không phải dựa trên độ khó của nhiệm vụ. Nó dựa trên mức độ phán đoán, hậu quả và bối cảnh con người mà quyết định mang lại. Thiết lập các hoạt động tự động (agentic) nơi máy móc xử lý và con người xác thực đòi hỏi phải hiểu rõ nơi giá trị con người không thể thay thế.

AI có thể xử lý các nhiệm vụ rất phức tạp khi mục tiêu rõ ràng, dữ liệu đáng tin cậy, quy trình được xác định và kết quả có thể đo lường. Sự phức tạp tự nó không nhất thiết đòi hỏi con người nếu hệ thống hiểu các giới hạn mà nó được phép hoạt động. Con người cần được đưa vào khi ý định của khách hàng không rõ ràng, tình huống yêu cầu sự thận trọng, có nhiều kết quả hợp lệ, hoặc quyết định mang lại hậu quả tài chính, pháp lý, y tế hoặc uy tín đáng kể. Một số tương tác cũng cần sự an ủi, giải thích, thương lượng hoặc đồng cảm — không chỉ là câu trả lời. Sự tham gia của con người ở đó quan trọng không kém độ chính xác kỹ thuật. Kiến trúc cần phản ánh sự phân biệt này. Các điểm can thiệp đó nên được thiết kế vào quy trình làm việc ngay từ đầu, không phải quyết định sau khi có sự cố.

Quy trình nâng cấp hiệu quả nên như thế nào để khách hàng không phải lặp lại thông tin hoặc bắt đầu lại cuộc tương tác khi một nhân viên con người tiếp quản?

Một quy trình nâng cấp tốt không chỉ chuyển giao khách hàng — mà còn chuyển giao ngữ cảnh, để người tiếp theo có thể ngay lập tức hướng tới giải quyết. Khi một con người tiếp quản, họ nên đã có lịch sử cuộc trò chuyện, danh tính và hồ sơ của khách hàng, và những gì AI đã thử — đủ để tránh yêu cầu khách hàng phải bắt đầu lại.

Đây chủ yếu là vấn đề kiến trúc: nếu AI chỉ tồn tại trong giao diện chat phía trước, không kết nối với CRM, ERP, nguồn tri thức, quy trình làm việc và lớp điều phối, việc chuyển giao liền mạch sẽ trở nên không thể.

Mức độ nâng cấp có nên thay đổi tùy thuộc vào các yếu tố như rủi ro tài chính, tính dễ tổn thương của khách hàng, yêu cầu quy định, hoặc hậu quả tiềm tàng của một quyết định sai?

Quy tắc nâng cấp nên phụ thuộc vào mức độ rủi ro. Hậu quả càng lớn khi sai lầm, thì con người nên can thiệp càng sớm.

Việc đặt lại mật khẩu có thể được thực hiện hoàn toàn tự động, nhưng một giao dịch tài chính có tranh chấp cần có kiểm soát chặt chẽ hơn. Trong các trường hợp yêu cầu bồi thường hoặc thu hồi nợ, điều này có thể đồng nghĩa với việc tự chủ hoàn toàn cho các cập nhật trạng thái thường xuyên, nhưng yêu cầu kiểm tra bắt buộc của con người khi một trường hợp vượt qua ngưỡng tiền tệ hoặc xuất hiện dấu hiệu khó khăn. Quyết định càng được quy định hoặc có hậu quả lớn, mức độ giám sát càng phải chặt chẽ. Khách hàng dễ tổn thương có thể cần can thiệp của con người sớm hơn, và các quyết định có hậu quả không thể đảo ngược nên có ngưỡng tự chủ thấp hơn.

Những ngưỡng này cũng không nên để các agent cá nhân tự diễn giải một cách tùy tiện. Chúng cần được tích hợp vào kiến trúc và lớp điều phối, với các quy tắc rõ ràng về những gì agent được phép thực hiện, những gì cần xác thực bổ sung, và những gì phải được nâng cấp.

Cơ hội là để tự chủ mở rộng theo mức độ rủi ro — tốc độ tối đa cho các công việc ít rủi ro, kiểm soát chặt chẽ hơn ở những nơi quan trọng. Tại Genpact, chúng tôi đã xây dựng việc phân lớp này ngay trong cách thiết kế các quy trình làm việc tự động — cho phép các trường hợp thường xuyên chạy tự động trong khi chuyển bất kỳ trường hợp nào vượt qua ngưỡng rủi ro hoặc tiền tệ đã định sang con người, một cách tự động và không cần agent quyết định nâng cấp. Các doanh nghiệp áp dụng mức tự chủ đồng nhất cho mọi tương tác sẽ nhanh chóng biến sự tiện lợi thành những lỗi tốn kém.

Ngoài việc hoàn thành nhiệm vụ, các tổ chức nên sử dụng những chỉ số nào để đánh giá liệu hệ thống dịch vụ khách hàng tự động có tạo ra kết quả tích cực cho khách hàng hay không?

Hoàn thành nhiệm vụ là hữu ích, nhưng không đủ. Câu hỏi không nên là “agent đã hoàn thành nhiệm vụ chưa?” mà nên là “khách hàng có kết thúc ở vị trí tốt hơn không?” Đó là sự khác biệt giữa hứa hẹn một kết quả và chịu trách nhiệm về nó.

Điều đó có nghĩa là nhìn ra ngoài thời gian xử lý, đến các chỉ số như độ chính xác phản hồi, giải quyết trong lần tiếp xúc đầu tiên, số lần liên hệ lại, chất lượng nâng cấp, sự hài lòng của khách hàng, và tính công bằng, nhất quán của kết quả. Nó cũng đồng nghĩa với việc đo lường vượt ra ngoài một tương tác riêng lẻ. Một agent có thể xuất hiện thành công ở một phần của hành trình khách hàng trong khi tạo ra vấn đề ở giai đoạn sau. Ví dụ, một trường hợp đóng nhanh vẫn có thể gây ra một cuộc gọi khác vài tuần sau, ảnh hưởng đến cảm nhận của khách hàng và cuối cùng đòi hỏi can thiệp của con người, vì vậy việc theo dõi xem nó có vẫn được giải quyết sau 30 ngày hay không là cần thiết.

Cũng quan trọng để biết hệ thống thực sự giải quyết nhu cầu cốt lõi của khách hàng hay không, thay vì chỉ đóng cuộc tương tác và coi đó là thành công. Điều này đòi hỏi khả năng quan sát từ đầu đến cuối qua toàn bộ quy trình, không chỉ các chỉ số từ giao diện AI. Đo lường kết quả của khách hàng và doanh nghiệp, thay vì chỉ hoạt động, mới tiết lộ ROI thực sự của AI.

Doanh nghiệp có thể ngăn chặn AI agents tối ưu hoá các mục tiêu vận hành, như giảm khối lượng cuộc gọi hoặc thời gian xử lý, mà gây tổn hại đến tính công bằng, niềm tin, hoặc nhu cầu cốt lõi của khách hàng như thế nào?

Các hệ thống AI rất giỏi trong việc đạt được bất kỳ mục tiêu nào được giao. Đó là lợi thế và cũng là rủi ro: nếu bạn nói với một hệ thống tự động rằng tốc độ là mục tiêu duy nhất, nó sẽ hy sinh mọi thứ khác để đạt được mục tiêu đó.

Doanh nghiệp cần cung cấp cho AI một bộ mục tiêu cân bằng, trong đó hiệu quả quan trọng, nhưng đồng thời phải song hành với kết quả của khách hàng, rủi ro, công bằng, độ chính xác và niềm tin. Điều này đạt được bằng cách đặt ra các rào chắn rõ ràng về hành vi chấp nhận được, kiểm tra độ thiên vị và các kết quả không mong muốn, duy trì cơ chế can thiệp của con người, liên tục giám sát các quyết định, và làm cho các kết quả có thể truy xuất và kiểm toán. Quản trị không thể chỉ là một bổ sung sau khi hệ thống đã hoạt động; nó phải được tích hợp vào kiến trúc ngay từ đầu.

Ngữ cảnh của khách hàng có thể được phân tán qua các cuộc trò chuyện, giao dịch, kênh và hệ thống doanh nghiệp trước đó. Các công ty có thể cung cấp cho AI agents đủ ngữ cảnh để đưa ra quyết định tốt hơn mà không tạo ra rủi ro mới về quyền riêng tư, bảo mật hoặc quản trị như thế nào?

Câu trả lời cho ngữ cảnh rời rạc không phải là cho phép AI agent truy cập vào mọi thứ. Đó là cung cấp cho nó quyền truy cập được quản lý vào thông tin đúng lúc, đúng thông tin. Doanh nghiệp cần một lớp dữ liệu và tích hợp mạnh mẽ, kết nối các agent với các hệ thống ghi chép có thẩm quyền đồng thời kiểm soát những gì mỗi agent có thể xem và làm. Điều này bao gồm quyền truy cập dựa trên vai trò và mục đích, dữ liệu tối thiểu cần thiết, theo dõi nguồn gốc, nhật ký kiểm toán và bảo vệ thông tin nhạy cảm.

Nhiều ngữ cảnh hơn sẽ cải thiện quyết định của AI, nhưng chỉ khi nó được quản lý. Nếu không, việc giải quyết một vấn đề có thể tạo ra một vấn đề về quyền riêng tư hoặc bảo mật lớn hơn. Khi được xử lý tốt, ngữ cảnh sẽ tích lũy khi hệ thống học từ các ngoại lệ trước, làm cho các tương tác trong tương lai thông minh hơn mà không tạo ra rủi ro mới.

Khi AI hướng tới khách hàng trở nên tự chủ hơn, bạn dự đoán mối quan hệ giữa AI agents và nhân viên con người sẽ phát triển như thế nào, và các tổ chức cần xây dựng những năng lực nào ngay bây giờ để làm cho sự hợp tác này thành công?

Vai trò của con người sẽ dần chuyển từ việc thực hiện mọi bước của một quy trình sang việc chỉ đạo, giám sát và cải thiện hệ thống các agent chịu trách nhiệm khối lượng công việc. Con người sẽ dành nhiều thời gian hơn để đặt mục tiêu, xử lý ngoại lệ, thực hiện phán đoán, xác thực các quyết định có rủi ro cao, tinh chỉnh quy trình làm việc, giám sát hành vi của agent và cải thiện kiến trúc cùng quản trị phía sau các hệ thống tự động này. Điều này cũng thay đổi các kỹ năng mà công ty cần. Sự thông thạo AI sẽ quan trọng, nhưng đồng thời cũng cần tư duy phản biện, chuyên môn ngành, khả năng điều phối agent, khả năng quan sát và khả năng thách thức hệ thống AI khi có dấu hiệu sai lệch.

Đây không chỉ là thách thức về lực lượng lao động. Các tổ chức cần có kiến trúc hỗ trợ sự hợp tác này, kết nối các agent với dữ liệu và hệ thống phù hợp, điều phối cách chúng làm việc cùng nhau, và cung cấp cho con người khả năng nhìn thấy những gì chúng đang thực hiện. Quản trị, cơ chế can thiệp của con người và quy trình nâng cấp đều cần được thiết kế ngay từ đầu.

Trong vai trò Kiến trúc sư Doanh nghiệp Chính, tôi coi đó là nhiệm vụ của mình để đảm bảo toàn bộ tổ chức không chỉ biết cách sử dụng AI, mà còn biết khi nào nên tin tưởng vào nó, khi nào đặt câu hỏi và khi nào kiểm soát. Nhờ đó, kiến trúc trở thành cánh cửa dẫn tới AI có trách nhiệm, tạo dựng niềm tin và tác động thực sự.

Cảm ơn các bạn đã tham gia buổi phỏng vấn tuyệt vời, những độc giả muốn tìm hiểu thêm nên truy cập Genpact.