Ali Sarrafi, CEO và Nhà sáng lập Kovant – Loạt bài phỏng vấn

Ali Sarrafi, CEO kiêm nhà sáng lập của Kovant, là một chuyên gia giàu kinh nghiệm trong lĩnh vực công nghệ và trí tuệ nhân tạo, hiện đang sống tại Stockholm, với thành tích xây dựng và phát triển các công ty AI có tốc độ tăng trưởng cao. Kể từ khi thành lập Kovant vào cuối năm 2024, ông đã tận dụng kinh nghiệm sâu rộng trong chiến lược AI doanh nghiệp, thực thi chiến lược tiếp thị và mở rộng quy mô hoạt động. Trước đó, ông từng giữ chức Phó Chủ tịch Chiến lược tại Silo AI sau khi công ty này được AMD mua lại, nơi ông chịu trách nhiệm định hình chiến lược AI doanh nghiệp và thúc đẩy việc áp dụng trên quy mô lớn. Trước đó nữa, ông là người đồng sáng lập Combient Mix, dẫn dắt công ty trải qua giai đoạn tăng trưởng nhanh chóng và được Silo AI mua lại thành công, và kể từ đó đã giữ các vai trò cố vấn và thành viên hội đồng quản trị tại các công ty khởi nghiệp về giáo dục và AI, thể hiện sự tập trung nhất quán vào việc chuyển đổi AI tiên tiến thành tác động kinh doanh thực tế.

Kovant Kovant là một công ty trí tuệ nhân tạo (AI) doanh nghiệp tập trung vào việc giúp các tổ chức chuyển từ việc sử dụng AI thử nghiệm sang các quy trình kinh doanh tự động, vận hành hoàn toàn. Công ty phát triển một nền tảng dựa trên tác nhân được thiết kế để điều phối các nhóm tác nhân AI trên các lĩnh vực hoạt động phức tạp như mua sắm, chuỗi cung ứng, tuân thủ và hoạt động khách hàng. Bằng cách nhấn mạnh vào việc triển khai an toàn, cấp doanh nghiệp và thời gian đạt được giá trị nhanh chóng, Kovant định vị mình như một cầu nối giữa tham vọng chiến lược về AI và việc thực thi hàng ngày, giúp các tổ chức lớn tích hợp AI trực tiếp vào các quy trình làm việc cốt lõi thay vì coi nó như một công cụ độc lập hoặc dự án thí điểm.

Ông đã dẫn dắt các sáng kiến ​​AI lớn tại Spotify, mở rộng quy mô và thoái vốn khỏi Combient Mix, và sau đó định hình chiến lược AI doanh nghiệp tại Silo AI trước khi thành lập Kovant. Những thiếu sót hoặc khó khăn cụ thể nào ông gặp phải trong các vai trò đó đã thuyết phục ông rằng đã đến lúc xây dựng một nền tảng doanh nghiệp tự động hóa, và lịch sử đó đã định hình triết lý thiết kế cốt lõi của Kovant như thế nào?

Trong các vai trò trước đây của tôi, một vài điểm yếu nhất quán cứ liên tục xuất hiện. Thứ nhất, hầu hết các công cụ AI "chuyên dụng" đều bị giới hạn trong một hệ thống phần mềm duy nhất: chúng hoạt động tốt hơn một chút ở một khía cạnh nào đó trong phạm vi đó, nhưng lại gặp khó khăn khi quy trình làm việc cần trải rộng trên nhiều hệ thống. Đồng thời, dữ liệu doanh nghiệp lại nằm rải rác trên rất nhiều công cụ, và nhiều giải pháp tự động hóa đơn giản là không thể truy cập được. Thêm vào đó là nhiều năm tích hợp riêng lẻ, bạn sẽ có được kiến ​​trúc "mì spaghetti" kinh điển: độ phức tạp tăng lên, tốc độ thay đổi chậm lại, và các nhóm cuối cùng chỉ tự động hóa các bước riêng lẻ thay vì tái cấu trúc toàn bộ quy trình làm việc từ đầu đến cuối. Kết quả là, lợi tức đầu tư (ROI) thường đến chậm hơn – và nhỏ hơn – so với kỳ vọng của các tổ chức.

Kovant được thiết kế để đáp ứng thực tế đó. Triết lý cốt lõi của chúng tôi là các tác nhân nên hoạt động giống như nhân viên: chúng làm việc trên nhiều công cụ, chúng được "thuê" để thực hiện công việc, chứ không phải để tự động hóa một chuỗi kịch bản duy nhất. Đó là lý do tại sao các tích hợp và điều phối được tích hợp sẵn, và tại sao chúng tôi giả định dữ liệu doanh nghiệp thường lộn xộn và không có cấu trúc – nó cần một cách tiếp cận giống con người hơn để xử lý các trường hợp ngoại lệ và sự mơ hồ.

Chúng tôi sử dụng các tác nhân nền tảng để đạt được tốc độ và khả năng mở rộng, đồng thời luôn đặt chủ quyền dữ liệu lên hàng đầu: các doanh nghiệp có thể truy cập và sử dụng dữ liệu của chính họ theo chiều ngang mà không cần dữ liệu rời khỏi cơ sở của họ.

Kovant định vị mình là một nền tảng doanh nghiệp tự động có khả năng vận hành toàn bộ hoạt động và các bộ phận bằng các tác nhân AI. Vậy, trong bối cảnh doanh nghiệp, bạn định nghĩa “tự động” như thế nào, và điều này khác biệt ra sao so với các công cụ tự động hóa và tác nhân mà các công ty đang thử nghiệm hiện nay?

Trong bối cảnh doanh nghiệp, khi chúng ta nói "tự chủ", chúng ta không có nghĩa là "không cần giám sát". Chúng ta muốn nói rằng các tác nhân AI có thể thực hiện các hành động thực tế từ đầu đến cuối trong toàn bộ hoạt động với các mục tiêu và giới hạn rõ ràng, và chúng sẽ chuyển giao cho con người khi cần sự giám sát.

Điều làm nên sự khác biệt của Kovant chính là các tác nhân nền tảng của chúng tôi. Thay vì tự động hóa một quy trình cố định duy nhất hoặc tuân theo một trình tự được xây dựng sẵn, các tác nhân Kovant có thể hoạt động theo nhóm (hoặc bầy đàn) trong một thao tác chỉ bằng các hướng dẫn và một bản tổng quan về hoạt động mà chúng tôi gọi là bản thiết kế. Chúng không được thiết kế cho một nhiệm vụ cụ thể; chúng cộng tác để giải quyết các quy trình công việc phức tạp, thích ứng khi điều kiện thay đổi và chuyển giao cho con người khi tình huống yêu cầu sự giám sát.

Ví dụ, một nhóm nhân viên quản lý kho có thể thực hiện tất cả các công việc sau mà không cần phải xây dựng lại từ đầu, bao gồm: liên lạc với nhà cung cấp qua email, theo dõi mức tồn kho và tín hiệu hết hàng, theo dõi lô hàng và đơn đặt hàng, cập nhật trạng thái trên các hệ thống, tạo phiếu báo cáo sai lệch để người lập kế hoạch tồn kho phê duyệt, phân phối lại hàng tồn kho giữa các kho và tổng hợp các báo cáo tồn kho.

Vì vậy, sự thay đổi là thay vì "trò chuyện kèm công cụ" hoặc các hệ thống tự động hóa dễ hỏng khi mở rộng quy mô, các doanh nghiệp chuyển từ việc xây dựng các tác nhân sang vận hành chúng trên quy mô lớn.

Mặc dù trí tuệ nhân tạo dựa trên tác nhân (agent-AI) đang thu hút sự quan tâm rất lớn, nhiều tổ chức vẫn đang mắc kẹt ở giai đoạn thử nghiệm. Từ những gì bạn thấy trong các triển khai thực tế, đâu là những lý do chính khiến các công ty gặp khó khăn trong việc chuyển từ giai đoạn thử nghiệm sang sản xuất quy mô lớn?

Điều chúng ta đang thấy là hầu hết các tổ chức không bị mắc kẹt trong giai đoạn thử nghiệm vì ý tưởng sai lầm; mà là vì môi trường không thuận lợi cho việc mở rộng quy mô.

Trở ngại đầu tiên là sự phân mảnh của hệ sinh thái công nghệ doanh nghiệp. Các quy trình làm việc trải rộng trên nhiều hệ thống, dữ liệu nằm rải rác ở nhiều nơi, và việc kết nối mọi thứ lại với nhau một cách đáng tin cậy là rất khó. Và trí tuệ nhân tạo (AI) thường được triển khai như một tiện ích bổ sung cho các công cụ hiện có, thay vì là một cách để định hình lại cách thức hoạt động của quy trình làm việc từ đầu đến cuối.

Ngoài ra còn có vấn đề thực sự về kiến ​​trúc và dữ liệu. Nhiều nhà cung cấp SaaS vẫn cố gắng khóa dữ liệu, điều này tạo ra sự không tương thích và hạn chế những gì các nhân viên có thể thực hiện trên các hệ thống khác nhau. Và nhiều nhóm đánh giá thấp thực tế rằng hầu hết dữ liệu doanh nghiệp đều không có cấu trúc (email, tài liệu, phiếu yêu cầu, PDF, nhật ký trò chuyện). Nếu phương pháp của bạn giả định dữ liệu sạch, có cấu trúc, thì thời gian đạt được giá trị sẽ kéo dài, khó khăn và khó nhân rộng ngoài giai đoạn thử nghiệm.

Tóm lại: sự phân mảnh, sự phụ thuộc vào một hệ thống duy nhất và dữ liệu không có cấu trúc tạo ra lực cản – và các dự án thí điểm sẽ không bao giờ được đưa vào sản xuất cho đến khi những thực tế đó được thiết kế để giải quyết.

Độ tin cậy thường được coi là rào cản lớn nhất khi triển khai các tác nhân AI trong thế giới thực. Tại sao rất nhiều hệ thống tác nhân lại thất bại khi rời khỏi môi trường được kiểm soát, và cách tiếp cận của Kovant làm thế nào để giảm thiểu các vấn đề như ảo giác và hành vi khó đoán?

Một số hệ thống trợ lý ảo trông rất tuyệt trong các bản demo, nhưng lại thất bại trong thực tế vì môi trường phức tạp và khó lường. Dữ liệu không đầy đủ hoặc không nhất quán, các trường hợp ngoại lệ xuất hiện liên tục (hoàn tiền, tranh chấp, phê duyệt đặc biệt). Quy trình làm việc trải rộng trên nhiều công cụ, nền tảng và tích hợp khác nhau, và quyền hạn cũng thay đổi. Khi một trợ lý ảo được yêu cầu xử lý một nhiệm vụ lớn và được cung cấp quá nhiều thông tin cùng một lúc, nguy cơ ảo giác và hành vi kỳ lạ sẽ tăng lên.

Kovant giảm thiểu điều này nhờ thiết kế của chúng tôi. Kiến trúc độc đáo của chúng tôi thu hẹp không gian vấn đề, không gian quyết định và ngữ cảnh mà các mô hình hoạt động để giảm thiểu hiện tượng ảo giác. Chúng tôi cũng chia nhỏ các hoạt động thành các nhiệm vụ cụ thể, tập trung cho từng tác nhân và từng bước riêng lẻ. Điều đó làm cho hành vi dễ dự đoán hơn, đồng thời tăng khả năng truy vết và kiểm soát trong hệ thống và quản lý ảo giác tốt hơn. Chúng ta có thể thấy từng tác nhân đã làm gì, lỗi bắt đầu từ đâu và can thiệp hoặc leo thang khi cần thiết.

Ảo giác không tự nhiên biến mất, nhưng bằng cách giới hạn trách nhiệm của mỗi tác nhân và phạm vi hoạt động của chúng, chúng ta có thể giảm tần suất xuất hiện và hạn chế tác động của chúng. Phương pháp “giới hạn nhiệm vụ/phạm vi” này cũng được hỗ trợ bởi các nghiên cứu gần đây của nhóm nghiên cứu Nvidia, những người đã tìm thấy những lợi ích tương tự từ việc giới hạn quá trình ra quyết định của tác nhân.

Trách nhiệm giải trình là mối quan ngại lớn khi các tác nhân AI bắt đầu thực hiện các hành động thực tế trong hệ thống kinh doanh. Nhật ký hành động chi tiết sẽ thay đổi cuộc thảo luận về lòng tin, sự tuân thủ và rủi ro vận hành như thế nào?

Với nhật ký hành động chi tiết, chúng ta có thể thấy điều gì đã xảy ra, tại sao nó xảy ra và điều gì sẽ xảy ra tiếp theo.

Các nhật ký chi tiết biến một tác nhân từ một con bot bí ẩn đang hoạt động trong máy thành một hệ thống mà bạn có thể kiểm tra.

Tại Kovant, với bất kỳ việc triển khai tác nhân AI nào, sẽ có một bản đồ rủi ro mà tổ chức có thể dựa vào đó để xử lý. Chúng tôi tích hợp cơ chế kiểm soát chặt chẽ đối với các hành động rủi ro, nghĩa là các tác nhân chỉ có thể thực hiện những nhiệm vụ đó nếu được con người xem xét và phê duyệt. Tất cả những điều này đều được ghi lại giống như cách ghi chép trong hệ thống hồ sơ và có thể truy vết được.

Chúng tôi tin rằng việc kết hợp nhật ký hoạt động với sự giám sát và quan sát của con người là rất quan trọng để giảm thiểu rủi ro. Điều này có nghĩa là bạn vẫn nhận được lợi ích về tốc độ và quy mô khi các tác nhân thực hiện các hoạt động thực tế.

Hiện đang có nhiều cuộc thảo luận về việc liệu các tác nhân AI có thể được bảo hiểm hay không do quá trình ra quyết định thiếu minh bạch của chúng. Việc cho phép kiểm toán và phát lại quy trình làm việc của các tác nhân này giúp giải quyết vấn đề "hộp đen" và mở ra khả năng được bảo hiểm như thế nào?

Vấn đề "hộp đen" chính là điều khiến việc bảo hiểm trở nên khó khăn. Nếu không thể chứng minh rõ ràng đại lý đã làm gì, tại sao lại làm vậy và những biện pháp kiểm soát nào đã được áp dụng, thì việc định giá rủi ro sẽ rất khó khăn đối với bất kỳ ai, đặc biệt là các công ty bảo hiểm.

Về cơ bản, phương pháp của chúng tôi là sự mở rộng của cơ chế trách nhiệm giải trình trong câu trả lời trước. Chúng tôi chia nhỏ phạm vi quyết định và tác động của các hành động thành các phần nhỏ hơn, để mô hình không đưa ra một quyết định khổng lồ, khó hiểu có thể làm thay đổi toàn bộ hoạt động. Mỗi bước đều hẹp hơn, dễ dự đoán hơn và dễ đánh giá hơn.

Tiếp theo, chúng tôi bổ sung nhật ký chi tiết, khả năng quan sát và sự giám sát của con người. Đối với những quyết định quan trọng và có tác động lớn nhất, chúng tôi sử dụng người gác cổng để nhân viên chỉ có thể tiếp tục sau khi được xem xét và phê duyệt. Điều này tạo ra khả năng hiển thị rõ ràng hơn về cách thức hoạt động của quy trình trong thực tế.

Việc làm cho quy trình làm việc có thể kiểm toán và phát lại được là bước cuối cùng. Nếu có sự cố xảy ra, bạn có thể tái tạo lại những gì đã xảy ra, nhanh chóng điều tra, xác nhận các bản sửa lỗi và chứng minh tần suất cần sự phê duyệt của con người cũng như vị trí của các biện pháp bảo vệ. Về mặt thuật ngữ bảo hiểm, điều đó biến Hành vi bí ẩn của trí tuệ nhân tạo thành một thứ gì đó gần hơn với rủi ro vận hành tiêu chuẩn.

Với những sáng kiến ​​như của Tổ chức Agentic AI Foundation nhằm tạo ra các tiêu chuẩn chung cho hệ thống tác nhân, bạn thấy khía cạnh nào là triển vọng nhất của những nỗ lực này, và chúng vẫn còn thiếu sót ở điểm nào đối với hoạt động thực tế của doanh nghiệp?

Việc tiêu chuẩn hóa nhìn chung là một điều tốt. AAIF có thể thực hiện công việc không hào nhoáng nhưng thiết yếu là giúp các hệ thống đại lý sử dụng cùng một ngôn ngữ, điều này sẽ giúp việc tích hợp dễ dàng hơn và giảm sự phụ thuộc vào nhà cung cấp theo thời gian.

Điều tôi lo ngại là quan điểm của ai sẽ định hình các tiêu chuẩn. Nếu phần lớn công việc do những người tạo mô hình và các công ty công nghệ mới nổi dẫn dắt, thì có nguy cơ các “tiêu chuẩn” sẽ tối ưu hóa cho những gì dễ xây dựng hoặc trình diễn nhất, thay vì những gì các tổ chức lớn thực sự cần để vận hành các tác nhân một cách an toàn hàng ngày.

Đối với hoạt động thực tế của doanh nghiệp, những thiếu sót thường không nằm ở các kết nối mà ở vấn đề kiểm soát: quyền truy cập và thay đổi của người dùng, quy trình phê duyệt cho các hành động có tác động lớn, nhật ký kiểm toán và khả năng quan sát để các nhóm có thể giám sát hành vi, điều tra sự cố và chứng minh sự tuân thủ. Doanh nghiệp cũng cần các tiêu chuẩn thực tiễn để hoạt động trong môi trường thực tế phức tạp: kiểm thử các trường hợp ngoại lệ, xử lý các hệ thống thay đổi và khả năng tạm dừng, ngăn chặn hoặc hoàn tác các hành động một cách an toàn trên các công cụ cũ và môi trường dữ liệu được quản lý.

Vì vậy, đây là một hướng đi đầy hứa hẹn, nhưng tác động sẽ bị hạn chế trừ khi các yêu cầu của doanh nghiệp và các biện pháp kiểm soát rủi ro vận hành không bị xem nhẹ.

Kovant đã tạo ra doanh thu đáng kể từ các doanh nghiệp lớn ở Bắc Âu trong khi hoạt động phần lớn là bí mật. Vậy những loại chức năng kinh doanh hoặc quy trình làm việc nào đang tỏ ra sẵn sàng nhất cho các tác nhân AI tự động hiện nay?

Từ những gì chúng tôi đã thấy trong các triển khai thực tế, các quy trình làm việc “sẵn sàng” nhất hiện nay là những quy trình bao gồm các công việc văn phòng mang tính phản ứng: giám sát, theo dõi, kiểm tra, cập nhật hệ thống, xử lý các ngoại lệ và duy trì hoạt động trên nhiều công cụ khác nhau.

Trong lĩnh vực sản xuất và chuỗi cung ứng doanh nghiệp nói chung, điều đó thể hiện ở nhiều khía cạnh:

• Tìm nguồn cung ứng/mua sắmCác yếu tố cần xem xét bao gồm: nguồn cung nguyên liệu thô, nguồn cung ứng bền vững, hoạt động tuân thủ quy định, lựa chọn nhà cung cấp (bao gồm cả nguồn cung kép/đa nguồn), quản lý hợp đồng, quản lý rủi ro nhà cung cấp và quản lý đấu thầu/chào giá.
• Sản xuấtLập kế hoạch năng lực sản xuất, lên lịch sản xuất, quản lý bảo trì, quản lý chất lượng, quản lý điểm nghẽn và phòng ngừa tổn thất.
• Kho bãiBao gồm: tiếp nhận và kiểm tra hàng hóa, quản lý kho, luân chuyển hàng tồn kho (FIFO/FEFO), và kiểm đếm/kiểm toán định kỳ.
• Di chuyển / Hậu cần: lựa chọn phương thức vận chuyển và hãng vận tải, thủ tục hải quan/chứng từ, theo dõi và giám sát, giám sát khí thải và tuân thủ quy định thương mại.
• Bán hàng và dịch vụBao gồm: đảm bảo nguồn cung sản phẩm, phòng ngừa tình trạng hết hàng, quản lý bán hàng/trả hàng, phân tích hành vi người tiêu dùng, cùng các lĩnh vực hậu mãi như sửa chữa, theo dõi vòng đời sản phẩm, vận hành xưởng và hợp đồng dịch vụ.

Khi các doanh nghiệp triển khai các tác nhân AI trong các hoạt động quan trọng, bạn khuyên nên làm thế nào để cân bằng giữa tính tự chủ và sự giám sát của con người nhằm đảm bảo kiểm soát mà không làm chậm mọi thứ?

Sự cân bằng nằm ở quyền tự chủ được quản lý. Bạn phải cho phép các tác nhân nhanh chóng thực hiện các công việc rủi ro thấp trong phạm vi an toàn rõ ràng, và chỉ chuyển giao cho con người khi hành động vượt quá ngưỡng rủi ro đã được xác định.

Rất nhiều lỗi xảy ra do gán cho mô hình quá nhiều phạm vi và quá nhiều ngữ cảnh cùng một lúc. Tôi khuyên nên chia nhỏ các thao tác thành các quyết định nhỏ hơn, có phạm vi hẹp hơn, trong đó mỗi bước có quyền hạn rõ ràng và phạm vi ảnh hưởng hạn chế. Điều đó giúp giảm thiểu hành vi khó lường và giúp dễ dàng giám sát và cải thiện hiệu suất hơn.

Sau đó, bạn kết hợp ba yếu tố: khả năng quan sát, nhật ký hành động và sự kiểm soát của con người. Mọi hành động của tác nhân đều phải được theo dõi, để bạn có thể kiểm tra những gì đã xảy ra và điều tra nhanh chóng. Đối với các hành động có tác động lớn hoặc rủi ro cao, bạn thêm bước phê duyệt của con người vào quy trình làm việc, để tác nhân có thể đề xuất và chuẩn bị, nhưng chỉ thực hiện khi có người phê duyệt.

Điều đó giúp mọi thứ diễn ra nhanh chóng. Nếu có gì chậm lại thì chỉ ở bước giám sát của con người, nhưng đó là một phần quan trọng của quy trình. Con người không bị ràng buộc phải giám sát từng cú nhấp chuột, nhưng họ vẫn kiểm soát những khoảnh khắc quan trọng. Kết quả là tốc độ ở những nơi an toàn và sự giám sát ở những nơi cần thiết.

Nhìn về phía trước, bạn kỳ vọng vai trò của các tác nhân AI tự động sẽ phát triển như thế nào trong các tổ chức lớn trong vài năm tới, và điều gì sẽ tạo nên sự khác biệt giữa các công ty thành công với AI tác nhân và những công ty gặp khó khăn?

Trong vài năm tới, các tác nhân AI tự động sẽ chuyển từ những thử nghiệm thú vị sang trở thành một lớp vận hành thực sự bên trong các tổ chức lớn. Chúng sẽ được sử dụng cho các hoạt động, dịch vụ khách hàng, tài chính và nhân sự. Khi độ tin cậy, quản trị và giám sát được cải thiện, chúng ta sẽ thấy các doanh nghiệp chuyển từ các dự án thí điểm riêng lẻ sang vận hành các nhóm tác nhân trong toàn bộ quy trình làm việc.

Thay đổi lớn nhất là tốc độ, sự linh hoạt, quy mô, hiệu quả và chi phí sẽ trở thành đòn bẩy cạnh tranh trực tiếp hơn nhiều. Tôi nghĩ rằng một "phong trào Uber" đang đến với các doanh nghiệp. Những doanh nghiệp thực sự làm chủ được trí tuệ nhân tạo tác nhân (agentical AI) sẽ có thể hoạt động với tốc độ nhanh hơn nhiều so với những doanh nghiệp tụt hậu, chiếm lĩnh thị trường nhanh hơn và phản ứng với sự thay đổi mà không gặp phải những trở ngại vận hành thường thấy.

Điều làm nên sự khác biệt giữa những người chiến thắng không chỉ là việc triển khai các tác nhân, mà là triển khai chúng một cách hiệu quả. Quyền tự chủ được quản lý, khả năng quan sát mạnh mẽ và nhật ký hành động, cùng với kiến ​​trúc thu hẹp phạm vi quyết định sẽ là chìa khóa. Các công ty coi trí tuệ nhân tạo dựa trên tác nhân (agent-AI) là một năng lực hoạt động cốt lõi, với các biện pháp kiểm soát, tích hợp và quyền sở hữu phù hợp, sẽ sử dụng nó để làm được nhiều việc hơn, chứ không phải ít hơn. Điều đó sẽ giúp các nhóm tập trung vào tăng trưởng và đổi mới thay vì dành thời gian hàng ngày để giải quyết các công việc hành chính. Tóm lại, tốc độ và hiệu quả vượt trội sẽ trở thành lợi thế cạnh tranh thực sự ở quy mô doanh nghiệp.

Cảm ơn bạn về cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm hãy truy cập Kovant.