Ali Sarrafi, CEO và Người sáng lập của Kovant – Loạt phỏng vấn

Ali Sarrafi, CEO và Người sáng lập của Kovant, là một nhà điều hành công nghệ và AI giàu kinh nghiệm có trụ sở tại Stockholm với thành tích xây dựng và mở rộng các công ty AI tăng trưởng cao. Kể từ khi thành lập Kovant vào cuối năm 2024, ông đã tận dụng kinh nghiệm sâu sắc trong chiến lược AI doanh nghiệp, thực hiện thị trường và mở rộng quy mô hoạt động. Trước đó, ông từng giữ vị trí Phó Chủ tịch Chiến lược tại Silo AI sau khi công ty này được AMD mua lại, nơi ông chịu trách nhiệm định hình chiến lược AI doanh nghiệp và thúc đẩy việc áp dụng quy mô lớn. Sớm hơn trong sự nghiệp, ông đã đồng sáng lập Combient Mix, dẫn dắt công ty qua giai đoạn tăng trưởng nhanh chóng và mua lại thành công bởi Silo AI, và kể từ đó đã giữ các vị trí tư vấn và hội đồng quản trị trong lĩnh vực giáo dục và các công ty khởi nghiệp AI, phản ánh sự tập trung nhất quán vào việc chuyển đổi AI tiên tiến thành tác động kinh doanh thực tế.

Kovant là một công ty AI doanh nghiệp tập trung vào việc cho phép các tổ chức chuyển từ sử dụng AI thử nghiệm sang các quy trình kinh doanh tự động hoàn toàn. Công ty phát triển một nền tảng dựa trên tác nhân được thiết kế để điều phối các đội tác nhân AI trên các lĩnh vực hoạt động phức tạp như mua sắm, chuỗi cung ứng, tuân thủ và vận hành khách hàng. Bằng cách nhấn mạnh vào việc triển khai an toàn, cấp độ doanh nghiệp và thời gian triển khai nhanh chóng, Kovant tự vị trí mình như một cầu nối giữa tham vọng chiến lược AI và thực hiện hàng ngày, giúp các tổ chức lớn tích hợp AI trực tiếp vào các quy trình cốt lõi chứ không phải đối xử với nó như một công cụ độc lập hoặc dự án thí điểm.

Bạn đã lãnh đạo các sáng kiến AI lớn tại Spotify, mở rộng và thoát khỏi Combient Mix, và sau đó định hình chiến lược AI doanh nghiệp tại Silo AI trước khi thành lập Kovant. Những khoảng trống hoặc thất vọng cụ thể nào bạn gặp phải trong những vai trò đó đã thuyết phục bạn rằng đã đến lúc xây dựng một nền tảng doanh nghiệp tự động, và lịch sử đó đã định hình triết lý thiết kế cốt lõi của Kovant như thế nào?

Trong các vai trò trước đây của mình, một số khoảng trống nhất quán đã xuất hiện. Đầu tiên, hầu hết các công cụ AI “dọc” đều bị giam giữ trong một ngăn xếp phần mềm đơn lẻ: chúng làm một việc gì đó稍 tốt hơn trong ranh giới đó, nhưng gặp khó khăn khi một quy trình làm việc cần phải vượt qua nhiều hệ thống. Đồng thời, dữ liệu doanh nghiệp bị phân tán trên nhiều công cụ, và nhiều giải pháp tự động hóa chỉ không thể tiếp cận được. Thêm vào đó những tích hợp điểm và bạn sẽ có kiến trúc mì spaghetti cổ điển: sự phức tạp tăng lên, thay đổi trở nên chậm hơn, và các đội cuối cùng tự động hóa các bước riêng lẻ thay vì tưởng tượng lại quy trình làm việc từ đầu đến cuối. Kết quả là ROI thường đến muộn hơn – và nhỏ hơn – so với những gì các tổ chức dự kiến.

Kovant được thiết kế như một phản ứng đối với thực tế đó. Triết lý cốt lõi của chúng tôi là các tác nhân nên hành động giống như nhân viên: họ làm việc trên nhiều công cụ, họ được “tuyển dụng” để thực hiện công việc, không phải để tự động hóa một chuỗi kịch bản đơn lẻ. Đó là lý do tại sao tích hợp và điều phối được tích hợp sẵn, và tại sao chúng tôi giả định rằng dữ liệu doanh nghiệp thường bị lộn xộn và không có cấu trúc – nó cần một cách tiếp cận giống như con người để xử lý các trường hợp ngoại lệ và sự mơ hồ.

Chúng tôi sử dụng các tác nhân nền tảng để đạt được tốc độ và quy mô, đồng thời giữ chủ quyền dữ liệu ở trung tâm: các doanh nghiệp có thể truy cập và sử dụng dữ liệu của riêng họ theo chiều ngang mà không cần rời khỏi cơ sở của họ.

Kovant tự vị trí mình như một nền tảng doanh nghiệp tự động có khả năng chạy toàn bộ hoạt động và bộ phận với các tác nhân AI. Bạn định nghĩa “tự động” trong bối cảnh doanh nghiệp như thế nào, và điều này khác với các công cụ và tác nhân tự động hóa mà các công ty đang thí nghiệm ngày nay như thế nào?

Trong bối cảnh doanh nghiệp, khi chúng tôi nói “tự động” chúng tôi không có nghĩa là “không được giám sát”. Chúng tôi có nghĩa là các tác nhân AI có thể thực hiện các hành động thực sự từ đầu đến cuối trên một hoạt động với các mục tiêu và rào cản rõ ràng, và chúng sẽ chuyển lên con người khi cần giám sát.

Điều làm cho Kovant khác biệt là các tác nhân nền tảng của chúng tôi. Thay vì tự động hóa một quy trình hoặc một chuỗi cố định, các tác nhân Kovant có thể làm việc như một đội (hoặc đàn) trên một hoạt động bằng cách sử dụng chỉ các hướng dẫn và một cái nhìn tổng quan hoạt động mà chúng tôi gọi là bản thiết kế. Họ không được thiết kế cho một nhiệm vụ hẹp; họ cộng tác để giải quyết các quy trình làm việc phức tạp, thích nghi khi điều kiện thay đổi, và chuyển giao cho con người khi tình huống cần giám sát.

Ví dụ, một đội tác nhân quản lý hàng tồn kho có thể thực hiện tất cả các công việc sau mà không cần xây dựng lại từ đầu, bao gồm: giao tiếp với nhà cung cấp qua email, theo dõi mức tồn kho và tín hiệu hết hàng, theo dõi đơn đặt hàng và mua hàng, cập nhật trạng thái trên các hệ thống, tạo vé sai sót cho các nhà lập kế hoạch hàng tồn kho phê duyệt, phân phối lại hàng tồn kho giữa các kho hàng, và hợp nhất báo cáo hàng tồn kho.

Vậy, sự thay đổi là thay vì “trò chuyện cộng với công cụ” hoặc tự động hóa giòn mà bị hỏng khi mở rộng quy mô, các doanh nghiệp chuyển từ xây dựng tác nhân sang chạy chúng ở quy mô.

Mặc dù có sự quan tâm lớn đến AI tác nhân, nhiều tổ chức vẫn còn mắc kẹt trong chế độ thí điểm. Từ những gì bạn thấy trong các triển khai thực tế, những lý do chính mà các công ty gặp khó khăn trong việc chuyển từ thí điểm sang sản xuất quy mô lớn là gì?

Điều chúng tôi thấy là rằng hầu hết các tổ chức không bị kẹt trong chế độ thí điểm vì ý tưởng là sai; họ bị kẹt vì môi trường không thuận lợi cho việc mở rộng quy mô.

Blocker đầu tiên là cảnh quan công nghệ doanh nghiệp phân mảnh. Các quy trình làm việc vượt qua nhiều hệ thống, dữ liệu sống trong nhiều nơi, và việc khâu lại mọi thứ một cách đáng tin cậy là khó. Và AI tác nhân thường được triển khai như một tiện ích bổ sung cho các công cụ hiện có, chứ không phải là một cách để tưởng tượng lại cách quy trình làm việc nên chạy từ đầu đến cuối.

Có một vấn đề kiến trúc và dữ liệu thực sự. Nhiều nhà cung cấp SaaS vẫn cố gắng khóa dữ liệu, điều này tạo ra sự không tương thích và hạn chế những gì các tác nhân thực sự có thể làm trên các hệ thống. Và nhiều đội đánh giá thấp thực tế rằng hầu hết dữ liệu doanh nghiệp là không có cấu trúc (email, tài liệu, vé, PDF, nhật ký trò chuyện). Nếu cách tiếp cận của bạn giả định dữ liệu sạch, có cấu trúc, thời gian triển khai sẽ trở nên dài, đau đớn và khó lặp lại ngoài phạm vi thí điểm.

Tóm lại: sự phân mảnh, khóa và dữ liệu không có cấu trúc tạo ra lực cản – và các thí điểm không bao giờ trở thành sản xuất cho đến khi những thực tế đó được thiết kế.

Tính tin cậy thường được trích dẫn là khối lập trình lớn nhất để triển khai các tác nhân AI trong thế giới thực. Tại sao nhiều hệ thống tác nhân thất bại một lần chúng rời khỏi môi trường được kiểm soát, và cách tiếp cận của Kovant giảm thiểu các vấn đề như ảo giác và hành vi không thể đoán trước như thế nào?

Một số hệ thống tác nhân nhìn tuyệt vời trong các bản demo, sau đó thất bại trong thế giới thực vì môi trường là lộn xộn và không thể đoán trước. Dữ liệu là không đầy đủ hoặc không nhất quán, các trường hợp ngoại lệ xuất hiện liên tục (hoàn trả, tranh chấp, phê duyệt đặc biệt). Các quy trình làm việc vượt qua nhiều công cụ, nền tảng và tích hợp thay đổi theo thời gian, và các quyền thay đổi. Khi một tác nhân AI được yêu cầu xử lý một nhiệm vụ lớn và được cung cấp quá nhiều ngữ cảnh cùng một lúc, rủi ro của ảo giác và hành vi kỳ lạ tăng lên.

Kovant giảm thiểu điều này bằng thiết kế. Kiến trúc độc đáo của chúng tôi thu hẹp không gian vấn đề, không gian quyết định và ngữ cảnh mà các mô hình làm việc để giảm ảo giác. Chúng tôi cũng chia các hoạt động thành các nhiệm vụ hẹp, tập trung cho từng tác nhân và từng bước. Điều đó làm cho hành vi trở nên dễ dự đoán hơn, và thêm khả năng theo dõi và kiểm soát vào hệ thống và có thể quản lý ảo giác tốt hơn. Chúng tôi có thể xem những gì mỗi tác nhân đã làm, nơi một sự thất bại bắt đầu, và can thiệp hoặc chuyển tiếp khi cần.

Ảo giác không biến mất một cách ma thuật, nhưng bằng cách giới hạn những gì mỗi tác nhân chịu trách nhiệm và giới hạn ngữ cảnh nó có thể hoạt động, chúng tôi có thể giảm tần suất và hạn chế tác động của chúng. Cách tiếp cận “narrowed task/context” này cũng được hỗ trợ trong công việc gần đây của nhóm nghiên cứu Nvidia (NVDA ), đã tìm thấy những lợi ích tương tự từ việc giới hạn việc ra quyết định của tác nhân.

Trách nhiệm giải trình là một mối quan tâm lớn khi các tác nhân AI bắt đầu thực hiện các hành động thực sự trong các hệ thống kinh doanh. Làm thế nào các nhật ký hành động chi tiết thay đổi cuộc trò chuyện xung quanh niềm tin, tuân thủ và rủi ro hoạt động?

Với các nhật ký hành động chi tiết, chúng tôi có thể xem những gì đã xảy ra, tại sao nó xảy ra và những gì xảy ra tiếp theo.

Các nhật ký chi tiết biến một tác nhân từ một bot bí ẩn làm việc trong máy thành một hệ thống mà bạn có thể kiểm tra.

Tại Kovant, với bất kỳ triển khai tác nhân AI nào, sẽ có một bản đồ rủi ro mà tổ chức có thể hành động, chúng tôi đã xây dựng các cổng kiểm soát cho con người đối với các hành động rủi ro, có nghĩa là các tác nhân chỉ có thể thực hiện các nhiệm vụ đó nếu một con người xem xét và phê duyệt quyết định. Tất cả những điều này được ghi lại giống như một hệ thống hồ sơ được ghi lại và có thể theo dõi.

Chúng tôi tin rằng điều quan trọng là phải kết hợp các nhật ký hành động với giám sát con người và khả năng quan sát để giảm thiểu rủi ro. Điều đó có nghĩa là bạn vẫn nhận được lợi ích về tốc độ và quy mô của các tác nhân chạy các hoạt động thực sự.

Có một cuộc thảo luận ngày càng tăng về việc liệu các tác nhân AI có thể được bảo hiểm hay không do việc ra quyết định không rõ ràng. Làm thế nào việc làm cho các quy trình làm việc của tác nhân trở nên có thể kiểm tra và có thể phát lại giúp giải quyết vấn đề “hộp đen” và mở cửa cho khả năng bảo hiểm?

Vấn đề “hộp đen” là điều làm cho bảo hiểm trở nên khó khăn. Nếu bạn không thể rõ ràng hiển thị những gì một tác nhân đã làm, tại sao nó làm như vậy, và những kiểm soát nào được áp dụng, thì rất khó cho bất kỳ ai, đặc biệt là các công ty bảo hiểm, để định giá rủi ro.

Cách tiếp cận của chúng tôi về cơ bản là một sự mở rộng của thiết lập trách nhiệm giải trình trong câu trả lời trước. Chúng tôi chia không gian quyết định và tác động của các hành động thành các mảnh nhỏ hơn, vì vậy mô hình không đưa ra một quyết định khổng lồ, không rõ ràng mà có thể ảnh hưởng đến toàn bộ hoạt động. Mỗi bước trở nên hẹp hơn, dễ dự đoán hơn và dễ đánh giá hơn.

Chúng tôi sau đó thêm các nhật ký chi tiết, khả năng quan sát và giám sát con người. Đối với các quyết định quan trọng và có tác động nhất, chúng tôi sử dụng một cổng kiểm soát con người để tác nhân chỉ có thể tiếp tục sau khi xem xét và phê duyệt. Điều đó tạo ra sự rõ ràng hơn nhiều về cách quy trình làm việc hành xử trong thực tế.

Làm cho các quy trình làm việc trở nên có thể kiểm tra và có thể phát lại là phần cuối cùng. Nếu điều gì đó đi sai, bạn có thể tái tạo những gì đã xảy ra, điều tra nhanh chóng, xác thực các bản sửa lỗi và chứng minh tần suất phê duyệt của con người là cần thiết và nơi các biện pháp bảo vệ nằm. Trong các điều khoản bảo hiểm, điều đó biến hành vi AI bí ẩn thành điều gì đó gần giống với rủi ro hoạt động tiêu chuẩn.

Với các sáng kiến như Quỹ AI Tác nhân nhằm tạo ra các tiêu chuẩn chung cho các hệ thống tác nhân, những khía cạnh nào của những nỗ lực này bạn thấy là đầy hứa hẹn nhất, và chúng vẫn còn thiếu sót cho các hoạt động doanh nghiệp thực sự như thế nào?

Chuẩn hóa nói chung là một điều tốt. Quỹ AAIF có thể thực hiện công việc không hấp dẫn nhưng thiết yếu để làm cho các hệ thống tác nhân nói cùng một ngôn ngữ, điều này nên làm cho các tích hợp trở nên dễ dàng hơn và giảm khóa nhà cung cấp theo thời gian.

Ở đâu tôi thận trọng là quan điểm của ai định hình các tiêu chuẩn. Nếu hầu hết công việc được dẫn dắt bởi các nhà tạo mô hình và các công ty khởi nghiệp công nghệ, có rủi ro rằng “tiêu chuẩn” tối ưu hóa cho những gì dễ xây dựng hoặc demo nhất, chứ không phải những gì các tổ chức lớn thực sự cần để chạy các tác nhân một cách an toàn hàng ngày.

Đối với các hoạt động doanh nghiệp thực sự, khoảng trống thường ít hơn về các kết nối và nhiều hơn về kiểm soát: những gì một tác nhân có thể truy cập và thay đổi, các quy trình phê duyệt cho các hành động có tác động cao, các nhật ký có thể kiểm tra, và khả năng quan sát để các đội có thể theo dõi hành vi, điều tra các sự cố và chứng minh tuân thủ. Các doanh nghiệp cũng cần các tiêu chuẩn thực tế để hoạt động trong thực tế lộn xộn: kiểm tra các trường hợp ngoại lệ, xử lý các hệ thống thay đổi, và có khả năng tạm dừng, chứa hoặc quay lại các hành động an toàn trên các công cụ và môi trường dữ liệu được quản lý.

Vậy, đó là một hướng đi đầy hứa hẹn, nhưng tác động sẽ bị hạn chế trừ khi các yêu cầu và kiểm soát rủi ro hoạt động của doanh nghiệp không được coi là một điều sauthought.

Kovant đã tạo ra doanh thu đáng kể từ các doanh nghiệp lớn Bắc Âu trong khi hoạt động chủ yếu trong bí mật. Những loại chức năng kinh doanh hoặc quy trình làm việc nào đang chứng minh là sẵn sàng nhất cho các tác nhân AI tự động ngày nay?

Từ những gì chúng tôi đã thấy trong các triển khai thực tế, các quy trình làm việc “sẵn sàng” nhất ngày nay là những quy trình làm việc gồm công việc văn phòng phản ứng: theo dõi, theo đuổi, kiểm tra, cập nhật hệ thống, xử lý các trường hợp ngoại lệ và giữ cho các hoạt động vận hành trên nhiều công cụ.

Trong sản xuất và chuỗi cung ứng doanh nghiệp rộng lớn hơn, điều đó xuất hiện trên:

• Mua sắm / mua hàng: sẵn sàng nguyên liệu, nguồn cung cấp bền vững, hoạt động tuân thủ, lựa chọn nhà cung cấp (bao gồm nguồn cung cấp kép / đa nguồn), quản lý hợp đồng, quản lý rủi ro nhà cung cấp và quản lý đấu thầu.
• Sản xuất: lập kế hoạch năng lực, lập lịch sản xuất, quản lý bảo trì, quản lý chất lượng, quản lý nút thắt và ngăn chặn tổn thất.
• Kho hàng: nhận và kiểm tra, quản lý hàng tồn kho, luân chuyển hàng tồn kho (FIFO / FEFO) và kiểm kê / kiểm toán.
• Vận tải / hậu cần: lựa chọn phương thức và vận chuyển, làm rõ hải quan / tài liệu, theo dõi và hiển thị, theo dõi phát thải và tuân thủ thương mại.
• Bán hàng và dịch vụ: sẵn sàng sản phẩm, ngăn chặn hết hàng, quản lý bán hàng / trả lại, phân tích hành vi của người tiêu dùng, cộng với các khu vực sau bán hàng như sửa chữa, theo dõi hết hạn, hoạt động của xưởng và hợp đồng dịch vụ.

Khi các doanh nghiệp triển khai các tác nhân AI trên các hoạt động quan trọng, bạn khuyên nên cân bằng tự động hóa với giám sát con người như thế nào để đảm bảo kiểm soát mà không làm chậm mọi thứ?

Sự cân bằng được quản lý bởi sự tự chủ. Bạn phải để các tác nhân di chuyển nhanh trên công việc có rủi ro thấp trong các rào cản rõ ràng, và chuyển lên con người khi hành động vượt qua ngưỡng rủi ro được định nghĩa.

Nhiều thất bại đến từ việc cung cấp cho mô hình quá nhiều phạm vi và quá nhiều ngữ cảnh cùng một lúc. Tôi khuyên bạn nên chia các hoạt động thành các quyết định nhỏ, hẹp, trong đó mỗi bước có các quyền và bán kính tác động rõ ràng. Điều đó làm giảm hành vi không thể đoán trước và làm cho hiệu suất dễ theo dõi và cải thiện hơn.

Sau đó, bạn kết hợp ba điều: khả năng quan sát, nhật ký hành động và kiểm soát cổng con người. Mọi thứ mà tác nhân thực hiện đều có thể theo dõi, vì vậy bạn có thể kiểm tra những gì đã xảy ra và điều tra nhanh chóng. Đối với các hành động có tác động cao hoặc rủi ro, bạn đặt một bước phê duyệt của con người vào quy trình làm việc, vì vậy tác nhân có thể đề xuất và chuẩn bị, nhưng chỉ thực hiện khi một người ký tên.

Điều đó giữ mọi thứ di chuyển nhanh chóng. Nếu có gì đó chỉ chậm lại một chút tại bước giám sát của con người, nhưng đó là một phần quan trọng của quy trình. Con người không bị mắc kẹt trong việc giám sát mọi nhấp chuột, nhưng họ vẫn kiểm soát những khoảnh khắc quan trọng. Kết quả là tốc độ nơi nó an toàn, và giám sát nơi nó cần thiết.

Nhìn về phía trước, bạn dự đoán vai trò của các tác nhân AI tự động sẽ phát triển như thế nào trong các tổ chức lớn trong vài năm tới, và những yếu tố nào sẽ phân biệt các công ty thành công với AI tác nhân với những công ty gặp khó khăn?

Trong vài năm tới, các tác nhân AI tự động sẽ chuyển từ các thí nghiệm thú vị sang trở thành một lớp hoạt động thực sự trong các tổ chức lớn. Chúng sẽ được sử dụng cho hoạt động, dịch vụ khách hàng, tài chính và nhân sự. Khi độ tin cậy, quản trị và giám sát cải thiện, chúng tôi sẽ thấy các doanh nghiệp chuyển từ các thí điểm bị cô lập sang chạy các đội tác nhân trên các quy trình làm việc từ đầu đến cuối.

Sự thay đổi lớn nhất là tốc độ, sự linh hoạt, quy mô, hiệu quả và chi phí sẽ trở thành một đòn bẩy cạnh tranh trực tiếp hơn. Tôi nghĩ một “phong trào Uber” đang đến với các doanh nghiệp. Những người thực sự làm chủ AI tác nhân sẽ có thể hoạt động ở một tốc độ cơ bản cao hơn so với những người tụt lại phía sau, nắm bắt thị trường nhanh hơn và phản ứng với thay đổi mà không có sự kéo lùi hoạt động thông thường.

Điều phân biệt người chiến thắng không chỉ là triển khai các tác nhân, mà là triển khai chúng một cách tốt. Sự tự chủ được quản lý, khả năng quan sát mạnh mẽ và nhật ký hành động, cũng như các kiến trúc thu hẹp không gian quyết định sẽ là chìa khóa để làm được điều đó. Các công ty coi AI tác nhân là một khả năng hoạt động cốt lõi, với các kiểm soát, tích hợp và quyền sở hữu phù hợp, sẽ sử dụng nó để làm nhiều hơn, không ít hơn. Điều đó sẽ giải phóng các đội để tập trung vào tăng trưởng và đổi mới chứ không phải dành cả ngày để chôn mình trong quản trị. Tóm lại, tốc độ và hiệu quả cực đoan trở thành một lợi thế cạnh tranh thực sự ở quy mô doanh nghiệp.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Kovant.