Phỏng vấn
Ali Sarrafi, CEO và Người sáng lập của Kovant – Loạt phỏng vấn
Ali Sarrafi, CEO và Người sáng lập của Kovant, là một giám đốc công nghệ và trí tuệ nhân tạo giàu kinh nghiệm có trụ sở tại Stockholm với thành tích xây dựng và mở rộng các công ty trí tuệ nhân tạo có tăng trưởng cao. Kể từ khi thành lập Kovant vào cuối năm 2024, ông đã tận dụng kinh nghiệm sâu sắc trong chiến lược trí tuệ nhân tạo doanh nghiệp, thực hiện thị trường và mở rộng hoạt động. Trước đó, ông từng giữ vị trí Phó Chủ tịch Chiến lược tại Silo AI sau khi công ty này được AMD mua lại, nơi ông chịu trách nhiệm định hình chiến lược trí tuệ nhân tạo doanh nghiệp và thúc đẩy việc áp dụng trên quy mô lớn. Sớm hơn trong sự nghiệp, ông đã đồng sáng lập Combient Mix, dẫn dắt công ty qua giai đoạn tăng trưởng nhanh chóng và được Silo AI mua lại thành công, và kể từ đó đã giữ các vị trí tư vấn và hội đồng quản trị trong các công ty khởi nghiệp về giáo dục và trí tuệ nhân tạo, phản ánh sự tập trung nhất quán vào việc chuyển đổi trí tuệ nhân tạo tiên tiến thành tác động kinh doanh thực tế.
Kovant là một công ty trí tuệ nhân tạo doanh nghiệp tập trung vào việc cho phép các tổ chức chuyển từ sử dụng trí tuệ nhân tạo thử nghiệm sang các quy trình kinh doanh tự động, tự chủ hoàn toàn. Công ty phát triển một nền tảng dựa trên đại lý được thiết kế để điều phối các đội đại lý trí tuệ nhân tạo trên các lĩnh vực hoạt động phức tạp như mua sắm, chuỗi cung ứng, tuân thủ và vận hành khách hàng. Bằng cách nhấn mạnh vào việc triển khai an toàn, cấp độ doanh nghiệp và thời gian ngắn để đạt được giá trị, Kovant tự vị trí mình như một cầu nối giữa tham vọng chiến lược trí tuệ nhân tạo và việc thực hiện hàng ngày, giúp các tổ chức lớn tích hợp trí tuệ nhân tạo trực tiếp vào các quy trình cốt lõi thay vì đối xử với nó như một công cụ hoặc dự án thử nghiệm độc lập.
Bạn đã dẫn đầu các sáng kiến trí tuệ nhân tạo lớn tại Spotify, mở rộng và rời bỏ Combient Mix, và sau đó định hình chiến lược trí tuệ nhân tạo doanh nghiệp tại Silo AI trước khi thành lập Kovant. Những khoảng trống hoặc thất vọng cụ thể nào bạn gặp phải trong những vai trò đó đã thuyết phục bạn rằng đã đến lúc xây dựng một nền tảng doanh nghiệp tự chủ, và cách lịch sử đó đã định hình triết lý thiết kế cốt lõi của Kovant?
Trong các vai trò trước đây của tôi, một số khoảng trống nhất quán luôn xuất hiện. Đầu tiên, hầu hết các công cụ trí tuệ nhân tạo “đứng thẳng” đều thực sự bị giam giữ trong một ngăn xếp phần mềm đơn lẻ: chúng làm một việc gì đó hơi tốt hơn trong ranh giới đó, nhưng gặp khó khăn ngay khi một quy trình làm việc cần phải bao quát nhiều hệ thống. Đồng thời, dữ liệu doanh nghiệp bị phân tán trên nhiều công cụ, và nhiều giải pháp tự động hóa đơn giản không thể tiếp cận được. Thêm vào đó nhiều năm tích hợp điểm và bạn sẽ có kiến trúc mì ăn liền: độ phức tạp tăng lên, thay đổi trở nên chậm hơn, và các đội cuối cùng tự động hóa các bước riêng lẻ thay vì tưởng tượng lại quy trình làm việc từ đầu đến cuối. Kết quả là ROI thường đến muộn hơn – và nhỏ hơn – so với những gì các tổ chức dự kiến.
Kovant được thiết kế như một phản ứng đối với thực tế đó. Triết lý cốt lõi của chúng tôi là các đại lý nên hành động giống như nhân viên: họ làm việc trên nhiều công cụ, họ được “tuyển dụng” để thực hiện công việc, không phải để tự động hóa một trình tự được lập kịch bản duy nhất. Đó là lý do tại sao tích hợp và điều phối được tích hợp sẵn, và tại sao chúng tôi giả định rằng dữ liệu doanh nghiệp thường bị lộn xộn và không có cấu trúc – nó cần một cách tiếp cận giống con người hơn để xử lý các trường hợp ngoại lệ và sự mơ hồ.
Chúng tôi sử dụng các đại lý nền tảng để đạt được tốc độ và quy mô, đồng thời giữ quyền sở hữu dữ liệu ở trung tâm: các doanh nghiệp có thể truy cập và sử dụng dữ liệu của riêng họ theo chiều ngang mà không cần rời khỏi khuôn viên của họ.
Kovant tự vị trí mình như một nền tảng doanh nghiệp tự chủ có khả năng chạy toàn bộ hoạt động và bộ phận với các đại lý trí tuệ nhân tạo. Bạn định nghĩa “tự chủ” trong một ngữ cảnh doanh nghiệp như thế nào, và điều đó khác với các công cụ tự động hóa và đại lý mà các công ty đang thử nghiệm ngày nay như thế nào?
Trong một ngữ cảnh doanh nghiệp, khi chúng tôi nói “tự chủ” chúng tôi không có nghĩa là “không được giám sát”. Chúng tôi có nghĩa là các đại lý trí tuệ nhân tạo có thể thực hiện các hành động thực sự từ đầu đến cuối trên một hoạt động với các mục tiêu và rào cản rõ ràng, và chúng sẽ chuyển lên con người khi cần giám sát.
Điều làm cho Kovant khác biệt là các đại lý nền tảng của chúng tôi. Thay vì tự động hóa một quy trình cố định hoặc theo một trình tự được xây dựng trước, các đại lý Kovant có thể làm việc như một đội (hoặc bầy) trên một hoạt động bằng cách sử dụng chỉ các hướng dẫn và một cái nhìn tổng quan về hoạt động mà chúng tôi gọi là bản thiết kế. Chúng không được thiết kế cho một nhiệm vụ hẹp; chúng cộng tác để giải quyết các quy trình làm việc phức tạp, thích nghi khi điều kiện thay đổi, và chuyển giao cho con người khi tình huống yêu cầu giám sát.
Ví dụ, một đội đại lý quản lý hàng tồn kho có thể thực hiện tất cả các công việc sau mà không cần xây dựng lại từ đầu, bao gồm: giao tiếp với nhà cung cấp qua email, theo dõi mức tồn kho và tín hiệu hết hàng, theo dõi chuyến hàng và đơn đặt hàng, cập nhật trạng thái trên các hệ thống, tạo vé sai sót cho các nhà lập kế hoạch hàng tồn kho để phê duyệt, phân phối lại hàng tồn kho giữa các kho hàng, và hợp nhất báo cáo hàng tồn kho.
Vì vậy, sự thay đổi là thay vì “trò chuyện cộng với công cụ” hoặc tự động hóa giòn có thể bị hỏng trên quy mô, các doanh nghiệp chuyển từ xây dựng đại lý sang chạy chúng trên quy mô.
Mặc dù có sự quan tâm lớn đến trí tuệ nhân tạo dựa trên đại lý, nhiều tổ chức vẫn còn mắc kẹt trong chế độ thí điểm. Từ những gì bạn đang thấy trong các triển khai thực tế, những lý do chính nào khiến các công ty gặp khó khăn trong việc chuyển từ thí điểm sang sản xuất quy mô lớn?
Điều chúng tôi đang thấy là rằng hầu hết các tổ chức không bị kẹt trong chế độ thí điểm vì ý tưởng là sai; chúng bị kẹt vì môi trường không thuận lợi cho việc mở rộng quy mô.
Blocker đầu tiên là cảnh quan công nghệ doanh nghiệp phân mảnh. Các quy trình làm việc bao quát nhiều hệ thống, dữ liệu sống trong nhiều nơi, và việc khâu lại mọi thứ một cách đáng tin cậy là khó. Và trí tuệ nhân tạo dựa trên đại lý thường được triển khai như một bổ sung cho các công cụ hiện có, chứ không phải như một cách để tưởng tượng lại cách quy trình làm việc nên chạy từ đầu đến cuối.
Cũng có một vấn đề kiến trúc và dữ liệu thực sự. Nhiều nhà cung cấp SaaS vẫn cố gắng khóa dữ liệu, điều này tạo ra sự không tương thích và hạn chế những gì các đại lý thực sự có thể làm trên các hệ thống. Và nhiều đội低估 thực tế rằng hầu hết dữ liệu doanh nghiệp là không có cấu trúc (email, tài liệu, vé, tệp PDF, nhật ký trò chuyện). Nếu cách tiếp cận của bạn giả định dữ liệu sạch, có cấu trúc, thời gian để đạt được giá trị trở nên dài, đau đớn và khó nhân rộng hơn mức thí điểm.
Tóm lại: phân mảnh, khóa và dữ liệu không có cấu trúc tạo ra lực cản – và các thí điểm không bao giờ trở thành sản xuất cho đến khi những thực tế đó được thiết kế.
Tính tin cậy thường được trích dẫn là chướng ngại vật lớn nhất đối với việc triển khai các đại lý trí tuệ nhân tạo trong thế giới thực. Tại sao nhiều hệ thống đại lý lại thất bại một khi chúng rời khỏi các môi trường được kiểm soát, và cách tiếp cận của Kovant giảm thiểu các vấn đề như ảo giác và hành vi không thể đoán trước như thế nào?
Một số hệ thống đại lý trông tuyệt vời trong các bản demo, sau đó thất bại trong thế giới thực vì môi trường là lộn xộn và không thể đoán trước. Dữ liệu không đầy đủ hoặc không nhất quán, các trường hợp ngoại lệ xuất hiện liên tục (hoàn trả, tranh chấp, phê duyệt đặc biệt). Các quy trình làm việc bao quát nhiều công cụ, nền tảng và tích hợp thay đổi theo thời gian, và các quyền thay đổi. Khi một đại lý trí tuệ nhân tạo được yêu cầu xử lý một nhiệm vụ lớn và được cung cấp quá nhiều ngữ cảnh cùng một lúc, rủi ro ảo giác và hành vi kỳ lạ tăng lên.
Kovant giảm thiểu điều này bằng thiết kế. Kiến trúc độc đáo của chúng tôi thu hẹp không gian vấn đề, không gian quyết định và ngữ cảnh mà các mô hình làm việc với để giảm ảo giác. Chúng tôi cũng chia các hoạt động thành các nhiệm vụ hẹp, tập trung cho từng đại lý và từng bước. Điều đó làm cho hành vi trở nên dễ đoán hơn, và nó thêm khả năng theo dõi và kiểm soát vào hệ thống và có thể quản lý ảo giác tốt hơn. Chúng tôi có thể thấy những gì từng đại lý đã làm, nơi một sự thất bại bắt đầu, và can thiệp hoặc chuyển lên khi cần.
Ảo giác không biến mất ma thuật, nhưng bằng cách thu hẹp những gì từng đại lý chịu trách nhiệm và hạn chế ngữ cảnh mà nó có thể hoạt động, chúng tôi có thể giảm tần suất và giới hạn tác động của chúng. Cách tiếp cận “nhiệm vụ / ngữ cảnh thu hẹp” này cũng được hỗ trợ trong công việc gần đây của nhóm nghiên cứu Nvidia, những người đã tìm thấy những lợi ích tương tự từ việc thu hẹp quyết định của đại lý.
Trách nhiệm giải trình là một mối quan tâm lớn khi các đại lý trí tuệ nhân tạo bắt đầu thực hiện các hành động thực sự trong các hệ thống kinh doanh. Làm thế nào các nhật ký hành động chi tiết thay đổi cuộc trò chuyện xung quanh niềm tin, tuân thủ và rủi ro hoạt động?
Với các nhật ký hành động chi tiết, chúng tôi có thể thấy những gì đã xảy ra, tại sao nó xảy ra và những gì xảy ra tiếp theo.
Các nhật ký chi tiết biến một đại lý từ một bot bí ẩn làm việc trong máy thành một hệ thống bạn có thể kiểm tra.
Tại Kovant, với bất kỳ triển khai đại lý trí tuệ nhân tạo nào, sẽ có một bản đồ rủi ro mà tổ chức có thể hành động, chúng tôi đã xây dựng các cánh cổng giữ cho con người cho các hành động rủi ro có nghĩa là các đại lý chỉ có thể thực hiện các nhiệm vụ đó nếu một con người xem xét và phê duyệt quyết định. Tất cả những điều này được ghi lại theo cùng một cách mà một hệ thống hồ sơ được ghi lại và có thể theo dõi.
Chúng tôi tin rằng điều quan trọng là phải kết hợp nhật ký hành động với giám sát của con người và khả năng quan sát để giảm thiểu rủi ro. Điều đó có nghĩa là bạn vẫn nhận được lợi ích về tốc độ và quy mô của các đại lý chạy các hoạt động thực sự.
Có một cuộc thảo luận ngày càng tăng về việc liệu các đại lý trí tuệ nhân tạo có thể được bảo hiểm hay không do việc ra quyết định không rõ ràng của chúng. Làm thế nào việc làm cho các quy trình làm việc của đại lý trở nên có thể kiểm tra và phát lại giúp giải quyết vấn đề “hộp đen” và mở cửa cho khả năng bảo hiểm?
Vấn đề “hộp đen” là điều khiến việc bảo hiểm trở nên khó khăn. Nếu bạn không thể rõ ràng hiển thị những gì một đại lý đã làm, tại sao nó làm như vậy, và những kiểm soát nào đã được thực hiện, thì thật khó cho bất kỳ ai, đặc biệt là các công ty bảo hiểm, để định giá rủi ro.
Cách tiếp cận của chúng tôi cơ bản là một sự mở rộng của thiết lập trách nhiệm giải trình trong câu trả lời trước. Chúng tôi chia không gian quyết định và tác động của các hành động thành các phần nhỏ hơn, vì vậy mô hình không đưa ra một quyết định khổng lồ, không rõ ràng có thể ảnh hưởng đến toàn bộ hoạt động. Mỗi bước trở nên hẹp hơn, dễ đoán hơn và dễ đánh giá hơn.
Chúng tôi sau đó thêm các nhật ký chi tiết, khả năng quan sát và giám sát của con người. Đối với các quyết định quan trọng và có tác động nhất, chúng tôi sử dụng một cánh cổng giữ cho con người để đại lý chỉ có thể tiếp tục sau khi xem xét và phê duyệt. Điều đó tạo ra nhiều khả năng hiển thị hơn vào cách quy trình làm việc hành xử trong thực tế.
Làm cho các quy trình làm việc trở nên có thể kiểm tra và phát lại là phần cuối cùng. Nếu điều gì đó đi sai, bạn có thể tái tạo những gì đã xảy ra, điều tra nhanh chóng, xác nhận các bản sửa lỗi và chứng minh tần suất phê duyệt của con người là cần thiết và nơi các biện pháp bảo vệ ngồi. Trong các điều khoản bảo hiểm, điều đó biến hành vi trí tuệ nhân tạo bí ẩn thành điều gì đó gần hơn với rủi ro hoạt động tiêu chuẩn.
Với các sáng kiến như Quỹ Trí tuệ nhân tạo dựa trên Đại lý nhằm tạo ra các tiêu chuẩn chung cho các hệ thống dựa trên đại lý, bạn thấy những khía cạnh nào là đầy hứa hẹn nhất của những nỗ lực này, và chúng vẫn còn thiếu sót ở đâu cho các hoạt động doanh nghiệp thực tế?
Tiêu chuẩn hóa nói chung là một điều tốt. Quỹ Trí tuệ nhân tạo dựa trên Đại lý có thể thực hiện công việc không hấp dẫn nhưng thiết yếu để giúp các hệ thống dựa trên đại lý nói cùng một ngôn ngữ, điều này nên làm cho các tích hợp trở nên dễ dàng hơn và giảm khóa nhà cung cấp theo thời gian.
Điều mà tôi thận trọng là quan điểm của ai định hình các tiêu chuẩn. Nếu hầu hết công việc được dẫn đầu bởi những người tạo mô hình và các công ty khởi nghiệp công nghệ, thì có rủi ro rằng “tiêu chuẩn” sẽ tối ưu hóa cho những gì dễ xây dựng hoặc demo nhất, chứ không phải những gì các tổ chức lớn thực sự cần để chạy các đại lý một cách an toàn hàng ngày.
Đối với các hoạt động doanh nghiệp thực tế, khoảng trống thường ít liên quan đến các kết nối và nhiều hơn về kiểm soát: những gì một đại lý có thể truy cập và thay đổi, các quy trình phê duyệt cho các hành động có tác động cao, nhật ký có thể kiểm tra, và khả năng quan sát để các đội có thể theo dõi hành vi, điều tra các sự cố và chứng minh tuân thủ. Các doanh nghiệp cũng cần các tiêu chuẩn thực tế để hoạt động trong thực tế lộn xộn: kiểm tra chống lại các trường hợp ngoại lệ, xử lý các hệ thống thay đổi, và có khả năng tạm dừng, chứa hoặc quay lại các hành động một cách an toàn trên các công cụ và môi trường dữ liệu được quy định.
Vì vậy, đó là một hướng đi đầy hứa hẹn, nhưng tác động sẽ bị hạn chế trừ khi các yêu cầu và kiểm soát rủi ro hoạt động của doanh nghiệp không được coi là một ý tưởng sau cùng.
Kovant đã tạo ra doanh thu đáng kể từ các doanh nghiệp lớn Bắc Âu trong khi hoạt động chủ yếu trong bí mật. Những loại chức năng kinh doanh hoặc quy trình làm việc nào đang chứng minh là sẵn sàng nhất cho các đại lý trí tuệ nhân tạo tự chủ ngày nay?
Từ những gì chúng tôi đã thấy trong các triển khai thực tế, các quy trình làm việc được chứng minh là “sẵn sàng” nhất ngày nay là những quy trình làm việc được tạo thành từ công việc văn phòng phản ứng: theo dõi, theo dõi, kiểm tra, cập nhật hệ thống, xử lý các trường hợp ngoại lệ và giữ cho các hoạt động tiếp tục trên nhiều công cụ.
Trong các chuỗi cung ứng và sản xuất doanh nghiệp rộng lớn hơn, điều đó xuất hiện trên:
- Mua sắm / mua hàng: sẵn sàng nguyên liệu, nguồn nguyên liệu bền vững, vận hành tuân thủ, lựa chọn nhà cung cấp (bao gồm đa nguồn / đa nguồn), quản lý hợp đồng, quản lý rủi ro nhà cung cấp và đấu thầu / quản lý đề xuất.
- Sản xuất: lập kế hoạch năng lực, lập kế hoạch sản xuất, quản lý bảo trì, quản lý chất lượng, quản lý nút thắt và ngăn chặn tổn thất.
- Kho hàng: nhận và kiểm tra, quản lý hàng tồn kho, luân chuyển hàng tồn kho (FIFO / FEFO) và kiểm kê / kiểm toán chu kỳ.
- Vận tải / hậu cần: lựa chọn phương thức và vận chuyển, làm thủ tục hải quan / tài liệu, theo dõi và hiển thị, theo dõi phát thải và tuân thủ thương mại.
- Bán hàng và dịch vụ: sẵn sàng sản phẩm, ngăn chặn hết hàng, quản lý bán hàng / trả hàng, phân tích hành vi người tiêu dùng, cộng với các khu vực sau bán hàng như sửa chữa, theo dõi hết hạn, hoạt động xưởng và hợp đồng dịch vụ.
Khi các doanh nghiệp triển khai các đại lý trí tuệ nhân tạo trên các hoạt động quan trọng, bạn khuyên nên cân bằng tự chủ với giám sát của con người như thế nào để đảm bảo kiểm soát mà không làm mọi thứ chậm lại?
Sự cân bằng được quản lý bởi tự chủ. Bạn phải để các đại lý di chuyển nhanh trên công việc có rủi ro thấp trong các rào cản rõ ràng, và chuyển lên con người khi hành động vượt qua ngưỡng rủi ro được định nghĩa.
Nhiều thất bại đến từ việc cung cấp cho mô hình phạm vi quá rộng và quá nhiều ngữ cảnh cùng một lúc. Tôi khuyên bạn nên chia các hoạt động thành các quyết định nhỏ, hẹp, trong đó mỗi bước có các quyền và phạm vi tác động rõ ràng. Điều đó giảm hành vi không thể đoán trước và làm cho hiệu suất dễ theo dõi và cải thiện hơn.
Sau đó, bạn kết hợp ba điều: khả năng quan sát, nhật ký hành động và giám sát của con người. Mọi thứ đại lý làm nên có thể theo dõi, để bạn có thể kiểm tra những gì đã xảy ra và điều tra nhanh chóng. Đối với các hành động có tác động cao hoặc rủi ro, bạn đặt một bước phê duyệt của con người vào quy trình làm việc, để đại lý có thể đề xuất và chuẩn bị, nhưng chỉ thực hiện khi một người phê duyệt.
Điều đó giữ mọi thứ di chuyển nhanh chóng. Nếu có gì đó chậm lại, thì đó chỉ là một phần quan trọng của quy trình. Con người không bị kẹt trong việc giám sát mọi lần nhấp, nhưng họ vẫn kiểm soát những khoảnh khắc quan trọng. Kết quả là tốc độ nơi nó an toàn, và giám sát nơi nó cần thiết.
Nhìn вперед, bạn dự đoán vai trò của các đại lý trí tuệ nhân tạo tự chủ sẽ phát triển như thế nào trong các tổ chức lớn trong vài năm tới, và điều gì sẽ phân biệt các công ty thành công với trí tuệ nhân tạo dựa trên đại lý với những công ty gặp khó khăn?
Trong vài năm tới, các đại lý trí tuệ nhân tạo tự chủ sẽ chuyển từ các thí nghiệm thú vị sang trở thành một lớp hoạt động thực sự trong các tổ chức lớn. Chúng sẽ được sử dụng cho các hoạt động, dịch vụ khách hàng, tài chính và nhân sự. Khi độ tin cậy, quản trị và giám sát cải thiện, chúng tôi sẽ thấy các doanh nghiệp chuyển từ các thí điểm bị cô lập sang chạy các đội đại lý trên các quy trình làm việc từ đầu đến cuối.
Sự thay đổi lớn nhất là tốc độ, sự linh hoạt, quy mô, hiệu quả và chi phí sẽ trở thành một đòn bẩy cạnh tranh trực tiếp hơn. Tôi nghĩ rằng một “phong trào Uber” đang đến cho các doanh nghiệp. Những doanh nghiệp thực sự thành thạo trí tuệ nhân tạo dựa trên đại lý sẽ có thể hoạt động với tốc độ cơ bản cao hơn so với những người chậm chạp, nắm bắt thị trường nhanh hơn và phản ứng với thay đổi mà không có độ trễ hoạt động thông thường.
Điều phân biệt những người chiến thắng không chỉ là triển khai các đại lý, mà là triển khai chúng một cách tốt. Tự chủ được quản lý, khả năng quan sát mạnh mẽ và nhật ký hành động, và các kiến trúc thu hẹp không gian quyết định sẽ là chìa khóa để thực hiện điều đó. Các công ty coi trí tuệ nhân tạo dựa trên đại lý là một khả năng hoạt động cốt lõi, với các kiểm soát, tích hợp và quyền sở hữu phù hợp, sẽ sử dụng nó để làm được nhiều hơn, không ít hơn. Điều đó sẽ giải phóng các đội để tập trung vào tăng trưởng và đổi mới chứ không phải dành cả ngày để chôn mình trong quản lý. Tóm lại, tốc độ và hiệu quả cực đoan trở thành một lợi thế cạnh tranh thực sự trên quy mô doanh nghiệp.
