Romain Sestier (CEO) & Guillaume Lebedel (CTO), Người đồng sáng lập StackOne – Loạt phỏng vấn

Romain Sestier, Người đồng sáng lập & CEO của StackOne, đã xây dựng một sản phẩm từ đầu đến giá trị 1 tỷ đô la tại Google (GOOGL ) và cũng từng là VP của Sản phẩm & Dịch vụ tại Yieldify, nơi ông quản lý 70 người trên toàn cầu và lãnh đạo chiến lược tích hợp SaaS. Romain cũng mở văn phòng tại Anh với tư cách là Trưởng phòng Dịch vụ tại ContentSquare và lãnh đạo tích hợp với các công cụ kiểm tra A/B. Ông cũng đã đồng sáng lập một công ty khởi nghiệp trước đó, Upper.ai, với Guillaume.

Guillaume Lebedel, Người đồng sáng lập & CTO của StackOne, từng là VP của Kỹ thuật tại Yieldify, một công ty được Publicis mua lại. Guillaume đã lãnh đạo các đội tích hợp và xây dựng hàng trăm tích hợp với các công cụ SaaS được hơn 1000 sản phẩm SaaS sử dụng. Ông cũng đã xây dựng và duy trì các API với hơn 2 tỷ lượt truy cập mỗi tháng.

StackOne là một nền tảng tích hợp AI đầu tiên về quyền riêng tư, giúp các công ty SaaS B2B và các đại lý AI xây dựng các tích hợp thời gian thực, hai chiều trên hàng trăm hệ thống doanh nghiệp thông qua một API thống nhất. Được thiết kế cho tốc độ và bảo mật, nó cho phép các nhà phát triển giao các tích hợp trong vài ngày thay vì vài tuần mà không cần lưu trữ dữ liệu khách hàng.

Điều gì đã truyền cảm hứng cho bạn rời Google và đồng sáng lập StackOne, và khoảng trống nào trong không gian tích hợp AI hoặc SaaS mà bạn thấy đã khiến cơ hội trở nên cấp thiết?

Romain: “Đau đớn của tích hợp là điều tôi đã cảm nhận được ở mọi giai đoạn của sự nghiệp, dù tôi đang ở một công ty khởi nghiệp giai đoạn đầu hay làm việc với các hệ thống quy mô lớn trong Google. Khi lãnh đạo Sản phẩm tại Google, tôi đã xây dựng một công cụ phân tích AI cho bán lẻ, và ngay cả ở đó – một trong những công ty kỹ thuật tiên tiến nhất trên thế giới – chúng tôi đã gặp phải những chướng ngại vật khổng lồ chỉ để tích hợp sạch giữa các hệ thống. Đó là khi nó thực sự đánh tôi: đây là một vấn đề hệ thống, phổ biến. Và với sự xuất hiện của LLM, chúng tôi đã nhìn thấy một cửa sổ mới mở ra. Bỗng nhiên, có một cơ hội để hoàn toàn tưởng tượng lại lớp tích hợp: một lớp không chỉ được gắn vào, mà được xây dựng từ đầu cho AI. Guillaume và tôi đã nhìn thấy rõ ràng: thời điểm đã chín muồi, và thị trường đang đói một giải pháp.”

Kinh nghiệm lãnh đạo sản phẩm và dịch vụ của bạn tại Yieldify và công việc của bạn tại Area 120 đã ảnh hưởng như thế nào đến chiến lược sản phẩm của StackOne?

Romain: “Tại Yieldify, tôi đã lãnh đạo cả phía Sản phẩm và Dịch vụ của kinh doanh, điều đó đã dạy tôi tầm quan trọng của việc gắn kết bản đồ đường với các kết quả doanh thu thực tế; những thứ như việc tích hợp đối tác nhanh hơn, giá trị đơn hàng trung bình cao hơn, hoặc tỷ lệ rời bỏ thấp hơn. Tại Google, tôi đã mở rộng một sản phẩm phân tích dữ liệu mang lại 1 tỷ đô la doanh thu tăng thêm, và kinh nghiệm đó đã củng cố cho tôi tầm quan trọng của trải nghiệm người dùng và các chỉ số áp dụng đối với thành công. Area 120 là một loài thú khác – đó là tất cả về các ý tưởng 10x và tốc độ. Điều đó đã dạy tôi di chuyển nhanh, thử nghiệm liên tục, và không sợ đặt cược lớn. Tất cả những điều đó đã ảnh hưởng sâu sắc đến cách chúng tôi xây dựng tại StackOne: các sprint hai tuần, các đặt cược sản phẩm táo bạo, và một sự tập trung laser vào việc làm cho các tích hợp không chỉ dễ dàng mở rộng, mà còn thú vị khi sử dụng.”

StackOne không xây dựng một mô hình mới – bạn đang xây dựng mô hình liên kết giữa các mô hình và hệ thống SaaS. Tại sao lớp cơ sở hạ tầng này lại quan trọng đến vậy đối với thành công của các đại lý AI?

Guillaume: “Thực tế là, các đại lý AI không chỉ cần não bộ, họ cũng cần tay. Một mô hình có thể lý luận một cách tuyệt vời, nhưng trừ khi nó có thể thực hiện các hành động chính xác, an toàn và nhanh chóng trong thế giới thực, nó sẽ bị hạn chế nghiêm trọng. Nếu không có một lớp cơ sở hạ tầng có cấu trúc để quản lý xác thực, giới hạn tốc độ và quyền truy cập, chúng sẽ либо ảo tưởng và thực hiện các hành động sai trái, hoặc sẽ làm hỏng mọi thứ. Hầu hết các công ty sử dụng hơn 100 công cụ SaaS, vì vậy nếu không có một nền tảng như StackOne để trừu tượng hóa hệ thống管道, bạn sẽ bị kẹt trong việc kết nối từng công cụ một. Công việc của chúng tôi là cung cấp cho các đại lý quyền truy cập an toàn, có thể mở rộng đến các công cụ họ cần, để các đội có thể tập trung vào logic, không phải logistics.”

Bạn có thể giải thích cách nền tảng Unified API và các hành động của đại lý AI StackOne hoạt động dưới mui xe không? Điều gì về mặt kỹ thuật là thách thức?

Guillaume: “Chúng tôi định nghĩa một spec OpenAPI được mô tả chi tiết cho mỗi miền, tương ứng với hàng trăm điểm cuối dưới đây. Spec đó được cập nhật tập trung, vì vậy khách hàng không cần phải quản lý các thay đổi phiên bản. Các lược đồ công cụ của chúng tôi được định nghĩa trước với các phạm vi xác thực phù hợp, có nghĩa là đại lý không cần đoán hoặc vượt quá giới hạn. Phần khó nhất là chuẩn hóa các mô hình dữ liệu SaaS – các công cụ như Workday cho phép khách hàng định nghĩa các đối tượng và mối quan hệ tùy chỉnh, điều này giới thiệu sự phức tạp khổng lồ. Động cơ của chúng tôi xử lý tất cả những điều đó trong thời gian thực, cung cấp cho các nhà phát triển một lớp thực hiện đáng tin cậy, có tính xác định, được hỗ trợ bởi ánh xạ LLM.”

Điều gì làm cho động cơ gọi công cụ của StackOne nhanh hơn và chính xác hơn so với khả năng của thậm chí các LLM hàng đầu?

Guillaume: “Chìa khóa là cấu trúc. Động cơ của chúng tôi cung cấp các chữ ký hàm được đánh dấu và mô tả chi tiết, vì vậy các mô hình biết chính xác những đối số nào để sử dụng. Dưới mui xe, StackOne có thể nhóm và song song hóa các cuộc gọi công cụ trong khi tôn trọng các giới hạn tốc độ để thực hiện các yêu cầu nhanh nhất có thể với các lần thử lại tự động. Và vì chúng tôi quản lý các thông tin đăng nhập tập trung, không cần phải xác thực lại bên trong vòng lặp. Những tối ưu hóa này tạo ra sự khác biệt lớn khi bạn cố gắng chạy các đại lý trong thời gian thực.”

Làm thế nào StackOne được tối ưu hóa đặc biệt cho các trường hợp sử dụng AI, chẳng hạn như Tạo Retrieval-Augmented Generation (RAG), sử dụng công cụ hoặc thực hiện đại lý thời gian thực?

Guillaume: “Chúng tôi cung cấp các điểm cuối chỉ delta cho các đường ống RAG, điều này giữ cho các cửa sổ ngữ cảnh ngắn và hiệu quả. Đối với các đại lý thời gian thực, chúng tôi hỗ trợ các webhook thống nhất theo luồng tận dụng các sự kiện bản địa hoặc tạo các sự kiện tổng hợp khi các công cụ cơ bản không cung cấp các sự kiện bạn cần. Và nền tảng của chúng tôi thực thi kiểm soát truy cập mịn ở cấp độ thuê bao và dự án, điều này là thiết yếu để điều phối nhiều đại lý trên các người dùng khác nhau một cách an toàn.”

Những quan niệm sai lầm phổ biến nhất mà các đội có về việc xây dựng tích hợp nội bộ so với sử dụng một nền tảng như StackOne là gì?

Romain: “Một quan niệm sai lầm lớn là tích hợp chỉ là về việc thực hiện một cuộc gọi API. Việc xây dựng ban đầu có thể trông đơn giản, nhưng việc bảo trì liên tục thường tiêu tốn 20% thời gian kỹ thuật. Các đội cũng đánh giá thấp giá trị của các kết nối niêm phong: những kết nối bạn deprioritise có thể là nơi rủi ro thực sự sống. Và bảo mật thường là một suy nghĩ sau. Các đội DIY hiếm khi bao gồm các điều như tuân thủ SOC-2 hoặc cách ly thuê bao, những điều này là không thể thương lượng đối với khách hàng doanh nghiệp. Và sau đó có tùy chỉnh thuê bao. Mỗi khách hàng mới mang lại một tập hợp các trường hợp ngoại lệ, sự kỳ lạ cấu hình và logic ánh xạ, điều này thêm sự phức tạp liên tục mà dễ dàng bỏ qua trước.”

Mọi người đang nói về các đại lý AI, nhưng triển khai thế giới thực vẫn còn trong giai đoạn đầu. Bạn tin rằng điều gì đang cản trở việc áp dụng doanh nghiệp hàng loạt – và StackOne đang giải quyết nó như thế nào?

Romain: “Bảo mật và tuân thủ vẫn là những chướng ngại vật lớn nhất. Các CIO lo lắng về các đại lý hoạt động ngoài phạm vi hoặc tạo ra khoảng trống kiểm toán. StackOne giải quyết vấn đề này bằng cách thực thi các phạm vi OAuth tối thiểu, cho phép các công tắc tắt cấp thuê bao và cung cấp một đường mòn kiểm toán đầy đủ. Khi các đội rủi ro nhìn thấy mức độ kiểm soát đó, họ chuyển từ việc trở thành người giữ cổng sang người hỗ trợ tích cực.”

Những thách thức kỹ thuật hoặc bảo mật lớn nhất trong việc cho phép các đại lý AI hoạt động thay mặt cho người dùng trên các nền tảng SaaS – và bạn giảm thiểu chúng như thế nào?

Guillaume: “Bạn phải quản lý các thứ như sự lan rộng token và chu kỳ làm mới, điều mà chúng tôi giải quyết bằng một kho tiền mã hóa tập trung. Ngăn chặn rò rỉ dữ liệu ở cấp độ hàng là một thách thức khác, vì vậy chúng tôi thực thi các định danh tài khoản quyết định trong cuộc gọi công cụ để đảm bảo các đại lý chỉ truy cập đúng dữ liệu và nó không phụ thuộc vào LLM. Và để tránh sự trôi dạt hoặc lạm dụng của đại lý, chúng tôi liên tục chạy các kiểm tra chính sách và kiểm tra đội đỏ. Nền tảng của chúng tôi cũng cho phép tham số hóa hành động nào nên có sẵn cho hệ thống liên kết nào. Bảo mật phải được nướng từ dưới lên.”

Bạn nhìn thấy tương lai của các công cụ mã nguồn mở như LangChain và CrewAI kết hợp với các nền tảng độc quyền như StackOne như thế nào?

Guillaume: “Chúng tôi nhìn thấy mã nguồn mở như lớp điều phối và StackOne như lớp cơ sở hạ tầng cơ bản. Đó là lý do tại sao chúng tôi đã xây dựng các SDK cho Python và Typescript mà cắm trực tiếp vào các công việc LangChain và CrewAI. Bạn sẽ thấy một mô hình lai xuất hiện, với các công cụ mã nguồn mở cho nguyên mẫu và các nền tảng được quản lý cho độ tin cậy sản xuất, tương tự như cách các đội sử dụng Terraform với AWS. Đó không phải là hoặc-or, mà là cả hai.”

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập StackOne.