Dimitri Masin, CEO & Co-Founder tại Gradient Labs – Series Phỏng Vấn

Dimitri Masin là CEO và Co-Founder của Gradient Labs, một công ty khởi nghiệp AI xây dựng các đại lý hỗ trợ khách hàng tự động được thiết kế đặc biệt cho các ngành công nghiệp được quản lý như dịch vụ tài chính. Trước khi thành lập Gradient Labs vào năm 2023, Masin đã giữ các vị trí lãnh đạo cấp cao tại Monzo Bank, bao gồm Phó Chủ tịch Khoa học Dữ liệu, Tội phạm Tài chính và Gian lận, và trước đó đã làm việc tại Google. Dưới sự lãnh đạo của anh, Gradient Labs đã nhanh chóng đạt được động lực, đạt doanh thu hàng năm là 1 triệu bảng Anh trong vòng 5 tháng sau khi ra mắt. Sự tập trung của Masin là vào việc phát triển các hệ thống AI kết hợp hiệu suất cao với sự tuân thủ quy định nghiêm ngặt, cho phép tự động hóa an toàn và có thể mở rộng cho các hoạt động khách hàng phức tạp.

Điều gì đã truyền cảm hứng cho bạn để ra mắt Gradient Labs sau một hành trình thành công tại Monzo?

Tại Monzo, chúng tôi đã dành nhiều năm để làm việc về tự động hóa hỗ trợ khách hàng, thường nhắm đến các lợi ích hiệu quả khiêm tốn 10%. Nhưng vào đầu năm 2023, chúng tôi đã chứng kiến một sự thay đổi công nghệ lớn với việc phát hành GPT-4. Bỗng nhiên, đã có thể tự động hóa 70-80% công việc thủ công, lặp đi lặp lại hoàn toàn tự động thông qua AI.

Sự đột phá công nghệ mà chúng ta đang trải qua hiện nay đã truyền cảm hứng cho chúng tôi để bắt đầu Gradient Labs. Trong sự nghiệp của tôi, tôi đã thấy hai làn sóng cách mạng như vậy: cuộc cách mạng di động (đã xảy ra vào đầu sự nghiệp của tôi) và bây giờ là AI. Khi bạn nhận ra rằng bạn đang ở giữa một sự chuyển đổi sẽ hoàn toàn thay đổi cách thế giới hoạt động, bạn phải nắm bắt cơ hội. Đội ngũ của chúng tôi biết – đây là thời điểm.

Tại Monzo, bạn đã giúp công ty dẫn đầu sự tăng trưởng siêu tốc. Những bài học lớn nhất từ kinh nghiệm đó mà bạn đang áp dụng tại Gradient Labs là gì?

Thứ nhất, cân bằng giữa tự chủ và hướng dẫn. Tại Monzo, chúng tôi ban đầu cho rằng mọi người chỉ đơn giản phát triển mạnh nhờ tự chủ – đó là điều thúc đẩy họ nhiều nhất. Tuy nhiên, quan điểm đó bây giờ dường như quá đơn giản. Tôi tin rằng mọi người cũng đánh giá cao sự hướng dẫn. Tự chủ thực sự không phải là nói với mọi người “hãy làm bất cứ điều gì bạn quyết định”, mà là cung cấp hướng dẫn rõ ràng trong khi cho họ tự do giải quyết các vấn đề được xác định rõ ràng theo cách của họ.

Thứ hai, nhân tài hàng đầu đòi hỏi phải trả lương tương xứng. Nếu bạn nhắm đến việc thuê 5% hàng đầu trong chức năng của bạn, bạn phải trả lương tương ứng. Nếu không, các công ty công nghệ lớn sẽ thuê họ khi họ biết bạn có nhân tài hàng đầu đang được trả lương thấp.

Thứ ba, đừng tái tạo bánh xe. Tại Monzo, chúng tôi đã cố gắng tạo ra các phương pháp tiếp cận sáng tạo cho cấu trúc công việc, hệ thống lương, và thang nghề nghiệp. Bài học chính: đừng lãng phí năng lượng để đổi mới về các nguyên tắc tổ chức cơ bản – hàng nghìn công ty đã thiết lập các phương pháp hay nhất. Tôi vẫn thấy các bài đăng trên LinkedIn về “loại bỏ tất cả các chức danh và cấp bậc” – tôi đã xem điều này diễn ra nhiều lần và gần như tất cả các công ty cuối cùng đều quay trở lại các cấu trúc truyền thống.

Gradient Labs tập trung vào các ngành công nghiệp được quản lý, vốn truyền thống có nhu cầu phức tạp. Bạn đã tiếp cận việc xây dựng một đại lý AI (như Otto) có thể hoạt động hiệu quả trong môi trường này như thế nào?

Chúng tôi đã thực hiện một cách tiếp cận không chính thống, từ chối lời khuyên điển hình là phát hành nhanh và lặp lại trên một sản phẩm trực tiếp. Thay vào đó, chúng tôi đã dành 14 tháng trước khi phát hành Otto, duy trì một tiêu chuẩn chất lượng rất cao từ đầu. Chúng tôi cần tạo ra một thứ mà các ngân hàng và tổ chức tài chính sẽ tin tưởng để xử lý hỗ trợ khách hàng hoàn toàn tự động.

Chúng tôi không xây dựng các phi công đồng hành – chúng tôi xây dựng tự động hóa từ đầu đến cuối cho hỗ trợ khách hàng. Với kinh nghiệm của chúng tôi trong lĩnh vực dịch vụ tài chính, chúng tôi đã có một tiêu chuẩn chất lượng nội bộ rõ ràng về “nhìn thế nào là tốt”, cho phép chúng tôi đánh giá chất lượng mà không dựa vào phản hồi của khách hàng. Điều này đã cho chúng tôi sự tự do để tập trung vào chất lượng trong khi lặp lại nhanh chóng. Không có khách hàng trực tiếp, chúng tôi có thể thực hiện các bước nhảy lớn, phá vỡ mọi thứ một cách tự do và chuyển hướng nhanh chóng – cuối cùng là cung cấp một sản phẩm vượt trội tại thời điểm ra mắt.

Otto vượt ra ngoài việc trả lời các câu hỏi đơn giản và xử lý các quy trình phức tạp. Bạn có thể giải thích cách Otto quản lý các nhiệm vụ đa bước hoặc có rủi ro cao mà các đại lý AI điển hình có thể thất bại không?

Chúng tôi đã xây dựng Otto xung quanh khái niệm về các Quy trình Tiêu chuẩn (SOP) – cơ bản là các tài liệu hướng dẫn được viết bằng tiếng Anh đơn giản chi tiết cách xử lý các vấn đề cụ thể, tương tự như những gì bạn sẽ đưa cho một đại lý con người.

Hai quyết định kiến trúc chính làm cho Otto đặc biệt hiệu quả trong việc quản lý các quy trình phức tạp:

Thứ nhất, chúng tôi hạn chế việc tiếp xúc với công cụ. Một chế độ thất bại phổ biến của các đại lý AI là chọn sai từ quá nhiều tùy chọn. Đối với mỗi thủ tục, chúng tôi chỉ hiển thị một tập hợp con các công cụ liên quan cho Otto. Ví dụ, trong một quy trình thay thế thẻ, Otto có thể chỉ nhìn thấy 1-2 công cụ thay vì tất cả 30 công cụ đã đăng ký trong hệ thống. Điều này cải thiện đáng kể độ chính xác bằng cách giảm không gian quyết định.

Thứ hai, chúng tôi đã xây dựng lại nhiều phần của cơ sở hạ tầng trợ lý AI điển hình để cho phép lý luận chuỗi suy nghĩ sâu rộng. Thay vì chỉ ném các thủ tục vào một trợ lý OpenAI hoặc Anthropic, kiến trúc của chúng tôi cho phép nhiều bước xử lý giữa đầu vào và đầu ra. Điều này cho phép suy luận sâu hơn và kết quả đáng tin cậy hơn.

Gradient Labs đề cập đến việc đạt được “chất lượng siêu phàm” trong hỗ trợ khách hàng. “Chất lượng siêu phàm” có nghĩa là gì với bạn, và bạn đo lường nó như thế nào bên trong?

Chất lượng siêu phàm có nghĩa là cung cấp hỗ trợ khách hàng tốt hơn đáng kể so với những gì con người có thể đạt được. Ba ví dụ sau minh họa điều này:

Thứ nhất, kiến thức toàn diện. Các đại lý AI có thể xử lý một lượng lớn thông tin và có kiến thức chi tiết về một công ty. Ngược lại, con người thường chỉ học một tập hợp con thông tin và khi họ không biết điều gì đó, họ phải tham khảo các cơ sở kiến thức hoặc chuyển lên các đồng nghiệp. Điều này dẫn đến một trải nghiệm khó chịu khi khách hàng được chuyển giữa các đội. Một đại lý AI, ngược lại, có sự hiểu biết sâu sắc về công ty và các quy trình của nó, cung cấp câu trả lời nhất quán, từ đầu đến cuối – không cần chuyển hướng.

Thứ hai, tìm kiếm không lười biếng – AI nhanh chóng thu thập thông tin. Trong khi con người cố gắng tiết kiệm thời gian bằng cách hỏi khách hàng các câu hỏi trước khi điều tra, AI proactively kiểm tra thông tin tài khoản, cờ, cảnh báo và thông báo lỗi trước khi cuộc trò chuyện bắt đầu. Vì vậy, khi khách hàng nói một cách mơ hồ “Tôi có vấn đề với X”, AI có thể ngay lập tức cung cấp một giải pháp thay vì hỏi nhiều câu hỏi làm rõ.

Cuối cùng, sự kiên nhẫn và tính nhất quán về chất lượng. Không giống như con người phải đối mặt với áp lực để xử lý một số lượng trả lời nhất định mỗi giờ, AI của chúng tôi duy trì chất lượng cao nhất quán, kiên nhẫn và giao tiếp cô đọng. Nó trả lời kiên nhẫn miễn là cần thiết mà không vội vàng.

Chúng tôi đo lường điều này chủ yếu thông qua các điểm số hài lòng của khách hàng. Đối với tất cả khách hàng hiện tại, chúng tôi đạt được điểm số CSAT trung bình từ 80% đến 90% – thường cao hơn so với các đội con người.

Bạn đã cố ý tránh ràng buộc Gradient Labs với một nhà cung cấp LLM duy nhất. Tại sao việc này lại quan trọng, và nó ảnh hưởng đến hiệu suất và độ tin cậy cho khách hàng của bạn như thế nào?

Trong hai năm qua, chúng tôi đã quan sát thấy rằng những cải tiến hiệu suất lớn nhất của chúng tôi đến từ khả năng chuyển sang mô hình tốt nhất tiếp theo bất cứ khi nào OpenAI hoặc Anthropic phát hành một thứ gì đó nhanh hơn, tốt hơn hoặc chính xác hơn. Sự linh hoạt của mô hình đã là chìa khóa.

Sự linh hoạt này cho phép chúng tôi liên tục cải thiện chất lượng trong khi quản lý chi phí. Một số nhiệm vụ đòi hỏi các mô hình mạnh mẽ hơn, số khác ít hơn. Kiến trúc của chúng tôi cho phép chúng tôi thích nghi và phát triển theo thời gian, chọn mô hình tối ưu cho từng tình huống.

Cuối cùng, chúng tôi sẽ hỗ trợ các LLM mã nguồn mở riêng được lưu trữ trên cơ sở hạ tầng của khách hàng. Nhờ kiến trúc của chúng tôi, đây sẽ là một chuyển đổi trực tiếp, điều đặc biệt quan trọng khi phục vụ các ngân hàng có thể có các yêu cầu cụ thể về việc triển khai mô hình.

Gradient Labs không chỉ xây dựng một chatbot — bạn đang nhắm đến việc xử lý các quy trình văn phòng trở lại. Những thách thức kỹ thuật hoặc vận hành lớn nhất trong việc tự động hóa các loại nhiệm vụ này với AI là gì?

Có hai loại quy trình riêng biệt, mỗi loại có thách thức riêng:

Đối với các quy trình đơn giản, công nghệ chủ yếu đã tồn tại. Thách thức chính là tích hợp – kết nối với nhiều hệ thống và công cụ backend tùy chỉnh mà các tổ chức tài chính sử dụng, vì hầu hết các hoạt động khách hàng liên quan đến nhiều hệ thống nội bộ.

Đối với các quy trình phức tạp, vẫn còn nhiều thách thức kỹ thuật đáng kể. Các quy trình này thường đòi hỏi con người phải được thuê và đào tạo trong 6-12 tháng để phát triển chuyên môn, chẳng hạn như điều tra gian lận hoặc đánh giá rửa tiền. Thách thức ở đây là chuyển giao kiến thức – làm thế nào chúng tôi có thể trao cho các đại lý AI cùng chuyên môn lĩnh vực? Đó là một vấn đề khó mà mọi người trong lĩnh vực này vẫn đang cố gắng giải quyết.

Làm thế nào Gradient Labs cân bằng nhu cầu về tốc độ và hiệu quả của AI với các yêu cầu tuân thủ nghiêm ngặt của các ngành công nghiệp được quản lý?

Đó chắc chắn là một sự cân bằng, nhưng ở cấp độ cuộc trò chuyện, đại lý của chúng tôi đơn giản là dành nhiều thời gian hơn để suy nghĩ. Nó đánh giá nhiều yếu tố: Tôi có hiểu rõ khách hàng đang hỏi không? Tôi có đưa ra câu trả lời chính xác không? Khách hàng có dấu hiệu dễ bị tổn thương không? Khách hàng có muốn gửi khiếu nại không?

Cách tiếp cận có chủ ý này làm tăng độ trễ – thời gian trả lời trung vị của chúng tôi có thể là 15-20 giây. Nhưng đối với các tổ chức tài chính, đó là một sự trao đổi công bằng. Một phản hồi trong 15 giây vẫn nhanh hơn nhiều so với phản hồi của con người, trong khi các bảo đảm chất lượng quan trọng hơn nhiều đối với các công ty được quản lý mà chúng tôi hợp tác.

Bạn có dự đoán một tương lai nơi các đại lý AI không chỉ được tin cậy cho hỗ trợ mà còn cho các nhiệm vụ ra quyết định quan trọng hơn trong các tổ chức tài chính không?

Các tổ chức tài chính đã sử dụng các kỹ thuật AI truyền thống hơn cho các quyết định quan trọng trước làn sóng AI hiện tại. Ở nơi tôi thấy cơ hội thực sự là trong việc điều phối – không phải đưa ra quyết định, mà là phối hợp toàn bộ quy trình.

Ví dụ, khách hàng tải lên tài liệu, một đại lý AI định tuyến chúng đến một hệ thống xác thực, nhận được xác nhận về tính hợp lệ và sau đó kích hoạt các hành động và giao tiếp với khách hàng phù hợp. Chức năng điều phối này là nơi các đại lý AI thực sự xuất sắc.

Đối với các quyết định quan trọng nhất, tôi không thấy nhiều thay đổi trong thời gian gần. Những mô hình này đòi hỏi sự giải thích, ngăn chặn thiên vị và phê duyệt thông qua các ủy ban rủi ro mô hình. Các mô hình ngôn ngữ lớn sẽ phải đối mặt với những thách thức tuân thủ đáng kể trong những ngữ cảnh này.

Theo quan điểm của bạn, AI sẽ thay đổi trải nghiệm khách hàng cho các ngân hàng, công ty fintech và các lĩnh vực được quản lý khác như thế nào trong 3-5 năm tới?

Tôi thấy năm xu hướng chính thay đổi trải nghiệm khách hàng:

Thứ nhất, tương tác đa kênh thực sự. Hãy tưởng tượng bắt đầu một cuộc trò chuyện trong ứng dụng ngân hàng của bạn, sau đó chuyển đổi mượt mà sang giọng nói với cùng một đại lý AI. Giọng nói, cuộc gọi và trò chuyện sẽ hòa quyện vào một trải nghiệm liên tục.

Thứ hai, giao diện người dùng thích ứng giúp giảm thiểu việc điều hướng trong ứng dụng. Thay vì tìm kiếm các chức năng cụ thể trong menu, khách hàng sẽ đơn giản nói ra nhu cầu của họ: “Hãy tăng giới hạn của tôi” – và hành động sẽ được thực hiện ngay lập tức thông qua cuộc trò chuyện.

Thứ ba, kinh tế đơn vị tốt hơn. Hỗ trợ và vận hành là những trung tâm chi phí khổng lồ. Giảm chi phí này có thể cho phép các ngân hàng phục vụ khách hàng trước đây không có lợi nhuận hoặc chuyển tiết kiệm cho người dùng – đặc biệt là trong các phân khúc ngân hàng thấp.

Thứ tư, hỗ trợ vượt trội có thể mở rộng. Hiện tại, các công ty khởi nghiệp với ít khách hàng có thể cung cấp hỗ trợ cá nhân hóa, nhưng chất lượng thường giảm khi các công ty phát triển. AI làm cho hỗ trợ tuyệt vời trở nên có thể mở rộng, không chỉ có thể.

Cuối cùng, hỗ trợ khách hàng sẽ chuyển đổi từ một nhu cầu khó chịu thành một dịch vụ hữu ích thực sự. Nó sẽ không còn được xem là một chi phí cơ sở hạ tầng tốn kém về lao động, mà là một điểm chạm khách hàng hiệu quả và có giá trị, nâng cao trải nghiệm tổng thể.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Gradient Labs.