Neal Lathia, Đồng sáng lập và CTO của Gradient Labs – Loạt phỏng vấn

Neal Lathia, Đồng sáng lập và CTO của Gradient Labs, là một nhà lãnh đạo trong lĩnh vực học máy và khoa học dữ liệu với gần hai thập kỷ kinh nghiệm trải dài qua công nghệ tài chính, nền tảng tiêu dùng và nghiên cứu học thuật. Trước khi đồng sáng lập Gradient Labs vào năm 2023, ông đã dành hơn năm năm tại Monzo, thăng tiến từ Nhà khoa học dữ liệu cao cấp đến Giám đốc Học máy và Kỹ sư Học máy cấp cao, nơi ông xây dựng hạ tầng học máy và giúp mở rộng lĩnh vực này để hỗ trợ các ứng dụng trong vận hành, phòng chống tội phạm tài chính và sản phẩm. Trước đó, Lathia làm việc như một Nhà khoa học dữ liệu cao cấp tại Skyscanner và giữ các vị trí nghiên cứu tại University of Cambridge và University College London, nơi công trình của ông khám phá các hệ thống đề xuất, dữ liệu hành vi, cảm biến điện thoại thông minh và dịch vụ kỹ thuật số cá nhân hoá. Tại Gradient Labs, ông hiện lãnh đạo công nghệ phía sau các tác nhân AI được thiết kế cho các quy trình công việc tài chính phức tạp và được quy định.

Gradient Labs là một công ty AI có trụ sở tại London, xây dựng các tác nhân tự động chuyên biệt cho dịch vụ tài chính, tập trung vào tự động hoá các hoạt động khách hàng thường yêu cầu sự can thiệp đáng kể của con người. Được thành lập bởi các cựu lãnh đạo Monzo Dimitri Masin, Neal Lathia và Danai Antoniou, công ty phát triển các tác nhân cho các lĩnh vực bao gồm cho vay và thu hồi nợ, tranh chấp, Know Your Business (KYB), onboarding, yêu cầu bảo hiểm và dịch vụ khách hàng, hoạt động trên giọng nói, chat và email đồng thời tích hợp các rào cản tuân thủ được thiết kế cho môi trường được quy định. Gradient Labs cho biết công nghệ của mình hiện phục vụ hơn 32 triệu người dùng cuối trên các khách hàng bao gồm Wise, Zego, Current, Stash và Rho. Vào tháng 6 năm 2026, công ty công bố đã mở rộng vòng tài trợ Series A lên 26 triệu đô la khi họ hướng tới tầm nhìn rộng hơn về việc tự động hoá các quy trình ngân hàng và fintech phức tạp bằng các tác nhân AI chuyên biệt liên kết với nhau.

Bạn đã dành hơn năm năm xây dựng và lãnh đạo học máy tại Monzo trước khi đồng sáng lập Gradient Labs vào năm 2023. Điều gì bạn đã chứng kiến trực tiếp tại Monzo khiến bạn tin rằng có cơ hội tạo ra một công ty mới xoay quanh các tác nhân AI tự động, và tại sao sự xuất hiện của các mô hình ngôn ngữ lớn lại làm cho cơ hội này trở nên khả thi?

Tại Monzo, tôi đã dành nhiều năm xây dựng các hệ thống ML cần hoạt động trong môi trường được quy định, nơi các sai sót có hậu quả thực tế và mọi thứ đều cần một chuỗi kiểm tra. Điều ảnh hưởng nhất đến tôi là nhu cầu phát triển hạ tầng tùy chỉnh, vì không có giải pháp có sẵn nào có thể hoạt động an toàn dưới những ràng buộc nghiêm ngặt đó. Trải nghiệm này đã để lại cho tôi hai niềm tin. Đầu tiên là công nghệ cuối cùng có thể giải phóng các ngân hàng khỏi gánh nặng vận hành đã kìm hãm ngành trong nhiều thập kỷ. Thứ hai là AI đa mục đích, ngang hàng sẽ không tạo ra ảnh hưởng đáng kể — tính tinh vi của công việc được quy định quá cụ thể. Khi các LLM trở nên đủ khả năng suy luận qua các tương tác khách hàng đa bước, đôi khi mơ hồ, việc xây dựng các tác nhân có thể quản lý toàn bộ quy trình công việc được quy định từ đầu đến cuối trở nên khả thi, thay vì chỉ hỗ trợ con người thực hiện. Khoảng cách đó, giữa những gì các công ty được quy định thực sự cần và những gì đã tồn tại, là lý do chúng tôi thành lập Gradient Labs và vì sao chúng tôi đặt cược vào AI dọc, được xây dựng riêng cho tài chính.

Bạn đã mô tả những gì người tiêu dùng đang trải nghiệm là “đầu rìa gồ ghề” của trải nghiệm: một tác nhân AI có thể thực hiện một nhiệm vụ vô cùng phức tạp trong khi một hệ thống khác lại thất bại ở việc đơn giản như phân biệt số điện thoại với tên. Thực tế gì gây ra khoảng cách đáng kể như vậy giữa các trải nghiệm AI khi các mô hình nền tảng có thể tương đương?

Tôi sẽ nói rằng khoảng cách này liên quan nhiều hơn đến mức độ kỹ thuật được đưa vào mô hình hơn là năng lực thô của mô hình. Nếu một hệ thống thất bại ở một nhiệm vụ đơn giản, chẳng hạn nhầm lẫn số điện thoại thành tên, nghĩa là nó chưa đầu tư vào khung xung quanh, như xác thực, logic dự phòng, xử lý dữ liệu có cấu trúc, v.v. Tác nhân ấn tượng hơn chắc hẳn đã được thiết kế kỹ lưỡng cho nhiệm vụ của mình. Nó là cùng một họ mô hình cơ bản nhưng với mức độ nghiêm ngặt hoàn toàn khác nhau, và chính điều này dẫn đến “đầu rìa gồ ghề”.

Khi các mô hình tiên tiến tiếp tục cải thiện, tại sao những lỗi AI cơ bản dường như vẫn tồn tại? Liệu chúng chủ yếu là giới hạn của chính các mô hình, hay là lỗi trong kiến trúc hệ thống, dữ liệu, quy trình làm việc, đánh giá và thiết kế sản phẩm xung quanh?

Chủ yếu là hệ thống chứ không phải mô hình. Các mô hình tiên tiến tiếp tục cải thiện khả năng suy luận. Tuy nhiên, các công ty thường gắn chúng vào các hệ thống không được phát triển cho hành vi dựa trên xác suất. Có những tích hợp mong manh và dữ liệu không đầy đủ trong các hệ thống, mà không có vòng lặp đánh giá thực tế trước khi thay đổi được triển khai. Vì vậy, một lỗi AI cơ bản trong sản xuất thực sự không phải là lỗi AI, mà là lỗi trong việc đầu tư vào đánh giá, giám sát và quy trình thiết kế quy trình làm việc.

Nhiều công ty dường như tối ưu dịch vụ khách hàng AI dựa trên tốc độ, mức độ giải quyết, hoặc giảm số lượng vé. Các chỉ số nào các công ty nên sử dụng thay thế nếu họ muốn đo lường liệu một tác nhân AI thực sự cải thiện trải nghiệm khách hàng?

Đối với điều này, chúng ta phải xem xét độ chính xác trong việc giải quyết. Tốc độ và mức độ giải quyết chỉ được dùng để đánh giá liệu bạn có thể dỡ khách hàng khỏi điện thoại hay không, chứ không phải liệu bạn có giải quyết được vấn đề của họ hay không. Độ chính xác trong việc giải quyết, mà nên được dùng để đo khả năng của một AI agent, sẽ xem xét liệu agent có làm đúng việc hay không, thay vì chỉ phản hồi nhanh. Điều này sẽ phối hợp với các tín hiệu khác như tỷ lệ liên hệ lại, khối lượng khiếu nại, và tần suất con người phải can thiệp sau đó. Bạn sẽ biết mình đang tối ưu cho kết quả sai nếu tỷ lệ chuyển hướng tăng, nhưng các liên hệ lại và khiếu nại cũng tăng.

Gradient Labs tập trung vào dịch vụ tài chính có quy định, nơi một phản hồi sai có thể gây hậu quả lớn hơn nhiều so với lỗi dịch vụ khách hàng thông thường. Làm thế nào để bạn xác định khi nào một AI agent đủ tin cậy để tự động xử lý các quy trình liên quan đến cho vay, tranh chấp, onboarding, hoặc kiểm tra Know Your Customer?

Lộ trình mặc định mà hầu hết các đội muốn theo là vai trò đồng hành: ai đó phê duyệt mọi hành động vì cảm thấy an toàn hơn. Và hầu hết sẽ cho rằng nó an toàn hơn. Nhưng thực tế, khi AI ngày càng đúng, các người xem xét phê duyệt mà không thực sự kiểm tra, và an toàn lại bị mất. Điều này không giảm tải công việc hiện có. Nó chỉ làm cho quá trình nhanh hơn và giảm giá trị bạn nhận được.

Đây là lý do tại Gradient Labs, khái niệm một AI agent đủ tin cậy lại rất phụ thuộc vào quy trình. Đối với chúng tôi, nó phải được phát triển qua các giai đoạn tự chủ và không được xem như một mục tiêu duy nhất để đánh dấu. Một agent có thể được cấp quyền tự chủ cao hơn trong các công việc như KYC hoặc tranh chấp chỉ sau khi nó đã được so sánh với một bộ dữ liệu thực tế lớn, sống động, và có sự xem xét của con người trên một mẫu quyết định ngay cả sau khi đã đưa vào sản xuất. Thật thú vị, điều này lại khẳng định rằng khả năng đảo ngược cũng thực sự quan trọng ở đây. Nếu một việc có thể được hoàn tác, nó sẽ đạt được tự chủ nhanh hơn so với việc không thể.

Các rào chắn ngày càng được đưa ra như giải pháp để làm cho AI agents an toàn hơn, nhưng việc thêm nhiều quy tắc cũng có thể làm cho hệ thống cứng nhắc hoặc ngăn chúng hoàn thành các nhiệm vụ hợp pháp. Làm sao cân bằng tự chủ với các rào chắn mà không biến một agent thành một chatbot bị hạn chế nghiêm ngặt?

Sai lầm là coi các rào chắn như một bức tường mà agent chỉ đơn giản va chạm. Trong hệ thống của chúng tôi, chúng thực hiện hai chức năng đồng thời. Chúng ta chạy rào chắn ở mỗi lượt trò chuyện — một số kiểm tra những gì khách hàng nói, để phát hiện các vấn đề như dễ tổn thương, khó khăn tài chính, hoặc khiếu nại, và những rào chắn khác kiểm tra những gì agent sắp nói, để giữ cho nó tuân thủ. Nhưng khi một rào chắn kích hoạt, nó không chỉ chặn lại: nó chuyển hướng agent vào quy trình đúng, và quyết định đó được minh bạch trong lý luận của agent, để các nhà vận hành có thể thấy lý do hành động. Các rào chắn sâu hơn còn được nhúng vào cách agent được dạy suy nghĩ về một nhiệm vụ, dữ liệu nó có thể truy cập, và công cụ nó có thể sử dụng. Sự kết hợp này giữ cho nó an toàn mà không làm cứng nhắc: agent hiểu rào chắn là gì và tại sao chúng tồn tại, vì vậy nó hoàn thành nhiệm vụ hợp pháp thay vì từ chối bất cứ điều gì chỉ vì có vẻ không cho phép.

Ở đây, tôi nghĩ vấn đề là nhìn các rào chắn như một bức tường gạch cho agent va chạm. Cụ thể hơn, chúng tôi chạy hai loại rào chắn khác nhau ở mỗi lượt trò chuyện. Đầu tiên, chúng tôi có rào chắn khách hàng kiểm tra những gì khách hàng nói và nhằm phát hiện các yếu tố như dễ tổn thương, khó khăn tài chính, khách hàng khiếu nại, và các trường hợp tương tự. Thứ hai, chúng tôi có rào chắn agent hoạt động ngược lại, kiểm tra những gì agent sẽ nói trước khi gửi tin nhắn, để giữ cho nó tuân thủ.

Điều này có nghĩa là, thay vì hoàn toàn chặn một hành động khi một trong các rào chắn được kích hoạt, nó sẽ chuyển hướng hành động đó tới con đường đúng. Nhờ vậy, nó duy trì tính minh bạch về quy trình ra quyết định của agent và cung cấp cho các nhà vận hành con người lý do cho hành động đó.

Chúng tôi cũng có thể làm được điều này vì không phải mọi khía cạnh của quá trình suy luận của agent đều phải qua một LLM. Các rào chắn như vậy là quyết định vì chúng không chỉ kích hoạt vào cuối cuộc trò chuyện, mà sẽ kích hoạt suốt vòng đời của agent. Đây là cách chúng tôi có thể tin tưởng agent trong giao tiếp nhạy cảm và cho phép tùy chỉnh các agent cụ thể cho các trường hợp sử dụng ở quy mô lớn và một cách dự đoán được.

Điều quan trọng nhất là cách agent được dạy suy nghĩ qua một nhiệm vụ ngay từ đầu, đảm bảo rằng nó có thể truy cập dữ liệu liên quan và biết các công cụ cần sử dụng. Khả năng này cho phép agent hoàn thành một nhiệm vụ hợp pháp thay vì từ chối thực hiện bất cứ điều gì có vẻ không được phép, và đó là yếu tố giúp cải thiện an toàn và tránh sự cứng nhắc.

Con người nên ở lại trong vòng lặp ở đâu khi AI agents ngày càng tự chủ? Có những quyết định hoặc tương tác với khách hàng nào mà bạn tin rằng vẫn cần phán đoán của con người bất kể các mô hình nền tảng trở nên mạnh mẽ đến đâu?

Cần có sự tham gia của con người nếu một quyết định đòi hỏi sự phân định trung thực, có hậu quả đáng kể đối với khách hàng, hoặc liên quan đến kết quả mà agent chưa được đánh giá. Con người không nhất thiết phải thực hiện toàn bộ công việc, nhưng họ nên xem xét hoặc phê duyệt khi cần. Điều này có lẽ còn đúng hơn khi các mô hình trở nên mạnh mẽ hơn, vì thường không phải là vấn đề về khả năng, mà là về trách nhiệm và quyền của khách hàng được quyết định bởi con người khi các vấn đề như kết quả tín dụng hoặc tranh chấp xuất hiện.

Cần có sự tham gia của con người nếu một quyết định đòi hỏi sự phân định trung thực, có hậu quả đáng kể đối với khách hàng, hoặc liên quan đến kết quả mà agent chưa được đánh giá. Tôi thậm chí sẽ đưa quan điểm này xa hơn mô hình dự phòng thông thường để lập luận rằng các agent ngày càng chiếm được vị trí trong sơ đồ tổ chức bên cạnh con người. Ngược lại, điều này đang chuyển đổi nơi mà nỗ lực của con người được tập trung mạnh vào các trường hợp leo thang và quyết định phán đoán, trong khi các agent đảm nhận công việc phối hợp và định tuyến.

Nhưng để thực sự thành công, các agent cần cùng một bối cảnh thể chế mà con người cũng có, để chúng biết nên đưa ai vào các vấn đề nhất định và vào thời điểm nào. Đó là lý do chúng tôi tạo ra Collaborate. Để cho các nhà vận hành, kỹ sư và các agent làm việc cùng nhau như những đồng nghiệp, với kiểm soát phiên bản, đánh giá và học liên tục là cốt lõi. Điều này đảm bảo con người luôn hoàn toàn nằm trong vòng lặp, và vòng lặp chỉ thay đổi hình dạng để phản ánh mức độ phối hợp giữa agent và con người.

Gradient Labs đã tập trung vào các agent chuyên môn được thiết kế cho các quy trình dịch vụ tài chính cụ thể thay vì một agent đa năng duy nhất. Bạn có tin rằng tương lai của AI doanh nghiệp sẽ chủ yếu bao gồm mạng lưới các agent chuyên biệt, hay các mô hình nền tảng ngày càng mạnh mẽ sẽ cuối cùng làm giảm tầm quan trọng của sự chuyên môn hoá này?

Tôi nghĩ ngay cả khi các mô hình nền tảng cải tiến, việc chuyên môn hoá vẫn quan trọng. Khách hàng sẽ không chỉ trả tiền cho một mô hình thông minh, mà còn cho việc đánh giá phù hợp với quy trình, các rào cản an toàn và tích hợp dữ liệu xung quanh nó. Và công việc đó sẽ không biến mất chỉ vì mô hình cơ bản trở nên tốt hơn. Tôi dự đoán sẽ có một mạng lưới các agent chuyên môn, tất cả được xây dựng trên một mô hình nền tảng chung và mạnh mẽ, thay vì một agent đa năng thực hiện mọi thứ.

Các agent AI ngày càng cần học và cải thiện sau khi triển khai, nhưng trong môi trường được quản lý, ngay cả một thay đổi hành vi nhỏ cũng có thể tạo ra rủi ro mới. Các công ty có thể liên tục cải thiện một agent như thế nào đồng thời đảm bảo rằng các bản cập nhật không gây ra hồi quy, vấn đề tuân thủ hoặc hành vi không mong muốn?

Nguyên tắc mà chúng tôi tuân theo là mỗi bản cập nhật đều được coi như một phiên bản mô hình mới, không phải là một thay đổi cấu hình tăng dần, vì vậy mọi thay đổi đều phải trải qua một bộ đánh giá đầy đủ trước khi ra mắt. Điều này bao gồm các bài kiểm tra hồi quy dựa trên các tiền lệ mà trong đó một sai sót sẽ gây ra sự khác biệt thực tế, và không có gì được đưa vào hoạt động cho toàn bộ khách hàng cùng một lúc: chúng tôi triển khai dần dần và giám sát, để nếu có sự trôi dạt bắt đầu xảy ra, chúng tôi sẽ phát hiện nó trên một phần lưu lượng giới hạn thay vì trên quy mô toàn bộ. Đây chính là nền tảng của bản phát hành Collaborate gần đây của chúng tôi. Collaborate cho phép các nhà vận hành, kỹ sư và agent AI làm việc cùng nhau như những đồng nghiệp trên cùng một định nghĩa sống động về cách mà agent nên suy nghĩ, với kiểm soát phiên bản, đánh giá và học liên tục được tích hợp trực tiếp vào quy trình làm việc. Vì vậy khi ai đó cải thiện cách agent xử lý một trường hợp, thay đổi đó sẽ được ghi phiên bản, kiểm tra dựa trên các cuộc trò chuyện trong quá khứ, và triển khai dưới cùng các kiểm soát như bất kỳ bản phát hành nào khác. Điều này có nghĩa là một agent có thể tiếp tục được cải thiện sau khi triển khai mà không khiến cải tiến đó trở thành nguyên nhân gây ra hồi quy hoặc vấn đề tuân thủ.

Nhìn về phía trước, khi việc tiếp cận các mô hình nền tảng mạnh mẽ ngày càng trở nên hàng hoá, lợi thế cạnh tranh thực sự trong các ứng dụng AI sẽ đến từ đâu? Liệu người chiến thắng sẽ là những người sở hữu các mô hình tốt nhất, hay những người giỏi trong việc thiết kế các hệ thống đáng tin cậy và cung cấp trải nghiệm ổn định, tốt liên tục xung quanh chúng?

Khi ngày càng nhiều mô hình nền tảng bắt đầu hội tụ, lợi thế sẽ gần như hoàn toàn thuộc về những người giỏi nhất trong việc xây dựng các hệ thống đáng tin cậy hơn quanh các mô hình này, bao gồm đánh giá, rào cản an toàn, dữ liệu và thiết kế quy trình làm việc. Mô hình đang trở thành một đầu vào hàng hoá, nhưng chính tính nhất quán và độ tin cậy trong sản xuất mới là sản phẩm thực sự.

Thậm chí hơn thế nữa, tôi thấy lợi thế đến nhiều hơn từ mức độ nhúng sâu của một agent vào hoạt động của công ty. Các agent có khả năng nhúng vào nhiều bộ phận khác nhau của hoạt động công ty sẽ thắng hơn các công cụ chỉ có thể giải quyết các vấn đề cụ thể hoặc chỉ tiếp cận được mặt tiền. Khi một agent có thể làm việc xuyên suốt các hệ thống mặt tiền và hậu trường, nó có thể mang lại nhiều ngữ cảnh hơn cho các tương tác và xử lý các vấn đề phức tạp một cách đầu cuối, giống như con người. Khả năng một agent phù hợp với cách mà công ty thực sự hoạt động là nơi tôi kỳ vọng chiến thắng bền vững sẽ xuất hiện.

Cảm ơn bạn đã tham gia phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm nên truy cập Gradient Labs.