Donny White, CEO & Co-Founder của Satisfi Labs – Loạt phỏng vấn

Được thành lập vào năm 2016, Satisfi Labs là một công ty hàng đầu về trí tuệ nhân tạo đối thoại. Thành công ban đầu đến từ công việc với New York Mets, Macy’s và US Open, cho phép truy cập dễ dàng vào thông tin thường không có trên các trang web.

Donny đã dành 15 năm tại Bloomberg trước khi bước vào thế giới khởi nghiệp và nắm giữ bằng MBA từ Đại học Cornell và bằng Cử nhân từ Đại học Baruch. Dưới sự lãnh đạo của Donny, Satisfi Labs đã chứng kiến sự tăng trưởng đáng kể trong lĩnh vực thể thao, giải trí và du lịch, nhận được đầu tư từ Google, MLB và Red Light Management.

Bạn đã ở Bloomberg được 14 năm khi bạn đầu tiên cảm thấy ngứa ngáy với việc kinh doanh. Tại sao việc trở thành một doanh nhân đột nhiên xuất hiện trên radar của bạn?

Trong năm thứ ba của tôi tại trường đại học, tôi đã申请 một công việc như một lễ tân tại Bloomberg. Một khi tôi đã bước vào cửa, tôi đã nói với các đồng nghiệp của mình rằng nếu họ sẵn sàng dạy tôi, tôi có thể học nhanh. Đến năm cuối của tôi, tôi đã trở thành một nhân viên toàn thời gian và đã chuyển tất cả các lớp học của tôi sang các lớp học夜 để tôi có thể làm cả hai. Thay vì tham dự lễ tốt nghiệp của tôi tại tuổi 21, tôi đã dành thời gian quản lý đội ngũ đầu tiên của mình. Từ đó, tôi đã may mắn được làm việc trong một môi trường công bằng và được thăng cấp nhiều lần. Đến năm 25 tuổi, tôi đã điều hành bộ phận của riêng mình. Từ đó, tôi đã chuyển sang quản lý khu vực và sau đó là phát triển sản phẩm, cho đến khi cuối cùng tôi đã điều hành bán hàng trên tất cả các châu Mỹ. Đến năm 2013, tôi đã bắt đầu tự hỏi liệu tôi có thể làm được điều gì lớn hơn. Tôi đã tham gia một số cuộc phỏng vấn tại các công ty công nghệ trẻ và một trong những người sáng lập đã nói với tôi: “Chúng tôi không biết liệu bạn có tốt hay Bloomberg có tốt.” Đó là lúc tôi biết rằng điều gì đó phải thay đổi và sáu tháng sau đó, tôi đã trở thành VP bán hàng tại công ty khởi nghiệp đầu tiên của mình, Datahug. Ngay sau đó, tôi đã được một nhóm nhà đầu tư tuyển dụng, những người muốn phá vỡ Yelp. Mặc dù Yelp vẫn tốt và ổn định, vào năm 2016, chúng tôi đã thống nhất về một tầm nhìn mới và tôi đã đồng sáng lập Satisfi Labs với cùng những nhà đầu tư đó.

Bạn có thể chia sẻ câu chuyện về sự ra đời của Satisfi Labs?

Tôi đã ở một trận đấu bóng chày tại Citi Field với Randy, CTO và đồng sáng lập hiện tại của Satisfi, khi tôi nghe nói về một trong những chuyên môn của họ, bacon trên que. Chúng tôi đã đi vòng quanh concourse và hỏi nhân viên về nó, nhưng không thể tìm thấy nó ở bất kỳ nơi nào. Kết quả là nó được giấu ở một đầu của sân vận động, điều này đã khiến tôi nhận ra rằng nó sẽ thuận tiện hơn nếu hỏi trực tiếp với đội ngũ thông qua trò chuyện. Đây là nơi ý tưởng đầu tiên của chúng tôi được sinh ra. Randy và tôi đều đến từ nền tảng tài chính và giao dịch thuật toán, điều này đã dẫn chúng tôi đến việc xây dựng NLP riêng của mình cho các yêu cầu siêu cụ thể sẽ được hỏi tại các địa điểm. Ý tưởng ban đầu là xây dựng các bot riêng lẻ, mỗi bot sẽ là chuyên gia trong một lĩnh vực kiến thức cụ thể, đặc biệt là kiến thức không dễ dàng truy cập trên một trang web. Từ đó, hệ thống của chúng tôi sẽ có một “đạo diễn” có thể kích hoạt từng bot khi cần. Đây là kiến trúc hệ thống ban đầu vẫn đang được sử dụng ngày nay.

Satisfi Labs đã thiết kế động cơ NLP riêng và đang trên đà công bố một thông cáo báo chí khi OpenAI phá vỡ ngăn xếp công nghệ của bạn với việc phát hành ChatGPT. Bạn có thể thảo luận về giai đoạn này và cách nó buộc Satisfi Labs phải thay đổi hướng kinh doanh?

Chúng tôi đã lên kế hoạch công bố một thông cáo báo chí để công bố việc nâng cấp NLP dựa trên ngữ cảnh đang chờ cấp bằng sáng chế của chúng tôi vào ngày 6 tháng 12 năm 2022. Vào ngày 30 tháng 11 năm 2022, OpenAI đã công bố ChatGPT. Việc công bố ChatGPT đã thay đổi không chỉ con đường của chúng tôi mà còn cả thế giới. Ban đầu, chúng tôi, như mọi người khác, đang chạy đua để hiểu sức mạnh và giới hạn của ChatGPT và hiểu điều đó có nghĩa là gì đối với chúng tôi. Chúng tôi sớm nhận ra rằng hệ thống NLP dựa trên ngữ cảnh của chúng tôi không cạnh tranh với ChatGPT, mà thực sự có thể nâng cao trải nghiệm LLM. Điều này đã dẫn đến quyết định nhanh chóng trở thành đối tác doanh nghiệp của OpenAI. Vì hệ thống của chúng tôi bắt đầu với ý tưởng hiểu và trả lời các câu hỏi ở mức độ chi tiết, chúng tôi đã có thể kết hợp thiết kế hệ thống “đạo diễn bot” và bảy năm dữ liệu ý định để nâng cấp hệ thống và tích hợp LLM.

Satisfi Labs gần đây đã ra mắt một bằng sáng chế cho Hệ thống Phản hồi LLM dựa trên Ngữ cảnh, điều này cụ thể là gì?

Vào tháng 7, chúng tôi đã công bố Hệ thống Phản hồi LLM dựa trên Ngữ cảnh đang chờ cấp bằng sáng chế của chúng tôi. Hệ thống mới kết hợp sức mạnh của hệ thống phản hồi dựa trên ngữ cảnh đang chờ cấp bằng sáng chế của chúng tôi với khả năng của mô hình ngôn ngữ lớn để tăng cường toàn bộ Hệ thống Động cơ Trả lời. Công nghệ LLM dựa trên Ngữ cảnh mới tích hợp khả năng của mô hình ngôn ngữ lớn trên toàn nền tảng, từ việc cải thiện định tuyến ý định đến việc tạo ra câu trả lời và lập chỉ mục ý định, điều này cũng thúc đẩy khả năng báo cáo độc đáo của nó. Nền tảng này đưa trí tuệ nhân tạo đối thoại vượt ra ngoài trình chuyện bot truyền thống bằng cách tận dụng sức mạnh của các mô hình ngôn ngữ lớn như GPT-4. Nền tảng của chúng tôi cho phép các thương hiệu trả lời bằng cả câu trả lời được tạo ra bởi AI hoặc câu trả lời được viết sẵn tùy thuộc vào nhu cầu kiểm soát trong phản hồi.

Bạn có thể thảo luận về sự脱 kết hiện tại giữa hầu hết các trang web của công ty và nền tảng LLM trong việc cung cấp các câu trả lời theo thương hiệu?

ChatGPT được đào tạo để hiểu một loạt thông tin rộng lớn và do đó không có mức độ đào tạo chi tiết cần thiết để trả lời các câu hỏi cụ thể về ngành với mức độ cụ thể mà hầu hết các thương hiệu mong đợi. Ngoài ra, độ chính xác của các câu trả lời mà LLM cung cấp chỉ tốt như dữ liệu được cung cấp. Khi bạn sử dụng ChatGPT, nó đang lấy dữ liệu từ toàn bộ internet, điều này có thể không chính xác. ChatGPT không ưu tiên dữ liệu từ một thương hiệu hơn các dữ liệu khác. Chúng tôi đã phục vụ các ngành khác nhau trong bảy năm qua, thu được thông tin quý giá về hàng triệu câu hỏi được khách hàng đặt ra mỗi ngày. Điều này đã cho phép chúng tôi hiểu cách điều chỉnh hệ thống với ngữ cảnh lớn hơn theo ngành và cung cấp khả năng báo cáo ý định mạnh mẽ, điều này rất quan trọng given sự gia tăng của các mô hình ngôn ngữ lớn. Mặc dù LLM hiệu quả trong việc hiểu ý định và tạo ra câu trả lời, nhưng chúng không thể báo cáo về các câu hỏi được đặt ra. Sử dụng nhiều năm dữ liệu ý định rộng lớn, chúng tôi đã tạo ra báo cáo tiêu chuẩn hóa thông qua Hệ thống Lập chỉ mục Ý định của chúng tôi.

Vai trò của các nhà ngôn ngữ học trong việc nâng cao khả năng của công nghệ LLM là gì?

Vai trò của kỹ sư lời nhắc đã xuất hiện với công nghệ mới này, đòi hỏi một người phải thiết kế và tinh chỉnh các lời nhắc để tạo ra một phản hồi cụ thể từ AI. Các nhà ngôn ngữ học có hiểu biết sâu sắc về cấu trúc ngôn ngữ như cú pháp và ngữ nghĩa, trong số những thứ khác. Một trong những kỹ sư AI thành công nhất của chúng tôi có nền tảng về Ngôn ngữ học, điều này cho phép cô ấy tìm ra những cách mới và tinh tế để nhắc AI. Những thay đổi tinh tế trong lời nhắc có thể có tác động sâu sắc đến độ chính xác và hiệu quả của câu trả lời được tạo ra, điều này tạo ra sự khác biệt khi chúng tôi xử lý hàng triệu câu hỏi trên nhiều khách hàng.

Việc tinh chỉnh trông như thế nào trên backend?

Chúng tôi có mô hình dữ liệu độc quyền mà chúng tôi sử dụng để giữ LLM trong tầm kiểm soát. Điều này cho phép chúng tôi xây dựng hàng rào của riêng mình để giữ LLM dưới sự kiểm soát, trái ngược với việc phải tìm kiếm hàng rào. Thứ hai, chúng tôi có thể tận dụng các công cụ và tính năng mà các nền tảng khác sử dụng, điều này cho phép chúng tôi hỗ trợ chúng trên các nền tảng của mình.

Việc tinh chỉnh dữ liệu đào tạo và sử dụng Học tăng cường (RL) trong nền tảng của chúng tôi có thể giúp giảm thiểu rủi ro của thông tin sai lệch. Việc tinh chỉnh, trái ngược với việc truy vấn cơ sở kiến thức để thêm các事 thực cụ thể, tạo ra một phiên bản mới của LLM được đào tạo trên kiến thức bổ sung này. Mặt khác, RL đào tạo một tác nhân với phản hồi của con người và học một chính sách về cách trả lời các câu hỏi. Điều này đã chứng minh là thành công trong việc xây dựng các mô hình có kích thước nhỏ hơn trở thành chuyên gia trong các nhiệm vụ cụ thể.

Bạn có thể thảo luận về quá trình tích hợp giải pháp AI đối thoại cho một khách hàng mới và quá trình trênboarding?

Vì chúng tôi tập trung vào các điểm đến và trải nghiệm như thể thao, giải trí và du lịch, khách hàng mới sẽ được hưởng lợi từ những khách hàng đã có trong cộng đồng, khiến quá trình onboarding trở nên rất đơn giản. Khách hàng mới xác định nơi các nguồn dữ liệu hiện tại của họ sống như một trang web, sổ tay nhân viên, blog, v.v. Chúng tôi sẽ tiêu thụ dữ liệu và đào tạo hệ thống trong thời gian thực. Vì chúng tôi làm việc với hàng trăm khách hàng trong cùng một ngành, đội ngũ của chúng tôi có thể nhanh chóng cung cấp các khuyến nghị về những câu trả lời nào phù hợp nhất cho các phản hồi được viết sẵn so với các câu trả lời được tạo ra. Ngoài ra, chúng tôi thiết lập các luồng hướng dẫn như Tìm kiếm Thực phẩm và Đồ uống Động của chúng tôi để khách hàng không bao giờ phải đối mặt với một bot-builder.

Satisfi Labs hiện đang làm việc chặt chẽ với các đội thể thao và công ty, tầm nhìn của bạn cho tương lai của công ty là gì?

Chúng tôi nhìn thấy một tương lai nơi nhiều thương hiệu sẽ muốn kiểm soát nhiều khía cạnh hơn của trải nghiệm trò chuyện của họ. Điều này sẽ dẫn đến nhu cầu ngày càng tăng đối với hệ thống của chúng tôi để cung cấp quyền truy cập cấp nhà phát triển nhiều hơn. Nó không có ý nghĩa đối với các thương hiệu để thuê các nhà phát triển xây dựng hệ thống AI đối thoại của riêng họ vì chuyên môn cần thiết sẽ khan hiếm và tốn kém. Tuy nhiên, với hệ thống của chúng tôi cung cấp backend, các nhà phát triển của họ có thể tập trung nhiều hơn vào trải nghiệm khách hàng và hành trình bằng cách có quyền kiểm soát lớn hơn đối với các lời nhắc, kết nối dữ liệu độc quyền để cho phép cá nhân hóa nhiều hơn và quản lý giao diện trò chuyện cho các nhu cầu người dùng cụ thể. Satisfi Labs sẽ là xương sống kỹ thuật của trải nghiệm trò chuyện của các thương hiệu.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập Satisfi Labs.