Alexandr Yarats, Người đứng đầu bộ phận Tìm kiếm tại Perplexity – Loạt phỏng vấn

Alexandr Yarats là Người đứng đầu bộ phận Tìm kiếm tại Perplexity AI. Ông bắt đầu sự nghiệp tại Yandex vào năm 2017, đồng thời học tại Trường phân tích dữ liệu Yandex. Những năm đầu tiên rất интенсив nhưng cũng rất có ích, giúp ông phát triển và trở thành Lãnh đạo nhóm kỹ thuật. Được thúc đẩy bởi khát vọng làm việc với một công ty công nghệ lớn, ông đã gia nhập Google (GOOGL ) vào năm 2022 với tư cách là Kỹ sư phần mềm cao cấp, tập trung vào nhóm Trợ lý Google (sau đó là Google Bard). Sau đó, ông chuyển sang Perplexity với tư cách là Người đứng đầu bộ phận Tìm kiếm.

Perplexity AI là một công cụ tìm kiếm và nghiên cứu được hỗ trợ bởi AI, trả lời các câu hỏi bằng cách sử dụng văn bản dự đoán ngôn ngữ tự nhiên. Ra mắt vào năm 2022, Perplexity tạo ra các câu trả lời bằng cách sử dụng các nguồn từ web và trích dẫn các liên kết trong phản hồi văn bản.

Điều gì đã thu hút bạn đến với học máy?

Sự quan tâm của tôi đến học máy (ML) là một quá trình dần dần. Trong những năm học, tôi đã dành rất nhiều thời gian để học toán, lý thuyết xác suất và thống kê, và có cơ hội làm việc với các thuật toán học máy cổ điển như hồi quy tuyến tính và KNN. Thật thú vị khi thấy bạn có thể xây dựng một hàm dự đoán trực tiếp từ dữ liệu và sau đó sử dụng nó để dự đoán dữ liệu không nhìn thấy. Điều này đã dẫn tôi đến Trường phân tích dữ liệu Yandex, một chương trình thạc sĩ học máy cạnh tranh cao tại Nga (chỉ 200 người được chấp nhận mỗi năm). Tại đó, tôi đã học được rất nhiều về các thuật toán học máy tiên tiến hơn và xây dựng trực giác của mình. Điểm then chốt nhất trong quá trình này là khi tôi học về mạng nơ-ron và học sâu. Nó trở nên rất rõ ràng với tôi rằng đây là điều tôi muốn theo đuổi trong vài thập kỷ tới.

Trước khi bạn làm việc tại Google với tư cách là Kỹ sư phần mềm cao cấp trong một năm, những kiến thức và kinh nghiệm chính mà bạn đã tích lũy được từ trải nghiệm này là gì?

Trước khi gia nhập Google, tôi đã dành hơn bốn năm tại Yandex, ngay sau khi tốt nghiệp từ Trường phân tích dữ liệu Yandex. Tại đó, tôi đã lãnh đạo một nhóm phát triển các phương pháp học máy cho Yandex Taxi (một công ty tương tự như Uber tại Nga). Tôi đã tham gia nhóm này từ khi nó được thành lập và có cơ hội làm việc trong một nhóm nhỏ và nhanh nhẹn, nhóm này đã phát triển nhanh chóng trong bốn năm, cả về số lượng người (từ 30 đến 500 người) và giá trị thị trường (nó đã trở thành nhà cung cấp dịch vụ taxi lớn nhất tại Nga, vượt qua Uber và các công ty khác).

Trong suốt thời gian này, tôi đã có cơ hội xây dựng nhiều thứ từ đầu và khởi chạy nhiều dự án từ đầu. Một trong những dự án cuối cùng tôi đã làm việc tại đó là xây dựng các rô-bốt trò chuyện cho hỗ trợ dịch vụ. Tại đó, tôi đã có cái nhìn đầu tiên về sức mạnh của các mô hình ngôn ngữ lớn và bị thu hút bởi tầm quan trọng của chúng trong tương lai. Điều này đã dẫn tôi đến Google, nơi tôi đã tham gia nhóm Trợ lý Google, sau đó được đổi tên thành Google Bard (một trong những đối thủ cạnh tranh của Perplexity).

Tại Google, tôi đã có cơ hội học hỏi về cơ sở hạ tầng thế giới, cách Search và LLMs hoạt động, và cách chúng tương tác với nhau để cung cấp các câu trả lời chính xác và đáng tin cậy. Đây là một trải nghiệm học hỏi tuyệt vời, nhưng theo thời gian, tôi đã trở nên thất vọng với tốc độ chậm tại Google và cảm giác rằng không có gì được thực hiện. Tôi muốn tìm một công ty làm việc về tìm kiếm và LLMs, và di chuyển nhanh hơn, hoặc thậm chí nhanh hơn, so với khi tôi ở Yandex. May mắn thay, điều này đã xảy ra một cách tự nhiên.

Bên trong Google, tôi đã bắt đầu thấy các bản chụp màn hình của Perplexity và các nhiệm vụ yêu cầu so sánh Trợ lý Google với Perplexity. Điều này đã thu hút sự quan tâm của tôi đến công ty, và sau vài tuần nghiên cứu, tôi đã bị thuyết phục rằng tôi muốn làm việc tại đó, vì vậy tôi đã liên hệ với nhóm và đề nghị dịch vụ của mình.

Vous có thể định nghĩa vai trò hiện tại và trách nhiệm của bạn tại Perplexity?

Tôi hiện đang là người đứng đầu nhóm tìm kiếm và chịu trách nhiệm xây dựng hệ thống thu hồi nội bộ của chúng tôi, điều này cung cấp năng lượng cho Perplexity. Nhóm tìm kiếm của chúng tôi làm việc trên xây dựng một hệ thống thu thập web, động cơ thu hồi và thuật toán xếp hạng. Những thách thức này cho phép tôi tận dụng kinh nghiệm tôi đã tích lũy được tại Google (làm việc về Search và LLMs) cũng như tại Yandex. Mặt khác, sản phẩm của Perplexity đưa ra những cơ hội độc đáo để thiết kế lại và tái thiết kế cách một hệ thống thu hồi nên trông như thế nào trong một thế giới có các LLMs rất mạnh. Ví dụ, nó không còn quan trọng để tối ưu hóa các thuật toán xếp hạng để tăng khả năng nhấp chuột; thay vào đó, chúng tôi đang tập trung vào việc cải thiện sự hữu ích và tính xác thực của các câu trả lời của chúng tôi. Đây là một sự khác biệt cơ bản giữa một công cụ trả lời và một công cụ tìm kiếm. Nhóm của tôi và tôi đang cố gắng xây dựng một thứ gì đó sẽ vượt qua 10 liên kết màu xanh truyền thống, và tôi không thể nghĩ ra bất cứ điều gì thú vị hơn để làm việc hiện tại.

Có thể bạn giải thích sự chuyển đổi tại Perplexity từ việc phát triển một công cụ văn bản-sang-SQL sang việc tạo ra tìm kiếm được hỗ trợ bởi AI?

Chúng tôi ban đầu đã làm việc trên việc xây dựng một công cụ văn bản-sang-SQL cung cấp một công cụ trả lời chuyên dụng trong các tình huống bạn cần có một câu trả lời nhanh dựa trên dữ liệu có cấu trúc (ví dụ, một bảng tính hoặc bảng). Việc làm việc trên một dự án văn bản-sang-SQL đã cho phép chúng tôi có được một sự hiểu biết sâu sắc hơn về LLMs và RAG, và dẫn chúng tôi đến một nhận thức quan trọng: công nghệ này mạnh mẽ và tổng quát hơn nhiều so với chúng tôi ban đầu nghĩ. Chúng tôi nhanh chóng nhận ra rằng chúng tôi có thể đi vượt ra ngoài các nguồn dữ liệu có cấu trúc và giải quyết các dữ liệu không có cấu trúc.

Những thách thức và nhận thức chính trong quá trình chuyển đổi này là gì?

Những thách thức chính trong quá trình chuyển đổi này là việc chuyển đổi công ty từ một công ty B2B sang B2C và xây dựng lại ngăn xếp cơ sở hạ tầng của chúng tôi để hỗ trợ tìm kiếm không có cấu trúc. Rất nhanh chóng trong quá trình di chuyển này, chúng tôi đã nhận ra rằng việc làm việc trên một sản phẩm hướng đến khách hàng là rất thú vị vì bạn bắt đầu nhận được một dòng chảy liên tục của phản hồi và tương tác, điều mà chúng tôi không thấy nhiều khi xây dựng một công cụ văn bản-sang-SQL và tập trung vào các giải pháp doanh nghiệp.

Sản xuất tăng cường thu hồi (RAG) dường như là một phần quan trọng của khả năng tìm kiếm của Perplexity. Bạn có thể giải thích cách Perplexity sử dụng RAG khác biệt so với các nền tảng khác và cách nó ảnh hưởng đến độ chính xác của kết quả tìm kiếm?

RAG là một khái niệm chung để cung cấp kiến thức bên ngoài cho một LLM. Mặc dù ý tưởng có thể đơn giản tại đầu tiên, nhưng việc xây dựng một hệ thống như vậy phục vụ hàng chục triệu người dùng một cách hiệu quả và chính xác là một thách thức đáng kể. Chúng tôi đã phải xây dựng hệ thống này từ đầu và tạo ra nhiều thành phần tùy chỉnh đã chứng minh là quan trọng để đạt được những bit cuối cùng của độ chính xác và hiệu suất. Chúng tôi đã xây dựng hệ thống của mình để hàng chục LLMs (từ lớn đến nhỏ) làm việc song song để xử lý một yêu cầu người dùng nhanh chóng và tiết kiệm chi phí. Chúng tôi cũng đã xây dựng một cơ sở hạ tầng đào tạo và suy luận cho phép chúng tôi đào tạo LLMs cùng với tìm kiếm từ đầu đến cuối, vì vậy chúng được tích hợp chặt chẽ. Điều này giảm đáng kể các ảo giác và cải thiện sự hữu ích của các câu trả lời của chúng tôi.

Với những hạn chế so với tài nguyên của Google, Perplexity quản lý chiến lược thu thập và lập chỉ mục web của mình như thế nào để duy trì tính cạnh tranh và đảm bảo thông tin cập nhật?

Xây dựng một chỉ mục rộng lớn như của Google đòi hỏi rất nhiều thời gian và tài nguyên. Thay vào đó, chúng tôi đang tập trung vào các chủ đề mà người dùng của chúng tôi thường hỏi trên Perplexity. Điều này cho thấy rằng đa số người dùng sử dụng Perplexity như một trợ lý làm việc/nghiên cứu, và nhiều truy vấn tìm kiếm các phần chất lượng cao, đáng tin cậy và hữu ích của web. Đây là một phân bố luật sức mạnh, nơi bạn có thể đạt được kết quả đáng kể với một cách tiếp cận 80/20. Dựa trên những nhận thức này, chúng tôi đã có thể xây dựng một chỉ mục nhỏ gọn hơn, được tối ưu hóa cho chất lượng và tính xác thực. Hiện tại, chúng tôi dành ít thời gian hơn để theo đuổi đuôi, nhưng khi chúng tôi mở rộng cơ sở hạ tầng, chúng tôi cũng sẽ theo đuổi đuôi.

Các mô hình ngôn ngữ lớn (LLMs) tăng cường khả năng tìm kiếm của Perplexity như thế nào, và điều gì làm cho chúng đặc biệt hiệu quả trong việc phân tích và trình bày thông tin từ web?

Chúng tôi sử dụng LLMs mọi nơi, cả cho xử lý thời gian thực và xử lý ngoại tuyến. LLMs cho phép chúng tôi tập trung vào các phần quan trọng và相关 nhất của các trang web. Chúng vượt qua mọi thứ trước đây trong việc tối đa hóa tỷ lệ tín hiệu trên tiếng ồn, điều này làm cho nó dễ dàng hơn để giải quyết nhiều thứ mà trước đây không thể giải quyết được bởi một đội nhỏ. Generally, đây có lẽ là khía cạnh quan trọng nhất của LLMs: chúng cho phép bạn làm việc phức tạp với một đội rất nhỏ.

Nhìn về tương lai, những thách thức công nghệ hoặc thị trường chính mà Perplexity dự đoán là gì?

Khi chúng tôi nhìn về tương lai, những thách thức công nghệ quan trọng nhất đối với chúng tôi sẽ tập trung vào việc tiếp tục cải thiện sự hữu ích và độ chính xác của các câu trả lời của chúng tôi. Chúng tôi nhằm tăng phạm vi và độ phức tạp của các loại truy vấn và câu hỏi mà chúng tôi có thể trả lời một cách đáng tin cậy. Cùng với đó, chúng tôi quan tâm rất nhiều đến tốc độ và hiệu quả của hệ thống và sẽ tập trung mạnh vào việc giảm chi phí phục vụ xuống mức thấp nhất có thể mà không ảnh hưởng đến chất lượng của sản phẩm.

Theo quan điểm của bạn, tại sao cách tiếp cận tìm kiếm của Perplexity lại vượt trội so với cách tiếp cận của Google, dựa trên việc xếp hạng trang web theo liên kết ngược và các chỉ số xếp hạng tìm kiếm đã được chứng minh khác?

Chúng tôi đang tối ưu hóa một chỉ số xếp hạng hoàn toàn khác so với các công cụ tìm kiếm cổ điển. Mục tiêu xếp hạng của chúng tôi được thiết kế để kết hợp tự nhiên hệ thống thu hồi và LLMs. Cách tiếp cận này khác biệt so với các công cụ tìm kiếm cổ điển, những công cụ này tối ưu hóa khả năng nhấp chuột hoặc ấn tượng quảng cáo.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, độc giả muốn tìm hiểu thêm có thể truy cập Perplexity AI.