ペルプレクシティの検索担当アレクサンドル・ヤラツ – インタビュー・シリーズ

アレクサンドル・ヤラツは、ペルプレクシティAIの検索担当です。2017年にヤンデックスでキャリアをスタートさせ、同時にヤンデックス・データ・アナリシス・スクールで学びました。初期の数年間は激務でしたが、成長を促し、エンジニアリング・チーム・リーダーになった。テクノロジー企業で働きたいという思いから、2022年にGoogleにシニア・ソフトウェア・エンジニアとして加入し、Google (GOOGL ) Assistantチーム（後にGoogle Bard）で働きました。その後、ペルプレクシティに検索担当として移りました。

ペルプレクシティAIは、AIチャットボットを利用した研究および会話検索エンジンで、自然言語予測テキストを使用して質問に回答します。2022年に開始され、ペルプレクシティはウェブからの情報源を使用して回答を生成し、テキスト回答内にリンクを引用しています。

機械学習に興味を持ったきっかけは何ですか?

機械学習（ML）への興味は、少しずつ芽生えました。学校時代、数学、確率論、統計学を勉強し、線形回帰やKNNなどの古典的な機械学習アルゴリズムを触る機会がありました。データから予測関数を直接構築し、未知のデータを予測することができたのは、面白かったです。この興味が、ロシアの機械学習の修士課程であるヤンデックス・データ・アナリシス・スクールに通うきっかけとなりました。そこで、より高度な機械学習アルゴリズムについて学び、直感を身につけました。最も重要な点は、ニューラルネットワークとディープラーニングについて学んだときでした。次の数十年間、追求したい分野であると確信しました。

以前、Googleでシニア・ソフトウェア・エンジニアとして1年間働きました。そこでの主な収穫は何ですか?

ペルプレクシティでの現在の役割と責任について説明してください。

現在、検索チームの責任者として、ペルプレクシティの内部検索システムを構築しています。検索チームは、ウェブクローリングシステム、検索エンジン、ランキングアルゴリズムを開発しています。これらの課題は、Googleでの経験（検索とLLM）とヤンデックスでの経験を活かすことができます。ペルプレクシティの製品は、検索システムを再設計し、再構築する機会を提供しています。例えば、ランキングアルゴリズムをクリックの確率を高めるために最適化するのではなく、回答の有用性と事実性を向上させることに焦点を当てています。これは、回答エンジンと検索エンジンの根本的な違いです。私と私のチームは、伝統的な10個の青いリンクを超えるものを構築しようとしています。現在、もっとも興奮することができると思います。

ペルプレクシティでのテキストからSQLツールの開発からAI搭載検索への転換について説明してください。

当初、構造化データ（例：スプレッドシートやテーブル）に基づいて迅速な回答を提供する特殊な回答エンジンを構築するために、テキストからSQLエンジンを開発しました。このプロジェクトでLLMとRAGについて深く理解し、重要な発見をした。テクノロジーは、当初想定していたよりもずっと強力で汎用的であることがわかりました。構造化データ以外の非構造化データにも対処できることがわかりました。

この転換における主な課題と洞察は何ですか?

この転換における主な課題は、企業をB2BからB2Cにシフトし、非構造化検索をサポートするためにインフラストラクチャー・スタックを再構築することでした。転換プロセスで早速、顧客向け製品に取り組むことは、継続的なフィードバックとエンゲージメントを得ることができ、エンタープライズ・ソリューションに焦点を当てていたときには見られなかったことがわかりました。

検索結果の精度に影響を与えるペルプレクシティのRAG（検索増強生成）アプローチについて説明してください。

RAGは、LLMに外部知識を提供する一般的な概念です。シンプルな考え方のように思えるかもしれませんが、数千万人のユーザーに効率的かつ正確にサービスを提供するシステムを構築することは、重大な課題です。カスタムコンポーネントを多数開発し、精度とパフォーマンスの最後の部分を達成するために重要であることがわかりました。複数のLLM（大きいものから小さいものまで）が並列に動作してユーザーのリクエストを迅速に処理するようにシステムを設計しました。また、LLMと検索をエンドツーエンドでトレーニングし、推論するためのインフラストラクチャーを構築しました。これにより、回答の有用性が向上し、hallucinationが減りました。

Googleのリソースに比べて制約がある場合、ペルプレクシティはどのようにしてウェブクローリングとインデックス化戦略を管理し、最新の情報を提供していますか?

Googleのような広範なインデックスを構築するには、多大な時間とリソースが必要です。代わりに、ペルプレクシティのユーザーが頻繁に質問するトピックに焦点を当てています。ユーザーは、ペルプレクシティを仕事や研究のアシスタントとして使用し、高品質で信頼性の高いウェブの部分を求めています。これはパワーローの分布で、80/20のアプローチで大きな成果を達成できます。インサイトに基づいて、品質と真実性に最適化されたコンパクトなインデックスを構築しました。現在、尾部に時間を費やすのではなく、インフラストラクチャーをスケールアップするにつれて尾部も追求していきます。

大規模言語モデル（LLM）は、ペルプレクシティの検索機能をどのように強化していますか?

LLMをリアルタイムとオフラインの両方で使用しています。LLMにより、ウェブページの最も重要な部分に焦点を当てることができます。シグナル・ノイズ・レシオを最大化することで、以前は小さなチームでは対処できなかった多くの課題に対処できます。一般的に、LLMの最も重要な側面は、複雑なことを小さなチームで実現できるようにすることです。

将来、ペルプレクシティはどのような技術的または市場的課題に直面する可能性がありますか?

先を見ると、最も重要な技術的課題は、回答の有用性と正確性を継続的に改善することです。信頼性の高い回答を提供できる質問と質問の種類の範囲と複雑性を増やしたいと考えています。また、システムの速度と提供の効率に重点を置き、品質を損なわないようにコストをできるだけ下げていきたいと考えています。

ペルプレクシティのアプローチは、Googleのバックリンクに基づくウェブサイトのランキングアプローチよりも優れている理由は何ですか?

私たちは、クラシックな検索エンジンとは異なるランキングメトリックを最適化しています。私たちのランキング目的は、検索システムとLLMをネイティブに組み合わせるように設計されています。これは、クリックの確率や広告のインプレッションを最適化するクラシックな検索エンジンとは異なります。

素晴らしいインタビュー、詳しく知りたい読者はペルプレクシティAIを訪問してください。