Donny White, Satisfi LabsのCEO兼共同創設者 – インタビュー・シリーズ

2016年に設立されたSatisfi Labsは、先進的な会話AI会社です。ニューヨーク・メッツ、メイシーズ、USオープンとの初期の成功により、ウェブサイトでは入手できない情報に簡単にアクセスできるようになりました。

ドニーは、スタートアップの世界に入る前に15年間ブルームバーグで働き、コーネル大学でMBA、バルーク・カレッジでBAを取得しました。ドニーのリーダーシップの下で、Satisfi Labsはスポーツ、エンターテインメント、観光業界で著しい成長を遂げ、Google、MLB、Red Light Managementからの投資を受けています。

あなたはブルームバーグで14年間働いていたときに初めて起業家の気持ちを感じた。なぜ起業家になることが突然あなたの目標になったのですか?

大学3年生のとき、ブルームバーグの受付係として働き始めました。そこで同僚に「教えてくれるなら、すぐに学べる」と言ったら、4年生のときには正社員になり、すべての授業を夜間授業に変更して仕事と両立しました。21歳のとき、大学の卒業式に行く代わりに、最初のチームの管理をしました。その後、メリトクラシーな環境で働き、複数回昇進しました。25歳のときには、自分の部門を担当し、その後地域管理、製品開発、そして最終的にアメリカ全域の営業を担当しました。2013年頃から、もっと大きなことをできると考え始めました。若いテクノロジー企業の面接に行き、創設者の一人が「あなたがいいのか、ブルームバーグがいいのかわからない」と言ったとき、変化が必要だと感じました。6ヶ月後、最初のスタートアップであるDatahugの営業担当VPになりました。その後、投資家グループからYelpを破壊したいという依頼を受け、2016年に同じ投資家とSatisfi Labsを共同創設しました。

Satisfi Labsの創設ストーリーを共有してください。

シティ・フィールドでの野球の試合で、現在のCTO兼共同創設者のランディと一緒に、ベーコン・オン・ア・スティックという名物について聞きました。スタッフに聞きましたが、どこにも見つけることができませんでした。結果として、スタジアムの片隅に隠されていたことがわかりました。そこで、チームと直接チャットで問い合わせることができれば、もっと便利だったと思いました。ここで最初のアイデアが生まれました。ランディと私は両方とも金融とアルゴリズム取引の背景を持っており、リクエストを回答にマッチングする概念を取り入れて、特定の分野の知識、特にウェブサイトでは簡単にアクセスできない知識を持つ個別のボットを作成することにしました。元のアイデアは、各ボットが特定の分野の専門家となるようにすることでした。システムには、必要に応じて各ボットにアクセスできる「指揮者」が含まれていました。この元のシステム・アーキテクチャは、現在も使用されています。

Satisfi Labsは独自のNLPエンジンを設計し、プレスリリースを公開しようとしていたとき、OpenAIのChatGPTがリリースされ、テック・スタックが混乱しました。この時期について、そしてこれがSatisfi Labsのビジネスを変えることになったについて話してください。

私たちは、2022年12月6日に特許出願中のコンテキストベースのNLPアップグレードを発表するプレスリリースを予定していました。2022年11月30日、OpenAIはChatGPTを発表しました。ChatGPTの発表は、私たちのロードマップを変えるだけでなく、世界を変えることになりました。初期的には、ChatGPTの力と限界を理解するために、みんなと同じように走り出しました。すぐに、私たちのコンテキストNLPシステムはChatGPTと競合するのではなく、LLMの体験を強化できることがわかりました。これにより、OpenAIのエンタープライズ・パートナーになることを迅速に決定しました。私たちのシステムは、質問を理解して回答するというアイデアから始まったため、7年間のインテント・データと「ボット・コンダクター」システム・デザインを組み合わせて、LLMを取り入れることができました。

Satisfi Labsは最近、特許出願中のコンテキストLLMレスポンス・システムを発表しました。これは具体的に何ですか?

7月に、特許出願中のコンテキストLLMレスポンス・システムを発表しました。新しいシステムは、コンテキスト・レスポンス・システムの力と大規模言語モデル機能を組み合わせて、アンサー・エンジン・システム全体を強化します。新しいコンテキストLLMテクノロジーは、インテント・ルーティングの改善から回答の生成、インデックス作成まで、プラットフォーム全体に大規模言語モデル機能を統合します。これにより、レポート機能も強化されます。プラットフォームは、GPT-4などのLLMの力を利用して、従来のチャットボットを超えた会話AIを実現します。ブランドは、制御が必要な回答には事前作成された回答を使用し、生成された回答を使用することもできます。

ほとんどの会社のウェブサイトとLLMプラットフォームが、ブランドに合った回答を提供することに失敗している現在のギャップについて話してください。

ChatGPTは、広範な情報を理解するようにトレーニングされていますが、ブランドが期待するレベルの特定性で業界特有の質問に回答するために必要な粒度のトレーニングは受けていません。また、LLMが提供する回答の正確性は、提供されたデータの質に依存します。ChatGPTを使用すると、インターネット全体からデータを取得しますが、これは不正確になる可能性があります。ChatGPTは、ブランドのデータよりも他のデータを優先しません。私たちは過去7年間で、さまざまな業界にサービスを提供し、毎日お客様から問い合わせられる数百万の質問について貴重な洞察を得てきました。これにより、業界ごとにシステムをよりコンテキスト化し、強力で粒度の高いインテント・レポート機能を提供できるようになりました。これは、LLMの台頭により、非常に重要です。LLMは、インテントを理解し、回答を生成するには効果的ですが、質問についてレポートすることはできません。広範なインテント・データを使用して、インテント・インデックス・システムを介して標準化されたレポートを作成することができました。

言語学者は、LLMテクノロジーの能力を強化する役割を果たしていますか?

プロンプト・エンジニアという役割が新しく登場しました。これには、AIから特定の回答を引き出すために、プロンプトを設計して改良する人が必要です。言語学者は、構文や意味論などの言語構造を深く理解しています。私たちの最も成功したAIエンジニアの1人は言語学の背景を持っており、AIに特定の回答を引き出すために、プロンプトを新しくて繊細な方法で設計することができます。プロンプトの微妙な変更は、回答がどれだけ正確で効率的かを生み出すのに大きな違いをもたらします。私たちは、複数のクライアントに対して数百万の質問を処理しているので、これは大きな違いをもたらします。

バックエンドでのファイン・チューニングはどのように行われますか?

私たちは、LLMを制御下に保つために、独自のプロプライエタリ・データ・モデルを使用しています。これにより、フェンスを探すのではなく、自分でフェンスを構築できます。2つ目は、他のプラットフォームで使用されているツールや機能を利用して、自分のプラットフォームでサポートできるようにすることができます。

ファイン・チューニング・トレーニング・データとプラットフォームで強化学習（RL）を使用することで、誤情報のリスクを軽減することができます。ファイン・チューニングでは、特定の事実を追加するためにナレッジ・ベースを照会するのではなく、追加の知識でトレーニングされた新しいLLMのバージョンを作成します。他方、RLでは、人間のフィードバックでエージェントをトレーニングし、質問に答える方法についてポリシーを学習します。これは、特定のタスクの専門家となる小規模なモデルを構築するのに成功しています。

新しいクライアントをオンボードし、会話AIソリューションを統合するプロセスについて説明してください。

私たちは、スポーツ、エンターテインメント、観光業界に焦点を当てているため、新しいクライアントは既存のコミュニティから利益を得ることができます。オンボードは非常に簡単です。新しいクライアントは、現在のデータ・ソース（ウェブサイト、従業員ハンドブック、ブログなど）を特定します。私たちはデータを取り込み、システムをリアルタイムでトレーニングします。同じ業界の数百のクライアントと協力しているため、私たちのチームは、事前作成された回答と生成された回答のどちらが最適かについて迅速に推奨事項を提供できます。さらに、ダイナミック・フード・アンド・ビバレッジ・ファインダーなどのガイド付きフローを設定します。クライアントは、ボット・ビルダーと対処する必要はありません。

Satisfi Labsは現在、スポーツチームや企業と密接に協力しています。会社の将来のビジョンについては?

私たちは、将来的には、より多くのブランドがチャット体験の多くの側面をコントロールしたいと考えていると考えています。これにより、開発者レベルのアクセスを提供する必要性が増すでしょう。ブランドが自分の会話AIシステムを構築するために開発者を雇うことは、必要な専門知識が希少で高価になるため、意味がありません。しかし、私たちのシステムがバックエンドを提供することで、開発者は顧客体験とジャーニーに重点を置くことができます。プロンプトの制御、独自のデータを接続してよりパーソナライズされた体験を可能にする、特定のユーザー需要に応じてチャットUIを管理することなどです。Satisfi Labsは、ブランドの会話体験の技術的骨格になるでしょう。

素晴らしいインタビュー、詳細についてはSatisfi Labsを訪問してください。