MCE SystemsのCTO（AI）Alon Eirew – インタビュー・シリーズ

Alon Eirew、MCE SystemsのCTO（AI）は、同社のAI戦略とエンドツーエンドのテクノロジー・スタックを牽引しています。これには、アーキテクチャ、モデル開発、インフラストラクチャ、製品統合、およびAIの内部運用への広範な採用が含まれます。彼は以前、インテルで9年以上勤務し、シニア・ソフトウェア・エンジニア、ソフトウェア・アーキテクト、リード・ナチュラル・ランゲージ・プロセッシング（NLP）リサーチ・サイエンティストとしてキャリアを積み、知識抽出研究を指揮し、複数年のプロジェクトに資金を確保し、主要なNLPカンファレンスで論文を発表し、インテル・イグナイトを通じてスタートアップを指導しました。彼のキャリアの初期には、Telmapでパーソナル・アシスタント・テクノロジーの開発に携わり、これは後にインテルの一部となりました。また、イスラエルの複数の大学でコンピューター・サイエンス、オブジェクト指向プログラミング、データ・マイニング、情報検索を教えながら、初期段階のAI企業にアドバイスを提供しています。

MCE Systemsは、テレコム・プロバイダー向けのAIネイティブ・エクスペリエンス・レイヤーを開発しています。これには、レガシ・システム、リアルタイム・データ、インテリジェント・ワークフローが、複数のタッチポイントを介して顧客とのやり取りをサポートすることが含まれます。2005年に設立された同社は、デジタル・デバイス・ライフサイクル・マネジメントを中心に事業を展開しており、デバイス診断とケア、トレードイン・プログラム、リモート・デバイス・グレーディング、リターンなどをカバーするテクノロジーを提供しています。MCEは、これらのワークフローにジェネラティブ・AIとエージェント・AIを適用し、オペレーターがデバイスの問題を検出し、顧客が潜在的な解決策を探るのを支援し、デジタルとアシスト・チャネルを介してより複雑なサービス・ジャーニーを調整することを支援しています。

インテルでNLP、知識抽出、情報検索、Telmapで始まった初期のパーソナル・アシスタント・テクノロジーなどに取り組んでいたとき、どのようなアイデアが時代を先取りしていたと思いますか？また、業界はどのような仮定を完全に間違えていたと思いますか？

明らかに時代を先取りしていたアイデアの1つは、LLM時代前に私たちが取り組んだパーソナル・アシスタントでした。これらのシステムは、意図を理解し、タスク間のコンテキストを接続し、ユーザーが目標を達成するのを支援することができました。これらは、今日のエージェントと同じ野心を持っていました。違いは、言語モデルではなく、機械学習とアルゴリズムの組み合わせを使用してユーザーの意図を推測するというアプローチにありました。このアプローチは、ユーザーが同じリクエストをさまざまな方法で表現する場合に、スケールアップするのが難しかったため、実用的ではありませんでした。

サービス担当者が何千人もの顧客の問い合わせに対応するが、特定の文法構造でしか対応できない場合を想像してください。そうすると、対応できるユースケースは限られ、多くの顧客の問題に対応するのが難しいでしょう。LLMはすべてを変えました。今日、ユーザーの意図を理解することはほとんど解決されています。つまり、私たちの例では、担当者は柔軟性が高く、数百万人の顧客と会話できるようになりました。

私は、業界が完全に間違っていたことを主張することはありませんが、多くの企業が、言語モデルがどれほど中心的な役割になるかを過小評価していたと思います。主要な飛躍は、最初の言語モデルであるELMo、BERT、RoBERTaが導入されたときに起こりました。当時、多くの企業は、これらのモデルが将来に大きな変化をもたらすことを十分に理解していませんでした。これらは、今日使用しているモダンなLLMの背骨モデルでした。

多くの企業は、これらの初期のモデルを狭い用途でのみ有用なコンポーネントと見なしており、全く新しいコンピューティング・パラダイムの基礎となるものではなかったと考えていました。後になってみれば、多くの企業は、主要なAIプレーヤーとして自己を位置付ける機会を逃したと言えるでしょう。

あなたの研究キャリアの中で、マルチ・ドキュメント・ナレッジ・エクストラクションとイベント・アンダースタンディングに焦点を当てていました。企業が大規模な言語モデルに依存するようになっている今日、構造化されたナレッジ・エクストラクションが依然として重要な課題である理由を教えてください。

LLMは、さまざまなトピックに対処するための強力なツールですが、企業アプリケーションとエンドユーザーは、特定の問題を解決するための専門知識が必要です。これには、コンテキストに応じた独自の知識へのアクセスが必要です。このコンテキストに応じた独自の知識は、通常、モデルのトレーニング・データには含まれていないため、LLMを企業で展開する場合、内部の数百万のデータ・ポイントを横断する理解を収集する必要があります。今日のLLMは、技術的およびアクセス上の制限により、重要なコンテキストを欠如しており、そのギャップはその影響力を制限しています。

MCEでは、たとえば、顧客ケアAIエージェント・ソリューションを提供しています。その1つの目標は、テレコム・キャリアが、人間の介入を必要とせずに、顧客が技術的なモバイル・デバイスの問題を解決できるように支援することです。AIエージェントにデバイスに関するコンテキストに応じた技術情報を提供しないと、AIエージェントは、問題を解決したり関連性のある結果を提供したりできないため、顧客は人間の支援を求めることになります。これは、私たちが顧客とAIを展開するために克服しなければならなかったナレッジ・エクストラクションの課題であり、組織が期待する結果を得ることができない原因でもあります。

私の研究では、大規模なドキュメント・コレクションからのナレッジ・エクストラクションと情報検索を探求し、イベントという用語との関係を検討しました。イベントとは、情報の表現の根底にある因果関係と時間枠を定義するAIの分野の用語です。MCEでは、AIソリューションを人間のやり取りに適用し、LLMがナレッジを要約、表現、検索して顧客の問題を解決するための構造的な理解を構築しています。

あなたはACL、EMNLP、NAACLなどのトップNLPカンファレンスで研究を発表しています。過去5年間で、最も大きな実世界への影響を与えたブレークスルーは何ですか？また、現在過大評価されている進歩は何ですか？

私にとって際立っているブレークスルーは、インストラクション・チューニングとプロンプト・エンジニアリングの周りで発生しました。これは、より広範な採用に先立って最初に解決しなければならない問題でした。私たちはみんな、LLMに何かを尋ねて、円を描いて、必要な回答を得られないことがあります。したがって、モデルがプロンプトを理解し、正確な結果を提供できるようにすることは、最初の大きなステップでした。

エージェントの次のブレークスルーは、LLMが単発のプロンプトされたタスクを超えて、複数のタスクを実行し、エンドユーザーとやり取りし、ツールを使用し、メモリとナレッジにアクセスする必要がありました。これは、今日の私たちがいる場所に至るために不可欠でした。

現在、部分的に解決されているが、進行中の次のブレークスルーは、完全にホールユシオン問題を解決することです。ここまでの進歩により、LLMを以前よりも信頼できるものにすることができましたが、まだ作業が必要です。人間の監視とガードレールが依然として不可欠である理由です。

過大評価されているのは、エージェントが持つべき自律性の度合いです。人間の監視なしに複雑なビジネス環境で動作する完全自律システムは、まだ信頼できるものではありません。私がより生産的と考えるのは、AIを高価値のタスクに使用し、不確実性をエスカレートし、その推論を説明することです。人間の制御を放棄するのではなく、全体的なフローを人間が管理するようにします。そこで、エージェント・AIが最も実世界の価値を創造するでしょう。

あなたは、研究者、ソフトウェア・アーキテクト、エンジニアリング・リーダー、スタートアップ・アドバイザー、講師、そして現在はチーフ・AI・オフィサーとして、さまざまな役割を果たしてきました。キャリアの中で、成功したAIの定義はどのように変化しましたか？

私のキャリアを通じて、私は、成功したAIの定義は継続的に進化していることを学びました。さまざまな分野の核心的な価値観があります。応用研究とアーキテクチャは、AIが現実世界の制約下で動作する必要性を教えてくれました。学術研究は、厳格さと評価の重要性を教えてくれました。エンジニアリング・リーダーシップは、実行と運用上の規律が、モデル自体と同等の重要性があることを示しました。スタートアップへのアドバイスは、AIが実際の問題を解決し、採用への明確なパスがある場合に、最大の影響を与えることを教えてくれました。

現在、MCEのAIチーフとして、私は、AIが顧客の信頼を獲得し、顧客、従業員、ビジネスにとって測定可能な価値を創造する場合にのみ成功すると定義しています。AIは、運用環境で信頼できるもので、透明性があって管理可能で、顧客が実際に採用するものでなければなりません。私の定義は、「テクノロジーは動作するか？」から、「責任を持って、繰り返し、規模で価値を創造するか？」へと進化しました。

これは、私たちがMCEで2年前に開始し、現在に至るまでの移行です。後者の価値は、私たちが現在、テレコムの顧客や内部のユースケースでAIについて考える方法です。

MCE Systemsは、テレコムの顧客エクスペリエンス、顧客ケア、そしてマーケティングにAIを適用しています。テレコム業界で現在、最も魅力的であるAIのユースケースは何ですか？

コミュニケーション・サービス・プロバイダー（CSP）、または「キャリア」と呼ばれるものは、コモディティ化の問題に直面しています。価格は、新しい顧客を引き付けたり既存の顧客を維持したりするための主な要因ですが、持続可能ではありません。Apple (AAPL ) 、Amazon (AMZN ) 、Netflixなどの巨大企業を見ると、彼らは素晴らしい製品とそれを取り巻く体験を構築しました。これは、金融における銀行の例のようになります。銀行は、新しいアジャイルなプレーヤーによって、貯蓄を保持し、投資製品を提供するだけでなく、デジタル体験を提供するように強制されました。テレコムも同様です。

私たちのビジョンは、CSPの顧客に、すでに提供している優れたコネクティビティ製品の上に、より良い体験を提供することです。これには、顧客の全体的なネットワークとデバイスの体験について、より積極的でコミュニケーションをとることが含まれます。私たちにとって、AIがこれを実現できるようにします。

業界では、AIは主にコールセンターの労働コストを削減したり、従業員の生産性を高めたりするための防御的なツールとして使用されています。しかし、私たちにとって、AIは、顧客ケアをプロアクティブにし、サービスをパーソナライズし、顧客のモバイル・デバイス上で提供するためのオフенсив・ツールでもあります。

例えば、デバイスまたはコネクティビティの問題、またはバッテリーの劣化の問題を顧客が気づく前に検出し、解決策を見つけるのを支援することです。これらのような体験は、真のロイヤルティを築きます。顧客の状況を十分に理解して、正しいブロードバンド・バンドル、データ・アドオン、またはライフスタイル製品を、正しい時期に提供することで、コンバージョン率を高めることができます。顧客のさまざまなポイントからのデータを組み合わせて、顧客の離脱を正確に予測し、早期にそれに対応することは、最も強力なユースケースの1つです。CSPがこれを実現すれば、顧客に対して大きな優位性を得ることができます。

「AIネイティブ」または「AIレディ」になるという話題は、多くの議論を呼んでいます。MCEは、このパラダイムにどのように取り組んでいますか？また、組織がこの変換で最も重要な点を間違えることは何ですか？

多くの企業が間違えるのは、AIの変換が技術の導入だけでなく、運用方法の変更であることを認識していないことです。最も良い機会は、採用が自然に感じられる場所です。ワークフローはすでに存在し、痛みは測定可能であり、AIは速度、品質、または意思決定を改善できます。MCEは、AIツールの成熟度と、従業員の生産性を増やす方法でAIを採用することを検討することから、このパラダイムに取り組んでいます。

私たちは、チームを教育し、明確な使用ガイドラインを定め、AIが実際に違いを生み出す内部システムに接続する方法で、AIを採用しています。

ツールの基盤を評価した後、エージェントを使用して手動作業を削減できるワークフロー・オートメーションを特定しました。当然、開発時間を大幅に削減することができました。例えば、高度な機能を持つプロトタイプ・アプリケーションは、数日で作成できましたが、通常は2〜3週間かかります。

内部の生産性にとって、過小評価されるのはデータの民主化です。私たちは、人間とAIシステムがより良い決定を下すために、内部のデータの活用を改善することに取り組んでいます。これには、顧客のニーズの理解、運用の改善、過去の経験から学んだ製品の構築が含まれます。これは、どのようなことが機能し、どのようなことが機能しないのかを評価するための反復的で分析的なプロセスです。

多くの組織がAIエージェントを展開しようとしています。エージェントが真正に価値を生み出す場所と、人間の監視が必須である場所について、実用的な教訓を教えてください。

自動化の熱狂に乗り遅れないでください。エージェントに取り組む際には、方法的に取り組むことをお勧めします。自動化の目標レベルから始めるのではなく、エージェントが価値を生み出すワークフローを特定し、それらを小さな部分に分割し、どの部分が完全に自動化できるか、どの部分が半自動化できるか、人間の判断が必要な部分を特定する必要があります。

実践では、エージェントは、情報の収集、入力の分析、推奨事項の生成、出力の準備など、タスクが厳密に定義された場合に、最も価値を生み出します。タスクが単純な場合、ファイン・チューンされた自動化は、複雑なプロセスを自動化しようとするよりもはるかに効果的です。

人間が必須であるのは、監視、例外処理、顧客に敏感な決定、一般に、説明責任が必要な状況です。目標は、人間の意思決定を置き換えることではなく、エージェントが信頼できる価値を生み出す部分を担当させ、人間が説明責任を必要とする決定を担当させることです。

MCEは、AIを使用してデバイスのエクスペリエンスをよりパーソナライズし、モバイル・オペレーターにとっての運用効率を高めることを話しています。パーソナライズと、プライバシー、透明性、ユーザーの信頼の増大する懸念とのバランスをどのように取っていますか？

AIは人間のように感じられるため、ユーザーは、時々予期せずに、より多くの情報を開示することがあります。これにより、組織には、収集されたデータについて注意深く且つ透明性を持って対応する責任が生じます。単純な例として、顧客がトラブルシューティングの一環としてスクリーンショットを提出する場合、その画像には、スクリーン上の個人情報が意図せずに含まれている可能性があります。組織は、不要なコンテンツを除去するために画像をトリミングするためのガードレールを適用する必要があります。

私にとって、収集するすべてのデータは、顧客の利益とニーズに明確に役立つべきです。データは、顧客の問い合わせを解決したり、適切なレベルのパーソナライゼーションを提供したりするなどの特定の目的のためにのみ収集されるべきです。また、データは、顧客の実際のアイデンティティへの不必要なリンクを避けることで、プライバシーを保護する方法で処理されるべきです。

別の言葉で言えば、顧客プロファイルの特定のニーズを、私たちのビジネスに関連するものとして理解する必要があります。私たちの場合、プライバシーに準拠した組織として、プロバイダーに関連するモバイル・デバイスの状態とユーザーの行動について理解することです。顧客のアイデンティティや他の種類の行動についてではありません。

顧客とのやり取りにおいても、ガードレールが重要です。目的、ブランドの声、実際に管理できる範囲内に留まるために、ガードレールが不可欠です。ガードレールは、法的または規制上の違反や顧客の悪い体験を避けるのに役立ちます。時には、これらは厳格なプロセスになるかもしれませんが、必須です。

あなたは、コンピューター・サイエンスの基礎から情報検索、データ・マイニングまで、さまざまな科目を教えてきました。現在、職場に入る学生のためにAIカリキュラムを設計する場合、どのようなトピックを優先し、どのような古い概念を除去しますか？

カリキュラムは2つの方法で変更する必要があります。ニューラル・ネットワーク、トランスフォーマー、LLM、リトリーバル・オーグメンテッド・ジェネレーション、評価、整列、責任あるAIなどのトピックは、修士課程に限定されていたものが、基礎課程の主な科目になる必要があります。職場に入る学生は、これらのシステムの仕組みと、批判的に評価する方法を理解する必要があります。

学生はまた、AIを責任を持ってツールとして使用する方法を学ぶ必要があります。つまり、出力を疑問視し、ソースを検証し、限界を理解し、AIを思考のパートナーとして扱い、単に課題を解決するためのショートカットとして扱わないことを意味します。

私は、数学とアルゴリズムの基礎をカットしません。これらは今でも重要です。機械的な実装を奨励する課題を減らし、批判的思考を示さないものを減らすことになります。焦点は、問題の定式化、評価、システムの設計、責任ある使用に移るべきです。

あなたは、AI戦略について多くのスタートアップにアドバイスをしてきました。AI製品を構築する際に、創設者が最も一般的に犯す間違いは何ですか？また、プロトタイプから生産まで成功に至る会社とそうでない会社を何が区別しますか？

私が見る最も一般的な間違いは、問題を真正に理解する前に、または顧客や採用へのパスを理解する前に、テクノロジーに恋に落ちることです。2番目の間違いは、AIの限界を十分に理解していないことです。したがって、まだ十分に成熟していないユースケースにAIを押し付けようとします。

プロトタイプから成功した生産まで至る会社とそうでない会社を区別するのは、深いドメインの専門知識と研究の姿勢です。最も優れたAI製品は、特定の垂直市場を十分に理解している創設者から生まれます。彼らは、「私たちがAIで何ができるか？」ではなく、「ここにある具体的な問題は何ですか？市場の既存のソリューションはどこまで対応できるか？AIはこれを持続可能に解決できますか？」と考えています。

成功した創設者は、顧客、競合他社、顧問、失敗した試みから不断に学びます。彼らは、決定がどのように下されるか、予算がどのように移動するか、ターゲット・オーディエンスに信頼を生み出すには何が必要かを研究します。最終的には、彼らは製品を構築しているのではなく、実際の環境で生き残る必要がある何かを構築しています。

5年先を見て、AIの最大の影響は、より強力な基礎モデル、エージェント・システム、多モーダルAI、デバイス上の知能、または業界が現在過小評価している別のトレンドから来るでしょうか？

最大の影響は、基礎モデルの改善だけから来るのではなく、モデルが現実のワークフローに組み込まれ、行動できるシステムに組み込まれた方法から来るでしょう。モデルから有能なシステムへのこの移行が、最も重要な近期の進歩をもたらすと思います。

これは、システムが完全に多モーダルになり、テキスト、音声、画像、ビデオ、他のリアルワールドのシグナルを通じて、人間が世界を理解する方法を近づけることができるようになると、特に強力になるでしょう。これにより、顧客サポート、ヘルスケア、製造など、新しい可能性が開けられます。

もう1つの新興テクノロジーは、物理世界とやり取りするエージェントです。Boston Dynamicsのような企業は、可能な芸術をすでに示しています。認識、推論、計画、物理的な行動が融合するとき、エージェント・AIの最も実用的な応用例の1つになります。ヒューマノイドの形態か、特化したロボティクス・システムか、エージェントが物理的な存在を持つことは、次の5年間で見られるAIの最も革命的な表現の1つになり得ます。MCEにとって、これは、デバイスの拾い上げ、ボタンの押下、ケーブルの接続、またはデバイスのステーション間の移動など、物理的な人間のやり取りが依然として必要な繰り返し、低複雑性のタスクの自動化の機会を創出します。

テレコムの場合、顧客の離脱を予測し、それに対応するAIモデルを構築することが、次の数年間でお金になるでしょう。顧客のさまざまなポイントからのデータを組み合わせて、顧客の離脱の可能性を正確に評価し、それに対応することができると、プロバイダーにとって停滞している問題を解決することになります。

素晴らしいインタビュー、ご覧になりたい読者はMCE Systemsを訪問してください。