モナラボスのYotam Oren氏、CEO & 共同創設者 – インタビューシリーズ

Yotam Oren氏は、モナラボスのCEO & 共同創設者です。モナラボスは、企業がAIイニシアチブを実験室での実験から拡張可能なビジネス運用に変えることができるプラットフォームです。モナラボスは、ビジネスプロセスとアプリケーションにおけるMLモデルの動作を真正に理解することで、実現します。

モナは、保護されたデータセグメントとビジネス機能のコンテキストで、機械学習モデルの動作を自動的に分析します。モナは、業界標準と規制に準拠した完全な公平性レポートを生成する機能を提供します。レポートは、AIアプリケーションがコンプライアンスであり、バイアスがないことを保証します。

コンピューターサイエンスに最初に惹かれたのは何ですか?

コンピューターサイエンスは私の家族で人気のあるキャリアパスでした。したがって、それは常に私の選択肢の1つでした。もちろん、イスラエル文化は非常にプロテクです。私たちは革新的なテクノロジーを祝います。私は常に、コンピューターサイエンスは私に成長と達成のためのランウェイを提供するだろうと考えていました。

しかし、それは私が大学時代にようやく個人的な情熱になったときでした。私は中学校でコーディングを始めた子供ではありませんでした。私の青春期はバスケットボールに忙しく、コンピューターには目が向けられませんでした。高校卒業後、約5年間、軍隊の作戦/戦闘指揮役で過ごしました。したがって、私は本当にコンピューターサイエンスについて学ぶことを始めたのは、大学で学部を選択しなければならなかったときでした。私が気づいたのは、コンピューターサイエンスが問題を解決し、言語（または言語）を学ぶことを組み合わせたものであるということです。私が特に興味を持っていた2つのことです。そこから私は夢中になりました。

2006年から2008年まで、モバイルナビゲーションスタートアップでマッピングとナビゲーションに取り組んだときの主な収穫は何ですか?

私の役割は、Telmapでマップとロケーションデータの上に検索エンジンを構築することでした。

これらは「ビッグデータ」の初期の日々でした。私たちはそれをそう呼んでいませんでしたが、巨大なデータセットを取得し、エンドユーザーに最も影響力のある洞察を示そうとしていました。

私は気づいたのは、企業（私たちを含む）がそのデータのほんの一部しか使用していないということです（外部の公開データも含む）。新しい洞察、より良いプロセス、経験が得られる可能性は多かったのです。

もう1つの収穫は、より多くのデータを取得するには、より良いアーキテクチャ、インフラストラクチャなどが必要であるということです。

モナラボスの創設ストーリーを共有してください。

私たち3人の共同創設者は、キャリアを通じてデータ製品に関わってきました。

チーフテクノロジーオフィサーであるネモは、私の大学の友人であり、同級生であり、Google (GOOGL ) Tel Avivの最初の従業員の1人でした。彼は、検索エンジンデータに基づく高度な分析と機械学習を持つGoogle Trendsという製品を始めました。もう1人の共同創設者であるイタイは、チーフプロダクトオフィサーで、ネモのチームでGoogleにいました（彼と私はネモを通じて出会いました）。2人は常に、AI駆動システムが初期開発とテストの後に監視されないことを苛立たせられました。チームは、予測モデルが時間の経過とともにどれほどよく機能するかについて、ほとんどフィードバックを受け取らなかったのです。フィードバックを受けるのは、悪いことが起こったときで、開発チームが「ファイアドリル」に呼ばれて大惨事を修正するときでした。

同じ頃、私はマッキンゼーでコンサルタントをしていました。私は、大企業でAIおよびビッグデータプログラムが拡大する上での最大の障害は、ビジネスステークホルダーがそれらのプログラムに対して持つ信頼の欠如であることを見ていました。

ここでの共通の糸は、ネモ、イタイ、そして私にとって明らかでした。業界には、AI/MLシステムを生産環境で監視するためのインフラストラクチャが必要です。私たちは、ビジネスステークホルダーの信頼を高め、AIチームがいつでもシステムの状態を把握し、効率的に反復することができるように、可視性を提供するというビジョンを持ちました。

それでモナが設立されました。

AIの透明性の欠如に関する現在の問題は何ですか?

多くの業界では、組織はすでにAIプログラムに数千万ドルを投資し、研究室および小規模展開で初期の成功を収めています。しかし、拡大し、広範な採用を達成し、ビジネスが実際にAIに頼ることを困難にしました。

これが起こっている理由は、偉大な研究が自動的に偉大な製品に翻訳されないことから始まります（ある顧客は私たちに「MLモデルは車のようなものです。研究室を出ると、価値が20%失われる」と言いました）。偉大な製品には、サポートシステムがあります。品質が時間の経過とともに維持され、問題が早期に発見され、効率的に対応されるようにするツールとプロセスがあります。偉大な製品には、継続的なフィードバックループがあり、改善サイクルがあり、ロードマップがあります。したがって、偉大な製品には、深いパフォーマンスの透明性が必要です。

透明性が欠如すると、次のようになります:

• 問題がしばらく隠れており、そして「ファイアドリル」を引き起こすために表面に現れます
• 長く手動での調査と緩和
• ビジネスユーザーとスポンサーに信頼されず、最終的に拡大できないAIプログラム

予測モデルを透明性と信頼性のあるものにする上での課題は何ですか?

透明性は、信頼を獲得する上で重要な要素です。透明性は、シングル予測の透明性を含むさまざまな形式で来る可能性があります。シングル予測の透明性には、ユーザーに信頼レベルを表示したり、予測の説明/理由を提供したりすることが含まれます。シングル予測の透明性は、ユーザーが予測に快適に感じるのを助けることに主眼を置いています。さらに、全体的な透明性があります。全体的な透明性には、予測精度、予期せぬ結果、潜在的な問題に関する情報が含まれます。全体的な透明性は、AIチームに必要です。

全体的な透明性の最も難しい部分は、問題を早期に検出して、関連するチームメンバーに警告して、災害が発生する前に是正措置を講じることです。

問題を早期に検出するのは難しい理由:

• 問題は小さく始まり、表面に現れる前にしばらく煮詰まります
• 問題は、データソースなどの外部または制御不能な要因によって開始されることがあります
• 世界を「分割」する方法は多数あり、ナイーブなアプローチで小さなポケットで問題を網羅的に検索すると、多くのノイズ（アラート疲労）が発生する可能性があります

透明性を提供するもう1つの課題は、AIのユースケースの驚くほどの増加です。これにより、ワンサイズフィットオールアプローチはほぼ不可能になります。各AIユースケースには、異なるデータ構造、異なるビジネスサイクル、異なる成功メトリック、そしてしばしば異なる技術アプローチとスタックが含まれる場合があります。

したがって、これは難しい課題ですが、AIプログラムの成功のために透明性は非常に基本的なものです。したがって、実行する必要があります。

NLU / NLPモデルおよびチャットボットのソリューションについて詳細を共有してください。

会話AIは、モナのコアの垂直の1つです。私たちは、幅広い会話AIユースケースをサポートする革新的な企業を誇りに思っています。言語モデル、チャットボットなどが含まれます。

これらのユースケースに共通する要素は、モデルが顧客に近く、時には顧客の目に見える場所で動作することです。したがって、不一致のあるパフォーマンスや悪い動作のリスクは高くなります。会話AIチームが、システムの動作を詳細なレベルで理解することが非常に重要になります。これは、モナの監視ソリューションの強みの1つです。

モナのソリューションがユニークなのは、会話を体系的にグループ化し、モデル（またはボット）が誤動作するポケットを見つけることです。これにより、会話AIチームは、顧客が気づく前に問題を早期に特定できます。この機能は、会話AIチームが監視ソリューションを選択する上で重要な決定要因です。

要約すると、モナは会話AIの監視のためのエンドツーエンドのソリューションを提供します。システムの動作に関する単一の情報源を確保することから始まり、継続的なキーパフォーマンスインジケーターの追跡、問題のポケットに関するプロアクティブな洞察を提供し、チームが効率的な是正措置を講じることができます。

モナのインサイトエンジンについて詳細を提供してください。

もちろん。インサイトエンジンの目的は、ユーザーに適切な量のコンテキスト情報とともに異常を提示することです。ノイズやアラート疲労を引き起こさないようにします。

インサイトエンジンは、ユニークな分析ワークフローです。このワークフローでは、エンジンはデータのすべてのセグメントで異常を検索し、問題がまだ「小さい」状態で早期に検出します。問題がデータセット全体とダウンストリームのビジネスKPIに影響を与える前に、エンジンは、異常の根本原因を検出するための独自のアルゴリズムを使用し、各異常が1回だけアラートされることを保証します。サポートされる異常タイプには、時系列異常、ドリフト、外れ値、モデル劣化などがあります。

インサイトエンジンは、モナの直感的なノーコード/ローコード構成を介して高度にカスタマイズ可能です。エンジンの構成可能性により、モナは市場で最も柔軟なソリューションとなり、幅広いユースケース（バッチとストリーミング、ビジネスフィードバック/グラウンドトゥルースの有無、モデルバージョン間またはトレーニングと推論間など）をカバーします。

最後に、このインサイトエンジンは、インサイトを表示できる視覚化ダッシュボードと、根本原因分析およびコンテキスト情報の追加調査を可能にする調査ツールのセットによってサポートされます。インサイトエンジンは、さらに、ユーザーの作業環境（電子メール、コラボレーションプラットフォームなど）にインサイトを提供できる通知エンジンと完全に統合されています。

1月31日、モナは新しいAIフェアネスソリューションを発表しました。詳細を共有してください。

AIフェアネスとは、アルゴリズムとAI駆動システムが一般に偏りのない公平な決定を下すことを保証することです。AIシステムの偏りを解消し、防止することは、重大な現実世界の結果をもたらす可能性があるため、非常に重要です。AIの普及により、その影響は、自動運転、より正確な病気の検出、世界の理解の向上、さらにはアートの創作など、人々の日常生活の多くの分野でより多く見られるようになります。もしもそれが公平で偏りがないことを信頼できないのであれば、それをさらに普及させることを許可することができますか?

AIシステムの偏りの主な原因の1つは、モデルトレーニングデータが現実世界を完全に表現できる能力です。これは、歴史的な差別、特定のグループの表現不足、またはデータの意図的な操作から生じる可能性があります。たとえば、主に明色の個人の画像でトレーニングされた顔認識システムは、暗色の個人の認識において高いエラーレートを持つ可能性があります。同様に、狭い範囲のソースからのテキストデータでトレーニングされた言語モデルは、宗教、文化などのトピックについて特定の世界観に偏ったデータに基づいて偏りを発展させる可能性があります。

モナのAIフェアネスソリューションは、AIおよびビジネスチームが、AIが偏りがないことを保証します。規制された業界では、モナのソリューションは、準拠準備にチームを準備します。

モナのフェアネスソリューションは特別なものです。モナプラットフォームに基づいています。モナプラットフォームは、AIデータおよびモデルとその現実世界の影響の間のブリッジです。モナは、トレーニングデータ、モデル動作、実際の現実世界の結果の間の相関関係を提供するために、AIモデルが提供するビジネスプロセスのすべての部分を調べます。

2つ目に、関連するパラメータを制御するためにデータを柔軟にセグメント化できるユニークな分析エンジンがあります。これにより、適切なコンテキストで正確な相関関係の評価が可能になり、任意のパフォーマンスメトリックと保護された機能に対して深い「偏りスコア」が提供され、シンプソンのパラドックスを回避できます。

したがって、全体として、私はモナが、責任あるAIを構築して拡大する必要があるチームにとって、基盤となる要素であると考えます。

AIの将来のビジョンは何ですか?

これは大きな質問です。

私は、AIがさまざまな業界分野や人々の生活の側面で使用され、影響を及ぼすことが続くと考えています。しかし、AIの将来のすべてのユースケースや影響について詳細に説明しようとするビジョンは、信頼性が低いと考えています。誰もが、信頼性のある絵を描くのに十分な情報を持っていないからです。

しかし、私たちが確実に知っていることは、AIはより多くの人々の手に渡り、より多くの目的を果たすことになるということです。したがって、ガバナンスと透明性の必要性は大幅に増加します。

AIとその動作に関するリアルな可視性は、2つの主要な役割を果たします。まず、人々に信頼を植え付け、抵抗の障壁を解消して、より迅速な採用を促進するのに役立ちます。2つ目に、AIを運用する人々が、AIが制御を失わないことを保証するのに役立ちます。

素晴らしいインタビュー、詳細を知りたい読者はMona Labsを訪問してください。