データトロン社長 Victor Thu氏 – インタビュー・シリーズ

Victor Thu氏は、Datatronの社長です。Datatronは、企業が機械学習の力を活用できるように支援するプラットフォームで、デプロイの高速化、問題の早期検出、多数のモデルをスケールで管理する効率性の向上に役立ちます。

あなたの背景は、プロダクトマーケティング、Go-to-market、プロダクトマネジメントです。どうやってこの背景があなたを機械学習やAIの分野に導いたのですか。

私はテクノロジーが好きで、友人から「テクノロジー・ウィスパラー」と呼ばれることもあります。私は複雑なテクノロジーに関するトピックを、人々が理解できる言語に翻訳し、自分自身を新しいテクノロジーについて教育することを楽しんでいます。

私は「現代のAI」という言葉を使いますが、私の最初の出会いは、スタンフォード大学の著名なAI教授であるDr. Fei-Fei Liの基調講演を観たときでした。Dr. Liの基調講演は、私のキャリアの転機となりました。那時私は、次にどこに進むべきか決めました。私はAIとMLを使用してビジネスの課題を解決する次のテクノロジーの波に乗りたいと思いました。

その後、私は数多くのAI/MLスタートアップに携わり、テクノロジーを使用して実際のビジネスニーズに応えるために努力しました。私はPh.D.レベルのML科学者と密接に協力し、彼らからAI/MLに関する豊富な知識を得ました。現在も学び続けていますが、この分野は非常に急速に進化しています。

したがって、私がAI/MLと密接に携わるようになったのは、テクノロジーへの情熱と、それを他者に役立てる方法を模索した結果です。

DatatronはMLOpsに焦点を当てています。読者の中でこの用語に馴染みのない方がいるかもしれません。MLOpsとは具体的に何ですか。

MLOpsは、AIおよびMLモデルのプロトタイプから本稼働までの非常に手作業的なプロセスを、コード化し、簡素化することです。

最大の誤解のひとつは、データサイエンティストがAIモデルの開発を終えたら、すぐに本稼働に移行できるというものです。しかし、実際には、モデルのデプロイまでに1年かかることもあります。

この遅延の主な理由は、モデルを開発する専門家が、必ずしもソフトウェアエンジニアリングの専門家でもないことです。建築家が高層ビルの設計を行うのと同じで、設計者が開発者でもないのです。

MLOpsは、モデル開発者とソフトウェアエンジニアリングの橋渡しです。12か月以上かかるプロセスを、わずか数日で行うことができます。

2021年9月にあなたが私たちに書いた記事では、「企業が解決策を本稼働に移行する主な障害は、モデルの品質ではなく、企業がそれを行うためのインフラストラクチャの欠如である」と述べました。この障害は、企業にとってなぜこんなに大きなものなのか。

いくつかの要因が寄与しています。

• 「無料」のオープンソースソフトウェアの過度のロマンチック化。私たちはオープンソースソフトウェアを愛しており、それが業界を飛躍的に前進させたと信じています。しかし、多くの企業が、AIおよびMLにおけるオープンソースの複雑さを理解していません。現在、AI/MLの専門家が非常に不足しています。さらに、AI/MLコードを扱えるソフトウェアエンジニア（MLエンジニアまたはMLOpsエンジニア）を見つけるのは難しいです。300以上のオープンソースMLOpsプロジェクトを内包するエンタープライズスケールのMLOpsプラットフォームを内部で構築することは、失敗する運命です。
• エンジニアリングチームを支援するためのインフラストラクチャの欠如。企業は、エンジニアが成功するための適切な環境を整える必要があります。適切な帯域幅と予算を提供して、チームに正しいツールを与える必要があります。AIは比較的新しいテクノロジーです。AIを使用している企業は、モデルを迅速にデプロイするために何が必要かを常に理解していません。したがって、MLOpsは非常に重要なツールです。

MLOpsはインフラストラクチャの欠如問題をどのように解決しますか。

MLOpsは、以下の4つの方法でインフラストラクチャの欠如問題を解決します。

1. 独自のコード変更なし：データサイエンティストは、ビジネス用途に適したモデルを構築するための柔軟性を望みます。したがって、コード変更を必要とするMLOpsプロセスは、モデルの一貫性を複雑にします。
2. 自動化/スクリプティング：多くのチームは、モデルをハードコードでスクリプティングしていますが、これには多くの時間がかかります。MLOpsはこのプロセスを自動化し、多くの時間とエネルギーを節約します。
3. 更新の簡素化：AIモデルは環境に適応するために定期的に変更されます。時々、データサイエンティストはモデルを頻繁に更新する必要があります。MLOpsがなければ、この繰り返しの更新を避ける方法はありません。
4. 基盤となるインフラストラクチャの管理：モデルをデプロイするには、ネットワークとストレージを計算する必要がありますが、これにはAI/MLモデルのユニークな特性が必要です。MLOpsツールは、適切なリソースにアクセスしてそれらをスケールする能力を持っています。

また、MLOpsツールを構築する際に考慮されていないエンタープライズ要件もあります。ロールベースのアクセス制御（RBAC）、統合および相互運用性、さまざまなMLツールのサポート、セキュリティ脆弱性の対応、コアチームメンバーの突然の離脱などです。

あなたのAIガバナンスに関する個人的な見解を教えてください。

AIモデルが適切に機能しないという恐ろしい話は数えきれません。特定のグループを誤ってラベル付けしたり、上場企業に多大な財務損失をもたらしたりしています。

AIガバナンスは、企業がAIモデルを本稼働で実行している場合に非常に重要です。ただし、それは他のITまたはビジネスガバナンスと同じです。今日、ITがクラウドまたは自社のデータセンターでアプリケーションを実行している場合、適切に機能していることを確認するためのツールのシリーズがあります。

AIモデルを実行している場合、ビジネスとデータサイエンティストが何をしているかを可視化するためのメカニズムとツールを備える必要があります。

特にAI/MLの初期段階では、「セットして忘れる」というオプションはありません。最初は、モデルがどのように動作するかを監視し、適切な調整を行う必要があります。モデルが望ましい境界内で動作していないときに警告するための適切な監視機能が必要です。

モデルリスクマネジメント（MRM）も、モデル開発およびデプロイに関与するさまざまな個人のアクセス制御を考慮する必要があります。モデルの一貫性を確保するためにどのようなアクセス制御を実施していますか。異なるグループの個人が、モデルが設計されていない用途でモデルを使用しないようにするにはどうすればよいですか。チームが自問自答する必要がある質問です。

Datatronはモデルリスクマネジメントにどのように貢献していますか。

MLOpsにより、モデルを迅速に更新および変更できます。たとえば、ローン申請を不適切に却下するモデルがある場合、MLOpsによりモデルを取り下げ、新しいモデルを再導入してリスクを簡単に管理できます。

それは、偏りのドリフトからモデルを保護し、プロダクション中の主要メトリックを維持します。ビジネス上の意思決定者が簡単に理解できる、高度な詳細データを使用したメトリックを、シンプルなダッシュボードで提示します。

DatatronプラットフォームのAIガバナンスは、より一般的な監視機能から一歩進んだもので、顧客のユースケースに最も関連のあるモデルに関する明確な可視性を提供します。

あなたはDatatronのブログ投稿で、DatatronがReliable AI™というスローガンを掲げていることを説明しました。Reliable AIとはあなたの見解では何ですか。

私たちがこのスローガンを考案したとき、私たちは、今日の商用航空機が非常に信頼できるものであることに気が付きました。

「倫理的なAI」や「責任あるAI」などの話題は、現在のAIモデルが期待どおりに動作しないため、信頼できないとみなされていることから生まれたものです。企業は、モデルが偏っていないことを信頼できないため、AIを使用することを躊躇しています。Datatronはこれを変えることを目指しています。

Datatronについてさらに何か共有したいことがありますか。

私たちは、数少ないSuper Bowlを証明したMLOpsプレーヤーです。高ストレスのシナリオで、スタートアップやオープンソースツールとは異なり、成功しています。クライアントのドミノピザは、Datatronと協力して、プロダクションでAIモデルを簡単に迅速に運用化し、スーパーボウル中に究極のテストを受けました。

MLOpsは、AI/MLモデルをプロダクションに導入するための方法であり、リソースを保護し、コストを削減する方法です。私たちは、成功したAI/MLモデルの持続可能なソースであり、収益のカタリストとして機能します。企業は、MLOpsを使用して、AIおよびMLプロジェクトからROIを得ることができます。マージンに関係なく、MLOpsを使用して結果を生み出すことができます。

素晴らしいインタビュー、詳しく知りたい読者はDatatronを訪問してください。