インタビュー
Victor Thu、Datatron社長 – インタビュー・シリーズ
Victor Thuは、Datatronの社長です。Datatronは、企業が機械学習の力を活用できるように、デプロイを迅速化し、問題を早期に検出して、複数のモデルを大規模に管理する効率を高めるプラットフォームです。
あなたの背景は、プロダクトマーケティング、ゴー・トゥ・マーケット、プロダクトマネジメントです。どのようにしてこの背景があなたをマシンラーニングとAIの分野に導いたのか?
私はテクノロジーが好きで、友人から「テクノロジー・ウィスパラー」と呼ばれることもあります。私は複雑なテクノロジーに関するトピックを、人々が理解できる言葉に翻訳し、新しいテクノロジーについて学び、そのテクノロジーが人々にとって最も重要な理由を理解することを楽しんでいます。
私の「現代のAI」という言葉で呼ぶ最初の出会いは、スタンフォード大学の有名なAI教授、Dr. Fei-Fei Liの基調講演を観たときでした。Dr. Liの基調講演は、私のキャリアの転換点となりました。その講演は、私が次にどこにいるべきかを私に示しました。私は、AIとMLを使用してビジネスの課題を解決する次のテクノロジーの波に乗りたいと思いました。
それ以来、私はAI/MLスタートアップと一緒に働き、テクノロジーを使用して実際のビジネスニーズに取り組んできました。私はPh.D.レベルのML科学者と密接に協力し、彼らは私にAI/MLに関する豊富な知識を提供してきました。私はまだ学んでいます。スペースは非常に急速に進化しているからです。
したがって、実際には私のテクノロジーへの情熱と、それを使用して他の人を助ける方法が、私をAI/MLと密接に連携させることにつながりました。
DatronはMLOpsに焦点を当てています。読者がこの用語に不慣れな場合、MLOpsとは具体的に何ですか?
MLOpsは、AIおよびMLモデルをプロトタイプから生産に移す、非常に手作業的なプロセスをコード化し、簡素化することです。
最大の誤解のひとつは、データサイエンティストがAIモデルを構築したら、それを迅速に生産に移すことができるということです。しかし、実際は、モデルがデプロイされるまでに1年かかることがあります。
この遅延の主な理由は、モデルを開発する専門知識を持つ人が、必ずしもソフトウェアエンジニアリングの専門知識を持っていないことです。良い例は、摩天楼を設計する建築家です。彼らはそれを建設する開発者ではありません。
MLOpsは、モデル開発者とソフトウェアエンジニアリングの間のブリッジです。12か月以上を費やす必要性なく、MLOpsはデプロイプロセスを数日間に短縮できます。
2021年9月に私たちに書いた記事では、「企業がソリューションを生産に移す最大の障害は、モデルの品質ではなく、企業がそれを行うためのインフラストラクチャの欠如である」と述べました。なぜこれが多くの企業にとって障害となるのか?
いくつかの要因がこの障害に寄与しています。
- 「無料」のオープンソースソフトウェアの過度のロマンチック化。 まず、私たちはオープンソースソフトウェアを愛しており、それが業界を飛躍的に前進させるのに役立ったと強く信じています。しかし、多くの人々は、AIおよびMLに関連するオープンソースの複雑さを理解していません。今日、AI/MLの才能が極めて不足しています。AI/MLコードのユニークな特性を処理する方法を知るソフトウェアエンジニア（MLエンジニアまたはMLOpsエンジニア）を見つけることを組み合わせると、300以上のオープンソースMLOpsプロジェクトを内部で構築して、エンタープライズスケールのMLOpsプラットフォームを構築することを期待することは、失敗することになります。
- エンジニアリングチームをサポートするためのインフラストラクチャの欠如。 企業は、エンジニアが成功するための適切な環境を必要とします。適切な帯域幅と予算を提供して、チームに正しいツールを提供する必要があります。AIは比較的新しいテクノロジーです。AIを実行している企業は、モデルを迅速にデプロイするために何をすべきかを常に理解していません。したがって、MLOpsは非常に重要なツールです。
MLOpsはインフラストラクチャの欠如問題をどのように解決しますか?
MLOpsは、インフラストラクチャの欠如問題を4つの方法で解決します:
- 独自のコード変更なし: データサイエンティストは、ビジネスユースケースに合わせてモデルを構築するための柔軟性を望みます。したがって、コード変更を必要とするMLOpsプロセスは、モデルの一貫性を複雑にします。
- 自動化/スクリプティング: 多くのチームは、モデルをハードコードでスクリプティングしていますが、これには多くの時間がかかります。MLOpsは、その全プロセスを自動化し、多くの時間とエネルギーを節約します。
- 更新の簡素化: AIモデルは環境に適応するために定期的に変更されます。時々、データサイエンティストはモデルを頻繁に更新する必要があります。MLOpsがなければ、この繰り返しの更新を避ける方法はありません。
- 基盤となるインフラストラクチャの管理: モデルをデプロイするには、AI/MLモデルのユニークな特性を持つネットワークとストレージを計算する必要があります。MLOpsツールは、適切なリソースにアクセスしてそれらをスケーリングする機能を備えています。
また、MLOpsツールを構築する際に、ロールベースのアクセス制御（RBAC）、統合および相互運用性、さまざまなMLツールのサポート、セキュリティ脆弱性の対応、コアチームメンバーの突然の離脱などのエンタープライズ要件が考慮されていないことがよくあります。
AIガバナンスの重要性についてのあなたの個人的な見解は何ですか?
AIモデルが適切に機能していないという、数えきれないほどの恐ろしい話があります。特定のグループの個人を誤ってラベル付けしたり、公開されている企業に多大な財務損失をもたらしたりします。
AIガバナンスは、企業がAIモデルを生産に移した場合に非常に重要です。ただし、それは他のITまたはビジネスガバナンスと異なりません。今日、ITがクラウドまたは自社のデータセンターでアプリケーションを実行する場合、アプリケーションが適切に機能していることを確認するためのツールのシリーズがあります。
AIモデルを実行している場合、ビジネスとデータサイエンティストに、モデルが何をしているかについての可視性を提供するメカニズムとツールを備える必要があります。
特にAI/MLのこの初期段階では、「セットして忘れる」というオプションはありません。初期段階では、モデルがどのように動作するかを監視し、適切な調整を行う必要があります。モデルが望ましい境界の外側で動作している場合に警告することができる、適切な監視機能が必要です。
モデルリスク管理（MRM）も、モデル開発およびデプロイに関与するさまざまな個人を考慮する必要があります。モデルの一貫性を確保するために、どのようなアクセス制御を実装しましたか? または、異なるグループの個人が、モデルが設計されていないユースケースでモデルを使用しないようにするにはどうしますか? チームが自分自身に尋ねるべき質問です。
Datronはモデルリスク管理をどのように支援しますか?
MLOpsは、モデルを迅速に更新および変更することを可能にします。たとえば、モデルが不適切にローン申請を却下している場合、MLOpsはモデルを取り戻して新しいモデルを導入することを可能にし、リスクを簡単に管理します。
モデルをバイアスドリフトから保護し、生産中の重要なメトリックを維持します。ビジネス上の意思決定者が簡単に理解できる、詳細なデータを使用した高レベルな概要を示すダッシュボードを介してです。
DatronのプラットフォームAIガバナンスは、より一般的な監視機能よりも、より高度なコンテキストとロジックを提供し、顧客のユースケースにより関連するモデルの明確な可視性を提供します。
Datronのブログ投稿では、Datronが「信頼できるAI」というマントラを掲げていると述べました。信頼できるAIとは、具体的に何ですか?
私たちがこれを考案したとき、私たちは、今日の商用航空機にどれほど快適に乗っているかを考えました。
倫理的なAI、責任あるAIなどの話題が広がっているにもかかわらず、ビジネスがAI/MLを信頼して使用できるようにする必要性が重要です。従業員が商用航空機に乗るのと同じように。
「倫理的AI」や「責任あるAI」という用語は、現在のAIモデルが期待どおりに動作していないという問題から生まれたものです。したがって、信頼できないとみなされます。企業は、モデルがバイアスがないことを確信できないため、AIを使用することを躊躇しています。したがって、モデルは信頼できないとみなされ、Datronはこれを変えることに尽力しています。
Datronについてさらに共有したいことはありますか?
私たちは、スーパーボウルで実証された数少ないMLOpsプレーヤーの1つです。高ストレスのシナリオで、スタートアップやオープンソースツールとは異なり、正常に機能しています。クライアントのドミノピザは、Datronと協力して、AIモデルを迅速に簡単に運用化し、それらをスーパーボウル中に究極のテストにしました。
MLOpsは、AI/MLモデルを生産に移すための方法であり、リソースを保存し、コストを削減する方法です。私たちは、AI/MLモデルの成功したソースであり、収益の触媒です。企業は、最終的にAI/MLプロジェクトからROIを生み出すことができます。マージンに関係なく、MLOpsを使用して結果を生み出すことができます。
素晴らしいインタビュー、詳しくはDatronを訪問してください。
