Victor Thuは Datatronの社長です。彼のキャリアを通じて、Victorは、Petuum、VMware、Citrixなどの企業におけるCレベルおよびディレクターの役職で、製品マーケティング、ゴー・トゥ・マーケット、製品管理に特化しています。
By Victor Thu、Datatronの社長マシンラーニングを使用したイニシアチブは、従来のソフトウェアを使用したプロジェクトと同じように扱うことはできません。迅速に進める必要があります。そうすれば、テストを行い、問題を修正し、再テストを行うことができます。つまり、プロセスの中で早く失敗する能力が必要です。後で問題を発見するのを待つと、非常に高価で時間がかかることになります。AIには新しいアプローチが必要従来の方法でソフトウェアを開発する場合、決定ロジックを使用します。できるだけ正確にしようとします。ソフトウェアが正常に機能するようにロジックを組み込むからです。アプリケーションのロジックが開発された後は、バグ修正以外の変更は必要ありません。非常に方法的な開発プロセスです。各ステップを正確に進めることで、次のステップに進みます。この戦略は、ソフトウェア開発で一貫してその有効性を証明してきました。しかし、AI/MLプロジェクトでは同じ戦略を使用することはできません。代わりに、MLプロジェクトで成功するために、迅速に繰り返し行う能力が必要です。MLには初期のトレーニングが必要であり、プロセスであることを認識してアプローチする必要があります。最初にデプロイされたときに正確であるとは限りません。このプロセスには複数のイテレーションが必要です。現実は、最初のモデルは99%の確率で予期せぬ結果に遭遇します。ラボでモデルを数ヶ月トレーニングしても、現実のデータとトラフィックに出会うと必ず変化します。即時の完全性を目指さないしたがって、モデルをテストして、どのような変更が必要かを判断するには、迅速にプロダクションに配置する必要があります。次に、調整を行い、再度リリースして、改良します。したがって、プロダクションでテストする前にモデルを完璧にしようとしすぎてはいけません。最初の試みは完璧ではありません。誰もそれを期待するべきではありません。モデルがラボで開発されている間、92%から95%の精度への追加の改善は、一部のユースケースでは重要ではないかもしれません。なぜでしょうか。AIモデルをトレーニングするために使用されるトレーニングデータはわずかです。精度のわずかな向上を得るために多くの時間と金額を投資することになりますが、その間にモデルが提供するメリットを得ることができません。MLデプロイの有効なステップモデルが失敗したり、誤った予測を行ったりする可能性があるため、ML科学者はモデルをプロダクションに配置することを躊躇することがあります。ある程度、理解できます。リアルタイムでイベントを表示できるシステムが必要です。このアプローチにより、モデルをすぐにプルして更新し、新しいモデルを迅速にリリースできます。分析パラリシスに陥るのではなく、これがマシンラーニングモデルをプロダクションに配置する最も効率的な方法です。モデルを起動して、現実の経験を積むことを許す方がはるかに優れています。これは、データ科学者が最初からモデルをできるだけ正確に作成する必要性を排除するものではありません。しかし、最初のバージョンが完成した後すぐに、重要なデータの収集を開始する必要があります。このプロセスの一環として、モデルをA/Bテストモードまたはシャドウモードで実行し、現実のデータに対してテストすることができます。そうすれば、さまざまなモデルのパフォーマンスを比較し、どのモデルをプロモートまたはデモートするかを決定する前に、多くのデータと証拠を取得できます。グローバルモデルを作成するのではなく、ローカライズされたモデルを作成するというベストプラクティスもあります。ローカルモデルでは、特定のシナリオのデータを使用して、モデルが各シナリオで適切に動作するようにします。これにより、グローバルモデルに比べて時間、データ、労力が節約できます。グローバルモデルでは、多くのリソースを使用して動作させる必要があります。カスタムスニーカーの需要を決定することが、この点での例となります。ニューヨーク市の人口に基づいてグローバルモデルを作成した場合、北米の他の地域には適用できないかもしれません。ローカライズされたモデル戦略を使用することで、現在失っているより高い利益率を得ることができます。モデルは定期的に更新する必要があります。従来のソフトウェアと異なり、モデルは一時的に設定して放置するのではなく、環境のデータが常に変化するため、定期的に更新する必要があります。MLモデルは、定期的に更新しないと劣化します。これは、モデルのライフサイクル中に注意深く監視する必要があります。マシンラーニングの新しいパラダイムマシンラーニングモデルを従来のソフトウェアと比較することは賢明ではありません。ただし、DevOpsと同様に、MLエキスパートはAI/MLモデルの迅速なデプロイ技術から利益を得ます。MLプロジェクトでは、モデルを迅速に起動できるシステムが必要です。さまざまなモデルを比較し、ライブモデルのパフォーマンスと非ライブモデルのパフォーマンスを対比できる必要があります。上記で説明したベストプラクティスとその他のベストプラクティスは、分析パラリシスを回避し、早く失敗し、早期にスケールすることで、マシンラーニングをスケールするのに役立ちます。
Victor Thu氏、Datatronのカスタマーサクセスおよびオペレーションの副社長による記事。2020年後半にGartnerが実施した調査によると、75%の回答者は来年以降にAIの新規または継続的な取り組みを計画していることがわかった。一方で、Gartnerの分析家は、AIの取り組みを本格的に導入する上での最大の課題は、投資したAIがビジネス価値に結びつくことが難しいことであると指摘している。さらに、AI/MLプロジェクトの多くが失敗する可能性が高いと推定されている。これは、上層部からの投資に対する理解を得ることをさらに困難にする。ここで、MLOps（Machine Learning Operations）が重要な役割を果たす。現在のMLの状況マシンラーニングは組織にとって多大な可能性を提供するが、その可能性に到達するまでの道のりは高額で時間がかかる。したがって、MLの導入に対する関心は高まっているものの、実際の本格的な導入はまだ低い水準にある。ソリューションを本格的に導入する上での最大の障害は、モデルの品質ではなく、企業がそれを実現するためのインフラストラクチャが整備されていないことである。マシンラーニングの開発ライフサイクルは、従来のソフトウェア開発ライフサイクルと根本的に異なる。過去20年間で、人々は、伝統的なソフトウェアが開発から本格的な導入までのプロセスを理解することができた。コンピューティング、ミドルウェア、ネットワーキング、ストレージなど、さまざまな要素が、アプリケーションが適切に動作することを保証するために必要であることがわかっている。しかし、多くの場合、従来のソフトウェア開発ライフサイクル（SDLC）をマシンラーニング開発ライフサイクル（MLLC）に適用しようとしている。しかしながら、MLは大きなパラダイムシフトを伴う。インフラストラクチャの割り当ては独自のものである。使用する言語やフレームワークも異なる。マシンラーニングモデルは数週間で作成できるが、それを本格的に導入するプロセスは、サイロ化されたプロセス、チーム間の断絶、MLモデルを既存のアプリケーションに手動で翻訳およびスクリプト化する必要性により、6〜9か月かかることがある。また、モデルが本格的に導入された後、それを監視して管理することも難しい。実験室で作成されたMLモデルが本格的な導入環境で予想どおりに動作することが保証されるわけではない。さらに、さまざまな要因が予想外の動作の原因となる可能性がある。MLOpsの利点マシンラーニングモデルを本格的に導入する際には、多くのことがうまくいかない可能性がある。IT/DevOpsチームがMLモデルを本格的に導入しようとする際には、さまざまなプロセスを手動でスクリプト化および自動化する必要がある。これらのモデルは頻繁に更新され、各更新ごとに全プロセスが繰り返される。モデルやそのバージョンが増えるにつれて、それらを追跡することが大きな課題となる。一つの大きな問題は、使用するツールがコードベースやフレームワークの断絶問題に対処できないことである。これにより、時間やリソースの浪費など、さまざまな問題が生じる。現在の多くのチームは、モデルを更新する際のトラッキングやバージョニングにも苦労している。MLOpsは、データサイエンスとオペレーションの垣根を越えて、MLのライフサイクルを管理するのに役立つ。DevOpsの原則をMLのデリバリーに適用することで、MLベースのソリューションの市場投入が早まる、実験の速度が上がる、品質と信頼性が保証される。伝統的なSDLCモデルを使用すると、1〜2つのMLモデルを1年で完成させることができるかもしれないが、非常に大きな労力と非効率性が必要になる。しかしながら、MLOpsを使用すると、スケールを拡大でき、複数の問題に対処できる。顧客のターゲットをより適切に絞り込んだり、関連性の高い顧客を見つけたり、非効率性を発見して改善したりできる。改善をより迅速に展開でき、最終的に生産性と利益が向上する。MLOpsの成功要素MLOpsは、万能の解決策ではない。適切な基盤とベストプラクティスが必要である。MLOpsで成功するには、2つの主要な任務に焦点を当てる必要がある。第一に、さまざまな役割を理解することである。適切なスキルと従業員を確保する必要がある。データサイエントリストとマシンラーニングエンジニアを同一視しないことである。両者は必要だが、バランスのとれたチームが必要である。第二に、すべてを自社で行おうとしないことである。MLOpsも労力密度が高い。多くのMLエンジニアを必要とする。必要なツールを検討し、取り組みを簡素化し、必要な専任人員の数を最適化することが重要である。自信を持って前進する業界の分析家によると、企業のAIプロジェクトの約半数が失敗する可能性がある。失敗の理由は組織の文化など多岐にわたるが、主な理由は、プロジェクトを支援するための適切なテクノロジーが整備されていないことである。MLOpsは、企業がAI/MLプロジェクトで成功を収め、競争上のビジネスアドバンテージを得るための非常に有用なツールである。
