AIパイロットの95%が失敗する理由、そしてその原因は悪いデータである

MITの研究は、企業のリーダーに厳しい現実を突き付けています：95%のAIプロジェクトはパイロット段階を超えることができません。ボードルームでのAIの変革的な可能性に関する話題にもかかわらず、ほとんどのイニシアチブは有意義なビジネス価値を生み出すことができません。

一般的な知識は、弱いモデル、限られたコンピューティングリソース、または希少な技術的な才能を責めています。しかし、数百の企業と協力した経験は、別の話を語っています。実際のボトルネックはアルゴリズムではありません。データが悪い、または一貫性がないと、最も高度なAIの努力をも無駄にし、イノベーションの賭けを沈没費用に変えてしまうのです。

悪いデータの隠れたコスト

企業では、悪いデータはしばしばAIプロジェクトをスケールアップする前に破壊します。よくあるシナリオを考えてみましょう：フォーチュン500企業は、カスタマーが契約を解約する可能性を予測するモデルを数ヶ月かけて構築します。パイロットは強力で、正確で、約束のあるものです。しかし、生産に向けて進むと、亀裂が現れます。

パイプラインは最悪のタイミングで壊れます。重要なジョブは遅れて実行され、介入の時間枠を逃します。テーブルは突然、通知なしに行を削除します。APIの資格情報は警告なしに期限切れになり、重要なフィードを遮断します。クリーンなパイロットデータは、古い、または一貫性のない入力のストリームに変わります。

波及効果は壊滅的です。予測は信頼できないものになり、ステークホルダーは信頼を失います。プロジェクトは棚上げされます。アルゴリズムが失敗したのではなく、基盤が崩壊したからです。開発に数ヶ月、投資に数百万、エンジニアリングに数千時間が消え去ります。

これは孤立した事例ではありません。Pantomathのデータ観測可能性2024年報告書 によると、94%の組織はパイプラインの問題がデータへの信頼を損なうと述べています。また、90%の組織はそれらの問題を修正するのに数時間、または数週間かかると述べています。如果あなたのAI戦略は信頼できないデータに基づいている場合、失敗はすぐそこに待っています。

AIが強い基盤を必要とする理由

AIの成功はデータの品質に依存しています。言うまでもありませんが、「ガベージイン、ガベージアウト」です。最も優れたモデルは、データが不完全であれば崩壊します。たとえば、砂上に高層ビルを建設するようなものです。

レースカーを考えてみましょう。世界クラスのエンジニアリングと熟練したドライバーは、燃料が汚染されている場合、意味がありません。同様に、洗練された機械学習モデルは、信頼できないデータによって動作する場合、失敗します。

AIシステムは、適応し、実行するために、正確でリアルタイムのデータが必要です。どのような障害でも、精度を低下させ、またはシステムを完全に破壊する可能性があります。たとえば、レコメンデーションエンジンが誤動作し、顧客が契約を解約する、または不正検出システムが脅威を検出できない場合です。

強いデータ基盤がない場合、AIはすぐに大きな負債になります。したがって、データの信頼性、信頼性、完全性は、どのAI戦略にも先決条件です。

現在のデータ運用の状況

ほとんどの企業は、まだ手動で反応的なプロセスに頼ってデータ運用を実行しています。これは、AIのためにスケールアップすることはできません。何かが壊れたとき、エンジニアは、広大なマルチプラットフォームアーキテクチャを調べて、1つずつ修正するために争います。

この消防隊アプローチは、3つの大きな問題を生み出します：

• 遅れた検出:問題は数日、または数週間続くことがあり、AIモデルは損なわれたデータで動作します。
• 不完全な修正:手動のトラブルシューティングは一貫性がなく、根本的な原因を見逃し、システムを脆弱にします。
• 失われた容量:エンジニアリングの才能は、イノベーションを推進するのではなく、障害を追跡することに費やされます。

複雑さは課題を増大させます。現代のデータエコシステムは、数十のプラットフォームと複雑な依存関係を包含しています。根本的な原因を診断するには、パイプラインを逆にエンジニアリングする必要があります。このプロセスは数日、または数週間かかる可能性があります。

問題を解決するために、さらに多くの人を投入します。コンサルタント、請負業者、大きなデータチームです。しかし、これは交通渋滞を解消するために、さらに多くの交通警官を雇用するのと同じです。実際の問題は、人員ではなく、データの信頼性システムの欠如にあるのです。

観測可能性と自動化が触媒となる

前進する道は、データ運用を手動の消防隊から、観測可能性と自動化に基づくプロアクティブな運用に変えることです。

観測可能性は、ジョブのパフォーマンス、鮮度、品質、依存関係をリアルタイムで可視化することで、問題がAIアプリケーションに到達する前に検出されます。ダウンストリームのチームが問題を報告するのを待つ代わりに、企業はデータのヘルスとフローの常にオンのビューを獲得します。

自動化は、可視性に基づいて行動するために必要なスピードとスケールを追加します。重要なジョブが午前3時に失敗した場合、自動化システムは、ダウンストリームのワークフローを停止し、正しいチームに完全なコンテキストでアラートを送信し、さらには修正アクションを開始できます。

これらの機能は、根本的な変化を示しています。データの信頼性は、専門のエンジニアのためのバックオフィスの雑用ではありません。AIの全ての野心を支える戦略的な機能として登場しています。

パイロットから本稼働へのギャップを埋める

多くのAIイニシアチブの失敗は、パイロットから本稼働への飛躍にあります。パイロットは、データサイエンティストが慎重にクリーンアップして検証できる静的、キュレーションデータセットで実行されます。一方、生産は汚いです。企業全体から流れ込む多様なデータのストリームを処理する必要があります。

理論が実践になる時、亀裂が現れ始めます。パイロットで機能するバッチプロセスは、リアルタイムの要求に追いつくことができません。事前に検証されたデータセットは、生の、一貫性のない入力に取って代わられます。制御された環境は、レガシープラットフォーム、サードパーティAPI、そして常に変化するビジネスシステムと相互作用する必要があります。

したがって、企業がこのギャップを埋めるには、データの信頼性インフラストラクチャに投資する必要があります。データの信頼性の基盤は、実世界の生産要求をサポートします。データの信頼性は、システムが来るべきものに備えるのを助けます。

企業向けの推奨事項

AIをスケールアップする企業は、共通の戦略を共有しています：

• 早期にデータの信頼性に投資します。品質を前提条件とし、パイロットを生産に移行する前に、監視、テスト、検証を実施します。
• 観測可能性の実践を実装します。ジョブの失敗のみを追跡するのではなく、AIのパフォーマンスに直接影響する、鮮度、ボリュームの変化、スキーマの変更、品質メトリクスを追跡します。
• ルーティンワークを自動化します。自動検出と解決を使用して、消防隊を減らし、エンジニアを戦略的な作業に解放します。
• アカウンタビリティメカニズムを構築します。データの品質をビジネスの優先事項とし、プロデューサーとコンシューマーの間で明確な所有権とフィードバックループを確立します。
• 回復力のある設計をします。システムを設計して、障害を包含し、バリデーションポイントを使用して、悪いデータが広がらないようにします。

AIの95%の失敗率は避けられません。予防可能です。問題はAI自体ではなく、AIをサポートする強いデータ基盤の欠如にあるのです。データ運用の成功はAIの成功です。両者は同一です。

これは目覚めの呼びかけです。企業は、手動で反応的なアプローチを超えて、プロアクティブで自動化されたシステムを採用する必要があります。真正な信頼性が得られるまで止めることはできません。データの「悪い」問題を修正するためのツールと実践は、今日すでに存在しています。

この変化を受け入れる企業は、単にAIの成功率が高まるのではなく、ビジネス全体に新たな洞察がもたらされるでしょう。データの使い方を変えるでしょう。

あなたは、信頼できないデータによって失敗するパイロットに資金を提供し続けることができます。あるいは、AIを持続可能な優位性にするための堅固な基盤を構築することができます。選択はあなたにあります。