Shashank Saxena, CEO at Pantomath

95%のAIパイロットが失敗し、悪いデータが原因である

MITの研究は、企業のリーダーに厳しい現実をもたらします：95%のAIプロジェクトは、パイロット段階を超えることができません。ボードルームでのAIの変革的な可能性の話題にもかかわらず、多くのイニシアチブは、有意義なビジネス価値を生み出すことができません。従来の知識は、弱いモデル、限られたコンピューティング、または希少な技術的才能を非難しています。しかし、数百の企業と協力した経験は、異なる物語を語っています。実際のボトルネックはアルゴリズムではありません。それはデータです。悪いまたは一貫性のないデータは、最も高度なAIの努力を黙って損なっています。イノベーションの賭けを沈没コストに変えています。悪いデータの隠れたコスト企業では、悪いデータは、AIプロジェクトがスケールアップする前に、よくそれらを脱線させます。あるおなじみのシナリオを考えてみましょう：フォーチュン500会社は、カスタマー流失予測モデルを構築するために数ヶ月を費やします。パイロットは強力で、約束のあるものです。しかし、それが生産に向かっていく途中で、亀裂が現れます。パイプラインは最悪のタイミングで壊れます。重要なジョブは、介入ウィンドウを逃すために、数時間遅れます。テーブルは、予告なしのアップストリーム変更後に突然行をドロップします。APIの資格情報は警告なしに期限切れになり、重要なフィードを遮断します。クリーンなパイロットデータは、古くなったまたは一貫性のない入力のストリームに変わります。波及効果は壊滅的です。予測は信頼できないものとなり、ステークホルダーは信頼を失います。プロジェクトは棚上げされます。アルゴリズムが失敗したのではなく、基盤が崩壊したためです。数ヶ月にわたる開発、数百万ドル相当の投資、数多くのエンジニアリング時間が消え去ります。これは孤立したケースではありません。PantomathのState of Data Observability 2024 レポートによると、94%の組織は、パイプラインの問題がデータへの信頼を損なうと述べています。また、90%の組織は、それらを修正するために数時間または数週間を費やします。如果あなたのAI戦略は信頼できないデータに基づいている場合、失敗はすぐ近くに待ち伏せしています。AIが強固な基盤を必要とする理由AIの成功は、データの品質に依存しています。言うまでもありませんが、「ガベージイン、ガベージアウト」です。最も優れたモデルは、データが欠陥がある場合に崩壊します。たとえば、クイックサンドの上に摩天楼を建設するようなものです。レースカーを考えてみましょう。世界クラスのエンジニアリングと熟練したドライバーは、燃料が汚染されている場合には、なんの意味もありません。同様に、洗練された機械学習モデルは、信頼できないデータによって動かされる場合に失敗します。AIシステムは、適応し、実行するために、正確でリアルタイムのデータが必要です。どのような障害も – ジョブの失敗、レコードの欠落、スキーマの変更 – 精度を低下させ、またはシステムを完全に破壊する可能性があります。たとえば、レコメンデーションエンジンが誤動作し、カスタマーが流失する、またはフロード検出システムが脅威を検出できない場合です。強固なデータ基盤がなければ、AIはすぐに大きな負債になります。したがって、データの信頼性、信頼性、完全性は、どのAI戦略にも先行するものです。現在のデータ操作の状態大多数の企業はまだ、データ操作を実行するために、手動で反応的なプロセスに頼っています。何かが壊れたとき、エンジニアは、広大で、マルチプラットフォームのアーキテクチャ全体を調べて、問題を一つずつ修正します。この消防隊アプローチは、3つの大きな問題を生み出します: 遅れた検出:問題は、数日または数週間続くことができます。AIモデルは、損なわれたデータで動作し続けることになります。 不完全な修正:手動のトラブルシューティングは、一貫性がなく、根本的な原因を見逃し、システムを脆弱にします。 失われた容量:エンジニアリングの才能は、失敗を追跡することに費やされるのではなく、イノベーションを推進することに費やされるべきです。 複雑さは課題を増大させます。現代のデータエコシステムは、数十のプラットフォームと、複雑な依存関係を包含しています。誰もが真正に理解しているわけではありません。根本的な原因を診断することは、パイプラインを逆にエンジニアリングすることを意味します。このプロセスは、数日または数週間かかる可能性があります。問題を解決するために、さらに多くの人を投入します。コンサルタント、請負業者、大きなデータチーム。しかし、これは、交通渋滞を解決するために、さらに多くの交通警察官を雇用するようなものです。実際の問題は、人員ではなく、データの信頼性システムの欠如にあるのです。観察可能性と自動化のカタリスト前進する道は、データ操作を手動で消防隊から、観察可能性と自動化の2つの柱に基づく、プロアクティブで自動化された操作にシフトすることです。観察可能性は、ジョブのパフォーマンス、フレッシュネス、品質、依存関係を監視することで、全データエコシステムへのリアルタイムの可視性を提供します。ダウンストリームのチームが問題を報告するのを待つのではなく、企業はデータのヘルスとフローの常にオンなビューを獲得します。自動化は、可視性に基づいて行動するために必要なスピードとスケールを追加します。重要なジョブが午前3時に失敗した場合、自動化システムは、ダウンストリームのワークフローを停止し、正しいチームに完全なコンテキストで警告し、さらには修正アクションを開始できます。これら2つの機能は、根本的な変化を示しています。データの信頼性は、もはやバックオフィスの雑用ではなく、企業の全てのAIへの野心を支える戦略的な能力として登場しています。パイロットから本稼働へのギャップを埋める多くのAIイニシアチブの失敗は、パイロットから本稼働への飛躍にあります。パイロットは、静的な、キュレーションされたデータセットで実行されます。データサイエンティストは、それらを慎重にクリーンアップし、検証できます。一方、生産は、混沌です。企業全体から流れ込む、断続的なデータのストリームを処理する必要があります。理論が実践になるのは、そこで亀裂が始まります。パイロットで機能するバッチプロセスは、リアルタイムの要件に追いつくことができません。事前に検証されたデータセットは、生データや一貫性のない入力に置き換えられます。制御された環境は、レガシープラットフォーム、サードパーティAPI、常に変化するビジネスシステムと相互作用する必要があります。したがって、企業がこのギャップを埋めるには、データの信頼性インフラストラクチャに投資する必要があります。データの信頼性の基盤は、実際の生産要件をサポートします。データの信頼性は、システムが何が来るかを予測するのを助けます。企業への勧告AIを成功させる企業は、共通の戦略を共有しています: 早期にデータの信頼性に投資します。品質を前提条件とし、パイロットを本稼働に移行する前に、監視、テスト、検証を実施します。 観察可能性の実践を実装します。ジョブの失敗のみならず、AIのパフォーマンスに直接影響する、フレッシュネス、ボリュームの変化、スキーマの変更、品質メトリックを追跡します。 ルーチン操作を自動化します。自動検出と解決を使用して、消防隊を減らし、エンジニアを戦略的な作業に解放します。 説明責任メカニズムを構築します。データ品質をビジネスの優先事項として扱い、プロデューサーと消費者の間で明確な所有権とフィードバックループを確立します。 回復力の設計をします。システムを、障害を包含し、バリデーションポイントを使用して、悪いデータが広がらないように設計します。 AIの95%の失敗率は、避けられません。予防可能です。問題はAI自体ではなく、AIをサポートする強固なデータ基盤の欠如にあるのです。データ操作の成功は、AIの成功です。両者は同じです。これは目覚めの呼びです。企業は、手動で反応的なアプローチを超えて、プロアクティブで自動化されたシステムを採用する必要があります。本当の信頼性が得られるまで、止まりません。悪いデータの問題を修正するためのツールと実践は、今日すでに存在しています。この変化を受け入れる企業は、AIの成功率の向上のみを超えて、データの使用方法を変える新しい洞察を得るでしょう。あなたは、信頼できないデータによって失敗するパイロットに資金を提供し続けることができます。あるいは、AIを持続可能な優位性にするための強固な基盤を構築することができます。それはあなた次第です。