AIウォッシングは企業を失敗させる

今日の企業はすべて、AIのストーリーを持つ圧力に直面しています。取締役会はそれを見たいと考えています。投資家はそれを期待しています。顧客はそれについて尋ねます。しかし、この圧力により、自動化が「AI」になり、分析が「機械学習」として再ブランド化され、スクリプト化されたチャットボットが突然「アジェンチャイ」と呼ばれる「AIウォッシング」の波が広がっています。

私はこのような状況を見たことがあります。今日のAIの景況は、クラウドの初期導入の頃を思い出させるものです。当時、企業はアーキテクチャや運用モデルが準備できていなかったにもかかわらず、オンプレミスシステムを「クラウドネイティブ」と呼んでいました。同様のパターンが今も繰り返されており、結果はより悪化するでしょう。

クラウドウォッシングの場合、悪影響は非効率性と無駄な支出でした。AIウォッシングの場合、悪影響は顧客に直結しています。バックオフィスのインフラストラクチャを展開しているのではなく、直接顧客とやり取りするシステムを展開しています。これらのシステムは、クラッシュやエラーコードなしに静かに、自信を持って、そして頻繁に重要なケースで失敗します。

これは、MITスローンの研究によると、AIのパイロットプロジェクトのほとんどが本格的な導入に至らない理由の1つです。また、導入されたプロジェクトも頻繁に期待を裏切りますが、それはAIの能力不足ではなく、企業がテスト、検証、運用の準備を怠ったためです。

AIウォッシングの背後にある実際の要因

このような行動の多くは、時代遅れと見なされることを恐れていることが原動力です。企業は、真の能力を反映するのではなく、イノベーションのシグナルとしてAIを宣伝しています。製品の発売時期に間に合うために、テストや検証を省略しています。また、顧客のニーズに特化した開発プロセスはありません。

投資家の期待も問題を悪化させています。上場企業やベンチャー企業は、AIの導入とAI駆動の成長物語を示すための期限を設けています。実際、90%の経営者は投資家からAIの導入を求められていると回答しています。この圧力により、企業は既存の機能をAIとして再ブランド化するのではなく、真正なAIネイティブの製品を開発するのを避けています。

結果として、投資家、顧客、そしてすべてを動かす内部チームにとって、期待は誤ったものになります。イノベーションの幻想を生み出しますが、実際はブランド化だけです。

アジェンチャイが幻想を打ち破る

アジェンチャイは、ここで物語が崩壊します。さらに、68%の企業が今年AIエージェントの導入を予定していることから、現実が訪れるのは時間の問題です。

企業がまだ対処していない根本的な問題は、従来のソフトウェアは決定論的であるということです。同じ入力、同じ出力、毎回同じです。テストを書き、バグを再現し、動作を予測できます。AIエージェントは非決定論的です。同じ質問に対して、毎回異なる答えが返されます。これはバグではありません。アーキテクチャです。すべてのテスト、監視、信頼方法が変わります。

QAインフラストラクチャはすべて、再現性の前提で構築されています。生成的なAIでは、その前提はありません。同じテストを100回実行すると、100回異なる回答が返されます。正しいもの、微妙に間違っているもの、危険に近いものなどです。IVRやスクリプト化されたチャットボット用に機能したテストフレームワークは、アジェンチャイに適用できません。ほとんどの企業はまだ新しいフレームワークを構築していません。

ここでAIウォッシングが露呈します。ポリッシュされたデモでは、カーソル入力と予測可能なパスで機能します。しかし、現実の顧客は、話を遮る、自分で矛盾する、英語が不自由で、11時に請求書の問題で電話をかけてくる人です。モデルはデータでトレーニングされていますが、人間のやり取りの感情的、汚い、予測不可能な現実ではありません。

これらのシステムが失敗すると、従来のソフトウェアのように失敗しません。クラッシュはありません。エラーコードはありません。AIは自信を持って間違った回答を出します。95%のケースではうまく機能しますが、重要な5%のケースでは大惨事を引き起こします。ウェブフォームが壊れたのとは異なり、これらの失敗は何千人もの顧客に広がる前に誰にも気づかれません。

AIの失敗が隠れる場所

顧客体験は、アジェンチャイの最も複雑な環境であり、AIウォッシングが最も明らかになる場所です。ガートナーは最近、2027年末までに40%以上のアジェンチャイプロジェクトが中止されると予測しています。CXはその主な理由です。

顧客ジャーニーは、1つのシステムだけを扱うことはありません。会話AI、IVRシステム、ナレッジベース、CRMプラットフォーム、人間のエージェントを横断します。ハイブリッドジャーニーは一般的です。各やり取りは、解決までに複数のシステムを横断することが多いです。

私が繰り返し見たのは、各システムは独自に機能しているように見えますが、エンドツーエンドのジャーニーは依然として失敗します。AIエージェントが質問を正しく解釈しますが、CRMには古い情報が含まれており、誤った回答を提供します。AIに問題があると言われますが、実際の問題は断片化されたデータと断片化された所有権です。

断片化されたテクノロジースタックも断片化された可視性を意味します。顧客ジャーニーに対する単一のビューはありません。従来のソフトウェアとは異なり、明確なエラーシグナルがありません。アジェンチャイが壊れたとき、正確性に関係なく自信を持って動作し続けます。エスカレーションルールは遅すぎます。顧客はループに陥ります。システムは継続的に実行されますが、失敗は顧客の苛立ちや離脱によってのみ可視化されます。

これは、サイレントファイルの問題です。AIはクラッシュしていません。信頼を、1回のやり取りずつ、規模で、低下させ続けています。

AIのハYPEから運用の規律へ

AIウォッシングに対する答えは、より良いマーケティングではありません。それは、企業がAIに対する扱い方を根本的に変えることです。AIは、発表する機能ではなく、運用するインフラストラクチャです。

私は25年間、企業システムの構築とスケーリングを行ってきました。AIのテスト自動化会社を設立しました。技術の波に対するパターンは、同じです。勝つのは、最初に採用する企業ではありません。最もうまく運用する企業です。AIの場合、それは次のようになります：

デモのパフォーマンスではなく、生産のパフォーマンスを測定する

制御された環境でのAIの評価は、現実世界での動作について何も教えてくれません。重要なメトリックは、エスカレーションの精度、解決率、ポリシーの遵守、そして数千のスクリプト化されていないやり取りにおける顧客満足度です。チェリーピックされたデモシナリオではありません。

拡大する前に基礎を修正する

AIは、壊れたワークフローを解決しません。壊れたワークフローを拡大します。ルーティングの不一致、ナレッジベースの不完全性、CRMデータの古さなど、これらの問題はAIの導入によって解決されません。拡大する前に、ワークフローの準備が必要です。

個々のコンポーネントではなく、全体のジャーニーをテストする

ほとんどの企業は、個々のシステムを分離して検証しています。しかし、顧客が実際に体験する失敗は、ハンドオフに現れます。音声、デジタル、AIチャネルを横断したエンドツーエンドのジャーニーテストは、顧客が実際に体験する統合失敗を捕捉する唯一の方法です。

信頼を構築するために、効率だけではなくビルドする

ユーザーは、デッドエンドのループに陥ったり、誤った回答を提供したり、人間のエージェントに到達できないAIを拒否します。効率を信頼よりも優先する企業は、提供しようとしている顧客を失うでしょう。

AIウォッシングの終焉

AIが運用のワークフローに深く埋め込まれるにつれて、企業はもう長い間、ハYPEを隠すことができなくなります。 投資家の半数以上が、AIから6ヶ月以内にROIを期待しています。そんなタイムラインは、ポリッシュされたデモ環境ではなく、汚い、予測不可能な現実世界に対応したシステムがなければ、不可能です。

要件は、単にAIを製品の機能として持つことから、実際に機能することを証明することへと移り変わります。規模で、生産環境で、実際の顧客と一緒に、最も重要なときに。

AIウォッシングは短期的な注目を集めるかもしれませんが、現実に直面すると生き残ることはできません。