ジェネレーティブAIがパイロットで止まる理由

企業がジェネレーティブAIプロジェクトを実験から本格的な導入に移行しようとする際、多くの企業がパイロット段階で足踏みしている。最近の調査によると、92%の組織が、ジェネレーティブAIのパイロットが基本的なデータの問題を解決する前に急速に進んでいることを心配している。さらに、67%の組織が、パイロットの半分以上を本格的な導入に移行できていない。この導入のギャップは、技術の成熟度ではなく、基礎となるデータの準備度の問題である。ジェネレーティブAIの潜在性は、その基盤の強さに依存している。現在、多くの組織にとって、その基盤はあまりにも不安定である。

ジェネレーティブAIがパイロットで止まる理由

ジェネレーティブAIの解決策は確かに強力であるが、それらはデータの質によって決まる。「ガベージイン、ガベージアウト」の古い格言は、今日よりも真実である。信頼できる、完全な、エンティティ化された、説明可能なデータがない場合、ジェネレーティブAIモデルは不正確な、偏った、または目的のために適さない結果を生み出すことが多い。

不幸にも、企業は低コストのユースケース、たとえばAI搭載のチャットボットを急いで導入し、内部文書からのカスタマイズされた回答を提供している。而にも、これらは顧客の体験をある程度向上させているが、企業のデータインフラストラクチャに深い変更を要求していない。ただし、ヘルスケア、金融サービス、サプライチェーンの自動化などの分野でジェネレーティブAIを戦略的に拡大するには、データの成熟度が高いレベルが必要である。

実際、56%のチーフデータオフィサーが、AIの導入におけるデータの信頼性を主要な障害として挙げている。他の問題としては、不完全なデータ（53%）、プライバシー問題（50%）、およびAIガバナンスのギャップ（36%）がある。

ガバナンスなしにはジェネレーティブAIなし

ジェネレーティブAIをパイロット段階を超えて進めるためには、企業はデータガバナンスをビジネスの戦略的課題として扱う必要がある。データがAIモデルを動かすために適していることを保証する必要があり、以下の質問に答える必要がある。

• モデルをトレーニングするために使用されるデータは、適切なシステムからのものか?
• 個人を特定できる情報を除去し、すべてのデータおよびプライバシーの規制に従ったか?
• データの透明性を保ち、データのプロバンスを証明できるか?
• データプロセスを文書化し、データに偏見がないことを証明できるか?

データガバナンスは、組織の文化に埋め込まれる必要がある。つまり、AIリテラシーの構築が必要である。EUのAI法は、この責任を正式に規定しており、AIシステムの提供者および使用者は、従業員がAIシステムを責任を持って使用できるようにするための努力を義務付けている。ただし、AIの採用は技術的な知識を超えて、データスキルの基盤、データガバナンスの理解、分析的な質問の枠組みが必要である。AIリテラシーのみをデータリテラシーより独立して扱うことは、近接性の観点から短絡的である。

データガバナンスの観点から見ると、まだ作業が必要である。データ管理への投資を増やしたい企業のうち、47%が、データリテラシーの欠如を主要な障害として挙げている。これは、トップレベルのサポートを構築し、組織全体に適切なスキルを開発することが重要であることを強調している。こうした基盤がなければ、最も強力なLLMでも期待どおりの結果を出すことは難しい。

説明責任のあるAIの開発

現在の規制環境では、AIが「ただ動く」だけでなく、説明責任を負うことも求められている。EUのAI法やイギリスの提案されたAIアクションプランでは、高リスクのAIユースケースにおける透明性が求められている。他の国もこれに続き、1000以上の関連する政策法案が69カ国で議題に上がっている。

この説明責任への世界的な傾向は、アルゴリズムにおける公平性を求める消費者や利害関係者の要望の直接的な結果である。たとえば、企業は、顧客がローンを拒否された理由や、保険料が高く設定された理由を説明できる必要がある。そうするには、モデルがどのように決定を下したかを知る必要があり、それにはモデルをトレーニングするために使用されたデータの明確で監査可能なトレイルが必要である。

説明責任がなければ、企業は顧客の信頼を失い、財務的および法的影響に直面するリスクがある。したがって、データのプロバンスと結果の正当性は、「望ましい」ものではなく、コンプライアンスの要件である。

ジェネレーティブAIが単純なツールから完全なエージェントに進化し、決定を下し、行動する能力を持つにつれて、データガバナンスの重要性はさらに高まる。

信頼できるAIを構築するためのステップ

では、どのようにすればよいのか。ジェネレーティブAIを責任を持って拡大するためには、企業は3つの柱を持つ単一のデータ戦略を採用する必要がある。

• ビジネスに合わせたAI: データをビジネスの重要な目標に合わせてカタログ化し、ビジネスに特有の状況、課題、機会を反映する。
• AIへの信頼の確立: コンプライアンスと責任あるAIの導入のためのポリシー、標準、プロセスを確立する。
• AIデータの準備: 多様なデータソースを強固なデータ基盤に統合し、ジェネレーティブAIの接続性を確保する。

企業がこれを実現すると、ガバナンスはAIの価値を加速する。金融サービスでは、ヘッジファンドはジェネレーティブAIを使用して人間の分析家を上回る株価予測を実現し、同時にコストを大幅に削減している。製造業では、AIによって推進されるサプライチェーンの最適化により、企業はリアルタイムで地政学的変化や環境的圧力に反応できる。

これらは将来のアイデアではなく、現在進行形で、信頼できるデータによって推進されている。

強固なデータ基盤を持つ企業は、モデルドリフトを減らし、再トレーニングサイクルを制限し、価値へのスピードを高める。したがって、ガバナンスはイノベーションの障害ではなく、促進要因である。

次に何が起こるか

企業は実験の後、チャットボットへの投資を超えて、変革的な能力への投資を始めている。顧客とのやり取りのパーソナライズから、医薬品の研究の加速、精神衛生の改善、規制プロセスの簡素化まで、ジェネレーティブAIは業界全体でその潜在性を示し始めている。

しかし、これらの成果はすべて、基盤となるデータに完全に依存している。ジェネレーティブAIは強固なデータ基盤を構築することから始まり、強いデータガバナンスから始まる。ジェネレーティブAIやエージェントAIは進化し続けるが、人間の監視をすぐに代替することはない。代わりに、構造化された価値創造の段階に入り、AIは信頼できるコパイロットになる。データの品質、ガバナンス、文化への適切な投資により、企業はジェネレーティブAIを有望なパイロットから完全に実用化できる。