3つの考慮事項：企業向けの安全で信頼性の高いAIエージェント

ガートナーの調査によると、30%のGenAIプロジェクトは、2025年末までに概念実証の後、放棄される可能性が高い。GenAIの初期導入により、多くの企業のデータインフラストラクチャとガバナンス慣行が、効果的なAI導入に適していないことが明らかになった。GenAI製品化の第一波は、多くの企業が概念実証段階を超えて、有意義なビジネス価値を達成するのに苦労した。

GenAI製品化の第二波に突入するにつれ、企業は、これらの技術を成功的に導入するには、LLMをデータに接続するだけで十分ではないことを認識し始めている。AIの潜在能力を解放する鍵は、3つの重要な柱に基づいている。データを整理し、AIとの統合に適した状態にすること、データガバナンス慣行を刷新し、GenAIがもたらす新たな課題に対処すること、そして、AIエージェントを安全で信頼性の高い方法で導入し、ユーザーが特殊なスキルや正確な使用パターンを学ぶ必要がないようにすること。これらの柱は、企業環境における安全で効果的なAIエージェントの強固な基盤を構築する。

AIのためのデータを適切に準備する

構造化データは、表や列に整理されているように見えるかもしれないが、LLMはこの構造化データを効果的に理解し、処理するのに苦労することが多い。これは、多くの企業で、データが意味のある方法でラベル付けされていないためである。データは、たとえば、「ID」というラベルが付いているが、顧客、製品、または取引を表すものであるかどうかが明確でない。構造化データでは、データポイント間の適切なコンテキストと関係を捉えることも難しい。たとえば、顧客ジャーニーのステップ間の関係を捉えることが難しい。コンピュータビジョンアプリケーションで画像を意味のある方法でラベル付けする必要があるのと同様に、組織はデータを意味のある方法でラベル付けし、すべてのシステム間の関係を文書化する複雑なタスクを実行する必要がある。

さらに、データはさまざまな場所に散在している。従来のサーバー、クラウドサービス、さまざまなソフトウェアアプリケーションなど。これらのシステムのパッチワークは、AIソリューションを導入する際に、重要な相互運用性と統合の問題につながる。

別の基本的な課題は、さまざまなシステムや部門間でビジネス定義の一貫性が欠けていることである。たとえば、カスタマーサクセスチームは「アプセル」をある方法で定義するかもしれないが、セールスチームは別の方法で定義するかもしれない。AIエージェントやチャットボットをこれらのシステムに接続し、質問を始めると、データ定義が整合していないため、異なる回答が得られる。これは、信頼性の高いAIソリューションを導入する上で、重大な障害である。

データの品質が低いと、クラシックな「ガベージイン、ガベージアウト」のシナリオが生じる。AIツールを企業全体に導入すると、不正確または汚れたデータは、1つの分析に影響を及ぼすだけでなく、システムを使用するすべてのユーザーに、質問ややりとりを通じて、不正確な情報を広める。ビジネス上の意思決定のためにAIシステムを信頼するためには、企業は、AIアプリケーションがクリーンで、正確で、適切なビジネスコンテキストで理解できるデータを持っていることを保証する必要がある。これは、AIの時代に、企業がデータ資産について考える方法に根本的な変化を表す。ここで、品質、整合性、意味の明確さは、データ自体と同様に重要になる。

ガバナンスへのアプローチを強化する

データガバナンスは、企業にとって重要な焦点となっている。主に、分析で使用されるデータの管理と保護に重点が置かれている。企業は、機密情報をマッピングし、規制に従い、GDPRやCCPAなどの法律に準拠し、個人データを検出するための取り組みを進めてきた。これらの取り組みは、AI対応データを作成する上で重要である。しかし、企業がワークフローにGenAIエージェントを導入するにつれ、課題はデータ自体を超えて、AIエージェントとのユーザーインタラクション全体に及ぶ。

現在、データだけでなく、AIエージェントを通じてデータとやりとりするプロセスを管理する必要性に直面している。欧州連合のAI法などの既存の法律や、将来の規制は、質問回答プロセス自体を管理する必要性を強調している。これは、AIエージェントが透明性、説明可能性、追跡可能性のある回答を提供することを保証することを意味する。ユーザーが「昨日、インフルエンザ患者は何人入院したか？」と聞き、「50」というだけの回答が得られ、コンテキストがなければ、重要な決定には信頼できない。

ドキュメントでの回答を特定のPDFやポリシーに戻して精度を確認することができるのとは異なり、構造化データをAIエージェントを通じてアクセスする場合、回答の追跡性と説明可能性が欠けていることが多い。企業は、機密データを保護するだけでなく、AIインタラクション体験を管理し、信頼性の高いものにするためのガバナンス措置を実施する必要がある。これには、承認された人員のみが特定の情報にアクセスできるように、厳格なアクセス制御を確立し、明確なデータ所有権と管理責任を定義し、AIエージェントが回答の説明と参照先を提供することを保証することが含まれる。ガバナンス慣行を刷新し、これらの考慮事項を包含することで、企業は、AIエージェントの力を安全に活用し、進化する規制に従い、ユーザーの信頼を維持することができる。

プロンプトエンジニアリングの限界を超える

企業がデータのアクセシビリティを向上させるためにGenAIエージェントを導入しようとしている間、プロンプトエンジニアリングは、新たな技術的障壁として現れている。プロンプトエンジニアリングは、実際には、データ分析で直面したのと同じ障壁を再現するものである。完璧なプロンプトを作成することは、特殊なSQLクエリを書くことやダッシュボードフィルターを構築することと同じで、多くのビジネスユーザーが持っていない、必要とすべきでない専門的スキルを必要とする。

企業は、ユーザーにデータシステムをよりよく理解するためのトレーニングを提供し、ドキュメントを作成し、専門的な役割を開発することで、データアクセシビリティの問題を解決しようとしてきた。しかし、このアプローチは逆である。ユーザーがデータに適応するのではなく、データがユーザーに適応する必要がある。プロンプトエンジニアリングは、もう一層の技術的仲介者を生み出すことで、このパターンを継続させるものである。

真のデータ民主化には、ビジネス言語を理解するシステムが必要である。ユーザーが「顧客リテンション」と聞いたとき、正確な用語やプロンプトを必要とすべきではない。システムは意図を理解し、さまざまなラベル間の関連データ（「流失」、「リテンション」、「顧客ライフサイクル」など）を認識し、コンテキストを伴った回答を提供するべきである。これにより、ビジネスユーザーは、技術的に完璧な質問を学ぶのではなく、意思決定に集中できる。

結論

AIエージェントは、企業の運営と意思決定方法に重要な変化をもたらすだろうが、導入前に独自の課題を解決する必要がある。AIでは、非技術的なユーザーがセルフサービスアクセスを持つ場合、エラーは増幅するため、基礎を正しく構築することが重要である。

データ品質、意味の整合性、ガバナンスの基本的な課題を解決し、プロンプトエンジニアリングの限界を超える企業は、データアクセスと意思決定を安全に民主化することができる。最良のアプローチは、チームワークを促進し、人間と機械、また機械と機械の相互作用を整合するコラボレーション環境を作ることである。これにより、AI駆動の洞察が正確で、安全で、信頼性が高く、データを最大限に活用する企業全体の文化が促進される。