企業向けの安全で信頼性の高い AI エージェントのための 3 つの考慮事項

ガートナーによると、 GenAIプロジェクトの30% 2025 年末までに概念実証後に放棄される可能性が高いです。GenAI の早期導入により、ほとんどの企業のデータ インフラストラクチャとガバナンス プラクティスが効果的な AI 導入に対応できていないことが明らかになりました。GenAI 製品化の最初の波は大きなハードルに直面し、多くの組織が概念実証段階から抜け出して有意義なビジネス価値を実現するのに苦労しました。

ジェネレーティブ AI 製品化の第 2 波に突入する中、企業はこれらのテクノロジーをうまく実装するには、LLM をデータに接続するだけでは不十分であることに気づき始めています。AI の可能性を最大限に引き出す鍵は、3 つの中核となる柱にあります。データを整理し、AI との統合の準備を整えること、データ ガバナンスの実践を見直して GenAI がもたらす固有の課題に対処すること、そして AI エージェントを安全で信頼性の高い使用を自然かつ直感的に行える方法で展開して、ユーザーが専門的なスキルや正確な使用パターンを習得しなくても済むようにすることです。これらの柱を組み合わせることで、エンタープライズ環境で安全かつ効果的な AI エージェントの強力な基盤が構築されます。

AI向けにデータを適切に準備する

一方、 構造化データ データは、表や列にきちんと整理されていて、肉眼では整理されているように見えるかもしれませんが、LLM は、この構造化されたデータを効果的に理解して処理するのに苦労することがよくあります。これは、ほとんどの企業で、データが意味的に意味のある方法でラベル付けされていないために発生します。データには、顧客、製品、またはトランザクションの識別子であるかどうかを明確に示さない「ID」などの不可解なラベルが付いていることがよくあります。構造化データでは、顧客ジャーニーのステップが互いにどのように関連しているかなど、相互に接続されたさまざまなデータポイント間の適切なコンテキストと関係をキャプチャすることも困難です。 コンピュータビジョン アプリケーションが意味のあるインタラクションを可能にするには、組織は、意味のある AI インタラクションを可能にするために、データに意味的なラベルを付け、すべてのシステム間の関係を文書化するという複雑な作業を実行する必要があります。

さらに、データは従来のサーバーからさまざまなクラウド サービス、さまざまなソフトウェア アプリケーションまで、さまざまな場所に分散しています。このようなシステムの寄せ集めは、相互運用性と統合性の重大な問題を引き起こし、AI ソリューションを実装する際にさらに大きな問題となります。

もう 1 つの根本的な課題は、さまざまなシステムや部門間でビジネス定義が一貫していないことです。たとえば、カスタマー サクセス チームは「アップセル」をある方法で定義し、セールス チームは別の方法で定義する場合があります。AI エージェントまたはチャットボットをこれらのシステムに接続して質問を開始すると、データ定義が一致していないため、異なる回答が返されます。この不一致は小さな不便ではなく、信頼性の高い AI ソリューションを実装する上での重大な障壁です。

データ品質が低いと、典型的な「ガベージイン、ガベージアウト「AI ツールが企業全体に導入されると、このシナリオは指数関数的に深刻化します。不正確なデータや乱雑なデータは、1 つの分析にとどまらず、質問ややり取りを通じてシステムを使用するすべての人に不正確な情報を広めます。実際のビジネス上の意思決定で AI システムに信頼を築くには、企業は AI アプリケーションに、適切なビジネス コンテキストで理解できるクリーンで正確なデータが含まれていることを確認する必要があります。これは、品質、一貫性、意味の明確さがデータ自体と同じくらい重要になる AI 時代に、組織がデータ資産について考える方法に根本的な変化をもたらします。

ガバナンスへのアプローチの強化

データ ガバナンスは近年、組織にとって大きな焦点となっており、主に分析で使用されるデータの管理と保護に重点を置いています。企業は機密情報のマッピング、アクセス標準の遵守、GDPR や CCPA などの法律の遵守、個人データの検出に取り組んでいます。これらの取り組みは、AI 対応データの作成に不可欠です。ただし、組織がワークフローに生成 AI エージェントを導入するにつれて、ガバナンスの課題はデータ自体にとどまらず、AI を使用したユーザー インタラクション エクスペリエンス全体にまで広がります。

私たちは今、基礎となるデータだけでなく、ユーザーがAIエージェントを通じてそのデータとやりとりするプロセスも管理しなければならないという緊急課題に直面しています。 欧州連合のAI法、そして今後さらなる規制が迫っていることから、質問応答プロセス自体を管理する必要性が強調されています。これは、AI エージェントが透明性、説明可能性、追跡可能性を備えた応答を提供することを保証することを意味します。ユーザーがブラックボックスの回答を受け取る場合 (「昨日、インフルエンザ患者は何人入院しましたか?」と質問して、文脈のない「50」としか返答されない場合など)、その情報を重要な決定に信頼することは困難です。データの出所、計算方法、または「入院」や「昨日」などの用語の定義がわからないと、AI の出力は信頼性を失います。

ユーザーが回答を特定の PDF やポリシーにまでさかのぼって正確性を検証できるドキュメントとのやり取りとは異なり、AI エージェントを介した構造化データとのやり取りでは、このレベルの追跡可能性と説明可能性が欠けていることがよくあります。これらの問題に対処するには、組織は機密データを保護するだけでなく、AI のやり取りエクスペリエンスを管理して信頼できるものにするガバナンス対策を実装する必要があります。これには、承認された担当者だけが特定の情報にアクセスできるようにするための堅牢なアクセス制御の確立、データの所有権と管理責任の明確な定義、AI エージェントが出力の説明と参照を提供するようにすることが含まれます。これらの考慮事項を含めるようにデータ ガバナンスのプラクティスを全面的に見直すことで、企業は進化する規制に準拠し、ユーザーの信頼を維持しながら、AI エージェントのパワーを安全に活用できます。

プロンプトエンジニアリングを超えて考える

組織がデータアクセシビリティを向上させるために生成AIエージェントを導入するにつれて、 迅速なエンジニアリング プロンプト エンジニアリングは、ビジネス ユーザーにとって新たな技術的障壁として浮上しています。将来有望なキャリア パスとして宣伝されていますが、本質的にはデータ分析で苦労してきたのと同じ障壁を再現しています。完璧なプロンプトを作成することは、特殊な SQL クエリを記述したり、ダッシュボード フィルターを構築したりするのと何ら変わりません。技術的な専門知識をある形式から別の形式に移行することであり、ほとんどのビジネス ユーザーが持っていない、また必要としないはずの専門的なスキルが依然として必要です。

企業は長い間、データ システムの理解を深めるためのユーザー トレーニング、ドキュメントの作成、専門的な役割の開発などによって、データ アクセシビリティの問題を解決しようとしてきました。しかし、このアプローチは時代遅れです。データをユーザーに適応させるのではなく、ユーザーにデータに適応するよう求めているのです。プロンプト エンジニアリングは、さらに別の技術的仲介者層を作成することで、このパターンを継続させる恐れがあります。

真のデータ民主化には、データ言語を理解するユーザーではなく、ビジネス言語を理解するシステムが必要です。経営陣が顧客維持について質問する場合、完璧な用語やプロンプトは必要ありません。システムは意図を理解し、さまざまなラベル（「解約」、「維持」、「顧客ライフサイクル」など）にわたって関連データを認識し、コンテキストに応じた回答を提供する必要があります。これにより、ビジネス ユーザーは、技術的に完璧な質問をすることを学ぶのではなく、意思決定に集中できます。

まとめ

AI エージェントは、企業の運営方法や意思決定方法に重要な変化をもたらしますが、導入前に対処しなければならない独自の課題も伴います。AI では、技術に詳しくないユーザーがセルフサービスでアクセスできると、あらゆるエラーが増幅されるため、基礎を正しく構築することが重要になります。

データ品質、セマンティック アラインメント、ガバナンスの基本的な課題にうまく対処し、迅速なエンジニアリングの限界を超えた組織は、データ アクセスと意思決定を安全に民主化できる立場に立つことができます。最善のアプローチは、チームワークを促進し、人間とマシン、マシンとマシンのインタラクションを調整するコラボレーション環境を作成することです。これにより、AI 主導の分析情報が正確で安全かつ信頼できるものとなり、データを管理、保護し、その可能性を最大限に引き出す組織全体の文化が促進されます。