AIの信頼性格差を埋める

AIの導入は重要な転換点に達しています。企業は業務の効率化を大幅に改善するというAIの約束に突き動かされて、AIを熱心に受け入れています。

最近のSlack調査によると、AIの導入は続いており、職場でのAIの使用は最近24%増加し、調査対象となった幹部の96%が「事業運営全体にAIを統合することが緊急である」と考えていることがわかりました。

しかし、AIの有用性と潜在的な悪影響への不安の間には、広がりつつある溝があります。デスクワーカーのうち、7%のみが、AIからの出力が仕事に関連するタスクを支援するのに十分に信頼できるものであると考えています。

この溝は、幹部のAI統合への熱意と、以下のような要因に関連する従業員の懐疑主義との間の鲜明な対比に表れています：

• バイアスと公平性：AIシステムは、既存のバイアスを永続させたり、悪化させたりすることができ、不公平な結果につながる可能性があります。
• プライバシーとセキュリティ：従業員は、AIシステムによって収集、保存、使用される彼らの個人データについて心配しています。
• 不透明な意思決定：AIシステムは、人間が理解または説明するのが難しい「ブラックボックス」として機能することがよくあります。
• 自動化への不安：AIが人間の仕事を置き換える、失業や経済的不安定性につながるという、広範な恐怖があります。

信頼を築くための立法の役割

これらの多面的な信頼性の問題に対処するために、立法措置は必要なステップとして見なされることが増えています。立法は、AIの開発と展開を規制する上で重要な役割を果たすことができ、信頼を高めることができます。主要な立法アプローチには以下が含まれます：

• データ保護とプライバシー法：厳格なデータ保護法を実施することで、AIシステムが個人データを責任を持って取り扱うことが保証されます。欧州連合の一般データ保護規則（GDPR）などの規制は、透明性、データ最小化、ユーザーの同意を義務付けることで先例を樹立しています。特に、GDPRの第22条は、自動化された意思決定の潜在的な悪影響からデータ主体を保護しています。欧州連合の司法裁判所（CJEU）の最近の決定は、自動化された意思決定に服従しない権利を認めています。Schufa Holding AGの場合、ドイツ人住民が自動化された信用判断システムに基づいて銀行ローンを拒否された場合、裁判所は、第22条が組織に、AI技術の使用に関連するプライバシー権を保護するための措置を実施することを要求することを決定しました。
• AI規制：欧州連合は、EU AI法（EU AIA）を批准しました。これは、AIシステムのリスクレベルに基づいてその使用を規制することを目的としています。この法令には、高リスクのAIシステムに対する必須要件が含まれており、データ品質、文書化、透明性、人間の監視などの分野を網羅しています。AI規制の主な利点の1つは、AIシステムの透明性と説明可能性の促進です。さらに、EU AIAは、開発者、運用者、さらにはAIシステムの使用者が、その行動とAIの展開による結果に対して責任を負うことを保証する明確な責任枠組みを確立しています。これには、損害が発生した場合の救済手段も含まれます。個人が組織がAIシステムを責任を持って管理していることを確信できるようにすることで、信頼が築かれます。

信頼できるAIを育むための規格イニシアチブ

企業は、新しい法律が施行されるのを待たずに、自社のプロセスが倫理的かつ信頼できるガイドラインに従っているかどうかを確立できます。AI規制は、企業がAIシステムの全ライフサイクル（設計、実装、展開、廃棄）にわたって、責任あるAIガバナンスとベストプラクティスを実施することを可能にする、登場しつつあるAI規格イニシアチブと連携しています。

米国国立標準技術研究所（NIST）は、AIリスク管理フレームワークを開発しました。これは、企業がAI関連のリスクを管理することを支援するものです。このフレームワークは、4つの主要な機能で構成されています：

• AIシステムとその運用コンテキストを理解すること。これには、AIシステムの目的、利害関係者、潜在的な影響を定義することが含まれます。
• AIシステムに関連するリスクを定量化すること。これには、システムのパフォーマンス、信頼性、潜在的なバイアスを評価することが含まれます。

• 特定されたリスクを軽減するための戦略を実施すること。これには、AIシステムが受容可能なリスクレベル内で運用されることを保証するためのポリシー、手順、コントロールの開発が含まれます。
• AIシステムとそのリスク管理プロセスを監督するためのガバナンス構造と責任メカニズムを確立すること。これには、リスク管理戦略の定期的なレビューと更新が含まれます。

生成的なAI技術の進歩に応じて、NISTは、生成的なAIプロファイルを含むAIリスク管理フレームワークを公開しました。これは、基盤モデルに関連する特定のリスクを軽減するためのガイダンスを提供します。 これらの措置は、悪意のある使用（例：デマ、低品質なコンテンツ、ヘイトスピーチ）から守ることと、公平性、プライバシー、情報セキュリティ、知的財産、持続可能性などの人間の価値観に焦点を当てたAIの倫理的な応用を包含します。

さらに、国際標準化機構（ISO）と国際電気標準会議（IEC）は、ISO/IEC 23894を共同で開発しました。これは、AIリスク管理のための包括的な規格です。この規格は、AIライフサイクル全体（リスクの特定、リスクの重大性の評価、軽減または回避、継続的な監視とレビュー）を通じて、リスクを特定して管理するための体系的なアプローチを提供します。

AIと公共の信頼の将来

先を見ると、AIと公共の信頼の将来は、以下のいくつかの重要な要因に左右される可能性が高いです。これらの要因は、すべての組織が従うべきものです：

• 潜在的なコンプライアンスの問題を特定するための包括的なリスク評価を実施すること。AIシステムの倫理的影響と潜在的なバイアスを評価します。
• 法務、コンプライアンス、IT、データサイエンスの専門家を含む、職能横断的なチームを確立すること。これらのチームは、規制の変更を監視し、AIシステムが新しい規制に準拠していることを保証する責任を負うべきです。
• AIイニシアチブを管理するためのガバナンス構造を実施すること。これには、ポリシー、手順、AI運用と意思決定プロセスにおける透明性を確保するための役割が含まれます。
• AI規制に準拠していることを確認するための定期的な内部監査を実施すること。AIシステムのパフォーマンスと規制基準への準拠を追跡するための監視ツールを使用します。
• 従業員にAIの倫理、規制要件、ベストプラクティスについて教育すること。従業員を最新の情報に基づいた状態に保つために、AI規制とコンプライアンス戦略の変更についてのトレーニングセッションを提供します。
• AI開発プロセス、データの使用、意思決定基準の詳細な記録を保持すること。必要に応じて、規制機関に提出するための報告書を準備します。
• 規制機関との関係を構築し、公的協議に参加すること。提案された規制についてのフィードバックを提供し、必要に応じて明確化を求めます。

信頼できるAIを達成するためのAIの文脈化

最終的に、信頼できるAIはデータの完全性に依存しています。生成的なAIが大規模なデータセットに依存していることは、出力の正確性と信頼性を保証するものではありません。むしろ、両者は反比例します。レトリーバル・オーグメンテッド・ジェネレーション（RAG）は、「静的なLLMとコンテキスト固有のデータを組み合わせる」という革新的な技術です。RAGは、企業がプライバシー、セキュリティ、正確性、信頼性の期待に従ったコンテキスト固有のアプリケーションを提供できるようにします。RAGは、知識ベースまたはドキュメントリポジトリから関連する情報を取得することで、生成されたレスポンスの正確性を向上させます。これにより、モデルは正確で最新の情報に基づいて生成されることが保証されます。

RAGは、企業が目的を特化したAIアプリケーションを構築できるようにし、意思決定の改善、顧客体験の向上、運用の合理化、競争上の重要な優位性の達成を可能にします。

AIの信頼性格差を埋めるには、透明性、説明責任、AIの倫理的な使用を確保する必要があります。信頼性を維持するための単一の答えはありませんが、企業には戦略とツールが利用可能です。堅牢なデータプライバシーメジャーを実施し、規制基準に従うことで、ユーザーの信頼を築くことができます。AIシステムのバイアスと不正確さを定期的に監査することで、公平性を確保します。目的を特化したAIを大規模言語モデル（LLM）と組み合わせることで、信頼性を提供します。これには、独自の知識ベースとデータソースを組み込むことが含まれます。AIの能力と限界について利害関係者と関わることも、信頼と受容を促進します。

信頼できるAIを達成することは容易ではありませんが、我々の将来への重要な約束です。