AIの信頼性格差を埋める

AIの導入は重要な転換点に達しています。企業は、運用効率を大幅に改善するというAIの約束に魅了され、熱心にAIを採用しています。

最近のSlack Surveyによると、AIの導入は加速し続けており、職場でのAIの使用は24%増加し、96%の調査対象の幹部は「ビジネス運用全体にAIを統合することが緊急である」と考えています。

しかし、AIの有用性と、その潜在的な悪影響についての不安の間には、広がりつつある溝があります。デスクワーカーの7%のみが、AIからの出力が仕事関連のタスクを支援するのに十分に信頼できるものであると考えています。

この溝は、幹部のAI統合への熱意と、以下のような要因に関する従業員の懐疑主義の間の鮮明な対比として現れています：

• バイアスと公平性: AIシステムは、既存のバイアスを永続させたり、悪化させたりすることができ、不公平な結果につながる可能性があります。
• プライバシーとセキュリティ: 従業員は、AIシステムによって収集、保存、使用される彼らの個人データについて心配しています。
• 不透明な意思決定: AIシステムは、人間が理解または説明するのが難しい「ブラックボックス」として動作することがよくあります。
• 自動化への不安: AIが人間の仕事を奪い、失業や経済の不安定化につながるという、広範な恐怖があります。

信頼を築くための立法の役割

これらの多面的な信頼性の問題に対処するために、立法措置は、必要なステップとして見なされることが増えています。立法は、AIの開発と導入を規制する上で重要な役割を果たすことができ、信頼を高めることができます。主要な立法アプローチには、以下が含まれます：

• データ保護とプライバシー法: 厳格なデータ保護法を実施することで、AIシステムが個人データを責任を持って取り扱うことが保証されます。欧州連合の一般データ保護規則（GDPR）などの規制は、透明性、データ最小化、ユーザーの同意を義務付け、先例を設けています。特に、GDPRの第22条は、データ主体を自動化された意思決定の潜在的な悪影響から保護します。最近の欧州連合司法裁判所（CJEU）の決定は、自動化された意思決定に服従しない権利を個人の権利として確認しています。ドイツの居住者が自動化された信用決定システムに基づいて銀行ローンの拒否されたシュファ・ホールディングの場合、裁判所は、第22条は、組織がAI技術の使用に関連するプライバシー権を保護するための措置を実施することを要求するものであると判断しました。
• AI規制: 欧州連合は、AIアクト（EU AIA）を批准しました。これは、AIシステムのリスクレベルに基づいてその使用を規制することを目的としています。この法律には、高リスクAIシステムに対する必須要件が含まれており、データ品質、文書化、透明性、人間の監督などの分野を網羅しています。AI規制の主な利点の1つは、AIシステムの透明性と説明可能性の促進です。さらに、EU AIAは、開発者、運用者、そしてAIシステムの使用者が、その行動とAIの導入による結果に対して責任を負うという明確な責任枠組みを確立しています。これには、救済のメカニズムが含まれており、AIシステムが損害を引き起こした場合に使用できます。個人が組織がAIシステムを責任を持って管理していることを確認することで、信頼が築かれます。

信頼できるAIを育むための標準化イニシアチブ

企業は、新しい法律が施行されるのを待たずに、自社のプロセスが倫理的かつ信頼できるガイドラインに従っているかどうかを確認することができます。AI規制は、企業がAIシステムの全ライフサイクルにわたって、設計、実装、導入、そして最終的には廃止まで、責任あるAIガバナンスとベストプラクティスを実施することを可能にする、登場しつつあるAI標準化イニシアチブと連携して機能します。

アメリカの国立標準技術研究所（NIST）は、AIリスク管理フレームワークを開発しました。これは、組織がAI関連のリスクを管理するための指針となります。このフレームワークは、4つの核心機能で構成されています：

• AIシステムとその動作するコンテキストを理解すること。これには、AIシステムの目的、利害関係者、潜在的な影響の定義が含まれます。
• AIシステムに関連するリスクを定量化すること。これには、システムのパフォーマンス、信頼性、潜在的なバイアスの評価が含まれます。

• 特定されたリスクを軽減するための戦略を実施すること。これには、AIシステムが受容可能なリスクレベル内で動作することを保証するためのポリシー、手順、コントロールの開発が含まれます。
• AIシステムとそのリスク管理プロセスを監督するためのガバナンス構造と責任メカニズムを確立すること。これには、リスク管理戦略の定期的なレビューと更新が含まれます。

生成的なAI技術の進歩に応じて、NISTは、Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profileを公開しました。これは、基礎モデルに関連する特定のリスクを軽減するための指針を提供します。 これらの措置には、悪意のある使用（たとえば、デマ、低質なコンテンツ、ヘイトスピーチ）を防ぐこと、および、公平性、プライバシー、情報セキュリティ、知的財産、持続可能性などの人間の価値に焦点を当てたAIの倫理的な応用が含まれます。

さらに、国際標準化機構（ISO）と国際電気標準会議（IEC）は、ISO/IEC 23894を共同で開発しました。これは、AIリスク管理のための包括的な標準です。この標準では、リスクの特定、リスクの重大性の評価、リスクの軽減または回避、そして継続的なモニタリングとレビューを含む、AIライフサイクル全体でリスクを管理するための体系的なアプローチを提供します。

AIと公衆の信頼の未来

先を見ると、AIと公衆の信頼の未来は、以下のような重要な要素に依存することになります。これらは、すべての組織が遵守する必要があります：

• 潜在的なコンプライアンスの問題を特定するための包括的なリスク評価を実施すること。AIシステムの倫理的影響と潜在的なバイアスを評価すること。
• 法務、コンプライアンス、IT、データサイエンスの専門家を含む、職能横断的なチームを設立すること。これらのチームは、規制の変更を監視し、AIシステムが新しい規制に従っていることを確認する責任を負うことになります。
• AIイニシアチブの管理を含む、ポリシー、手順、役割を含むガバナンス構造を実施すること。AIの運用と意思決定プロセスにおける透明性を確保すること。
• AI規制に従っていることを確認するための、定期的な内部監査を実施すること。AIシステムのパフォーマンスと規制基準への準拠を追跡するためのモニタリングツールを使用すること。
• 従業員をAIの倫理、規制要件、ベストプラクティスについて教育すること。従業員をAI規制の変更やコンプライアンス戦略について継続的に情報に更新するためのトレーニングセッションを提供すること。
• AIの開発プロセス、データの使用、意思決定基準の詳細なレコードを保持すること。規制機関に提出する必要がある場合は、報告書を生成できるようにすること。
• 規制機関との関係を構築し、パブリックコンサルテーションに参加すること。提案された規制についてフィードバックを提供し、必要に応じて明確化を求めること。

信頼できるAIを実現するためのコンテキスト化

最終的に、信頼できるAIは、データの完全性に依存しています。生成的なAIの大量のデータセットへの依存は、出力の正確性や信頼性を保証するものではなく、実際にはこれらの基準に反することになります。レトリーバル・オーギュメンテッド・ジェネレーション（RAG）は、「静的なLLMとコンテキスト固有のデータを組み合わせた」イノベーション技術であり、「非常に知識の豊かなアシスタント」と見なすことができます。このアシスタントは、クエリのコンテキストを包括的な知識ベースやドキュメントリポジトリからの特定のデータと一致させます。RAGにより、企業は、プライバシー、セキュリティ、正確性、信頼性の期待に応えるコンテキスト固有のアプリケーションを提供できます。RAGは、知識ベースまたはドキュメントリポジトリからの関連情報を取得することで、生成されたレスポンスの正確性を向上させます。これにより、モデルは正確で最新の情報に基づいて生成を行うことができます。

RAGにより、企業は、高度に正確でコンテキストに応じたAIアプリケーションを構築できます。これにより、意思決定の改善、顧客体験の向上、運用の合理化、そして重要な競争優位性の獲得が可能になります。

AIの信頼性格差を埋めるには、透明性、説明責任、倫理的な使用を確保する必要があります。信頼性を維持するための単一の解答はありませんが、企業には戦略やツールが利用可能です。厳格なデータプライバシー対策を実施し、規制基準に従うことで、ユーザーの信頼を築くことができます。AIシステムをバイアスや不正確性について定期的に監査することで、公平性を確保します。LLMを目的のあるAIで拡張することで、信頼を築きます。これには、独自の知識ベースやデータソースを組み込むことが含まれます。利害関係者にAIの能力と限界について説明することも、信頼と受容を促進します。

信頼できるAIを実現することは容易ではありませんが、これは私たちの未来への重要な約束です。