Dr Heather Domin, HCLTechの責任あるAIおよびガバナンス事務所の副社長兼責任者 Dr Heather Domin HCLTechの責任あるAIおよびガバナンス事務所の副社長兼責任者

実践的なガイド：責任あるAIの提供方法

人工知能（AI）の導入は、初期のパイロットフェーズを超えて、完全に統合されたソリューションとなり、生産性と企業全体の変革を促進しています。対して、経営陣は、AIをProof of Conceptから日常業務の核心へと移行させるという課題に直面しています。この移行には、新しい質問に答える必要があります。責任ある方法でAIを開発、導入、使用して、信頼できる基盤を構築する方法などです。責任あるAIとは、AIが有害でないようにすることです。人、組織、社会に。責任あるAIの導入は、費用のかかる失敗の数を減らし、信頼と採用を促進し、規制に準拠したシステムを提供し、持続可能性を向上させることができます。しかし、組織が責任あるAIを開発、導入、採用する方法を理解することは、その基礎的な実践と完全な統合を確保するために不可欠です。ここでは、企業がこれを行うための実践的なガイドを提供します。設計段階から導入、監視、リスク評価、最終的な廃棄まで、人間の監視を確保します。責任あるAIを後回しにする企業は、規制上の問題、評判の損傷、顧客の信頼の喪失に直面することになります。一方、責任あるAIを最初から組み込む企業は、AIを責任ある方法で拡大し、信頼と規制の準備を維持するために、より好ましい立場にあります。責任あるAIの5つの原則を特定する責任あるAI戦略の核心にあるのは、開発、導入、評価、ガバナンスを導く一連の基本原則です。これらの原則の影響は、実践的なガバナンス、リスク管理、コンプライアンスの実践を形作り、人々を保護し、ブランドの価値を守ります。大規模な組織では、チーム間および外部パートナーと協力して、責任あるAIを統合する必要があります。したがって、企業が信頼、コンプライアンス、倫理的な結果に向けてAIイニシアチブを導くために採用できる5つの重要な原則があります。第一に、説明責任があります。重要なAIシステムごとに、誰かが結果を所有し、開始から終了まで責任者がいる必要があります。シンプルなインベントリから始めて、自動化して拡大し、AIシステム、目的、データソース、所有者をリストアップします。何かが間違った場合に、停止する方法、調査して問題を軽減する方法を知ることが重要です。第二に、AIの公平性と人々への潜在的な影響を評価することが重要です。技術的な指標のみに頼るのではなく、AIの結果がグループ間で異なる可能性があり、誰かを不意に不利に扱う可能性があることを認識する必要があります。これは、採用、融資、または医療などの高リスクなユースケースでは特に重要です。可能な限りデータテストを使用し、人間のレビューと出力の理由を含めます。第三に、セキュリティが重要です。AIシステムに対する脅威は進化を続けており、現在ではプロンプトまたはエージェントベースの攻撃も含まれます。これらのリスクを対処し、セキュリティチームと協力してこれらの潜在的な攻撃をモデル化することが重要です。設計段階でセキュリティを組み込み、AIの他のシステムやデータへのアクセスを制限し、起動後も継続的にテストします。第四に、プライバシーが重要です。この懸念は、初期のトレーニングデータを超えて、すべての段階でプライバシーを保護する必要があります。ユーザーのプロンプト、会話ログ、AIによって生成された出力には、すべてプライベート情報を含む可能性があります。必要なデータのみを収集し、厳格なルールを設定し、よりリスクの高いアプリケーションについてはプライバシーのレビューを実施します。最後に、透明性と利害関係者に適応するコントロールを提供することが不可欠です。顧客が知る必要がある情報は、AI開発者とは異なります。ユーザーは、AIとやり取りをしていることを知り、AIの限界を理解する必要があります。内部チームには、AIがどのように構築され、どのように機能するかについての明確な文書化が必要です。AIシステムの透明性は、システムの能力に対する共有の監視と信頼を促進します。責任あるAIとAIガバナンスの違いを理解する責任あるAIとAIガバナンスは、しばしば同じ意味で使用されますが、重要な違いがあります。責任あるAIとは、開発、導入、使用のすべての段階で信頼できる決定を下すための包括的な実践と原則です。責任あるAIは、上記の5つの原則を含む機能を可能にすることで、AIのリスクを最小限に抑え、利点を最大化することに焦点を当てています。一方、AIガバナンスは、ポジティブな結果を促進し、損害の可能性を減らすことを目的としたポリシー、手順、実践のセットです。AIガバナンスは、責任ある倫理的なAIを可能にするために、適切な組織的および技術的なコントロールを確立することに重点を置いています。説明責任と法律および組織のポリシーへのコンプライアンスも含まれます。組織は、これら2つが異なるが関連していることを理解することで、AIを責任ある方法で拡大し、信頼と規制の準備を維持するために、より好ましい立場にあります。また、一部の責任とガバナンスの行動は法律によって義務付けられている一方で、一部は義務付けられていません。例えば、特定の国で女性が就ける仕事に制限を課す法律などです。したがって、責任あるAIに対する包括的でバランスの取れたアプローチには、両方が必要です。柔軟なガバナンスの重要性AIが普及するにつれて、規制当局は、自主的なガイドラインを超えたガバナンスフレームワークを導入しています。例えば、欧州連合のAI法は、AIガバナンスの中心にリスクベースの規制を置いています。技術を一律に規制するのではなく、法案はAIシステムを複数のリスクレベルに分類し、さまざまなユースケースに基づいて潜在的な損害を認識します。例えば、AIによる採用スクリーニングとショッピングのレコメンドエンジンなどです。これは、ガバナンス、文書化、セーフガードがAIのコンテキストとアプリケーションに合致する必要があることを意味します。他の管轄区域でも、AIのガバナンスフレームワークを定義しています。例えば、IAPPのレポートによると、シンガポールは、モデルAIガバナンスフレームワークなどのツールを使用して、柔軟なアプローチを推進しています。テストと透明性を重視し、厳格な義務付けよりも優先しています。韓国のAI基本法も、監督とイノベーションのためのスペースを組み合わせています。業界によっても異なります。金融サービスでは、安全性と公平性の厳格な基準が長年存在していますが、医療AIには医療機器の規制が適用されます。消費者向け製品は、プライバシーと消費者保護法の対象となります。各ドメインには、リスクプロファイルと社会的期待に合わせた規制が求められます。したがって、AIガバナンスに対するワンサイズフィットオールアプローチは機能しません。業界や国によって、損害の種類、影響を受ける利害関係者、運用する法的枠組みが異なります。したがって、柔軟性が必要です。自律型AIの管理方法AIは、新しい時代に入り、狭い予測エンジンから、計画、適応、自律的な行動が可能なエージェント型AIに移行しています。これには、新しいリスクが伴います。例えば、自律型AIが自律的に金融取引または人事決定を実行する場合を考えてみましょう。如果それが取引を誤分類したり、偏った採用勧告をしたりすると、企業は財務損失、評判の損傷、規制上の罰則、法的責任など、深刻な結果に直面することになります。Economic and Systemic Considerations in Agentic Web Systemsという研究では、エージェント型Webの概念がもたらす新しい課題について説明しています。マルチエージェント、国境を越えた、マシンスピードの市場で動作します。方向性のガバナンスレバー、ガーディアン/オーバーサイトエージェント、機械可読ポリシーについての初期的な指針を示しています。資源制約の不均一さの中での包括的な採用を強調しています。これに対して、ガバナンスシステムは、AIシステムが人間の承認なしでどれだけのタスクを自律的に実行できるかについて、制限とコントロールを設定する必要があります。明確なガイドラインを確立し、ツールや承認機能へのアクセスを制限し、必須の人間のレビューのための特定の設計ポイントを許可する必要があります。ワークフローのすべてのコンポーネントをテストし、エージェント間の接続や相互作用でエラーが発生する可能性がある場所を含め、すべてのアクションをログに記録し、必要に応じてシステムを無効にするためのコントロールを設ける必要があります。責任あるAIの未来AIは、企業が運営する方法、イノベーションを促進する方法、価値を提供する方法を変革するという前例のない機会を提供します。責任あるAIは、この変革を支えます。設計、開発、導入のすべての段階で責任あるAIを統合することは、法的リスクとリスク軽減策のみではありません。ブランドの評判を保護し、顧客とクライアントの信頼を獲得し、倫理的なイノベーションへの取り組みを示すことで、市場での優位性を獲得することもあります。しかし、責任あるAIの利点を解放するには、企業はAIシステムのライフサイクルのすべての段階で、データ戦略、プライバシー、コレクション、システム設計、開発、透明性、公平性、導入、監視、導入後の廃棄まで、倫理的およびガバナンスの考慮を組み込む必要があります。AIの開発と導入に関与するすべての関係者にとって、課題は明確です。責任ある方法で構築し、前向きにガバナンスし、今日、明日、そして先々までのリスクを予測して、変化する世界でのAIの成功した進化を確保することです。yと公平性、導入と監視、および導入後の廃棄についてです。AI開発と導入に関与するすべての関係者にとって、課題は明確です。責任ある方法で構築し、前向きにガバナンスし、今日、明日、そして先々までのリスクを予測して、変化する世界でのAIの成功した進化を確保することです。