責任あるAIの5つの基盤

私たちは、新しいデジタル経済で生成される大量のデータを処理するためのAI/MLシステムの急成長を目にしています。しかし、この成長に伴って、AIの倫理的および法的影響について深刻に考える必要があります。

私たちが自動ローン承認などのより複雑で重要なタスクをAIシステムに任せるにつれて、これらのシステムが責任あるものであり、信頼できるものであることを絶対に確実にする必要があります。AIにおける偏見の削減は、多くの研究者の注目すべき大きな分野となっており、重大な倫理的影響があります。また、AIシステムに与える自律性の程度も同様です。

責任あるAIの概念は、AIの展開に信頼を築くための重要な枠組みです。責任あるAIの5つの基盤があります。この記事では、これらについて詳しく説明し、より良いシステムを構築するための手助けとなります。

1. 再現性

ソフトウェア開発の世界には、「私のマシンでは動作する」という古い言葉があります。機械学習とAIでは、この言葉を「私のデータセットでは動作する」と変えることができます。つまり、機械学習モデルはしばしばブラックボックスであるということです。多くのトレーニングデータセットには、サンプリングバイアスや確認バイアスなどの内在的なバイアスが含まれており、最終的な製品の精度を低下させます。

AI/MLシステムをより再現可能で、したがって正確で信頼できるものにするために、最初のステップはMLOpsパイプラインを標準化することです。最も賢いデータサイエンティストでも、好みのテクノロジーとライブラリがあるため、機能エンジニアリングと結果として得られるモデルは、人によって一貫性がありません。MLflowなどのツールを使用することで、MLOpsパイプラインを標準化し、これらの違いを減らすことができます。

AI/MLシステムをより再現可能にする別の方法は、「ゴールドデータセット」と呼ばれるものを使用することです。これらは、代表的なデータセットであり、基本的に新しいモデルのテストと検証として機能し、生产環境でリリースされる前に使用されます。

2. 透明性

先ほど述べたように、多くの機械学習モデル、特にニューラルネットワークはブラックボックスです。これらをより説明可能にするために、より説明可能なものにする必要があります。決定木などの単純なシステムでは、システムが特定の決定を下した理由と方法を理解するのは比較的容易ですが、AIシステムの精度と複雑性が高まるにつれて、その説明可能性は低下することがあります。

「説明可能性」と呼ばれる新しい研究分野が登場し、ニューラルネットワークやディープラーニングなどの複雑なAIシステムに透明性をもたらすことを目指しています。これらのモデルは、ニューラルネットワークのパフォーマンスをコピーするプロキシモデルを使用しますが、同時に、重要な特徴について有効な説明を提供することを目指しています。

これは公平性に結びつきます。特定の決定がなぜ下されたのかを知りたいと考え、またその決定が公平であることを確認したいと考えます。また、モデルにバイアスが生じないように、不適切な特徴が考慮されないようにしたいと考えます。

3. 責任

責任あるAIの最も重要な側面は、責任です。政府部門を含む多くの分野で、このトピックについて議論が行われています。AIの成果を導く政策について議論されています。政策主導のアプローチでは、人間がどの段階で関与する必要があるかを決定します。

責任には、政策立案者やAI/MLシステムを制御するための強力な監視とメトリクスが必要です。責任は、再現性と透明性を結びつけるものですが、AI倫理委員会などの有効な監督が必要です。これらの委員会は、政策決定を行い、測定すべき重要な事項を決定し、公平性のレビューを実施できます。

4. セキュリティ

AIセキュリティは、データの機密性と完全性に焦点を当てています。システムがデータを処理するとき、セキュアな環境で処理されることを望みます。データは、データベース内で静止している間も、パイプラインを介して呼び出される間も、暗号化された状態で保持されることを望みます。しかし、平文の状態で機械学習モデルにフィードされる間に脆弱性が存在します。ホモモルフィック暗号化などのテクノロジーは、この問題を解決し、暗号化された環境で機械学習のトレーニングを可能にします。

モデル自体のセキュリティも重要です。例えば、モデル逆転攻撃では、ハッカーがモデルを構築するために使用されたトレーニングデータを学習できます。また、モデル汚染攻撃では、トレーニング中にモデルに悪意のあるデータを挿入し、モデルを完全に破損させることができます。モデルをこれらの悪意のある攻撃に対してテストすることで、モデルを安全かつセキュアに保つことができます。

5. プライバシー

GoogleやOpenMinedなどの組織は最近、AIプライバシーに重点を置いています。OpenMinedはこのトピックに関する最近のカンファレンスを主催しました。GDPRやCCPAなどの新しい規制が施行され、将来さらに規制が追加される可能性があるため、プライバシーは機械学習モデルのトレーニング方法に重要な役割を果たすことになります。

顧客のデータをプライバシーに配慮して扱う方法の1つは、フェデレーテッドラーニングを使用することです。この分散型の機械学習方法では、ローカルで異なるモデルをトレーニングし、中央ハブでモデルを集約しますが、データは安全でセキュアな状態で保持されます。別の方法は、統計ノイズを導入することです。顧客の個々の値が漏洩しないようにします。これにより、集約されたデータで作業し、個々の顧客データがアルゴリズムに公開されないようにします。

責任あるAIの維持

　最終的に、責任あるAIを維持するのは、AI/MLシステムを設計する各組織の責任です。これらの責任あるAIの5つの側面の中で、テクノロジーを意図的に追求することで、人工知能の力から利益を得るだけでなく、信頼できる方法で、組織、顧客、規制当局を安心させることができます。