Chris Shaw, NTTリサーチ チーフマーケティングオフィサー Chris Shaw NTTリサーチ チーフマーケティングオフィサー

人工知能における偏見の除去：課題と解決策

最近の生成的な人工知能の進歩により、金融、ヘルスケア、輸送など、さまざまな業界で企業アプリケーションが増えています。この技術の開発により、サイバーセキュリティ防御技術、量子コンピューティングの進歩、革新的なワイヤレス通信技術などの新しい技術も生まれることになります。しかし、この次世代技術の爆発的な成長は、新しい課題ももたらします。例えば、人工知能の採用により、より複雑なサイバーアタック、メモリとストレージのボトルネック、人工知能モデルに表れる偏見などの倫理的な懸念が生じます。幸いなことに、NTT Researchは、ディープニューラルネットワーク（DNN）における偏見を克服する方法を提案しました。この研究は、偏見のない人工知能モデルが、採用、刑事司法システム、ヘルスケアなどの分野で貢献できることを示しています。将来的には、人工知能システムを使用することで、人種、性別などの特徴に基づく差別を排除することができます。また、非偏った人工知能モデルは、タスクの完了時間を短縮し、生産性を向上させることもできます。しかし、企業の中には、人工知能によって生成されたプログラムを停止した例もあります。例えば、アマゾンは、採用アルゴリズムを中止しました。なぜなら、そのアルゴリズムは、男性の履歴書に多く見られる単語「executed」や「captured」を使用する女性に偏見を持っていたからです。別の例として、TIME誌の2023年の最も影響力のある人工知能分野の人物であるジョイ・ブオラムウィニは、MITのティムニット・ゲブルと共同で、顔認識技術が、特に女性の場合、白人の顔よりも有色人の顔を認識する際に高い誤認率を示すことを発見しました。最近、DNNは科学、工学、ビジネス、さらには一般的なアプリケーションでも広く使用されています。しかし、時々、DNNは、偏見を含む可能性のある特徴に依存しています。MITの研究によると、科学者たちは、音や画像などの大量の入力を分析できるDNNを開発しました。これらのネットワークは、共通の特徴を識別し、ターゲットの単語や物体を分類できます。現在、这些モデルは、生物の感覚システムを再現するための主要なモデルとなっています。NTT Researchのシニアサイエンティストであり、ハーバード大学の脳科学センターのアソシエイトである田中秀典と他の3人の科学者は、DNNのエラーまたは「損失」を減らすための新しいアルゴリズムを提案しました。彼らは、モード接続性の観点からニューラルネットワークの損失景観を研究しました。具体的には、次の質問をしました。異なるメカニズムを使用して予測を行う最小化は、シンプルな低損失パスのつながりを持っていますか?彼らは、ナイーブなファインチューニングは、モデルを根本的に変更することができないことを発見しました。代わりに、モデルを低損失の「谷」や「谷間」に移動させる必要があります。著者たちは、この修正アルゴリズムを接続性ベースのファインチューニング（CBFT）と呼んでいます。以前の研究では、DNNは、魚の形や背景などの画像を分類するために、両方の特徴を使用していました。その損失最小化パスは、正当な特徴である形と、誤った特徴である背景色の2つの異なるメカニズムで動作していました。これらのメカニズムは、線形接続性を持っていないため、シンプルな低損失パスではつながっていません。研究チームは、メカニズムのレンズを使用して、モード接続性を理解しています。彼らは、背景と物体の形を使用して損失を最小化する2つのパラメータセットを考慮し、次の質問をしました。こうしたメカニズム的に異なる最小化は、低損失のパスでつながっていますか? これらのメカニズムの違いは、つながりのシンプルさに影響を与えますか? これらのつながりを利用して、望ましいメカニズムを使用する最小化に切り替えることができますか?つまり、DNNは、特定のデータセットでトレーニングされた後、別のデータセットでテストされたときに、異なる動作を示す可能性があります。研究チームの提案は、共通の類似性の概念に基づいています。これは、モード接続性の以前のアイデアに基づいていますが、メカニズムの類似性を考慮するという点で異なります。彼らの研究により、次のような目覚ましい発見がなされました。 異なるメカニズムを持つ最小化は、複雑な非線形的な方法でつながる可能性があります 2つの最小化が線形的につながっている場合、それらのモデルのメカニズムの類似性に密接に関係しています 単純なファインチューニングだけでは、以前のトレーニングで学習した不要な特徴を除去するのに十分ではない可能性があります 損失景観の中で線形的に切断された領域を見つけることで、モデル内部の動作を効率的に変更することができます この研究は、人工知能の全潜在能力を利用するための重要なステップです。しかし、人工知能の周りの倫理的な懸念は、まだ上向きの戦いです。テクノロジーと研究者は、プライバシー、自律性、責任などの他の倫理的な弱点に対処するために働いています。人工知能は、個人データを収集して処理するために使用できます。個人データの無許可または非倫理的な使用は、個人のプライバシーを損なう可能性があり、監視、データ漏洩、身元盗難に関する懸念を引き起こします。人工知能は、自律的なアプリケーション、たとえば自律走行車の責任についても脅威をもたらします。責任と責任のための法的枠組みと倫理基準を確立することは、将来の重要な課題です。結論として、生成的な人工知能技術の急速な成長は、金融、ヘルスケア、輸送など、さまざまな業界に希望をもたらしています。にもかかわらず、人工知能の周りの倫理的な懸念は、まだ大きいです。人工知能のこの変革的な時代に、テクノロジー、研究者、政策立案者は、人工知能技術の責任ある使用を確実にするための法的枠組みと倫理基準を確立するために協力することが重要です。NTT Researchとミシガン大学の科学者たちは、人工知能の偏見を排除する可能性のあるアルゴリズムを提案することで、先を行っています。