人間の偏見がAIを利用したソリューションを損なう方法

先月、エロン・マスク、ザッカーバーグ、マーク・ザッカーバーグ、OpenAIのCEOであるサム・アルトマンなど、世界のリーダーたちは、ワシントンD.C.で会合を行い、公共と私的セクターが協力してこの技術を利用し、より良い結果を得る方法について議論し、また、規制について議論しました。

これらの議論は、しばしば同じ結論に達します。AIをより倫理的であるとみなすことへの関心が高まっています。DeepMindは、最近の研究で、AIのリスクを評価するための3層構造を提案しました。このフレームワークには、能力、人間の相互作用、システムの影響が含まれていました。

このようなシステムの1つであるChatGPTは、15カ国で禁止されています。ChatGPTは、100万以上のユーザーを持つ、最も成功したLLMの1つです。ChatGPTは、偏見があると非難されています。DeepMindの研究を考慮すると、ここでコンテキストを取り入れてみましょう。偏見とは、ChatGPTのようなモデルが生成するテキストに、不公平、偏った、または歪んだ視点が存在することを意味します。

これらの偏見は、最終的には、AI自体に有害で、AIの潜在能力を活用する可能性を低下させます。スタンフォード大学の最近の研究は、ChatGPTのようなLLMが、信頼性の高い、偏見のない、正確な回答を提供する能力が低下していることを確認しました。

この問題の核心にあるのは、人間の偏見がAIにどのように翻訳されるかです。AIの開発に使用されるデータには、人間の偏見が深く根付いています。しかし、これは表面的な問題よりも深い問題です。

偏見の原因

偏見の最初の原因は簡単に特定できます。モデルが学習するデータは、しばしば固定観念や既存の偏見で満たされています。したがって、AIは、これらの偏見を永続させることになります。なぜなら、これがAIが知っていることだからです。

しかし、2番目の原因はより複雑で、直感に反するものです。また、AIをより倫理的で安全にするための努力に影響を与えるものです。AIが無意識に有害になる明らかな例があります。たとえば、誰かがAIに「爆弾を作る方法は？」と聞き、モデルが回答を与えると、有害な結果を生み出すことになります。反対に、AIに制限を加えると、AIの学習を妨げることになります。人間が設定した制限により、AIはより広範なデータから学習する能力が制限され、無害な状況での有用な情報を提供する能力が低下します。

また、多くの制限は人間によって設定されるため、偏っている可能性があります。したがって、AIの開発をこれらの垂直方向に制限すると、進歩を妨げ、AIの利用を、規制を行う人々が受け入れられるもののみに限定することになります。

結果を予測できないこと

LLMに制限を加えることの結果を完全に理解していません。したがって、予期せぬ結果をもたらす可能性があります。GPTのようなモデルには、現在のツールでは予測できない数多くのパラメーターが含まれています。私の見解では、ニューラルネットワーク自体をトレーニングするよりも、影響を理解するのに時間がかかるでしょう。

したがって、これらの制限を加えると、予期せぬ結果や偏見を生み出す可能性があります。これは、AIモデルが多数のパラメーターを持つ複雑なシステムであるため、1つのパラメーターを変更すると、予測できない方法で全体のモデルに影響を及ぼすからです。

AIの「倫理性」を評価することの難しさ

AIが倫理的であるかどうかを評価することは、実際には不可能です。AIは、特定の意図を持って行動する人間ではありません。AIは、Large Language Modelであり、性質上、より倫理的または非倫理的ではありません。DeepMindの研究が明らかにしたように、重要なのは、AIが使用されるコンテキストです。AI自体の倫理性ではなく、人間の倫理性を評価することになります。AIに道徳的指針があると考えることは、幻想です。

1つの潜在的な解決策は、AIが倫理的な決定を下すのに役立つモデルを作成することです。しかし、現実は、倫理の数学モデルがどのように機能するかについては、まだ何もわかっていません。もし私たちがそれを理解していないのであれば、それを構築する方法についても何もわかっていません。倫理には、人間の主観性が多く含まれており、それを数量化することは非常に複雑です。

この問題を解決する方法

上記の点に基づいて、AIが倫理的であるかどうかについて話すことはできません。すべての非倫理的な仮定は、データに含まれる人間の偏見のバリエーションであり、人間が自分の目的のために使用するツールだからです。また、AIに制限を加えることによる影響や潜在的な損害についても、まだ多くの科学的未知があります。

したがって、AIの開発を制限することは、実行可能な解決策ではありません。上記の研究では、制限がLLMの低下の一因であることを示しています。

これを考慮して、何ができるでしょうか?

私の見解では、解決策は透明性にあります。AIの開発で、オープンソースモデルが普及していた時代に戻ることができれば、より良いLLMを共同で構築し、倫理的な懸念を軽減できるのではないかと思います。そうでなければ、閉じたドアの裏で何が行われているのかを十分に監査することは非常に難しいです。

この点で注目すべき取り組みは、スタンフォードHAI（Human-Centered Artificial Intelligence）が最近発表したベースラインモデル透明性指数です。この指数は、最も広く使用されているAIモデルの開発者が、自分の仕事とシステムの使用方法について十分な情報を開示しているかどうかを評価しています。これには、パートナーシップやサードパーティ開発者に関する開示、また個人データの使用方法も含まれます。評価されたモデルのどれもが高いスコアを獲得できなかったことは、実際的な問題があることを示しています。

結局、AIはLarge Language Modelに過ぎません。オープンで実験が可能であるという事実が、科学のあらゆる分野で新しい画期的な発見を可能にするでしょう。しかし、透明性がなければ、人間の利益のために機能するモデルを設計することは非常に難しく、モデルが不適切に利用された場合に起こり得る損害の範囲を知ることも難しいでしょう。