AIモデルとプラットフォーム
LLMのホールュシネーションとは何か？原因、倫理的懸念、予防
Unite.AI を Google の優先ソースに追加
大規模言語モデル（LLM）は、人間のようなテキストを分析および生成する能力を持つ人工知能システムです。しかし、LLMには問題があります。つまり、ホールュシネーション、つまり「ものをでっち上げる」ことです。LLMのホールュシネーションは、研究者がこの分野の進歩について心配する理由となっています。なぜなら、研究者がモデルの結果を制御できない場合、人間に役立つ重要なシステムを構築できないからです。この点については後で詳しく説明します。
一般的に、LLMは膨大な量のトレーニングデータと複雑な学習アルゴリズムを使用して、現実的な出力を生成します。在線学習が使用される場合もあります。LLMは、機械翻訳、感情分析、仮想AIアシスタント、画像注釈、自然言語処理など、さまざまなアプリケーションで人気を博しています。
LLMは最新の技術ですが、まだバイアス、エラー、ホールュシネーションに陥りやすいです。MetaのチーフAIサイエンティストであるYann LeCunは最近、LLMのホールュシネーションを引き起こす中心的な欠陥について言及しました：“大規模言語モデルには、言語が記述する根本的な現実に対する理解がない。そうしたシステムは、文法的にも意味的にも適切なテキストを生成しますが、ただ статист的整合性を満たすこと以外に目的を持っていない”。
LLMのホールュシネーション
Image by Gerd Altmann from Pixabay
ホールュシネーションとは、モデルの出力が文法的にも意味的にも正しいものの、現実から切り離されたものであり、誤った仮定に基づいていることを指します。ホールュシネーションは、LLMの主要な倫理的懸念事項の1つであり、ドメイン知識が不足しているユーザーがこれらの増加する言語モデルに過度に依存し始めるため、有害な結果をもたらす可能性があります。
ある程度のホールュシネーションは、すべての自律的LLMで避けられません。たとえば、モデルは、実際に発言されたことがない有名人の偽の引用を帰属させることができます。彼らは、特定のトピックについて事実的に不正確なものを主張したり、研究論文で実在しない情報源を引用したりして、誤情報を広める可能性があります。
ただし、AIモデルをホールュシネーションさせることは、常に悪影響を及ぼすわけではありません。たとえば、新しい研究によると、科学者は、ホールュシネーションするLLMを使用して、無限の特性を持つ「新しいタンパク質」を発見しています。
LLMのホールュシネーションの原因
LLMは、過剰適合、エンコードおよびデコードのエラー、トレーニングバイアスなどのさまざまな要因によりホールュシネーションを起こす可能性があります。
過剰適合
Image by janjf93 from Pixabay
過剰適合とは、AIモデルがトレーニングデータに過度に適合する問題です。ただし、モデルの予測能力を新しい、未見のデータに一般化できないため、ホールュシネーションを引き起こす可能性があります。
エンコードおよびデコードのエラー
Image by geralt from Pixabay
テキストとその後の表現のエンコードとデコードにエラーがある場合、モデルは無意味で誤った出力を生成する可能性があります。
トレーニングバイアス
Image by Quince Creative from Pixabay
トレーニングデータに特定のバイアスがある場合、モデルは実際のデータの性質ではなく、バイアスを表す結果を生成する可能性があります。これは、トレーニングデータの多様性が不足していることと同様であり、モデルの新しいデータへの一般化能力を制限します。
LLMの複雑な構造により、研究者や実践者がホールュシネーションの根本的な原因を特定、解釈、修正することは非常に困難です。
LLMのホールュシネーションの倫理的懸念
LLMは、ホールュシネーションを通じて有害なバイアスを永続させ、拡大させる可能性があり、ユーザーに悪影響を及ぼし、社会に悪影響をもたらす可能性があります。以下に、最も重要な倫理的懸念事項を示します。
差別的および有害なコンテンツ
Image by ar130405 from Pixabay
LLMのトレーニングデータは、社会的文化的ステレオタイプやバイアスが含まれていることが多いため、LLMは、社会の弱者に対する有害で憎悪的なアイデアを生成し、強化する可能性があります。
人種、性別、宗教、民族性などに基づいて、差別的で憎悪的なコンテンツを生成する可能性があります。
プライバシー問題
Image by JanBaby from Pixabay
LLMは、個人の個人情報を含む大量のトレーニングコーパスでトレーニングされています。モデルが個人情報を漏らすケースもあります。社会保障番号、住所、携帯電話番号、医療情報などの特定の情報を漏らす可能性があります。
誤情報とデザインフォメーション
Image by geralt from Pixabay
言語モデルは、人間のようなコンテンツを生成できますが、実際には誤りで、実証的な証拠によって裏付けられていません。これは、誤情報につながる可能性のある偶発的なものであるか、悪意のある意図によって故意にデザインフォメーションを広める可能性があります。如果もしそれがチェックされない場合、社会的、文化的、経済的、政治的な悪影響をもたらす可能性があります。
LLMのホールュシネーションの予防
Image by athree23 from Pixabay
研究者や実践者は、LLMのホールュシネーションの問題に対処するために、さまざまなアプローチを講じています。トレーニングデータの多様性を高めること、内在的なバイアスを排除すること、より優れた正則化技術を使用すること、対抗学習や強化学習を採用することなどが含まれます。
- ホールュシネーションを対処するための重要なアプローチは、より優れた正則化技術を開発することです。これにより、過剰適合やホールュシネーションを引き起こす他の問題を防ぐことができます。
- データ増強は、ホールュシネーションの頻度を減らすことができます。データ増強では、文の中にランダムなトークンを追加してトレーニングセットを拡張します。これにより、トレーニングセットのサイズが2倍になり、ホールュシネーションの頻度が減少します。
- OpenAIとGoogleのDeepMindは、人間のフィードバックを使用した強化学習（RLHF）という手法を開発しました。これは、ChatGPTのホールュシネーションの問題に対処するために使用されています。人間の評価者がモデル出力を頻繁にレビューし、ユーザープロンプトに対して最も適切なものを選択します。このフィードバックは、モデルの動作を調整するために使用されます。OpenAIのチーフサイエンティストであるIlya Sutskeverは、最近、このアプローチがChatGPTのホールュシネーションを解決する可能性があると述べています：“人間のフィードバックから学習する強化学習を改善することで、ホールュシネーションを教えることができることを私は確信しています”。
- ホールュシネーションを検出して将来のトレーニングに使用するための別の方法は、ホールュシネーションをトークンレベルで検出して、出力の各トークンがホールュシネーションであるかどうかを予測することです。また、ホールュシネーションデテクターの無教師学習方法もあります。
簡単に言えば、LLMのホールュシネーションは、増大する懸念事項です。努力は続けられていますが、まだ多くの作業が必要です。モデルの複雑さにより、ホールュシネーションの根本的な原因を正確に特定、解釈、修正することは非常に困難です。
しかし、継続的な研究と開発により、LLMのホールュシネーションを軽減し、その倫理的影響を減らすことは可能です。
LLMとホールュシネーションを予防するための予防技術についてさらに知りたい場合は、unite.aiを訪れてください。
