AIモデルとプラットフォーム
LLMのハルシネーションとは?原因、倫理的懸念と予防
要点ヤン・ルカンは、LLMが幻覚を起こすのは、根底にある現実の理解が欠けているからだと述べている。
もっと見る
- ヤン・ルカンは、LLMが幻覚を起こすのは、根底にある現実の理解が欠けているからだと述べている。
- 幻覚は、偽の引用、誤った事実、存在しない情報源を通じて誤情報を広める可能性がある。
- OpenAIとDeepMindは、人間のフィードバックを用いた強化学習を活用して、ChatGPTの幻覚を減らしている。
大規模言語モデル(LLM)は、人間のようなテキストを分析および生成する能力を持つ人工知能システムです。しかし、LLMには問題があります。つまり、ハルシネーション、つまり「ものをでっち上げる」ことです。LLMのハルシネーションは、研究者がこの分野の進歩について心配する理由となっています。なぜなら、研究者がモデルの結果を制御できない場合、人間に役立つ重要なシステムを構築できないからです。この点については後で詳しく説明します。
一般的に、LLMは膨大な量のトレーニングデータと複雑な学習アルゴリズムを使用して、現実的な出力を生成します。わずかな例だけでモデルを学習させる文脈内学習が使われる場合もあります。LLMは、機械翻訳、感情分析、仮想AIアシスタント、画像注釈、自然言語処理など、さまざまなアプリケーションで人気を博しています。
LLMは最新の技術ですが、まだバイアス、エラー、ハルシネーションに陥りやすいです。MetaのチーフAIサイエンティストであるYann LeCunは最近、LLMのハルシネーションを引き起こす中心的な欠陥について言及しました:“大規模言語モデルには、言語が記述する根本的な現実に対する理解がない。そうしたシステムは、文法的にも意味的にも適切なテキストを生成しますが、ただプロンプトとの統計的整合性を満たすこと以外に目的を持っていない”。
LLMのハルシネーション

Image by Gerd Altmann from Pixabay
ハルシネーションとは、モデルの出力が文法的にも意味的にも正しいものの、現実から切り離されたものであり、誤った仮定に基づいていることを指します。ハルシネーションは、LLMの主要な倫理的懸念事項の1つであり、ドメイン知識が不足しているユーザーがますます説得力を増すこれらの言語モデルに過度に依存し始めるため、有害な結果をもたらす可能性があります。
ある程度のハルシネーションは、すべての自己回帰型LLMで避けられません。たとえば、モデルは、実際に発言されたことがない有名人の偽の引用を帰属させることができます。彼らは、特定のトピックについて事実的に不正確なものを主張したり、研究論文で実在しない情報源を引用したりして、誤情報を広める可能性があります。
ただし、AIモデルをハルシネーションさせることは、常に悪影響を及ぼすわけではありません。たとえば、新しい研究によると、科学者は、ハルシネーションするLLMを使用して、無限の特性を持つ「新しいタンパク質」を発見しています。
LLMのハルシネーションの原因
LLMは、過剰適合、エンコードおよびデコードのエラー、トレーニングバイアスなどのさまざまな要因によりハルシネーションを起こす可能性があります。
過剰適合

Image by janjf93 from Pixabay
過剰適合とは、AIモデルがトレーニングデータに過度に適合する問題です。ただし、モデルの予測能力を新しい未見のデータに一般化できないため、ハルシネーションを引き起こす可能性があります。
エンコードおよびデコードのエラー

Image by geralt from Pixabay
テキストとその後の表現のエンコードとデコードにエラーがある場合、モデルは無意味で誤った出力を生成する可能性があります。
トレーニングバイアス

Image by Quince Creative from Pixabay
トレーニングデータに特定のバイアスがある場合、モデルは実際のデータの性質ではなく、バイアスを表す結果を生成する可能性があります。これは、トレーニングデータの多様性が不足していることと同様であり、モデルの新しいデータへの一般化能力を制限します。
LLMの複雑な構造により、研究者や実践者がハルシネーションの根本的な原因を特定、解釈、修正することは非常に困難です。
LLMのハルシネーションの倫理的懸念
LLMは、ハルシネーションを通じて有害なバイアスを永続させ、拡大させる可能性があり、ユーザーに悪影響を及ぼし、社会に悪影響をもたらす可能性があります。以下に、最も重要な倫理的懸念事項を示します。
差別的および有害なコンテンツ

Image by ar130405 from Pixabay
LLMのトレーニングデータは、社会的文化的ステレオタイプやバイアスが含まれていることが多いため、LLMは、社会的に不利な立場にある集団に対する有害な考えを生成し、強化する可能性があります。
人種、性別、宗教、民族性などに基づいて、差別的で憎悪的なコンテンツを生成する可能性があります。
プライバシー問題

Image by JanBaby from Pixabay
LLMは、個人の個人情報を含む大量のトレーニングコーパスでトレーニングされています。モデルが個人のプライバシーを侵害した事例もあります。社会保障番号、住所、携帯電話番号、医療情報などの特定の情報を漏らす可能性があります。
誤情報と意図的な偽情報

Image by geralt from Pixabay
言語モデルは、人間のようなコンテンツを生成できますが、実際には誤りで、実証的な証拠によって裏付けられていません。これは、誤情報につながる可能性のある偶発的なものであるか、悪意のある意図によって故意に意図的な偽情報を広める可能性があります。これを放置すると、社会的、文化的、経済的、政治的な悪影響をもたらす可能性があります。
LLMのハルシネーションの予防

Image by athree23 from Pixabay
研究者や実践者は、LLMのハルシネーションの問題に対処するために、さまざまなアプローチを講じています。トレーニングデータの多様性を高めること、内在的なバイアスを排除すること、より優れた正則化技術を使用すること、対抗学習や強化学習を採用することなどが含まれます。
- ハルシネーションを対処するための重要なアプローチは、より優れた正則化技術を開発することです。これにより、過剰適合やハルシネーションを引き起こす他の問題を防ぐことができます。
- 研究によれば、データ拡張はハルシネーションの頻度を減らせます。データ増強では、文の中にランダムなトークンを追加してトレーニングセットを拡張します。これにより、トレーニングセットのサイズが2倍になり、ハルシネーションの頻度が減少します。
- OpenAIとGoogleのDeepMindは、人間のフィードバックを使用した強化学習(RLHF)という手法を開発しました。これは、ChatGPTのハルシネーションの問題に対処するために使用されています。人間の評価者がモデル出力を頻繁にレビューし、ユーザープロンプトに対して最も適切なものを選択します。このフィードバックは、モデルの動作を調整するために使用されます。OpenAIのチーフサイエンティストであるIlya Sutskeverは、最近、このアプローチがChatGPTのハルシネーションを解決する可能性があると述べています:“人間のフィードバックから学習する強化学習を改善することで、ハルシネーションを起こさないように教えられるのではないかと、大いに期待しています”。
- ハルシネーションを検出して将来のトレーニングに使用するための別の方法は、新しい手法でハルシネーションをトークンレベルで検出して、出力の各トークンがハルシネーションであるかどうかを予測することです。また、ハルシネーションデテクターの無教師学習方法もあります。
簡単に言えば、LLMのハルシネーションは、増大する懸念事項です。努力は続けられていますが、まだ多くの作業が必要です。モデルの複雑さにより、ハルシネーションの根本的な原因を正確に特定、解釈、修正することは非常に困難です。
しかし、継続的な研究と開発により、LLMのハルシネーションを軽減し、その倫理的影響を減らすことは可能です。
LLMとハルシネーションを予防するための予防技術についてさらに知りたい場合は、unite.aiを訪れてください。













