AIフィードバックループ：AI生成コンテンツの時代におけるモデル生産品質の維持

本番環境で展開されたAIモデルには、信頼性の高い継続的なパフォーマンス評価メカニズムが必要です。これは、AIフィードバックループが適用される場所であり、モデルパフォーマンスの一貫性を確保します。

イーロン・マスクの言葉を借りてみましょう：

「フィードバックループを持ち、常に何をしているか、そしてどうすればより良くできるかを考えることが非常に重要である。」

すべてのAIモデルについて、標準的な手順は、モデルを展開し、次に最新のリアルワールドデータで周期的に再トレーニングして、パフォーマンスが低下しないことを確認することです。しかし、ジェネレーティブAIの急速な台頭により、AIモデルトレーニングは異常でエラープローンになりました。その理由は、オンラインデータソース（インターネット）が人間生成データとAI生成データの混合物になっているためです。

たとえば、多くのブログでは、LLM（Large Language Modules）であるChatGPTまたはGPT-4を使用したAI生成テキストを特集しています。多くのデータソースには、DALL-E2またはMidjourneyを使用して作成されたAI生成画像が含まれています。また、AI研究者は、ジェネレーティブAIを使用して生成されたシンセティックデータをモデルトレーニングパイプラインで使用しています。

したがって、AIモデルを確実に高品質に保つための強力なメカニズムが必要です。これが、AIフィードバックループの必要性がさらに強調される理由です。

AIフィードバックループとは何か？

AIフィードバックループは、AIモデルの決定と出力が継続的に収集され、同じモデルを強化または再トレーニングするために使用される反復プロセスです。このプロセスでは、AIシステムのトレーニングデータ、モデルパラメータ、アルゴリズムがシステム内で生成された入力に基づいて更新され、改善されます。

主に2種類のAIフィードバックループがあります：

1. ポジティブAIフィードバックループ： AIモデルがユーザーの期待と好みに合った正確な結果を生成する場合、ユーザーはフィードバックループを介して肯定的なフィードバックを提供し、将来の結果の正確性を強化します。这种フィードバックループはポジティブと呼ばれます。
2. ネガティブAIフィードバックループ： AIモデルが不正確な結果を生成する場合、ユーザーはフィードバックループを介して欠陥を報告し、システムの安定性を高めるために欠陥を修正します。这种フィードバックループはネガティブと呼ばれます。

両方のAIフィードバックループは、モデル開発とパフォーマンスの改善を可能にし、時間の経過とともに継続的にモデルを改善します。また、独立して使用または適用されることはありません。両方とも、展開されたAIモデルが何が正しいか、または何が間違っているかを知るのに役立ちます。

AIフィードバックループの段階

AIモデルにおけるフィードバックメカニズムの高レベルなイラスト。 ソース

AIフィードバックループの仕組みを理解することは、AI開発の全潜在能力を解放する上で重要です。以下に、AIフィードバックループの各段階について説明します。

1. フィードバックの収集： 評価のために関連するモデル結果を収集します。通常、ユーザーはモデル結果についてフィードバックを提供し、それが再トレーニングに使用されます。または、システムのパフォーマンスを微調整するために、外部データをウェブからキュレーションできます。
2. モデル再トレーニング： 収集した情報を使用して、AIシステムを再トレーニングして、より良い予測を提供し、回答を提供し、または特定のアクティビティを実行するためにモデルパラメータまたは重みを調整します。
3. フィードバックの統合とテスト： 再トレーニング後、モデルは再びテストおよび評価されます。この段階では、問題を強調するために、ドメインの専門家からのフィードバックも含まれます。
4. 展開： 変更を確認した後、モデルは再展開されます。この段階では、モデルは新しいリアルワールドデータでより優れたパフォーマンスを示す必要があり、ユーザーエクスペリエンスが向上します。
5. 監視： モデルは、ドリフトなどの潜在的な低下を特定するために、継続的にメトリックを使用して監視されます。すると、フィードバックサイクルが続きます。

本番データとAIモデル出力の問題

ロバストなAIシステムを構築するには、本番データ（リアルワールドデータ）とモデル出力の潜在的な問題を理解する必要があります。以下に、AIシステムの精度と信頼性を確保する上で障害となるいくつかの問題を示します。

1. データドリフト： モデルがトレーニングデータの分布と異なる分布からのリアルワールドデータを受け取るようになったときに発生します。
2. モデルドリフト： モデルの予測能力と効率が、変化するリアルワールド環境のために時間の経過とともに低下することを指します。これはモデルドリフトとして知られています。
3. AIモデル出力とリアルワールドの決定： AIモデルは、リアルワールドの利害関係者の決定と一致しない不正確な出力を生成します。
4. バイアスと公平性： AIモデルは、バイアスと公平性の問題を開発する可能性があります。たとえば、Janelle ShaneのTEDトークでは、アマゾンが性別の差別のために履歴書の整理アルゴリズムの開発を停止したことを説明しています。

AIモデルがAI生成コンテンツでトレーニングを開始すると、これらの問題はさらに増大する可能性があります。どうしてでしょうか？詳しく説明しましょう。

AI生成コンテンツの時代におけるAIフィードバックループ

ジェネレーティブAIの急速な採用の波に乗って、研究者はモデル崩壊（Model Collapse）と呼ばれる現象を研究しました。モデル崩壊とは、「学習された生成モデルの一連の世代で発生する退行的プロセスであり、生成データが次のモデル世代のトレーニングセットを汚染し、それらは汚染されたデータでトレーニングされるため、現実を誤って認識します」と定義されています。

モデル崩壊には2つの特殊なケースがあります。

• 初期モデル崩壊 は、「モデルが分布の尾（分布の端）に関する情報を失う」ことです。
• 後期モデル崩壊 は、「モデルが元の分布のさまざまなモードを絡め合わせ、元のものとはほとんど似ていない分布に収束する、変動が非常に小さい」ことです。

モデル崩壊の原因

この問題に対処するには、AIプラクティショナーがモデル崩壊の理由を理解することが重要です。これは、2つの主要なカテゴリに分類できます。

1. 統計近似誤差： これは、有限なサンプル数によって引き起こされる主な誤差であり、サンプル数が無限に近づくにつれて消失します。
2. 関数近似誤差： この誤差は、ニューラルネットワークなどのモデルが、データから学ぶべき真の潜在的な関数を捉えることができないときに発生します。

モデル崩壊の影響を受けた複数のモデル世代のモデル出力の例。 ソース

AI生成コンテンツによるAIフィードバックループへの影響

AIモデルがAI生成コンテンツでトレーニングを開始すると、AIフィードバックループに破壊的な影響を及ぼし、再トレーニングされたAIモデルに多くの問題を引き起こす可能性があります。たとえば：

• モデル崩壊： 上記で説明したように、モデル崩壊は、AIフィードバックループがAI生成コンテンツを含む場合に発生する可能性があります。
• カタストロフィックフォゲッティング： 継続的な学習における一般的な課題は、モデルが新しい情報を学習するときに前のサンプルを忘れることです。これはカタストロフィックフォゲッティングとして知られています。
• データ汚染： 操られたシンセティックデータをAIモデルに与えてパフォーマンスを妥協させることを指します。

企業がAIモデルに強力なフィードバックループを作成する方法

企業は、AIワークフローにフィードバックループを使用することで利益を得ることができます。以下の3つの主要なステップに従って、AIモデルのパフォーマンスを向上させます。

• ドメインの専門家からのフィードバック： ドメインの専門家は、ドメインに関する深い知識とAIモデルの使用に関する理解を持っています。彼らは、モデルをリアルワールドの設定に合わせて調整するための洞察を提供できます。また、AI生成データをより適切に管理および管理することもできます。
• 関連するモデル品質メトリックの選択： タスクに適した評価メトリックを選択し、モデルの品質を確保するためにこれらのメトリックに基づいてモデルのパフォーマンスを監視します。AIプラクティショナーは、MLOpsツールを使用して、モデルのパフォーマンスが本番環境で低下し始めたときにすべての利害関係者に警告する自動評価と監視を実行します。
• 厳格なデータキュレーション： モデルは新しいデータで再トレーニングされるにつれて、過去の情報を忘れる可能性があります。したがって、モデルの目的と一致する高品質のデータをキュレーションすることが重要です。このデータは、ユーザーのフィードバックとともに、後の世代でモデルを再トレーニングするために使用できます。

AIの進歩についてもっと知りたい場合は、Unite.aiを訪問してください。