高度でないAIでも、人間が書いたと見分けのつかないニュースを作れる時代に

新しい研究によると、小規模なローカルAIモデルでも、人間が書いた記事と見分けがつかない記事を書くことができることがわかった。最先端のシステムと同じレベルで、読者は誰が書いたか判断することができない。

ドイツとフランスの共同研究によると、人間はAIが書いた記事か人間が書いた記事か判断することができない。ダウンロードして比較的一般的な消費者向けデスクトップコンピューターで実行できるオープンソースモデルが書いた場合でも、見分けられないという。

また、小規模なAIが台頭していることを示す別の指標として、2,318件の判断と1,054人の参加者を集めた学術研究ポータルでは、人間の読者は、わずか70億パラメーターという比較的小規模なモデルが出力した記事でも、その出所を偶然の水準を超えて識別できないことがわかった。MistralやLlamaの派生モデルも含まれる。

テストされたLLMの平均ソースと真実性スコア。GPT-4oの2000億パラメータは、小規模モデルの70億パラメータを大幅に上回るわけではない。テストされたモデルは、Gemma 7B、Phi-3 Mini、LLaMA-2 13B、Mistral 7B、GPT-4o、GPT-3.5である。 ソース

研究者たちは、2024年に最初に調査したテーマに戻っている。 リリース 祝福か呪いか？ジェネレーティブAIのフェイクニュースへの影響に関する調査。発見そのものは、当初1月に発表された大規模プロジェクトの新しく発表された結果であり、研究者たちの独自の JudgeGPT オンライン参加フレームワークを使用している。

軽量化されたパワー

「人間は判断できるか？LLM生成ニュースの人間の認識に関する二軸研究」というタイトルのこの研究は、フランクフルト応用科学大学とナントのIRISA研究ユニットの3人の研究者によって行われた。新しい研究は、「フェイクニュース」と「AIが書いたニュース」（フェイクニュースは人間によって書かれることも、AIによって書かれることもあり、両者は同義ではない）という2つの概念を区別する重要な違いを示している。

しかし、おそらく最も興味深いのは、この論文の結論である。7Bパラメーターのみで、Mistral 7BやGemma 7Bのような小規模モデルは、2000億パラメーターのチャットGPTモデル（4o）と対等に戦うことができるということである。

‘オープンウェイトモデルのパラメータ数が7Bでさえ、GPT-4oの出力と同じように評価されるテキストを生成することができる。つまり、人間と見分けがつかないテキストを生成する能力は、最先端のモデルに限定されていない。

しかし、「AI生成ニュース」は、スペルチェックからキャリアを終わらせかねない全面的な労力の委任まで、さまざまな人間とAIのコラボレーションを表すことができる。この研究では、テストに使用されたAIコンテンツの種類については明確にしていない（ただし、生成方法については以下で説明する）。

方法

JudgeGPTプラットフォームに参加した参加者は、各ニュース断片について、二軸の枠組みの中で、連続した0-100スライダーで3つの独立した評価を行った。

評価者がソースの帰属、真実性、トピックの熟知度を評価するJudgeGPTポータルのGUI。ソースペーパーを参照してください。

ソースの判断は、文章が機械によって書かれたか人間によって書かれたかを捉えるものでした。真実性の判断は、文章が偽物か本物かを捉えるものでした。トピックの熟知度は、読者がテーマにどれだけ詳しかったかを捉えるものでした。

連続スケールは、リッカート尺度の代わりに、確実性の度合いをより正確に捉えるために使用されました。また、ピアソン相関やクラスタリングなどの統計分析にも対応できます。

機械生成テキストフラグメントは、研究者たちの独自の RogueGPTフレームワーク によって生成されました。RogueGPTは、JudgeGPTのフィーダーアーキテクチャです。RogueGPTは、6つの大規模言語モデル（LLM）からの貢献を調整します： ChatGPT-4； ChatGPT-3.5； ChatGPT-4o； LLaMA-2 13B；Gemma 7B；およびMistral 7B。

パーソナベースのプロンプティングが使用され、AI生成は現実のニューストピックに基づいており、人間によって事実確認されました。

一方、人間が書いたフラグメントは、確立されたニュース媒体と、具体的に示されていない情報データベースからサンプリングされました。

研究者たちは以下のように述べています：

‘刺激セットは、機械起源の断片（約98％）に意図的に偏っています。人間が書いた項目は校正の基準として機能します。

‘この設計選択は、人間とAIの比較ではなく、AI内の変動（モデル間）に焦点を当てていることを反映しています。参加者には基準率が知らされず、人間起源のサブセットのみを分析した場合でも、ほぼ偶然の水準の検出結果が得られます。 ‘

参加者は、まずインフォームドコンセントを与え、年齢、教育、政治的志向、AIへの熟知度に関するデモグラフィッククエスチョンに答えた後、ニュースフラグメントのシーケンスを評価しました。

各人は5〜87アイテムをレビューし、中央値は12でした。プレゼンテーションの順序はランダム化され、モデル割り当ては参加者間でバランスが取られ、偏りの可能性を減らすために行われました。プラットフォームは、レスポンスタイムと匿名識別子とともに、3つのスライダーレイティングを記録しました。これにより、個々の判断が背景要因とリンクすることができました。

研究者たちは、標本が高学歴の欧州の参加者に偏り、68％が大学教育を受け、74％が欧州在住であることを指摘しており、これはより広範な一般化の制限であると論文では述べられています。

テスト

テストは、5つの発見のタイプに分けられます。機械生成テキストと人間が書いたテキストを区別すること、異なるLLM間の検出の比較、ドメインの専門知識と政治的志向が精度に与える影響の検討、参加者の間で異なる応答戦略の特定、繰り返し評価での精度の変化の追跡（疲労によるもの）：

1,054人の参加者から2,318件の判断の5つの主要な発見の要約。人間のAIが書いたテキストの検出はすべてのモデルで偶然の水準に留まり、精度は政治的志向よりも分野の専門知識と関連することが示され、参加者は2つの信頼プロファイルに分かれ、認知的疲労により約30回の評価後にパフォーマンスが低下することが示された。

テストでは、条件間の出典スコアに偶然の水準を超える有意差は認められず、参加者はAI生成テキストと人間が書いたテキストを区別できないように見受けられました。

機械起源と人間起源のフラグメントのソースと真実性スコアの分布。2つの条件間で有意差はなく、統計的テストではAI生成テキストと人間が書いたテキストを信頼性を持って区別することができない。

2つ目の側面では、記事冒頭のグラフが示すように、検出の失敗はモデルによって変化しないことを示しています。すべてのLLMの出力は、偶然の水準の判断を示すクラスターを形成し、モデル間に有意差はありません。Mistral 7BやGemma 7Bのような小規模なオープンウェイトシステムは、GPT-4oと同等に評価され、人間の文章と見分けがつかないテキストは、もはや最大規模のモデルに限定されない可能性があることを示しています。

3つ目の側面では、精度はドメインの専門知識によってより強く予測され、政治的志向は有意差を示しませんでした。フェイクニュースに精通していることが、両方の軸で精度の向上と関連していました。学習によって身につけた分析能力は、イデオロギーより重要かもしれません。

3つ目の調査線に関する結果。参加者の背景要因と判断精度の相関関係は、政治的志向がソース帰属または真実性スコアリングに有意な影響を与えないことを示しています。一方、フェイクニュースへの熟知度は、両方の軸で精度の向上と関連しています。政治的志向には弱く統計的に有意でない傾向しか見られず、経験に基づく分析能力が思想的立場よりも強く成績を予測することを示唆します。より高解像度の図は原論文を参照してください。

4つ目の発見では、参加者は、コンテンツの起源に関係なく低い信頼を割り当てる「懐疑者」と、より高い信頼の基準を維持する「信頼者」という2つの異なる応答スタイルに分かれました。

最後に、5つ目の目的では、連続的な判断のローリング分析により、参加者は最初の約15〜20の評価でタスクに適応し、精度が向上することが示されました。

参加者の評価のシーケンスを通したソース帰属と真実性スコアのローリング平均。ユーザーはタスクに適応し、最初の15〜20アイテムで短期的な改善が見られるが、その後約30回の評価後に両方の尺度でパフォーマンスが低下する。デフォルトレスポンスへの低下は、認知的疲労と解釈される。ソースペーパーを参照してください。

しかし、この効果は短期間で終了し、約30アイテム後にパフォーマンスが低下し、参加者はコンテンツを偽物としてラベル付けする傾向にありました。この変化は認知的疲労と解釈され、検出に基づく手法が実際に有効であり続けられる時間には明確な限界があることを示唆します。

これは、フェイクニュースと本物のニュース、AIが書いたニュースと人間が書いたニュースを区別することに疲れると、安全側に立つために、ニュースはAI生成または偽物だと初めから想定する傾向があるかもしれないことの実証的根拠になり得ます。AI生成と偽物は必ずしも同じ意味ではありません。これを怠慢と考え、疑わしいニュースを確認するために自分で調べるべきだと考える人は、2024年の研究がそれは問題を悪化させるだけだと示したことに関心を持つかもしれません。

研究者たちは、結果から導かれる人間の判断の失敗は、こうした問題を暗号技術による出所証明技術に委ねる必要があるかもしれないことを示唆しており、Adobeが主導する C2PAイニシアチブ などがその例である。他の可能な解決策として、研究者たちの独自の OriginLens フレームワークや、研究者たちも関与するCRED-1という別のプロジェクトが挙げられる。

研究者たちは以下のように結論付けます：

‘人間は判断できるか？私たちの二軸研究は、2,318件の判断と6つのLLMファミリーを通じて明確な実証的な答えを提供します。人間は判断できない。

‘機械生成テキストは、モデルサイズやファミリーに関係なく、人間の書き言葉と区別できない。ドメインの専門知識は政治的志向よりも検出精度を強く予測し、参加者は異なる信頼戦略を採用し、認知的疲労により持続的な検出が制限される。 ‘

‘これらの発見は、ユーザーレベルの検出からシステムレベルの対策への移行を支持しています。コンテンツの出典、適応的な信頼指標、制限付きの予防接種介入が含まれる。

結論

この論文で気になるのは、研究者たち、あるいは仕事によってはその一部が立ち上げたり関与したりしているプロジェクトや論文が、周囲に支援のネットワークを形成している点です。これらの結果を生んだAIと人間の文章サンプルを調べられれば、記載された生成方法が実際にどのような文章を生むのかを理解するうえで、きっと参考になったでしょう。

しかし、オープンウェイト、オープンソースモデルがChatGPTシリーズのようなAPI駆動の大型モデルと比較できるということは興味深いです。もしかすると、この課題はそれほど難しくなく、2000億パラメーターのモデルでは過剰なのでしょうか。この問いに答えるには、提出されたAI生成と人間執筆の文章サンプルについて、もう少し詳しく知る必要があります。

一方、canirun.aiによると、Mistral 7B（テストではChatGPT-4oとほぼ同等）は、16GBのVRAMを搭載したNVIDIA RTX 3080で非常に快適に動作し、6GBのVRAMを搭載した3060でもまずまず動作します。どちらも最新・最高性能のグラフィックスカードではありません*。したがって、サンプル提出のための独自の方法を考えたい人も、こうした実験に参加できそうです。

* Gemma 7Bはサイトにリストされていません。

2026年4月9日木曜日に初めて公開されました