AIは読んだことすらないウェブページを頻繁に引用する

その日の論文発表を追っていると、ときにひどく腹立たしくなる論文が出てくる。内容が不正確だったり不快だったりするからではない。長いあいだ意識の片隅で漠然と、はっきりしない形で気になっていたこと（おそらく、何もせず無視するしかないほど忙しかったためだろう）に目を向け、研究しているからだ。

本日、Imperial College Londonのコンピューティング学部に所属する3人の著者による、論文が発表された。タイトルは取得しても読まない：検索拡張型大規模言語モデルが利用可能な証拠を活用できない理由を理解する。この新たな研究は、大規模言語モデル（LLM）が、根拠としてURLを頻繁に提示する（無関係な論文の引用や、根拠のないウェブ記事へのリンクなど）一方で、それらを読むことすらしないのはなぜかを調べている。

著者らは次のように述べている。

「モデルは、出典ページを開かずに検索スニペットをもとに回答することが多く、その場合、古い回答や不誠実な引用の割合が高くなることが分かった。対照実験と層ごとの分析から、証拠が利用可能であることと、それが実際に活用されることの間に隔たりがあると明らかになった。

「取得した証拠が内部の予測に影響を与えている場合でも、モデルは最終回答で古い情報を優先することがある。」

著者らは、独自開発のLLMであるOpenAIのGPT-5.6 Lunaと、オープンウェイトモデルの6種類の構成を対象に、各モデルの学習データのカットオフ以降に変化した数百件の事実について検証した。

続いて、システムが出典ページを開く代わりに検索スニペットにどの程度依存していたか、それが回答や引用の正確性にどう影響したか、さらに、新しい証拠が直接提示されていても古い情報が優先されることがあるのはなぜかを調べた。

テストでは、モデルがウェブ検索で表示されたページを一つも開かずに質問に回答することが頻繁にあり、こうした行動は、古い回答や誤解を招く引用の割合が大幅に高いことと関連していると分かった。

AIモデルがウェブ上の情報源を実際には読まずにどれほど頻繁に引用するかを明らかにしたテスト結果。研究者らは8種類の構成について、回答の正確性、出典ページを開かずに検索スニペットに依存する度合い、モデルの主張と矛盾する引用を測定した。検索の半数以上で、ページが一つも開かれなかった。数値はすべてパーセントで、最初の行はリアルタイムのウェブ検索を使用し、それ以外の行は標準化された検索結果を使用している。 出典

研究者らはまた、正しい証拠を直接提示すると、こうした失敗を大幅に減らせることも確認した。ただし、新しい事実を目の前に直接提示されても、古い情報を優先し続けるモデルもあった。

隠れた動機？

LLMが「正しそうに聞こえる」ものの、実際には関連性のない資料を根拠として頻繁に提示する理由として、最も分かりやすいものは2つある。a）実際の資料から概要をダウンロードして読むだけでも、帯域幅と時間が必要であり、そもそも資料を入手できない場合もあるため、コストを節約できる。b）遅延を抑えられる。より良い回答を少し待たせるよりも、間違った、あるいは半ば間違った回答を素早く返すほうがよいかのように振る舞うのだ。

しかし、新たな研究の著者らがより関心を寄せているのは、こうした質の低下の根本的な仕組みを明らかにすることであり、それが当初どのように設計されたのか、あるいはあらかじめ想定されていたのかを探ることではない。

これまで、最先端モデルとLLMの規模の経済について議論してきた経験からすると、予想どおり、あらかじめ定められた防御的な反応が返ってくるとしか思えない。

少なくとも私には、LLMの引用行動をこのように利用する経済的な理屈は理解できる。しかし、実際の技術はまだほとんど解明されておらず、絶えず変化し、予測しにくい結果を生みやすいため、現時点でそうした動機を立証するのは難しい。

方法

モデルがウェブ上の証拠を実際にどれほど適切に活用するかを検証するため、研究者らは、対象モデルのうち最も新しい学習データのカットオフとして報告されていた2026年2月16日以降に変化した事実を225件集めた。

事実の内訳は、FDAの医薬品情報（62件）、金融（52件）、スポーツ（47件）、人物（43件）、SEC提出書類（13件）、化学物質の分類（8件）だった。カットオフまでにすでに変更が実施されていたもの、または2月1日より前に発表されていたものは除外した。また、一般知識から回答できる医療上の主張も除外した。変更されていない事実も対照として用い、新しい情報に関する失敗と、より一般的な誤りとを区別できるようにした。

基準値を確立するため、GPT-5.6 Lunaをウェブ検索を利用できない状態でテストしたところ、変更された事実に関する103問のうち、正解できたのはわずか23.3%だった。

前述のデータセットに含まれるFDAの表示文言の条項を、個別に検証可能な事実の記述に書き換えるため、特定されていないAIモデルが使用された。その後、それぞれの記述を手作業で確認した*。

テストしたオープンウェイトモデルの構成は、Z.aiのGLM-5.3-Flash、OpenAIのgpt-oss-120bとgpt-oss-20b、推論機能の有無を変えてテストしたGoogle DeepMindのgemma-4-31b、そしてQwenのqwen3-8bだった。

オープンウェイトモデルとGPT-5.6 Lunaには同じウェブ検索結果を提示し、応答を公平に比較できるようにした。また、Lunaについては、内蔵のウェブ検索を使ったテストも別途実施した。

225件の事実のうち223件について、あらかじめBrave Searchを使って検索結果を10件ずつ収集した。すべてのモデルに同じ検索結果を提示し、同一のツールを使ってページを開いたり、ページ内を検索したりできるようにした。

「正しい」答えを含むページは、必ず利用できるようにした。そのページが自然に検索結果の上位10件に含まれていた場合は順位を変えず、含まれていなかった場合は、あらかじめ決めた順位に挿入した。これにより、研究者は、比較可能な条件のもとでモデルが利用可能な証拠をどのように活用するかを調べることができた。

テストの一貫性を高めるため、この設定に対応するモデルではtemperature（温度）をゼロに設定し、実験全体を通じて各モデルを同じプロバイダー経由で実行した。

プロンプトの形式

事実を検証するために使われた2つのプロンプトのうち、1つ目は、たとえば「Bernardo Silvaはどのクラブでプレーしていますか？」といった自由回答形式の質問で、出典を求める場合と求めない場合がありました。2つ目は、現行の情報か古い情報のいずれかを含む記述について、モデルに検証を求めるものでした。これにより研究者は、それぞれのバージョンがどのように扱われるかを比較できました。

全体の結果には、追加で4種類のプロンプトを使用した。手がかりを含む自由形式の質問、引用を求める依頼、提示された主張を裏付ける出典の提示を求める依頼、そして複数の正しい記述の中から古い情報を含む記述を1つ特定するようモデルに求めるファクトシートの確認である。

サッカー選手ベルナルド・シウバに関する質問や主張をもとに、モデルのテストに実際に使用したプロンプトの例。表では、同じ事実関係を、回答、検証、引用、出典提示を求めるさまざまな形式で示している。すべてのプロンプトは2026年8月8日の日付から始まり、その大半は、表の下にあるアルファベット付きの指示で定められた、統一形式での最終回答を求めていた。

すべてのプロンプトに日付が指定されており、その大半は、「検証できません」という回答を認める固定形式での回答を求めていた。この形式により、人間やLLMによる判定を必要とせずに結果を採点できた。

使用した指標は、読解の深さ（情報源のページを開いて引用したかどうか）、回答の正確性（回答を差し控えたケースを除く正解率）、引用の忠実性（引用したページがモデルの主張と矛盾していないかどうか）だった。

可能な範囲で採点を自動化し、特定されていないLLMが出典の正当性を認めるのは、アーカイブされたページにある正確な一節によって裏付けられる場合に限った。解釈を要する否定的な判定は人間の評価者に委ねた。また、変更のない対照用の事実を使って、各モデルの引用エラー率の基準値を設定した。

結果

初期テスト（本記事の冒頭で紹介）では、ウェブ検索を利用することで、モデルが質問に正しく答える能力が向上した。事実の記述が正確かどうかを確認するテストでは、スコアが27～42パーセントポイント上昇した。質問に直接回答するテストでは、正解率は85.8～95.4%だった。

しかし、多くの回答は、モデルが検索で見つかったウェブサイトを実際に訪問しないまま生成されていた。代わりに、検索結果の横に表示される短いテキストの抜粋を頼りにしていた。同じ検索結果を与えた場合でも、ページが一度も開かれなかった検索の割合は、モデルによって2.6%から76%まで幅があった。

この点で、GPT-5.6 Lunaの対応は、特に手抜きが目立った。

「同じ検索結果を与えた場合、モデルは検索の2.6～76.0%でページを一切開かずに回答する。Lunaは標準の検索機能を使った場合、検索結果の抜粋だけをもとに、53.6%のケースで回答する。」

検索結果をモデルがどの程度詳しく調べたかに応じて、古い回答と誤解を招く引用を比較したテスト結果。 スニペットはウェブページを開かなかったこと、閲覧済みはページを開いたものの引用しなかったことを意味する。引用ありは、開いたページを引用したことを意味する。数値はすべて、7つのモデル構成とすべてのプロンプト形式をまとめた割合である。モデルが検索スニペットだけに頼った場合、誤りは概して多かった。

7つのモデル構成全体では、スニペットだけに基づく回答の6.4%が古い情報だったのに対し、ページを開いて引用した場合は1.3%だった。上記のとおり、誤解を招く引用も、6.4%対2.3%で、前者のほうが多かった。スポーツに関する質問では、オープンウェイトモデルの古い回答の割合は20.2%に達し、2.1%を大きく上回った。回答が古い情報だった場合、その主張を裏付ける引用の81.8%が主張と矛盾していた。一方、最新の回答では、矛盾する引用はわずか0.9%だった。ファクトシートを用いたテストでも同様の傾向が見られた。

つまり、調査対象となったAIモデルは、実際のウェブページを読む代わりに検索結果に表示された短い説明を頼りにすると、誤った回答をする可能性が高くなるということだ。さらに悪いことに、回答が間違いであることを証明するページへのリンクを示すことさえある。

共通する失敗

今回のテスト対象が集団として例外的なケースでない限り、クローズドモデルもオープンソースモデルも、ほかのモデルが同じ問題の影響を受けていると考えるのが妥当だろう。実際、GPT-5.6 Lunaの実際のウェブ検索で確認された9種類の失敗のうち7種類は、ほかのモデルを同じ固定された検索結果でテストした際の失敗と有意に関連していた。このことは、問題がLunaに限られないことを示唆している。

正しいWikipediaのページを直接提示すると、古い回答が減少した。失敗数はgemma-4-31bで14件から0件に、gpt-oss-20bで11件から1件に、qwen3-8bで16件から8件に減った。また、ページを開くたびに元の質問を繰り返すことで、以前は失敗していたファクトシートのチェックの26.1%が正解に変わった。

gemma-4-31b、gpt-oss-20b、qwen3-8bが、さまざまな条件下で古い主張をどの程度受け入れたかを示す結果。同じ証拠を提示しない場合、プロンプト内で直接提示する場合、検索結果から入手できるようにする場合を比較し、別途、裏付けとなる情報源を求めるテストも実施した。モデル自身に探させるよりも、正しいページを直接提示するほうがはるかに効果的だった。数値は、テスト総数に対する失敗数を示す。

クラブのルール

最後に、AIが正しい情報を無視することがある理由をより深く理解するため、研究者たちは、所属クラブを移籍したサッカー選手を題材に、3つのオープンウェイトモデル（gpt-oss-20b、gemma-4-31b、qwen3-8b）をテストした。

各モデルに、選手の所属クラブに関する古い情報を与え、場合によっては正しいWikipediaのページも併せて提示したうえで、処理中にどちらの回答を優先するかを調べた。

その結果、モデルは正しいクラブを認識できるにもかかわらず、それでも誤った回答をすることが分かった。

回答が形成される過程で、qwen3-8bが正しいクラブと古いクラブの情報をどのように比較したかを示すテスト結果。左のグラフは正解したケースで、正しいクラブが優位を保っている。右のグラフは失敗したケースで、処理の最終段階に古いクラブが正しいクラブを上回っている。色のついた領域は、テスト間のばらつきを示す。

qwen3-8bでは、回答が生成される直前まで、正しいクラブが内部的に優位に立つことがあったものの、その後、古いクラブがそれを上回った（上図参照）。gpt-oss-20bでも同様の傾向が見られた一方、gemma-4-31bは概して、処理の全過程を通じて「古い」クラブを優先した。

したがって、正しい証拠が利用可能で、モデルがそれを認識していても、最終的な回答では古い情報が優先されることがあるようだ。

結論として著者らは、モデルは検索結果の抜粋に頼るのではなく、取得したウェブページをもっと有効に活用する必要があると示唆している。また、正しい答えを持っているにもかかわらず、モデルが古い情報に固執することがあるのはなぜか、さらに、情報の処理方法を変えれば改善につながるのかを明らかにしたいと考えている。ただし、決定的な解決策は示されていない。

結論

貴重な知見はいくつか示されているものの、この新しい論文は、LLMが引用や参考文献を軽々しく扱う理由を説明していない。利用者として、また自分なりにパターンを分析してきた者として言えば、私が使うLLMは、ほかの……推薦サイトが推薦しているから……？という理由で論文やURLを勧めているように思える。では、その権威性の感覚は実際にはどこから生まれるのだろうか。

実のところ、AI以前の世界でさえ、これは私たちには解決できなかった問題だ。そのため、LLMがコストも応答時間も削減せず、私たちが「真実」だと納得しているのと同じ中国発の噂を広めているだけだと判明しても、おそらく驚くことではない。

* このレビューを誰が実施したのか、論文には記載されていない。

初公開日：2026年10月16日（金）