AI生成テキストは、思った以上に理解しにくい理由

AIモデルは、人間にわかりやすく説明することよりも、効率よく問題を解くことが訓練でますます評価されるようになり、理解しにくくなっている可能性がある。

上記の、手を加えていない一文は、科学論文をELI5向けに一文で要約するようChatGPTに依頼した際に生成されたものだ。そして、その新たな研究*で解説されている、少なくともいくつかの言語を損なう特徴が見られる。この新しい研究は、この問題が最先端モデルすべてに加え、最先端に近いモデルや、検証対象となった一部のオープンウェイトモデルにも影響すると結論づけている。

たとえば、「訓練で、問題を効率よく解くことがますます評価される」という箇所の前半は、AIモデルが時に生きていないものに人間の行為をさせるという論文の指摘を示している（上の例では、「訓練」が何かを積極的に評価していると表現されているため）。

そのため、この表現をすばやく理解しにくくなる。より単純な方法である文字どおりの解釈をするのではなく、例示的な表現だと頭の中で認識する必要があるからだ。

後半の「問題を効率よく解くことがますます評価される」という部分も、複数の考えを詰め込んでいるため、何が評価され、何が解決され、何がより効率的になっているのかを読者が読み解かなくてはならない。

論文には^†次のように記されている。

‘[Readers]有生性を解析時の手掛かりとして用い、追加の文脈がなければ、不一致によって再解析に関連するP600反応^††が誘発される可能性がある。

「しかし、無生物を主語にするのを避けるように文を書き換えると、文が長くなる可能性がある。たとえば、「bites（かみつく）」という語は、「causes an issue（問題を引き起こす）」の代わりに使われている。

「訓練の過程で、モデルは、そうでなければより多くのトークンを必要とする意味を表すために、こうした構文を効率的ではあるものの標準的ではない表現方法として使うようになった可能性がある、と私たちは推測する。」

つまり、どういうこと？

これが論文の核心だ。ChatGPT、Claude、Geminiなどの最新AIモデルは、コミュニケーションに特化するのではなく、複数の種類の問題解決に最適化されている。そのため、解読が必要な、非常に圧縮された情報の塊のような形で文章を出力しがちだ。

私はいつもChatGPTやその同種のモデルに、もっと簡潔に、そしてより圧縮して書くよう説得しようとしているので、これは意外だった。こうした問題は、研究文献でも認識され、対処されている。

それどころか、この論文は冗長さを、一文がそれほど長くなくても簡単には理解できなくしてしまう一種のZIP爆弾として捉えている。したがって、初期設定の回答が過度に長いという問題と、過剰な圧縮に関する論文の指摘をあわせて考えると、最先端AIに特徴的な初期設定の応答スタイルは、かなり独特なものだと考えられる（また、おそらく、この簡潔な文体はAI生成テキストを検出するツールの判定基準の一部にも使われているのだろうが、論文ではこの点を扱っていない）。

著者らは、問題のある表現Squad Helps Dog Bite（部隊が犬のかみつきを支援）^†を例に、名詞を連ねた複合語についても検討している。

「英語では、名詞が形容詞のように別の名詞を自由に修飾する。たとえばコーヒーショップという表現では、コーヒーが修飾するのはショップであり、コーヒーは通常名詞として使われるにもかかわらず、そうなる。この特徴によって、複数の名詞を重ね、非常に具体的な意味を表す豊かな複合語を作ることができる。

しかし、このように名詞を重ねると、Squad Helps Dog Bite Victim（部隊が犬のかみつき被害者を支援）という見出しのように、語句のまとまり方が曖昧になり、読みにくくなることがある。

LLMは圧縮によって冗長になっているのだとすれば、質問への回答として圧縮されたテキストを大量に出力することで、文章量まで過剰になり、二重に冗長になっているのだろうか。つまり、質問への回答として読むテキストが大量にあるだけでなく、そのテキスト自体にも、解読が必要な「暗黙の」意味が多く含まれている可能性がある。

2023年の論文では、訓練中にAI評価者が使われることで、LLMが不必要に冗長になる可能性があると指摘された。AI評価者は長い回答を高く評価することが多い一方、その研究のテストでは、人間は短い回答を好んでいた。

新たな研究の著者らは（前の引用を参照）、最先端モデルに見られる圧縮傾向の一部は、トークンを節約するアーキテクチャ上の性質によるものだとしている。今どき、ずいぶん好意的な見方だ。

それでは、この研究で著者らが用いた手法、データ、検証内容を見ていこう。

データと手法

珍しい単語の組み合わせ（単語の連なりを表すnグラムで測定）について、予測しにくさが調べられた。珍しい組み合わせほど、読解が難しくなることが示されている。

依存距離（文法的に結び付いた語同士の距離）も測定した。距離が長いほど、ワーキングメモリーへの負荷が大きくなるためだ。特に、主語と動詞の間に複数の語が挟まれている場合にその傾向が強い。

目的語関係節（「請負業者が建てた家」のような構文）を調べた。特に、「that」を「請負業者が建てた家」のように省略するなど、任意の語が省かれる場合に注目した。

前述の名詞の連結（「ホラー映画サウンドトラック生成ツール」のように、3つ以上の名詞をつなげた表現）についても調査した。構成する語同士の関係が曖昧になり得るためだ。

名詞由来動詞（「フォークする」のように名詞を動詞として使う表現で、「フォークに載せる」の代わりに用いるもの）を調べるとともに、通常は生物に結び付けられる動詞と無生物の主語を組み合わせた表現（前述）も調査した。どちらの構文も、より少ない語数で意味を表せる一方、読者には追加の解釈が必要になる場合がある。

対象モデル

研究者らは、14のモデルが生成したAIとの会話を収集した。対象は、Kimi K2.5、GLM 5、Claude Sonnet 5、Opus 5、Opus 5.5、Fable 5、GPT-5.6 Luna、Terra、Sol、Olmo Base、Instruct、Think、Llama Base and Instructだった。

テストでは、一般的な会話用に10個、コーディング用に5個の初期プロンプトを用意した。各課題では、モデルに実在する公開GitHubリポジトリのクローンを作成させ、バグを見つけてサンドボックス内で修正させた。

会話は12往復、コーディングのセッションは11往復に制限し、その後に定型の締めくくりメッセージを送った。別のテストでは、各モデルにPERSUADE 2.0 datasetの課題に基づくエッセイを7本書かせた。

比較対象には、AIの3種類の出力にできる限り近いものとして、人間が書いたテキストを各資料から選んだ。一般的な会話にはOpenSubtitles（オープンソースの字幕プラットフォームとは無関係な、映画やテレビ番組の字幕コレクション）を、コーディングに関する議論にはStackExchange（質問と回答を扱うオンラインフォーラムのネットワーク）を、文章作成の課題には前述のPERSUADE 2.0 datasetに収録された学生のエッセイを使用した。追加の比較対象としてWikipediaも用いた。

適切な人間のデータが得られる場合には、人間が書いたテキストとAIが生成したテキストの両方で、同じ言語的特徴を測定した。また、これらの参照用コレクションを使い、語の組み合わせの頻度も評価した。

文体上の好みと言語上の必然性を区別するため、NLLB-200モデルを使って英語から日本語に翻訳し、さらに英語に戻す往復翻訳を行った。文の構造が変わっても意味はおおむね保たれたため、不必要に複雑な表現を特定できた。

結果

実験1

以下に示すように、理解しにくい構文のいくつかは、元のAI生成テキストでより頻繁に使われており、特に最先端モデルでその傾向が顕著だった。研究者らはこれを、不必要に複雑な言い回しを好む傾向の証拠と解釈した。

AIが生成した元のテキストと、日本語に翻訳した後、英語に戻したテキストとの比較。緑色の点は元のテキストでより頻繁に使われた言語パターンを、ピンク色の点は翻訳後のテキストでより頻繁に使われたパターンを示す。GPTとClaudeのモデルでは、差が概してより大きかった。 出典

チャット、コーディング、エッセイ執筆の3つの場面で、14のAIモデルについて6つの言語的特徴を比較した。チャットでは12モデル、コーディングでは9モデル、エッセイ執筆では14モデルすべてをテストした。

チャット、コーディング、エッセイ執筆におけるAIモデル間の6つの言語的特徴の比較。各ひし形はモデルの統合結果を示し、横線は95％信頼区間を表す。破線の縦線は、人間が書いたテキストの基準値を示している。対象は、チャットではOpenSubtitles、コーディングではStackExchange、エッセイ執筆ではPERSUADE 2.0の学生エッセイ。点線はWikipediaとの比較を示す。値が高いほど、測定対象の構文がより頻繁に使われているか、言語的複雑さがより高いことを概して意味する。より高解像度の図は、出典論文を参照してください。

元のAI生成テキストと、再翻訳したテキストを比較することで、文構造の違いも測定できました。

元のAI生成テキスト（塗りつぶしたひし形）と、NLLB-200を使って日本語に翻訳し、さらに英語に再翻訳したテキスト（白抜きの丸）との比較。ピンクの線は、翻訳後に使用頻度が高まった特徴を示し、緑の線は、元のテキストでより頻繁に使われていた特徴を示します。アスタリスクは統計的有意性を表し、アスタリスクの数が1つ、2つ、3つと増えるほど、統計的な証拠が強いことを示します。読みにくさに関係する構文の大半は翻訳によって減少し、とりわけ最先端モデルでその傾向が顕著でした。より高解像度の図については、原論文を参照してください。

最先端モデルとそれに次ぐ性能のモデルでは、珍しい単語の組み合わせ、名詞由来動詞、無生物を主語とする表現、任意の語が省略された目的格関係節が過剰に使われていることが分かりました（上のグラフを参照）。こうした傾向はLlamaとOlmo Baseでは概して弱かった一方、Olmo Thinkではより顕著でした。

エッセイ執筆では、チャットやコーディングに比べて差が小さく見られました。これは、エッセイが単一のプロンプトに基づくのに対し、長いやり取りを重ねる会話では、言語表現がより圧縮される可能性があるためだと考えられています。

著者らは次のように述べています。

「PERSUADEのエッセイでは、チャットや[coding]と比べ、複数のカテゴリー（nグラム指標、依存関係の長さ、名詞の連続、名詞由来動詞）において、往復翻訳による変化が小さいことが示されています。」

「その理由として、エッセイが単一のプロンプトに基づくのに対し、チャットやコーディングでは何度もやり取りを重ねることが考えられます。長い対話の往復では、特定のパターンが生じる可能性があると推測しています（その際、より多くの情報を圧縮する必要があるかもしれません）。」

翻訳後の変化が最も小さかったのはLlamaとOlmo BaseおよびInstructで、単語の組み合わせや動詞の使い方も学生のエッセイに最も近いものでした。一方、Olmo Thinkは最先端モデルに近い振る舞いを示しました。Claude Opus 5.5は、21件中19件の比較でOpus 5より難解な構文の使用が少なく、そのうち8件では95％信頼区間が重なりませんでした。

実験2

2つ目の実験では、より短く情報密度の高い応答を生成しようとする根本的な圧力によって、モデルが人間にとって理解しにくい言語構文を好むようになるのかを検証しました。

ここでは、Qwen2.5-1.5B-Instructをファインチューニングし、Group Relative Policy Optimization（GRPO）を適用しました。このモデルには、イベントを構造化されたJSON形式の記述から英語の文に変換するタスクを与えました。

調整した学習要素は2つです。1つは、モデルが通常の語彙選択からどの程度変更できるか（β）、もう1つは、応答が長くなることに対してどの程度強いペナルティを課すか（λ）です。各イベントは、文法的に正しい2通りの表現が可能で、トークン数に既知の差がありました。

たとえば、「He sent us a photo」（彼は私たちに写真を送った）は6トークンですが、「He sent a photo to us」（彼は写真を私たちに送った）は7トークンでした。また、文の長さによる違いかどうかを確認するため、同じ内容を表す2通りの言い方でトークン数が同じになる別のテストも実施しました。

この効果は、学習時に出てきた4種類の構文を使った未見の文、任意に使われる語「that」を含む未学習の構文2種類、さらに所有格、数量詞、受動態、目的を表す節に関する無関係な構文を用いて検証しました。

このテストでは、短い表現を好む傾向が学習され、学習時に一度も出てこなかった構文にも引き継がれるかどうかを調べました。

学習中に長い応答にペナルティを課した場合の影響。短い表現と長い表現の例をAに示す。短い構文を好む度合いをBで測定し、学習時に使われていない構文でのテスト結果をCとDに示す。オレンジ色は元のモデルからの変更に制限を設けずに学習した場合、青色はその制限を設けて学習した場合を表す。破線は元のモデルの選好を示す。ペナルティが強いほど、一般に短い表現がより好まれるようになった。この傾向は、学習に含まれていない構文でも見られた。より高解像度の図については、原論文を参照してください。

長い応答へのペナルティを強めるにつれて、短い表現が選ばれる頻度は高くなった（すぐ上の図を参照）。KLペナルティ（モデルが元の単語予測からどれほど離れてよいかを制限するもの）がない場合、この変化は急速に起きた。一方、ペナルティがある場合も同じ効果が見られたが、より緩やかだった。どちらのペナルティもない場合、学習を実行するたびに選好は大きくばらついたが、長さへのペナルティがわずかでもあれば、短い表現が一貫して好まれるようになった。

任意で使われる単語「that」を含む、これまで見られなかった文の構成でも、同じ選好が確認された。さらに離れた文法構文への波及はかなり弱く、KLペナルティがない場合に所有格でのみ効果が見られた。

著者らは次のように結論づけている。

「これらの結果は、GRPOを用いた強化学習で長さへのペナルティを使うと、文法的な特徴に直接影響を与えられることを示す概念実証だと考えています。

「モデルに、圧縮された表現や情報密度の高い表現を使うよう直接指示したわけではありません。また、構文上の交替表現が利用可能であることを、モデルに直接知らせたわけでもありません。

「そうではなく、ペナルティによって、構文上の交替表現のうち短いものを好む傾向が創発しました。」

結論

私は以前から、AI生成テキストを特徴づけるアンカー、つまり意図せず生じたものと意図的なものの両方に関心を持ってきた。今回の新たな研究は、LLMの冗長さが指摘される一方で、同じく指摘されている、情報を圧縮する傾向との一見矛盾した関係に光を当てている。使われる語数が少ないというだけで「読みやすい」方法だと受け取られがちだが、その手掛かりの読み取り方は明らかに誤っている。

LLMの出力では、簡潔さは本質を抽出した結果というより、複雑さの表れかもしれない。AIが言葉の背後にある概念を率直に示すのではなく、パズルを差し出しているかのようだ。どうやらすべては、単一のモデルがコードを書き、さらに文章も書けるようにするためらしい。

* ニューヨーク大学とテキサス大学の2人の著者による論文で、タイトルは「AI生成言語はなぜ理解しにくいのか？」。

^† 著者の本文中の引用をハイパーリンクにしたのは私です。

^†† https://mikeydoes.com/glossary/p600/

初出：2026年10月26日（月）