タスク指向 vs. ヒューマン指向: AIの次なるベンチマークは私たちであるべき理由

数か月ごとに新しいモデルが登場し、AIリーダーボードを入れ替えます。スタンフォード大学の2026 AI Index Reportによると、フロンティアモデルは「Humanity’s Last Exam」という、AIにとって特に難しいように設計されたベンチマークで、1年で約30ポイント上昇しました。かつては数年かかっていた飛躍が数か月で起こり、業界は新たな高得点をAIが向上している証拠とみなしています。

進歩そのものに異論はありません。これらのシステムは、設計された目的に対しては驚異的です。しかし、私は心理学に約20年従事した後にAIへ転向し、これらのベンチマークが答えられない問いに常に戻ってきます。モデルは正確さを基準にした全てのリーダーボードでトップに立っても、利用者をある面で不利にすることがあります。AIが利用者に与える影響を測るテストは存在せず、そこにもっと注目すべきです。

2つの異なる整合性の形

AI業界は整合性について常に議論しますが、会話は主にモデルが指示に正確に従うか、有害なコンテンツを生成しないかに焦点が当たります。これがタスク指向AIです。タスク指向AIは、目の前の要求を正確かつ効率的に完了するよう最適化されています。

しかし、もう一つの整合性アプローチがあります。ヒューマン指向AIは、対話が終了した後に画面の向こう側の人にどのような影響を与えるかを評価します。相手は次の難しい決断を自力で処理できるようになったか、あるいはシステムに依存し続けるようになったかです。タスク指向はアウトプットを測りますが、ヒューマン指向はその余波を測ります。

この二つの目標が必ずしも対立するわけではありません。技術的な質問に対し迅速かつ正確な回答を提供するモデルは両方に貢献します。ただし、唯一の正解が存在しない質問になると、整合性の違いが顕在化します。

リーダーボードが示さないもの

業界で最も引用されるベンチマークは、競技数学やリポジトリ規模のコーディング課題などをテストします。これらは価値あるスキルですが、各質問には正解があり、モデルはそれを見つけるように作られています。

客観的問題には有効ですが、人々はAIを数学やコーディング、基礎的な研究以上に利用しています。キャリアパスに関する質問やパートナーとの難しい会話を解決しようとしています。これらの質問に対しモデルがうまく対処したかを評価するテストは存在しません。なぜなら、正解という客観的真実がなく、関連情報は質問者自身の中にあるからです。どれだけ詳細なプロンプトでも、モデルはその情報にアクセスできません。

責任あるAIは、これらのベンチマークが残す空白の一部を埋めますが、そちらの取り組みも単に害を減らすことに焦点を当てており、人間の思考力向上には直結していません。現在の安全策は、危険な行為を支援しないようモデルを防ぐことに重点を置いていますが、何千もの普通の会話が安全チェックを通過するたびに、人々が自らの判断を信頼しにくくなるかどうかは考慮されていません。

モデルが依存を生む仕組み

私がテストしたすべてのモデルは、包括的で高速、かつ自信に満ちた回答を好む傾向があります。これは訓練時に報酬が与えられる特性であり、壊れたソフトウェアビルドや法的提出期限に対処する際には正しい本能です。しかし、意思決定が個人の価値観や歴史に依存する場合、同じ本能が利用者に逆効果をもたらすことがあります。

研究はすでに、これは単なる仮説以上のものであることを示しています。OpenAI と MIT Media Lab はChatGPTの感情的利用に関する2つの研究を実施し、AI を友人として捉え長時間使用した人々が、孤独感や感情的依存の増加などの否定的結果を報告する傾向が高いことを発見しました。このパターンはMIT Technology Reviewでも取り上げられています。別途、ジャーナル Societies に掲載された2025年の研究では、AI ツールの頻繁な使用と批判的思考スコアの間に有意な負の相関があることが示されました。この現象は「認知オフローディング」と呼ばれ、精神的タスクを自分で解決する代わりにツールに任せる傾向が原因です。

これらの結果がAIの使用を減らすべきだという意味ではありません。むしろ、システムがすべての質問に同じ方法で答えると、主観的側面で何かが失われており、現時点でほとんど誰もその損失を追跡していないことに気付く必要があります。

直接的な回答に正当な評価を与える

タスク指向AIが適切に機能する場面を明確にしたいのは、この文章がすべてを曖昧にするモデルを擁護するものではないからです。サーバーエラーや税務申告の期限について質問された場合、迅速で直接的、かつ権威ある回答が最適です。AI がオープンエンドな質問で返すのは有益ではありません。問題は、離婚の是非を問うプロンプトに対して同じ本能を適用したときに現れます。

代わりに測定すべきこと

抑制. ユーザーにとって質問を解決することがむしろ不利益になる瞬間を認識し、適切に手を引く能力。

調整された質問. 問題が主観的であったり、個人のアイデンティティや価値観に関わる場合に、指示するのではなく質問を投げかける姿勢。

状況を読む. 直接的で包括的な回答が必要な要求と、本人が自ら考える余地が必要な要求を区別すること。

アルバート・バンデューラの何十年にもわたる自己効力感に関する研究は、人は他者や外部の解決策ではなく、自身の習得経験を通じて自信を築くことを示しています。この原理はAIが登場する半世紀前から存在し、技術の設計・評価に組み込まれるべきです。

今後の進歩が意味すべきこと

これらは技術的進歩を遅らせるべきだという主張ではありません。コーディングや推論の向上は称賛に値します。しかし、タスク完了だけに焦点を当てたスコアカードは、AI が賢くなっていることは示すものの、利用者が自ら考える力を向上させているかどうかは何も語りません。

私はその変化を望んでいます。システムがより高度になるほど、利用者も同様に高度になるべきです。AI がテストで人間を上回ることは実証済みです。次のテストは、対話が終わった後も私たちの思考をより良くする手助けができるかどうかを評価すべきです。