Andersonの視点
DeepMind:AIは人間の認知的限界を受け継ぎ、正規教育から恩恵を受ける可能性

要点DeepMindとスタンフォード大学は、AIが論理的推論課題において人間の確証バイアスを反映することを示した。
もっと見る
- DeepMindとスタンフォード大学は、AIが論理的推論課題において人間の確証バイアスを反映することを示した。
- 言語モデルは抽象的な論理に苦戦するが、現実的なワソン選択課題では良好な成績を収める。
- 研究者らは、AIの抽象的推論能力を向上させるために、形式教育型の事前学習を提案している。
DeepMindとスタンフォード大学の新たな共同研究は、AIの抽象的推論が人間より優れているとは限らないことを示唆しています。機械学習モデルは、現実世界の人間の事例から推論の構造を得るためです。事例はAIが体験できない実践的な文脈に根ざし、人間自身の認知的な弱点の影響も受けています。
これが実証されれば、多くの人が機械学習システムに期待する、優れた自由な発想や知的独創性を阻む壁になり得ます。また、AIが人間の経験をどれほど反映し、自らを形作った人間の限界の中で思考し推論するのかも示しています。
研究者は、AIモデルを現実の課題に取り組ませる前に、抽象的推論を事前に学ばせることが有益かもしれないと提案しています。これを「正規教育」に例えています。
論文は次のように述べています。
「人間の推論は完璧ではない。私たちは、世界についての理解と一致する事物や状況について、最も効果的に推論する。」
「実験は、言語モデルがこうした行動パターンを反映することを示している。言語モデルの論理的推論課題における成績は不完全であり、内容や文脈に左右される。特に、刺激が抽象的すぎたり、世界に対する既存の理解に反したりする場合など、人間が失敗する状況でモデルも失敗することが多い。」
研究者は、GPT級の超大規模な自然言語処理(NLP)モデルがこうした限界の影響をどれほど受けるか調べるため、適切なモデルに3種類の試験を行い、次のように結論付けました*。
「最先端の大規模言語モデル(70億または700億のパラメータ)は、これらの課題で人間に見られる多くのパターンを反映していた。人間と同様、モデルは非現実的または抽象的な状況よりも、もっともらしい状況について効果的に推論する。」
「この発見は、こうした認知的効果と、言語モデルの性能に寄与する要因の両方を理解するうえで意味を持つ。」
論文は、推論技能に文脈を与える現実世界での身体的経験なしにAIにその技能を持たせると、システムの可能性が制限されるかもしれないと指摘しています。「現実に根ざした経験が、人間の信念や推論の一部を支えていると考えられる」というのです。
著者らによると、AIが言語を受動的に経験する一方、人間は言語を社会的コミュニケーションの能動的で中心的な要素として経験します。従来の社会的な罰と報酬の仕組みを伴うこうした積極的参加が、人間のように意味を理解する鍵かもしれません。
研究者は次のように述べています。
「したがって、言語モデルと人間の違いの一部は、人間の豊かで現実に根ざした相互作用的な経験と、モデルの乏しい経験との違いに由来する可能性がある。」
一つの解決策として、実用的で多用途な言語モデルを最終的に作る中核データでの訓練の前に、人間が学校や大学で経験するような「事前教育」の期間を設けることを提案しています。
研究者が正規教育に例えるこの期間は、一般的な機械学習の事前訓練とは異なります。一般的な事前訓練は、部分的に訓練したモデルの再利用や、十分に訓練したモデルからの重みの導入によって学習を始動し、訓練時間を短縮する方法です。
ここで提案するのは、AIの論理的推論技能を純粋に抽象的な形で育てる継続的な学習期間です。大学生が学位取得までに奨励されるのと同様に、批判的思考力も発達させます。
著者らは「いくつかの結果は、この考えが聞こえるほど突飛ではない可能性を示している」と述べています。
論文の題名は「言語モデルは推論において人間に似た内容効果を示す」です。DeepMindの研究者6名と、DeepMindおよびスタンフォード大学の両方に所属する研究者1名による研究です。
試験
人間は実例を通じて抽象概念を学びます。事例の持つ暗黙の重要性は、記憶術とともに、言語学習者が語彙や文法規則を覚える際にも役立ちます。簡単な例は、列車や自動車の「移動の場面」を設定することで、難解な物理原理を教えることです。
研究者は超大規模言語モデルの抽象的推論を調べるため、人間にも難しい可能性のある言語・意味に関する3種類の試験を設計しました。試験は、解答済みの例を与えないゼロショットと、先に5つの解答例を与えるファイブショットで実施しました。
最初の課題は自然言語推論(NLI)です。人または言語モデルである被験者に「前提」と、そこから導けるように見える「仮説」という2つの文を与えます。例えば、XはYより小さい。仮説:YはXより大きい(論理的に含意される)。
研究者はNLI課題でChinchilla(700億パラメータ)と、その小型版7B(70億パラメータ)を評価しました。内容が整合し、無意味ではない例では、大きいChinchillaだけが偶然を上回りました。研究者は次のように指摘しています。
「これは強い内容バイアスを示している。モデルは論理規則に従うよりも、既存の予想に沿う形で文を補完しようとする。」

NLI課題での700億パラメータのChinchillaの成績。研究者によると、このモデルと小型の7Bの両方に大きな信念バイアスが見られた。 出典:https://arxiv.org/pdf/2207.07051.pdf
三段論法
2番目はより複雑な三段論法です。2つの真の記述が3つ目を含意するように見える論証で、3つ目は前の2つから導ける論理的結論の場合も、そうでない場合もあります。

論文の試験資料に含まれる、現実的、逆説的、または無意味な三段論法。
人間はここで非常に誤りやすくなります。論理原則を説明するための構造は、正解が何であるべきかという信念によって、ほぼ即座に、場合によっては恒久的に混乱させられます。
著者らは、1983年の研究が、三段論法の結論と自分の信念が一致するかどうかによる参加者のバイアスを示したと指摘しています。
「結論がもっともらしい場合、参加者は妥当でない三段論法を妥当だと誤って判断しやすく、その割合は90%だった。したがって、抽象的推論よりも主に信念に頼っていた。」
研究者は、誤った含意で終わるものを多く含むさまざまな三段論法でChinchillaを試し、「信念バイアスがほぼすべてのゼロショット判断を左右する」と発見しました。結論が現実と一致しないと、前の記述から論理的に導かれる場合でさえ、モデルは最終的な論証を無効と判断することに強く傾きます。

Chinchillaのゼロショット結果。多くの被験者も基本規則の説明後、解答例なしで課題を受け取る。この結果は、コンピューターの計算能力と、このような初歩的論理問題に対応するNLPモデルの能力の大きな隔たりを示す。
ウェイソン選択課題
3番目の試験では、さらに難しいウェイソン選択課題の論理問題を、言語モデルが解けるよう複数の形式に作り替えました。
1968年に考案されたこの課題は、一見簡単です。4枚のカードを見せ、「片面がDなら、もう片面は3である」といった任意の規則を伝えます。見えている面はD、F、3、7です。
次に、規則の真偽を確かめるにはどのカードを裏返す必要があるか尋ねます。
正解はDと7です。初期の試験では、多くの参加者はDを正しく選ぶ一方、7よりも3を選びやすいことが分かりました。規則の対偶(3でなければDではない)と、逆(3ならDである。ただし元の規則からは論理的に導かれない)を混同したのです。
著者らは、既存の信念が人間の論理過程に介入し得ると述べています。数学の研究者や数学を専攻する学部生でさえ、この課題では通常50%未満の得点でした。
しかし、課題の設定が人間の実践的経験を反映すると、成績は通常それに応じて向上します。
著者らは過去の実験を引いて説明しています。
「カードが年齢と飲料を示し、規則が『酒を飲むなら21歳以上でなければならない』で、ビール、炭酸飲料、25、16のカードを示すと、大多数の参加者はビールと16を調べるべきだと正しく選ぶ。」
研究者はモデルの能力を調べるため、無意味な語を含むものも交え、多様な現実的規則と任意の規則を作成しました。AIが内容の文脈を乗り越え、どの「仮想カード」を裏返すか判断できるかを試したのです。
現実的で無意味ではないウェイソン課題では、モデルは人間と同程度の成績でした。

Chinchillaのウェイソン選択課題でのゼロショット結果。少なくとも現実的な規則では、偶然を大きく上回る成績を示した。













