AIモデルは人間の視覚処理に一致しないことを研究が示す

ヨーク大学の新しい研究によると、深層畳み込みニューラルネットワーク（DCNN）は、構造形態的形状認識を使用して人間の視覚処理に一致しないことがわかった。研究の共著者であるジェームズ・エルダー教授によると、これはAIアプリケーションに重大で危険な現実世界の影響をもたらす可能性がある。

新しい研究「ディープラーニングモデルは人間の形状認識の構造的性質を捉えていない」は、Cell PressのジャーナルiScienceに掲載された。

エルダーがヨーク研究議長を務める人間とコンピュータービジョンの分野で、そしてヨークのAI＆ソサエティセンターの共同ディレクターを務めるエルダーと、ヨークの心理学助教授であり、元VISTAポスドク研究員であるニコラス・ベイカー教授によって共同で行われた研究である。

新しい視覚的刺激「フランケンシュタイン」

研究チームは、人間の脳とDCNNが全体的、構造的物体特性をどのように処理するかを調査するために、「フランケンシュタイン」と呼ばれる新しい視覚的刺激に頼った。

「フランケンシュタインとは、単純に物体を分解して、間違った方法で再構成したものです」とエルダーは述べた。「結果として、ローカル特性は正しいものですが、間違った場所にあります」

研究では、DCNNはフランケンシュタインによって混乱しないことがわかった。これは、構造的物体特性への感受性の欠如を示している。

「私たちの結果は、ディープAIモデルが特定の条件下で失敗する理由を説明し、物体認識を超えたタスクを考慮する必要性を示唆しています」とエルダーは続けた。「これらの深層モデルは、複雑な認識タスクを解決する際に、ショートカットをとる傾向があります。ショートカットは多くの場合に機能しますが、現在私たちが業界や政府のパートナーと共同で作業している一部の現実世界のAIアプリケーションでは危険となる可能性があります」

画像：ヨーク大学

現実世界への影響

エルダーによると、これらのアプリケーションの1つは交通映像安全システムである。

「忙しい交通シーンの物体、車両、自転車、歩行者は、運転手の目に断片的に映ります」とエルダーは述べた。「脳はこれらの断片を正しくグループ化して、物体の正しいカテゴリと位置を特定する必要があります。個々の断片のみを認識できる交通安全モニタリングのAIシステムは、このタスクに失敗し、道路使用者に潜在的なリスクをもたらす可能性があります」

研究者はまた、ネットワークをより人間の脳に近づけるための修正やアーキテクチャの変更が、構造的処理を達成しなかったと述べた。どのネットワークも、試行ごとの人間の物体判断を正確に予測できなかった。

「人間の構造的感受性に一致するには、ネットワークは物体認識を超えたより広範な物体タスクを解決するために訓練される必要がある」とエルダーは結論付けた。