研究チーム、ニューラルネットワークを比較する手法を開発

ロスアラモス国立研究所の研究者チームは、ニューラルネットワークの比較のための新しいアプローチを開発しました。チームによると、この新しいアプローチは、人工知能（AI）の「ブラックボックス」の中を調べ、ニューラルネットワークの動作を理解するのに役立ちます。データセット内のパターンを認識するニューラルネットワークは、顔認識システムや自動運転車などの幅広いアプリケーションで使用されています。

チームは、論文「If You’ve Trained One You’ve Trained Them All: Inter-Architecture Similarity Increases With Robustness」を人工知能における不確実性に関する会議で発表しました。

ロスアラモス研究所のサイバーシステム先端研究グループの研究者であるHaydn Jonesは、この研究の第一著者です。

ニューラルネットワークのより良い理解

「人工知能研究コミュニティは、ニューラルネットワークが何をしているのかについて、必ずしも完全には理解していない。彼らは良い結果をもたらしてくれるが、どのようにして、またなぜそれが機能するのかについてはわかっていない」とジョーンズさんは述べています。「私たちの新しい方法は、ニューラルネットワークをより適切に比較できます。これは、人工知能の背後にある数学をよりよく理解するための重要なステップです。」

新しい研究は、ロバストなニューラルネットワークの動作を理解するのにも役立ちます。

ニューラルネットワークは、高性能ですが、もろいです。条件の小さな変化、たとえば自動運転車が処理する部分的に覆われた停止標識などの場合、ニューラルネットワークは標識を誤認識する可能性があります。そのため、自動運転車が停止しない可能性があり、危険につながりかねません。

ニューラルネットワークの敵対的訓練

研究者たちは、これらの種類のニューラルネットワークを改善するために、ネットワークのロバスト性を向上させる方法を調べました。アプローチの1つは、ネットワークを「攻撃」することです。ここで、研究者は、AIをトレーニングする際に意図的に異常を導入し、AIがそれらを無視するようにします。このプロセスは、敵対的訓練と呼ばれ、ネットワークを欺くことがより困難になります。

チームは、敵対的訓練を受けたニューラルネットワークに、新しいネットワークの類似性の尺度を適用しました。攻撃の大きさが増加するにつれて、コンピュータビジョンのドメインのニューラルネットワークが、ネットワークのアーキテクチャに関係なく、類似したデータの表現に収束することを発見したことが驚きでした。

「ニューラルネットワークが敵対的攻撃に対して頑健になるよう訓練すると、同じことをし始めるとわかった」とジョーンズさんは述べています。

これは、専門家がニューラルネットワークの最適なアーキテクチャを探そうとした最初の試みではありません。しかし、新しい発見は、敵対的訓練がギャップを大幅に埋め、AI研究コミュニティがこれほど多くの新しいアーキテクチャを探索する必要はないかもしれないことを示しています。なぜなら、敵対的訓練は、さまざまなアーキテクチャが類似したソリューションに収束するからです。

「ロバストなニューラルネットワークは互いに似ていることがわかっているので、ロバストなAIが実際にどのように機能しうるかを理解するのがより容易になります」とジョーンズさんは述べています。「私たちは、人間や他の動物で認識がどのように発生するかについてのヒントを明らかにするかもしれません」