研究者が「DeepTrust」ツールを開発し、AIの信頼性を高める

人工知能（AI）の安全性と信頼性は、テクノロジーの中で最も重要な側面の1つです。AIの信頼性を高めるために、さまざまな分野のトップエキスパートによって不断に改良と研究が行われています。これは、AIを社会全体に導入する上で非常に重要な要素です。

南カリフォルニア大学（University of Southern California）のUSC Viterbi Engineeringの研究者は、AIアルゴリズムの信頼性を自動的に評価するツールを開発しました。このツールは、AIの予測とデータの信頼性を評価することができます。

この研究は、Frontiers in Artificial Intelligenceに掲載され、タイトルは「There is Hope After All: Quantifying Opinion and Trustworthiness in Neural Networks」です。論文の著者は、Mingxi Cheng、Shahin Nazarian、Paul Bogdanです。

ニューラルネットワークの信頼性

この分野で最も重要なタスクの1つは、ニューラルネットワークが信頼できる予測を生成するようにすることです。多くの場合、これがテクノロジーの完全な採用を妨げる要因です。

例えば、自動運転車は、自動で正確な決定を下す必要があります。車は、道路上の物体を認識して、高速で決定を下す必要があります。これは、特にテクノロジーがスピードバンプ、他の物体、または生物の差異を判断する必要があるシナリオで非常に重要です。

他のシナリオでは、自動運転車が向かいから来る車に対してどうするかを決定する必要があります。最も複雑な決定は、自動運転車が他の車、物体、または生物に当たるかどうかを判断する必要がある場合です。

これはすべて、自動運転車のソフトウェアが正しい決定を下す能力に極めて多くの信頼を寄せていることを意味します。カメラやLidarからのコンピュータビジョンなどの異なるセンサーからの矛盾する情報がある場合、さらに困難になります。

リード著者Minxi Chengは、ある日、「人間でも、特定の意思決定シナリオでは、決断が難しいことがあります。矛盾する情報がある場合、機械は私たちにわからないことを教えてくれないでしょうか？」と考え、このプロジェクトを開始しました。

DeepTrust

研究者が開発したツールはDeepTrustと呼ばれ、不確実性の量を評価することができます。USCのMing Hsieh Department of Electrical and Computer EngineeringのPaul Bogdan准教授によると、DeepTrustは主に主観的論理を使用してニューラルネットワークを評価します。

チームは、DeepTrustの開発に約2年を費やしました。ツールの使用例として、2016年の大統領選挙の世論調査を分析し、ヒラリー・クリントンが勝つという予測の誤差の範囲がより大きいことを予測しました。

DeepTrustツールは、通常数百万のデータポイントでトレーニングされたAIアルゴリズムの信頼性をテストすることを容易にします。信頼性をテストする別の方法は、各データポイントを個別にチェックすることですが、これは非常に時間のかかるタスクです。

研究者によると、これらのニューラルネットワークシステムのアーキテクチャはより正確であり、精度と信頼性を同時に最大化できます。

「私たちの知る限り、ディープラーニング、人工知能、機械学習のための信頼性の評価モデルやツールはありません。これは最初のアプローチであり、新しい研究方向を開拓します」とBogdanは述べています。

Bogdanは、DeepTrustがAIを「認識」と「適応」できるレベルまで押し進めるのに役立つ可能性があると考えています。