AI 研究者、AI バイアスに対するバウンティーを提案し、AI をより倫理的にする

インテル、Google (GOOGL ) Brain、OpenAI などの企業や AI 開発ラボの AI 研究者チームは、AI の倫理的な使用を確保するために、バウンティーを使用することを提案しました。研究者チームは最近、倫理的な AI 使用に関する提案を発表し、その中には、AI の偏見を発見した人に報奨金を与えることが、AI をより公平にするための効果的な方法であるという提案が含まれていました。

VentureBeat の報告によると、米国とヨーロッパのさまざまな企業の研究者たちが集まって、AI 開発のための倫理ガイドラインと、それらのガイドラインを満たすための提案をまとめました。研究者たちは、AI プログラム内で偏見を発見した開発者にバウンティーを提供することを提案しました。この提案は、「信頼できる AI 開発：検証可能な主張をサポートするためのメカニズム」というタイトルの論文に記載されています。

研究者チームが対処しようとしている偏見の例として、ヘルスケアアプリケーションから法執行機関が使用する顔認識システムまで、偏ったデータとアルゴリズムが見つかっていることが挙げられます。1 つの例は、最近、米国司法省が新型コロナウイルス感染拡大に対応して刑務所人口を削減するために使用した PATTERN リスク評価ツールです。

コンピュータープログラム内で不適切な動作を発見した開発者に報奨金を与える慣行は古いものですが、これは AI 倫理委員会が AI 偏見に対抗するための選択肢としてこのアイデアを真剣に提案した初めてのことかもしれません。AI 開発者が十分に偏見を発見できるほど多くいる可能性は低いですが、企業が全体的な偏見を減らし、AI システムにどのような偏見が潜んでいるかを理解するのに役立つでしょう。

論文の著者は、バグバウンティーの概念を偏見と安全性のバウンティーを使用して AI に拡張でき、適切に使用することで、よりよく文書化されたデータセットとモデルにつながる可能性があると説明しています。文書化により、モデルとデータの限界がよりよく反映されます。研究者たちは、同じアイデアを解釈可能性、セキュリティ、プライバシーの保護などの他の AI の特性にも適用できる可能性があると指摘しています。

AI の倫理原則に関する議論が増えるにつれて、多くの人々が原則だけでは不十分であり、AI を倫理的にするための行動が必要であると指摘しています。論文の著者は、「業界と学術界の現行の規制と規範は、責任ある AI 開発を確保するのに不十分である」と述べています。Google Brain の共同創設者であり AI 業界のリーダーである Andrew Ng も、ガイドラインだけでは AI が責任を持って公平に使用されることを保証するのに十分ではないと述べています。Ng は、多くのガイドラインがより明示的で、実行可能なアイデアを必要としていることを強調しています。

研究者チームの偏見バウンティー狩りに関する提案は、倫理原則から倫理的な行動への移行を試みているものです。研究チームは、AI フィールドで倫理的な行動を促進するためのその他の提案も行っています。

研究者たちは、企業が AI の使用をより倫理的にするために従うことができる他の提案も行っています。彼らは、AI のインシデントに関する中央集権的なデータベースを作成し、より広い AI コミュニティと共有することを提案しています。同様に、研究者たちは、監査トレイルを確立し、AI プラットフォームでの安全性に重要なアプリケーションの作成と展開に関する情報を保存することを提案しています。

プライバシーを保護するために、研究者たちは、暗号化された通信、フェデレーテッドラーニング、差分プライバシーなどのプライバシー中心のテクニックを使用することを提案しています。さらに、研究者たちは、オープンソースの代替案を広く利用可能にし、商用 AI モデルを厳しく検査することを提案しています。最後に、研究者たちは、政府の資金を増やして、学術研究者がハードウェアのパフォーマンスに関する主張を検証できるようにすることを提案しています。