AI：人々のための、人々による、人々のAI

著者：Balakrishna (Bali) D R、Senior Vice President、Service Offering Head – ECS、AI and Automation at Infosys。

私たちは幸運で、テクノロジーの時代に生きている。人工知能（AI）が私たちの生活をより簡単にしている時代である。私たちのスマートフォンは私たちを認識し、ロックを解除する。会話する地図が私たちを目的地まで導く。スマートデバイスが私たちの家を温める、または冷やす。知能のあるアプリが不正を予測し、防止する。さらに多くのことがある。

しかし、AIを搭載したこれらのスマートシステムが、公平性と倫理の観点から私たちに失敗した例もある。例えば、我々と協力している著名な銀行が、AIモデルを使用して信用worthinessを評価する前に、AIモデルが偏っている可能性があることを疑い、我々に助けを求めた。別の機会に、機械メーカーが、保証請求のパターンを分析して偏見を除去するために、データセットとプロセスを再構築して、請求の承認プロセスを自動化するために我々と協力した。採用に関連するAIモデルは、年齢、性別、人種、さらには郵便番号などの偏見によって汚染されることが多く、チェックされなければ不公平な結果をもたらす。

AIの偏見が企業全体に及ぼす影響は非常に大きい。したがって、AIシステムの開発、導入、使用について、倫理的な質問が重要な位置を占めるようになった。AIシステムは多くの人間の決定の集大成であり、それ自体が人間の偏見に基づいている。従業員の自主性とプライバシーの保護、偏見がキャリアの成長と機会に与える影響、肌の色、人種、または性別に基づく差別、AIソリューションの選択の説明可能性の欠如、そしてそれに伴うAIの意思決定の説明責任が、AIの利点について議論する際に熱烈に議論されている。

責任あるAIの創造

AIの偏見は、組織全体に波及効果をもたらす可能性がある。したがって、ITリーダーは、AIを従業員と共に、従業員に対してではなく、倫理的に導入することを確認する必要がある。そうするには、組織はAIの導入に以下の点を含める必要がある。

データガバナンス： AIの倫理的な使用は、データの倫理的なおよび透明な使用にも依存する。ITリーダーは、データのセキュリティ、完全性、プライバシーを確保し、データの汚染や損失を防ぐための、明確に定義されたガバナンスフレームワークを確立する必要がある。

説明責任： 機械学習モデルは、公平で、偏見がないこと、人々を平等に扱い、利益を公平に分配する（同じ受け入れ率と拒否率）必要がある。人種、宗教、性別などのすべての属性に対して、受け入れ可能な精度を達成する必要がある。これらのモデルは、結果がどのように得られたかを説明する必要がある。例えば、ローン申請がなぜ却下されたのか、またはなぜ承認されたのかを説明する必要がある。AIソリューションを開発するITリーダーは、ビジネスステークホルダーに、決定を下す根本的なロジックを明確にする必要がある。そうすることで、企業内に透明性が高まる。

アドバーサリアルロバストネス： AIエコシステム全体が、AIモデルをシミュレーションを通じてテストし、潜在的な悪影響を分析する必要性に同意する必要がある。ITリーダーは、AIシステムをテストし、潜在的な障害に備えるために、以下のテストを使用できる。

• データの変更：トレーニングに使用されるデータセットを直接変更する（データの挿入、変更、ロジックの破壊）
• モデルの変更：信頼性の低下と誤分類をテストする
• 補助ツール：結果を影響したり、破壊したりするツールを使用する

ヒューマンインザループ： AIモデルは、すべての重要な意思決定ポイントで人間が関与し、AIシステムを停止するためのバックアップメカニズムまたは代替パスを持つことで、リスクを軽減する必要がある。

AIの社会的合意の開発

これらのガイドラインに加えて、企業全体のリーダーが、AIの導入の利点、利害関係、コスト、結果について、包括的な議論と検討を行う必要がある。すべての利害関係者を巻き込む、suchなプロセスを通じて、受け入れ可能な結果を決定し、リスクと利点を比較検討することで、AIテクノロジーが企業全体で運用されるライセンスを得ることができる。

ROSS全社、利点、利害関係、コスト、結果について、AIの導入の影響を考慮し、すべての利害関係者が関与するプロセスを通じて、受け入れ可能な結果を決定し、リスクと利点を比較検討することで、AIテクノロジーが企業全体で運用されるライセンスを得ることができる。