加速されたAIの導入に備える業界、倫理と責任への新たな焦点

著者:: パンドゥランガ・カマット、パーシステント・システムズのCTO

人工知能（AI）は、基本的に機械学習（ML）であり、データ入力に基づいてパフォーマンスを改善するプロセスです。今日存在する大量のデータにより、AIは豊かな土壌で繁栄し、わずか数年で急速に進化しています。AIの約束は、遠方の業界の技術者や経営者が、そのさまざまな応用について創造的に考えるよう促しています。

産業革命から、急速な技術進歩の時代は、熱狂と不安の両方で特徴づけられます。ワールド・ワイド・ウェブ・コンソーシアム（W3C）は、ウェブ開発業界の標準を作成するグループであり、「機械学習の応用はリスクをもたらし、害をもたらす可能性がある」と指摘しています。バイアス、プライバシー、セキュリティ、持続可能性、全体的な説明責任などの分野でです。

「機械学習への倫理的なアプローチの需要は明確です。市民社会からの活動、世界中で約100の倫理的なAI原則の出現、政府によるAIの規制への動きからも明らかです。」グループは書いています。「技術がそれらが作用する社会の価値観と一致していない場合、それらはそれらを損なうリスクがあります。」

賢く選ぶ

表面的に見ると、速度と出力の向上は悪いことではないように思えます。しかし、ある業界では、決定プロセスがアルゴリズムに任せられるべきではないことがあります。いくつかの大きな業界を見てみると、機械のエラーに対してどれほど脆弱であるか、そして責任あるAIがどれほど重要であるかがわかります。

銀行、金融サービス、保険（BFSI）

世界経済フォーラム（WEF）とデロイトは、BFSI企業におけるAIの導入プロセスを調査し、「AIは大量の情報から有用なビジネス洞察を生み出すのに役立つ」と指摘していますが、「AIの異質性」は継続的な重大なリスクの源となります。

「AIは人間の思考と異なる方法で推論する」と報告書には記載されています。「AIシステムは人間の論理構造に従わないし、同じタスクを与えられた人間とは異なる行動をとります。さらに、AIシステムの自己学習性により、人間の入力なしで進化することができます。これにより、未知の変数に基づいて予期せぬ結果が生じる可能性があります。」

責任あるAIの擁護者は、機械学習は、自動リスクスコアリング、信用、貸し付けの決定など、歴史的に特定の人口統計に対して偏っている分野で重大な問題を提起するという意見です。最近の研究では、AIベースの決定エンジンを使用する貸し手は、人種のある人々に住宅ローンを拒否する可能性が高かったことが示されています。ある場合には、80%の黒人申請者が拒否される可能性があります。

ヘルスケア

数年前、アメリカ医師会雑誌（JAMA）は、ヘルスケアにおけるAIの導入を調査し、課題は多くあり、「現実的でない期待、偏ったデータ、代表性のないデータ、公平性と包摂性への優先順位の欠如、ヘルスケアの格差の増大のリスク、信頼の低さ、規制環境の不確実性」と指摘しました。

これは、AIの将来について楽観的ではあるものの、慎重な見方です。ヘルスケアの専門家は、AIの使用について他の専門家を教育し、責任を持って進めるためのガイドラインを作成することに焦点を当てています。

メディア

PwCによると、AIは2030年までに15.7兆ドルの世界経済成長をもたらすと予測されていますが、Salesforceによると、顧客の48%だけが企業がAIを倫理的に使用することを信頼しています。65%の顧客は、AIの非倫理的な使用について懸念しています。利益と信頼の交差点に、メディア企業があります。メディア企業は早期の採用者であり、巨大な影響力を持っています。しかし、AIは「セットして忘れる」タイプのアプリケーションではないため、メディア企業の責任はコンテンツの制作だけでなく、展開後の継続的な監視にもあります。

広告はどのように配信され、パーソナライズされていますか？コンテンツはどのように特定のオーディエンスに届けられ、どのようなメッセージが伝えられていますか？AIに「どう」学ぶかを教えるのは誰ですか？また、特定の消費者をターゲットにしながらプライバシーを尊重する方法は何ですか？これらは、メディア企業が倫理と競争上の優位性のバランスを取る上で悩まれている質問のいくつかです。

責任への対応

責任あるAIの開発における進歩は毎日見られます。立法者は規制を起草し、消費者はより透明性を求めています。多くの企業は、AIの適切な使用を確実にするための専門部門を設けています。企業には、責任あるAIフレームワークが必要です。倫理、透明性、説明責任、公平性、プライバシー、セキュリティを網羅する必要があります。議論と改革が続く中、MITスローンマネジメントレビューとボストンコンサルティンググループによる最近の共同研究は、全体的なガイダンスを提供しています。彼らは「責任あるAIリーダーになりたいのなら、責任ある会社になることに焦点を当てろ」と書いています。rs倫理、透明性、説明責任、公平性、プライバシー、セキュリティについて、議論と改革が続いている中で、MITスローンマネジメントレビューとボストンコンサルティンググループによる最近の共同研究は、全体的なガイダンスを提供しています。彼らは「責任あるAIリーダーになりたいのなら、責任ある会社になることに焦点を当てろ」と書いています。