信頼できるAIの欠如はイノベーションとビジネス価値を損なう

最近の世界的なビジネスリーダーによる調査によると、信頼できるAIは重要な優先事項となっているが、多くの企業がそれを達成するための十分な措置を講じていないことが明らかになった。では、そのコストは何であるのか。

実際、IBMの調査によると、回答者の85%が、企業がAIモデルをどのように構築、管理、使用するかについて透明性を保つことが、顧客がその企業を選択する可能性を高めることを同意している。

しかし、多くの企業は、偏見を減らす（74%）、パフォーマンスの変化やモデルドリフトを追跡する（68%）、AIによる決定を説明することができることを確認する（61%）などの、信頼できるAIと責任あるAIを確保するための重要なステップを踏んでいないことを認めた。これは、特にAIの使用が増え続けていることを考えると、35%の企業が現在ビジネスでAIを使用していることがわかっているのに対し、1年前の31%から増加していることを考えると、心配するべきことである。

私は最近、招待のみのCorporate Innovation Summitに参加し、出席者は革新的なアイデアを交換し、将来を形作る技術を展示した。私は金融サービス、保険、小売業の3つの分野で3つのラウンドテーブルに参加し、3つの重要な分野が浮かび上がった。AIへの信頼を高めるための透明性の必要性、ノーコード/ローコードを通じたAIの民主化、AIの規制ガバナンスのベストプラクティスを通じたリスク軽減と時間短縮のための開発である。

AI技術への信頼を高める。COVID-19は、AIを搭載したチャットボット、仮想金融アシスタント、タッチレス顧客オンボーディングなどのトレンドを拡大し、加速させた。このトレンドは、Cap Geminiによる調査によって確認されており、78%の消費者が金融サービス組織とのやり取りでAI技術の使用を増やす予定であることがわかっている。

内在する利点にもかかわらず、多くの課題が生じる。主な課題は、AI技術への消費者の信頼の欠如と、それがプライバシーとセキュリティの権利に与える影響である。30%の消費者は、金融サービスプロバイダーが情報の収集、管理、セキュリティについてより透明性を保つことを条件に、バイオメトリック情報の共有をより快適に感じるだろうと述べた。

CIOは、信頼できるAIの原則を採用し、プライバシーとセキュリティの権利を保護するための厳格な措置を講じる必要がある。これは、暗号化、データ最小化、より安全な認証、分散型デジタルID標準の出現を考慮することで実現できる。

AIの民主化の障壁を除去する。ノーコード/ローコードAIアプリケーションの開発への移行が進んでおり、研究によると、2025年までに450億ドルに達する見通しである。主な推進力は、より迅速な時間価値と、アプリケーション開発の生産性の向上である。たとえば、10倍の改善が見込まれる。

たとえば、金融サービス組織の56%が、借り手からのデータの収集を、ローン申請プロセスの中で最も課題的で非効率的なステップの1つとして挙げている。AI駆動のバイオメトリックIDとデータ収集技術は、ローン申請プロセスを改善することが証明されているが、コンプライアンスリスクを生み出す可能性もある、特にデータプライバシー、機密性、AIアルゴリズムの偏見である。

これらのリスクを軽減し、改善するために、ノーコード/ローコードアプリケーションには、初期設計目標に従って動作することを確認するための包括的なテストが必要である。トレーニングデータセット内の潜在的な偏見、サンプリング偏見、ラベル偏見を除去し、AI攻撃から安全であることを確認する。さらに、責任あるデータサイエンスの原則である公平性、正確性、機密性、セキュリティの考慮が重要である。

AIのガバナンスと規制フレームワークを開発する。AIのガバナンスは、すでに必要な取り組みとなり、オプションではなくなっている。OECDの国別AI政策トラッカーによると、60以上の国で700以上のAI規制イニシアチブが進行中である。しかし、国際標準化団体によって開発された、自主的な行動規範や倫理的なAI原則がある。たとえば、電気電子技術者協会（IEEE）や国立標準技術研究所（NIST）がある。

組織は、AI規制がより厳格なコンプライアンス義務を課し、違反に対する厳しい罰則を伴うことを懸念している。しかし、AI規制は避けられないものである。

ヨーロッパと北米は、CIOが技術とビジネスのパートナーと協力して効果的なポリシーを形成することを要求する、積極的な姿勢を取っている。たとえば、欧州委員会が提案した人工知能法は、AIプロバイダーにリスクベースの義務を課し、消費者の権利を保護しながら、AI技術に関連するイノベーションと経済的機会を促進することを目的としている。

さらに、2022年6月、カナダ連邦政府は、長期にわたって待ちに待ったデジタル憲章実施法を発表し、高リスクAIシステムの悪影響から保護する。米国も、セクター別にAI規制イニシアチブを進めており、消費者金融保護局（CFPB）、連邦準備制度理事会が、消費者を保護するために規制措置を講じている。イノベーション企業にとって、AI規制フレームワークは必須である。

信頼できるAIを実現するには、データドリブンの洞察が必要

信頼できるAIの実現には、AI技術の適用による最大の影響を決定するためのデータドリブンのアプローチが不可欠である。顧客エンゲージメントの向上、運用の効率化、コンプライアンスリスクの軽減のどれに重点を置くかである。

これらのビジネスドライバーはすべて、プロセスがどのように実行されるか、エスカレーションと例外がどのように処理されるか、プロセス実行のロードマップとその根本原因を特定することについての理解を必要とする。データドリブンの分析に基づいて、企業は、顧客オンボーディングの摩擦を減らし、運用の効率性を向上させるために、AIベースのソリューションの実装による影響と成果について十分な情報に基づいたビジネス上の決定を下すことができる。企業がデータドリブンの洞察を得た後、AIコンプライアンスマンデート、コンプライアンス監査、金融サービスにおけるKYCとAMLなどの、高度に労働集約的なプロセスを自動化することができる。

主な結論は、AIを活用したプロセス自動化の重要な部分は、信頼できるAIのベストプラクティスの実装であるということである。AIの倫理的な使用は、法的および道徳的な義務としてだけでなく、ビジネス上の必須要件として考えるべきである。AIの適用において透明性を保つことは、ビジネス上の意味で良い選択である。信頼を育み、ブランドロイヤルティを促進するからである。