信頼できるAIの欠如はイノベーションとビジネス価値を阻害する

グローバルビジネスリーダーを対象とした最近の調査では、信頼できるAIは主要な優先事項であることがわかったが、多くの企業がそれを達成するために十分な措置を講じていない。しかし、そのコストはどれくらいか。

実際、IBMの調査では、顧客が企業のAIモデルがどのように構築、管理、使用されているかについて透明性を保つ会社を選択する可能性が高いと答えた回答者は85%に達することが明らかになった。

しかし、多くの企業は、偏りを減らす（74%）、パフォーマンスの変動やモデルドリフトを追跡する（68%）、AIによる決定を説明できることを確認する（61%）などの信頼できるAIと責任あるAIを確保するための重要なステップを講じていないことを認めた。これは、特にAIの使用が増え続けていることを考えると、懸念すべき事実である。35%の企業が現在ビジネスでAIを使用していると回答しており、前年比で31%から増加した。

私は最近、トロントで開催された招待のみのコーポレートイノベーションサミットに出席し、出席者はイノベーションのアイデアを交換し、将来を形作る技術を展示した。私は金融サービス、保険、小売業界の3つのラウンドテーブルに参加し、3つの重要な分野が浮かび上がった。AIに信頼を育むための透明性の必要性、ノーコード/ローコードを通じたAIの民主化、AIの規制ガバナンスのベストプラクティスを通じたリスク軽減と時間短縮のための開発である。

AI技術に対する信頼を高める。 COVID-19は、AIを搭載したチャットボット、バーチャル金融アシスタント、タッチレス顧客オンボーディングのトレンドを拡大し、加速させた。このトレンドは継続することが確認されており、カプジェミニによる調査によると、78%の消費者が金融サービス企業とのやり取りでAI技術、デジタルID管理の使用を増やす予定であることが示されている。

そのような利点があるにもかかわらず、多くの課題が生じる。主な課題は、AI技術に対する消費者の信頼の欠如と、それがプライバシーとセキュリティの権利に与える影響である。30%の消費者は、金融サービス提供者が情報の収集、管理、セキュリティについて説明する透明性を提供すれば、バイオメトリック情報を共有することに抵抗が少ないと回答した。

CIOは、信頼できるAIの原則を採用し、プライバシーとセキュリティの権利を保護するための厳格な措置を講じる必要がある。これは、暗号化、データ最小化、安全な認証、分散型デジタルID標準の導入を検討することで実現できる。

AIの民主化の障壁を除去する。 ノーコード/ローコードAIアプリケーションの開発へのシフトが進んでおり、研究によると、2025年までに450億ドルに達することが予測されている。主な推進力は、より迅速な価値の実現と、アプリケーション開発の生産性の向上である。例えば、56%の金融サービス企業は、データ収集を、ローン申請プロセスで最も課題的で非効率的なステップの1つとして考えており、高い放棄率が生じている。AIドライブのバイオメトリック識別とデータ収集技術は、ローン申請プロセスで効率性を向上させることが証明されているが、コンプライアンスリスクを生み出す可能性もある。特に、データプライバシー、機密性、AIアルゴリズムの偏りである。

そのようなリスクを軽減し、是正するには、ノーコード/ローコードアプリケーションには、初期の設計目標に従って動作することを確認するための包括的なテストが必要である。サンプリングバイアス、ラベリングバイアス、敵対的なAI攻撃からセキュリティを確保する必要がある。また、責任あるデータサイエンスの原則の公平性、正確性、機密性、セキュリティを考慮することが重要である。

AIのガバナンスと規制フレームワークを開発する。 AIのガバナンスは、もはや望ましい取り組みではなく、必須の取り組みである。OECDの国別AI政策トラッカーによると、60以上の国で700以上のAI規制取り組みが進行中である。しかし、国際標準化団体によって開発された自主的な行動規範と倫理的なAI原則がある。例えば、電気電子技術者協会（IEEE）や国家標準技術研究所（NIST）である。

企業は、AI規制がより厳格なコンプライアンス義務を課し、違反に対する厳しい罰則を伴うことを懸念している。しかし、AI規制は避けられない。

ヨーロッパと北米は、CIOが技術とビジネスの対象となる同僚と協力して効果的なポリシーを形成することを要求する、積極的な姿勢を取っている。例えば、欧州委員会は、AI法案を提案し、AI提供者にリスクベースの義務を課し、消費者の権利を保護しながら、AI技術に関連するイノベーションと経済的機会を促進することを提案している。

さらに、2022年6月、カナダ連邦政府は、待望のデジタル憲章実施法を発表し、高リスクAIシステムの悪影響から消費者を保護している。米国も、セクター別にAI規制取り組みを進めている。連邦貿易委員会（FTC）、消費者金融保護局（CFPB）、連邦準備制度理事会は、すべての規制強化メカニズムを通じて、消費者をAIの適用による悪影響から保護するために、規制強化を進めている。イノベーション企業にとって、AI規制フレームワークは必須である。

信頼できるAIを実現するにはデータドリブンの洞察が必要

信頼できるAIの実現には、AI技術の適用が最大の影響を与える場所を決定するために、データドリブンのアプローチが必要である。顧客エンゲージメントの向上、運用の効率化、コンプライアンスリスクの軽減のどれかであるか。

これらのビジネスドライバーはすべて、プロセスがどのように実行されるか、エスカレーションと例外がどのように処理されるか、プロセスの実行のロードブロックとその根本原因を特定することについての理解を必要とする。データドリブンの分析に基づいて、企業は、AIベースのソリューションの実装による影響と結果について十分な情報を得た上で、ビジネス上の決定を下すことができる。企業がデータドリブンの洞察を得た後、AIコンプライアンスマンデート、コンプライアンス監査、金融サービスにおけるKYC、AMLなどの、高度に労働集約的なプロセスを自動化できる。

主なポイントは、AIを活用したプロセス自動化の重要な部分は、信頼できるAIのベストプラクティスの実装であることである。AIの倫理的な使用は、法的および道徳的な義務とみなされるだけでなく、ビジネス上の必須条件とみなされるべきである。AIの適用が透明性を保つことは、信頼を育み、ブランドロイヤルティを高めるため、良いビジネス上の判断である。