スピードを優先するが、ものごとを壊すな: 責任あるAIの導入とイノベーションのバランスを取る方法

マッキンゼーの最近の世界的な調査によると、78%の組織が現在、ビジネスの機能の少なくとも1つでAIを使用しています。しかし、AIコンプライアンススペシャリストを雇用している組織は13%に過ぎず、AI倫理スペシャリストを雇用している組織は6%だけです。

これは、正直言って、無謀な行為です。

私は以前、シリコンバレーの「スピードを優先するが、ものごとを壊すな」の精神を信じていましたが、AIは今まで見たことのないほど強力な技術であり、光速で成長しているため、そんなに無謀な行為ができるわけではありません。

AIの導入に意味のあるガードレールがない場合、最終的に失敗して、すべてを壊すことになります。AIの偏見や誤用の1つの事例だけで、数年のブランドビルディングを無に帰すことができます。

多くのCIOとCTOはこれらのリスクを認識していますが、規制機関が最終的に介入して自分たちを守ってくれるという仮定で動いているようです。結果として、リスクについては多くの話がありますが、実際の監視はほとんどありません。

規制は最終的に来るでしょうが、いつ来るのかはわかりません。ChatGPTは約3年前に導入されましたが、まだチャットボットと安全性のリスクについての議論が始まったばかりです。規制が来るまでに数年かかる可能性があります。

規制が来るのを待っている間、企業は内部のガバナンスに取り組むべきです。規制が来てからでは遅いからです。GDPRやCCPAが導入されたときのように、規制が来てからでは、遅すぎます。

初期のスタートアップは今や大企業に成長しています。私たちもAIの導入に責任を持って取り組むべきです。

責任あるAIの導入には「今買って後払い」のようなものはない – 今から始めよう

責任あるAIの導入の第一歩は、規制機関を待たずに自分たちでルールを決めることです。今日、安全対策を避けても、将来的には高額なコストを払うことになります。

多くの企業は、責任あるAIの導入からどこから始めればよいのかわかりません。私の会社は最近、500人のCIOとCTOに調査を実施しました。結果は、48%の回答者が「AIの責任ある使用または導入の基準を決定すること」が、倫理的なAIの使用を確実にする上での課題であると回答しました。

責任あるAIの導入から始めるための1つの方法は、AIによって可能になる機能に焦点を当てるのではなく、潜在的なリスクを考慮することです。例えば、AIの使用によって従業員の時間を節約できるかもしれませんが、同時に、個人情報や機密情報がライセンスされていないAIモデルに共有される可能性もあります。

ソフトウェア開発ライフサイクル（SDLC）という概念は、多くのデジタル企業ではよく知られています。AIのガバナンスのベストプラクティスも、日常のワークフローに組み込まれるべきです。そうすれば、責任ある意思決定が日常のルーティーンの一部になるでしょう。

倫理委員会やガバナンス委員会のような統制機関を設立する必要があります。AIの適用についての基準を定め、モニタリングとメンテナンスの指標を定める必要があります。実際的には、AIツールの管理、ソリューションの承認、リスク管理、規制と基準の整合、透明性のあるコミュニケーションが必要です。技術的には、新しいプロセスですが、データのベストプラクティスやサイバーセキュリティの維持とあまり変わらないでしょう。自動化することもできます。

すべてのリスクが同じレベルの注意を必要としないことはわかっています。したがって、優先順位の高いものに焦点を当てるための階層的なリスク管理プロセスを開発することも重要です。

最後に、内部および外部のガバナンス慣行について、明確で透明性のあるコミュニケーションが不可欠です。ガバナンス基準の生のドキュメントを維持し、チームを最新の情報に保つための継続的なトレーニングが必要です。

ガバナンスはイノベーションへの脅威ではない

責任あるAIの最大の脅威は、ガバナンスとイノベーションが相反するという信念である可能性があります。調査データによると、87%のCIOとCTOが、過度の規制によってイノベーションが制限されることを心配していました。

ガバナンスはイノベーションのブレーキではなく、戦略的パートナーとして扱うべきです。

ガバナンスは、開発の最後に残されることが多いですが、ガバナンスはプロセスの一部であるべきです。スプリントサイクルにガバナンスを組み込むことができます。自動化されたチェックを並行して実行することで、製品チームは迅速に進むことができます。長期的には、責任が最初から組み込まれていることがわかっている顧客、従業員、規制機関に自信を与えます。

これは、財務的にも利益をもたらします。研究によると、データとAIのガバナンスフレームワークをうまく実装している組織は、財務的パフォーマンスが21〜49%向上します。一方、ガバナンスフレームワークを確立していない組織は、2027年までに、AIの使用例の予想される価値を実現できない可能性が60%あります。

ただし、法律チームがこれらの会話に参加すると、スピードが遅くなることがあります。私の経験では、ガバナンス、リスク、コンプライアンス（GRC）チームを設立することで、法律チームと製品チームの間を橋渡しすることができます。

GRCチームは法律チームとの間に良い関係を築き、必要なレポートを提供し、開発チームと協力して将来のリスクを軽減することができます。最終的には、ガバナンスへの投資はイノベーションを妨げるのではなく、促進するものであることがわかります。

拡張可能な監視とガバナンスシステムの作成

調査されたCIOとCTOの多くが規制によってイノベーションが制限されることを心配している一方で、84%の企業が次の12ヶ月間でAIの監視を強化する予定です。AIの統合が時間の経過とともに拡大し、拡張する可能性が高いことを考えると、ガバナンスシステムも拡張できるようにすることが重要です。

企業内のさまざまなユニットがシロに分かれて働いていることがあります。つまり、同時に異なる展開を実行し、異なる「責任あるAI」のビジョンを持っています。企業は、技術、コンプライアンス、ビジネスの専門知識を組み合わせたAIセンター・オブ・エクセレンスを設立することで、これらの矛盾を避けることができます。

AIセンター・オブ・エクセレンスは、会社全体の基準と階層的な承認プロセスを確立します。低リスクの使用例には、スムーズなプロセスが必要です。一方、高リスクの展開には、より正式な安全性のチェックが必要です。同様に、AIの安全性のKPIをトップエグゼクティブに設定することで、責任が日常業務の中で失われないようにします。

しかし、これを実現するには、エグゼクティブにはガバナンスインジケーターの追跡に関する可視性が必要です。リアルタイムデータを提供するダッシュボードは、すぐに古くなってしまう静的なコンプライアンスレポートよりもはるかに効果的です。理想的には、企業はサイバーセキュリティリスクと同様に、AIリスクレジスターも保持し、ML/AIの実装がどのように構築され、テストされ、どのように機能しているかを反映する監査トレイルも保持する必要があります。

最も重要なことは、責任あるAIには、ガバナンスが継続的なプロセスである必要があるということです。開始時の承認だけでは十分ではなく、モデルのライフサイクル全体を通じて継続的なモニタリングが必要です。したがって、トレーニングが重要です。開発者、テクノロジー担当者、ビジネスリーダーは、責任あるAIの実践に従事し、問題を早期に発見し、システムが進化するにつれてガバナンスの高い基準を維持できるようにする必要があります。そうすれば、AIの展開はより信頼性が高く、効果的で、利益性が高くなるでしょう – すべてを壊すことなく。