Beth Weeks, Executive Vice President, Development at Planview

AIの障害ではない失敗。遅すぎる失敗である。

AIの障害ではない失敗。遅すぎる失敗である。人工知能（AI）は、組織が運営、革新、成長する方法を変革しています。業界横断的に、組織はワークフローを合理化し、新しい効率を解放し、より迅速で自信のある意思決定をサポートするためにAIを使用しています。AIが現代の生産性のエンジンとなり、組織がより大きなアジリティとスケールを達成するのに役立つにつれ、AIは静かに成長しています。しかし、AIの多くの計測可能な利点にもかかわらず、予期せぬことが起こっています。多くの企業は壁に当たっています。革新を加速させるのではなく、一部のチームは複雑さ、リスク管理、未知への恐怖に悩まされています。なぜでしょうか。私たちは間違った方法でそれについて考えています。AIは、信頼できる前に完全に制御する必要がある技術であると頻繁に誤解されています。これは、安全性の前提条件としての確実性の誤った信念に由来します。しかし、この解釈は、AIが何であるか、それがどのように価値を提供するかという点を逃しています。AIは、使用に伴って学習し、進化するように設計された適応ツールです。AIを従来のソフトウェアのように動作するべきであると考えることは、その性質と潜在能力に対する誤った解釈です。AIを責任を持って活用するという推進力の中で、多くの組織はリスク軽減をボトルネックに変えてしまいました。業界横断的に、チームはAIを展開することをためらいます。チームは、AIの意思決定プロセスのすべての層を解析し、説明し、正当化する必要があると考え、多くの場合、実用的ではないほどです。説明責任のこのレベルは、善意を持った尽力の表れですが、AIの目的、つまり洞察を加速し、チームを増強し、大規模な問題を解決することを、多くの場合、打ち負かします。制御の要求から遠ざかり、回復力、生産性、実用的な説明可能性を強調するモデルへの転換する時が来ました。ただし、イノベーションを停止させずに。ブラックボックスへの恐怖が進歩を妨げている人々は、完全に理解できないシステムに対して自然な不安を感じます。特に、AIツール、特に大規模な生成モデルは、簡単に説明できない方法で動作することがよくあります。したがって、多くのリーダーは罠に陥ります。AIの決定を完全に説明できない場合は、システムは信頼できないということです。その結果、多くの組織は監視プロセスを過度に設計し、クロスファンクショナルなレビュー、コンプライアンスのチェック、説明可能性の監査を追加します。低リスクのユースケースの場合でも同様です。チームが説明可能性をブラックボックスを開く必要として扱うと、AIの実装は無限のレビューサイクルに陥ります。これにより、「運用上の麻痺」が生じ、チームがAIで何かを間違えることを恐れて何もしなくなるため、勢いが失われ、イニシアチブが停滞し、最終的には機会が失われます。問題は、コントロールシステムの背後にある意図ではなく、リスク軽減が制御と等価であるという仮定にあります。実践では、AIシステムを完全性ではなく回復力に設計する方が効果的です。重要なのは、手続き型のアプローチを放棄し、成果ベースの思考に移行することです。AIにおける回復力とは、間違いが発生することを受け入れて、間違いを検知して是正するためのガードレールを構築することを意味します。すべての可能な失敗を防ぐ方法から、間違いが発生したときに迅速に検知して介入する方法に会話を切り替えることを意味します。ほとんどの現代システムは、ある程度のエラーが発生することを前提として構築されています。たとえば、サイバーセキュリティツールは、100%侵入不可能である必要はないと考えられています。そう設計されていません。代わりに、検知、対応、迅速な復旧プロトコルを作成するように設計されています。AIにも同じ期待が寄せられるべきです。AIの決定を完全に可視化することは実用的ではなく、価値創造に反する可能性があります。代わりに、組織は「ダッシュボードレベルの説明可能性」を推進する必要があります。これにより、エラーを検知してセーフガードを適用するのに十分なコンテキストと監視が提供され、企業のイノベーションが停止することはありません。AIの展開を過度に複雑にしないでください組織は、ユースケースに関係なく、AIの実装で完全な相互運用性を採用する必要があります。完全な相互運用性は、混乱を招くのではなく、シームレスな統合とシステム全体でのより大きな価値を解放します。将来的には、企業全体で、共通の目標に向けて共同で作業するAIエージェントのバーチャルアーミーを見ることができるかもしれません。この心構えは、説明可能性をリスクレベルに適合させることです。毎回AIユースケースを自動運転車として扱うのをやめます。チームは、人間の意図と一致し、過度に複雑にせずに、生産的で説明可能で責任あるAIシステムを設計することでこれを達成できます。実用的な戦略には、次のものがあります。 AIを人間が苦手とする場所に展開する: リソース割り当て、タスクの優先順位付け、バックログ管理などの複雑で大量の分野で、人間の意思決定を補強するためにAIを使用します。ここでは、速度とスケールが完全な確実性よりも重要です。 AIの成功メトリックを定義する: すべてのモデルを説明しようとするのではなく、好ましい結果がどのようなものかを定義します。タイムラインは改善されていますか。再作業は減少していますか。ユーザーはAIの提案を受け入れることが増えていますか。これらの指標は、AIがどのように機能しているかよりも、モデルが決定を下す方法を掘り下げるよりも、はるかに明確な絵を示します。 信頼しきい値を設定する: AIの出力が自動的に受け入れられる、フラグが設定される、または人間のレビューに送信される場合のしきい値を設定し、フィードバックループを構築してシステムが時間の経過とともに学習し、改善されるようにします。 チームを正しい質問を尋ねるようにトレーニングする: すべてのチームをAIの専門家にしないでください。代わりに、どのような問題を解決するためにAIを使用しているか、どのようなリスクが最も重要か、有効性はどのように監視されるかという質問を尋ねるようにトレーニングします。 人間の推論を優先する: 甚至最も優れたAIシステムも、人間の監視から利益を得ます。AIを検証、修正、またはオーバーライドできるようにワークフローを構築し、共有の説明責任を作成します。 このアプローチは、車の運転に似ています。私たち大多数は、トランスミッションの仕組み、燃料の燃焼が加速をどのように駆動するか、センサーが近くの車両をどのように検出するかを理解していません。しかし、それが私たちを運転から止めることはありません。私たちが頼っているのは、ダッシュボードです。安全に運転するために必要な情報を提供する簡略化されたインターフェイスです。速度、燃料レベル、メンテナンスの警告など。AIシステムも同様に管理されるべきです。エンジンが走っているたびに、ボンネットを開ける必要はありません。必要なのは、何かが間違っていることを示す一連のインジケーター、人間の介入が必要な場所、次のステップを示すものです。このモデルにより、組織は、技術的な複雑さに溺れることなく、重要な場所での監視に焦点を当てることができます。自分自身の邪魔をしないでくださいAIは、完璧なものになることはありません。組織が、人間のチームが満たすことができない完璧性の基準をAIに課すと、仕事を再構想し、意思決定を加速し、企業全体で潜在能力を解放する機会を失う危険があります。回復力を制御よりも優先し、ダッシュボードレベルの説明可能性を採用し、監視をコンテキストに合わせて調整することで、AIについて過度に考えず、より多くの成功を生み出すことができます。