ソートリーダー
AIアルゴリズムを運用管理に導入することの難しさの5つの理由
Unite.AI を Google の優先ソースに追加
By：エヴゲーニヤ・マリーナ、Food Rocketの事業戦略および運営責任者。
マッキンゼー・グローバル・インスティテュートの最近の調査によると、AIは2030年までに世界経済の総生産量を13兆ドル増加させることができる。
しかし、これには独自の課題と予期せぬ結果が伴う。AIの導入で最も一般的に特定されるリスクと課題には、プライバシーに関する懸念、一般化できないこと、そして全体的な信頼性の欠如が含まれる。
以下は、ビジネスの運用管理に特に影響するAIの3つの課題である。
1. データの質の低さ
強力なAIアルゴリズムが必要とするのは、データである。アルゴリズムを適切にトレーニングするには、正確で高品質のデータを大量に与える必要がある。ただし、いつでもこのデータを取得することは容易ではない。2020年のガートナーの報告書によると、データの質の低さは、会社に年間約1300万ドルの損失をもたらす可能性がある。
例えば、初めて開始するプロセスの中には、デジタルな足跡が全くない場合がある。アルゴリズムに与えるデータがない。これらの場合、与えるものは仮説と教育を受けた推測だけである。これには2つの問題がある。
まず、人間の偏見がプロセスに導入される。2つ目は、アルゴリズムからの結果は、単にあなたの最良の推測の延長に過ぎないということである。最終的には、これにより、データの景観は曖昧で、意思決定プロセスは信頼性が低く不安定になる。
2. 「コールドスタート」と従業員の関与の問題
自動化は既存のプロセスを合理化するために優れているが、代償として「コールドスタート」が存在する。これは、AIがルーチンを基づいて開始しなければならないが、歴史的なデータがない場合である。すべての場合、AIはこのハードルを克服するのに苦労する。
ハーバード・ビジネス・レビューによると、80パーセント以上のITチームの時間が、AIアルゴリズムのために不一致したデータを改善し、洗練することに費やされることが多い。
「コールドスタート」のハードルを超えて、スムーズな運用を再開するには、人間の努力を相当程度投入する必要がある。
私の経験では、在庫管理で重大な混乱を引き起こし、会社に相当な収益を費やすことにもなる。私たちは皆、AIはまだ十分に進化していないことを知っている。つまり、運用管理システムのすべての側面を扱うことができない。したがって、会社が利用するAIソリューションは、人間の意思決定プロセスと重なり合うことになる。
これは良いことであるかもしれないが、従業員の個人的な責任感の低下につながることもある。場合によっては、従業員は「AIがそれをした」という理由で決定から自分を切り離すことがある。
さらに、新しいアルゴリズムの導入は、品質メトリックの著しい低下と一致することが多い。これは、元々メトリックを担当していた人が、自動化された意思決定プロセスのただのリンクであると感じるためである。
自動化のこの側面を管理することは重要である。チームが無関心でコミットメントの低い道に進む可能性があるからである。また、ブランドに害を及ぼす可能性もある。AIが独自に決定を下すと、年齢、性別、または地理的ブラケットの顧客に対して無意識に差別する可能性があるからである。
3. 透明性と効率的な導入の課題
すべてのビジネスオーナーが知っているように、状況は瞬時に変化することがある。会社には、新しい運用に対して複雑なAIソリューションを構築する時間がないことが多い。
実際、時間が足りない状況で問題を解決するために自動化の助けを借りることができないことが多い。新しいプロセスを構築するには時間がかかりすぎるからである。複雑なモデルを書く時間がない場合、2つの選択肢がある。
まず、会社はほぼ完了したプロセスを導入するが、プロセスを洗練するまでの間、手動のステップを挿入する。这种場合、会社はプロセスの計算された効率の約80パーセントを失う。
代わりに、会社は導入プロセスを迅速化するためにSaaSを導入する。時間と金銭のコストは低くなるが、効率の低下の問題は残る。这种場合、会社のニーズに特化していないSaaSアルゴリズムを導入すると、手動で行うよりもプロセスが非効率的になる可能性がある。
これらの問題に加えて、AIプロセスの透明性を管理層に伝えることは非常に難しい。アルゴリズムの複雑さのため、チームは自動化された運用管理への移行について疑問を抱くことがある。
今後どうする？
一部の研究者は、現在直面している課題が会社内の新しい役割につながる可能性があると示唆している：トレーナー、エクスプレイナー、サステイナー。
トレーナーはAIのパフォーマンスを最適化するのに役立つ。エクスプレイナーは、非専門家向けにAIの決定を分解する。サステイナーは、AIプロセスを長期的に持続可能にする。
しかし、それまでは、ビジネスと創業者は、競争上の優位性をAIがもたらすだけでなく、運用AIに伴う曖昧さ、時間のコスト、成長のハードルも考慮する必要がある。
人工知能はまだ成長、開発、導入の点で長い道のりを歩む必要がある。運用管理において大きな違いをもたらす可能性はあるが、まだ常に最良の選択肢であるとは限らない。
