AI導入の成功が、企業がほとんど計画していない「第2の展開」を生む

約3年前、私は初めて有料のAIサブスクリプションを契約し、実際に何ができるのかを試し始めました。個人的な実験として始まった取り組みは、徐々に小規模な社内プロジェクトへと発展し、やがて全社向けの法人契約、そして開発、財務、法務、マーケティング、サポートなど、ほぼすべての部門にまたがるAI導入へと広がっていきました。

第1段階は、基本的にはうまくいきました。社内の開発速度は、約6カ月でおよそ5倍に向上しました。同時に、もう一つの数字も伸びました。AIへの支出が約15倍に増えたのです。

そのとき、AI導入が成功すると、それ自体が新たな問題を生み出すこともあると気づきました。テクノロジーが広く使われるようになると、導入当初に設けたルールでは対応できなくなりました。AIがより多くの社内データにアクセスし、より多くの業務を担うようになる一方で、多くのツールは依然として外部プロバイダーの管理下にあり、コストが制御不能になりかねませんでした。

では、AIの導入がうまくいったものの、利用方法を会社が十分に管理できなくなった場合、CEOはどうすべきでしょうか。考えてみましょう。

AIの利用状況を業務成果と同一視するのをやめる

すぐに気づいたのは、第1段階の導入時には、アクティブユーザー数や利用頻度といった導入指標が有効だったということです。リーダーとしては、従業員がツールを使っているか、特にどのツールを使っているか、そしてAIによって実際に時間を節約できているかを把握したいものです。しかし、利用が全社に広がると、こうした数字の有用性は大きく低下します。

私たち自身も同じことを経験しました。高性能なモデルを使えるようになると、人々はほとんどあらゆることに使い始めました。あるとき、従業員がAIにニューヨークの現在時刻を尋ねるようになりました。もちろん、これはばかげた例ですが、会社に実質的な価値をもたらさないまま、利用がいかに急速に増えるかを示しています。

Shopifyも、AIを深く統合した後、同様の問題に直面しました。現在では、社内エージェントのRiverが、本番コードに関するプルリクエストの最大半数を作成しています。しかしCEOのTobi Lütke氏は最近、「スロップ・グレネード」と呼ぶ問題について警鐘を鳴らしました。従業員がAI生成の成果物を十分に確認せずに引き渡し、その結果、別の誰かが成果物をレビューしたり、修正したり、場合によっては要約したりしなければならなくなるのです。

つまり、AIの利用が増えると、価値が高まるどころか、仕事が増えてしまうこともあります。利用状況を示す数字が優れ、膨大な成果物が生み出されていても、その一部が誰かにとって新たな作業を生み出しているだけかもしれません。

CEOが変えるべきなのは、まさにこの点です。プロンプト、ログイン数、トークン消費量は、ワークフロー内で多くの活動が行われていることを示します。それでも、AIが実際に費用に見合う成果を上げているかどうかは分かりません。

スピードが新たなボトルネックを生む

「急いては事を仕損じる」ということわざがあります。AIにも当てはまると思います。AIによって人々の作業が「速く」なっても、やるべき仕事が突然減るわけではないと、私たちは学びました。

開発では、AIのおかげでチームは同じ時間でかなり多くのコードを生み出せるようになりました。しかし重要なのは、そのコードをすべて本番環境に反映する前に確認しなければならないことです。間違いなく、自動レビューは役立ちます。

とはいえ、まだ何も考えずに信頼できる段階にはほど遠いものです。そのため、開発者はコードをすべて自分で書く時間が減る一方で、レビュー、テスト、判断を要する成果物は大幅に増えています。

つまり、仕事がなくなるわけではありません。別の形で現れるだけです。

人の確認を必要とするコードの量も同じように増えることを考えると、開発速度が5倍になったという話も、そこまで圧倒的なものには聞こえなくなります。AIを活用するワークフローの実質的なコストには、AIが生成したものを確認する時間、そして何より、そもそもその成果物を信頼できるかどうかを判断する時間も含まれます。

第2の展開は不可欠

私の考えでは、企業には私が「第2の」AI導入と呼ぶものが必要です。

第1段階の導入は、主に利用の定着を目的としています。人々にアクセスを提供し、活用事例を見つけ、テクノロジーが実際に役立つ場面とそうでない場面を把握する段階です。しかし、数カ月にわたって実際に利用すると、推測よりはるかに価値のあるものが手に入ります。コストがどこで増えているのか、どのチームがより良い成果を出しているのか、そしてAIの出力を確認するために人々がどこで時間をかけすぎているのかを示す、自社独自の実績データです。

だからこそ、利用をさらに広げることだけを目指すのではなく、AIをめぐるルールを見直すべきだと私は考えます。実務上は、次の3点に注力します。

• タスクに合ったモデルを選ぶ。定型的な依頼は、より小型で安価なモデルに振り分け、複雑な業務には追加コストに見合うモデルを使います。最終的な目標は、価値の低いタスクに最先端モデルの料金を支払わずに済むようにすることです。
• 人間による管理が必須となる場面を特定する。本番コード、法的文書、その他の影響の大きい成果物については、ワークフローの次の段階に進む前に、人間がどこで結果を承認しなければならないかを定めます。それとは別に、機密データへのアクセスルールを設け、従業員がどのモデルにデータを渡せるのか、どのモデルには渡せないのかを把握できるようにします。
• 必要ないと思っていても、代替策を用意しておきましょう。重要なワークフローが外部プロバイダーに依存している場合は、緊急時に別のプロバイダーへ移行できるよう、プロンプト、連携機能、データフロー、モデル固有の依存関係を十分に文書化しておきます。

これが、AI導入の第1段階と第2段階の違いです。第1段階で問うのは、「AIをどこで使えるか」です。第2段階では、「どこで使うべきか、どのようなルールのもとで、どれほどのコストをかけて使うべきか」を問います。

導入を再び拡大する前に監査する

AIの導入が軌道に乗り、第1段階の展開が成功したように見えても、同じ方法でさらに1年間、拡大を続けるべきではありません。実運用を約90〜180日続けた後、いったん立ち止まり、会社が実際に構築したものを監査します。

具体的には、事業上の成果として受け入れられたものを測定し、タスクの実際の価値に照らしてモデルとそのコストを見極め、人による確認が依然として必須の箇所と、ワークフローを完全自動化にどのような形で近づけられるかを特定します。

第1段階の展開で、AIによって会社の業務をスピードアップできることが証明されます。第2段階は、そのスピードが不要な支出、管理されていないアクセス、あるいは企業が意識的に合意したことのないベンダー依存へとつながるのを防ぎます。