
ソートリーダー
-

ソートリーダーAIでセキュリティは拡張できる。では、何を拡張するのか?
今日、企業のセキュリティチームは、手作業で現実的に調査できる量を超える活動、テレメトリー、アラートに直面しています。推定値には幅がありますが、調査によっては、セキュリティ運用チームが1日に受け取るアラートは平均で4,400件を超えるとされています。組織が拡大してツールを追加し、AIによって攻撃が増えるにつれ、この数は増加の一途をたどるでしょう。すでに、環境内に200万台のエンドポイントを抱える企業や、アラートを手作業で調査するセキュリティチームが、エージェントをますます活用する攻撃者を相手に、対等とはいえない戦いを強いられている事例が見られます。防御側にとって、AIエージェントは環境全体にわたる調査やその他の反復作業を担うことで、この状況を変えられる可能性があります。しかし、より多くのデータを処理できるからといって、脅威の検知や対応が自動的に向上するわけではありません。必要なのは、規模の拡大だけではなく、コンテキストです。規模を評価するうえでコンテキストが重要な理由何百万台ものエンドポイントを調査するエージェントは、何を探しているのか、その環境でどのような挙動が異常に当たるのか、どのような発見がさらなる調査に値するのかを理解する必要があります。こうしたコンテキストがなければ、自動化によってノイズが拡大し、無関係または誤解を招く結論が生み出されるおそれがあります。また、すべての組織が各アラートの調査に最先端モデルを利用できるわけではないことも、念頭に置く必要があります。それではコストがあまりにも高くなります。セキュリティ環境は、インフラ、アプリケーション、運用要件、規制上の義務、リスク許容度によって異なります。防御側は、コンプライアンス要件に対応し、運用の妨げを避けながら、アプリケーションを稼働させ続けなければなりません。エージェントが効果を発揮するには、過去の調査、確立された手順、経験豊富なアナリストの判断など、組織の知識を取り込む必要があります。こうした知識の多くは、表計算シートなどの形式でエージェントに渡せば済むものではありません。経験豊富な防御担当者の実務を観察し、そこから学ぶ必要があります。企業にとっての大きな課題は、こうした組織に蓄積された知識を、機械の速度で一貫性のある、状況に即した判断を下せるシステムにどう落とし込むかです。組織の知識を実運用に生かす方法組織には、過去の事例における判断、確立された手順、アナリストによる証拠の解釈など、調査の判断材料となる知識を収集し、活用する仕組みが必要です。企業には、独自のプロセスやツール、暗黙知が存在する場合もあり、それらも記録しておく必要があります。モデルの特化は、選択肢の一つです。個々の企業顧客に合わせてモデルをファインチューニングすれば、高い性能を維持しながら、大規模な調査をより予測しやすいコストで行えます。ファインチューニングしたオープンソースモデルは、特に非常に多くのエンドポイントを対象とするタスクで有用となる可能性があります。モデル、ワークフロー、企業環境の変化に応じて、組織はエージェントの性能も評価しなければなりません。本番データを利用できなくなった場合や、データが古くなった場合には、合成環境、つまりデジタルツインを、さまざまなバージョンのエージェントをテストするための代表的な環境として活用できます。コンテキストを与える方法は、ファインチューニングだけではありません。検索、メモリー、ワークフローのオーケストレーション、明示的なポリシー制御も代替手段です。中心となる要件は、選んだ方法によって、エージェントが実際に稼働する環境での性能が向上することです。自律性を大規模に実現するには、明確な境界、監督、連携が必要脅威を正しく特定することは、課題の一部にすぎません。エージェントは、どのような行動を取る権限があるのか、人間の承認が必要なのはどのような場合か、正当な業務を妨げないためにはどうすればよいのかを理解しなければなりません。エージェントが自律的に行動できる範囲と、人間の判断が必要な範囲を見極めることは、信頼できる導入に不可欠です。自律性を大規模に実現するには、規模の経済も必要です。何百万件もの調査に最先端モデルを利用する企業は、自らを破産に追い込むことになるでしょう。そのため、小規模言語モデル(SLM)であれ独自モデルであれ、AIモデルを用いた調査で最も効率的な方法を見つけることが極めて重要です。自律性の程度は、リスクに見合ったものであるべきです。定型的で内容が十分に理解されているタスクは自律的な実行に適している一方、重大な影響を及ぼす行動や業務を妨げる行動には、人間の承認や追加の権限付与が必要になる場合があります。企業のセキュリティには、チーム間の連携も欠かせません。ファイアウォール設定の変更が必要な脅威を特定した調査から、そのシステムを担当するチームへと、適切な権限付与と修復に関する説明責任を確保しながら、滞りなく引き継げる必要があります。したがって、ガバナンスとワークフローの設計はエージェント導入に不可欠な要素であり、技術を大規模に展開した後で追加すればよい制御策ではありません。セキュリティAIの次なる成功指標は、成果の質組織は、調査の正確性、偽陽性率と偽陰性率、調査と修復に要する時間、調査1件あたりのコスト、エスカレーションの質、認可ポリシーの遵守など、成果に基づく指標を用いてエージェントを評価すべきです。モデルやワークフローが変化する中、継続的な評価は欠かせません。さまざまなバージョンのエージェントを代表的な事例に照らしてテストし、合成環境を活用することで、組織は更新を本番環境に導入する前に、性能の後退を特定できます。セキュリティ責任者は、自動化のメリットと導入に伴う運用上のリスクとのバランスを取る必要があります。アプリケーションの可用性、コンプライアンス上の義務、組織のリスク許容度、導入スケジュールはいずれも、新たな機能をどれほど迅速に採用できるかに影響します。AIは、セキュリティチームが長年の人員・処理能力不足に対処する機会をもたらしますが、規模を拡大すること自体が最終目標ではありません。本当の可能性は、機械の処理速度を組織の状況に関する理解、適切な権限、人間の判断力と組み合わせることにあります。それにより、エージェントは何が重要かを見極め、適切な対応を取り、必要に応じて適切な人々を関与させることができます。
著者 Eyal Fisher, LegionのCTO兼共同創業者
-

ソートリーダーソブリンAIはなぜ構築する価値があるのか、そしてどこで行き詰まるのか
2025年5月13日、マンハッタンの連邦治安判事は、The New York TimesとOpenAIの著作権をめぐる争いで、証拠開示命令に署名した。命令はOpenAIに対し、「本来なら削除されるすべての出力ログデータを保全し、分離しておく」よう求めた。つまり、ユーザーがすでに削除を求めていたチャットも対象になった。ChatGPT Free、Plus、Pro、Teamのアカウントに加え、ゼロデータ保持契約を結んでいないAPI利用者も含まれていた。OpenAIはこれに強く反発した。最高執行責任者(COO)のBrad Lightcapは、これを「行き過ぎだ」と評した。包括的な命令は9月下旬に終了したが、Timesが対象として指定したアカウントのデータは、引き続き法的保全の対象となっている。企業顧客は対象から除外された。一方、Teamプランを利用する多くの業務チームや、標準のAPIキーを使うチームは除外されなかった。いずれも訴訟の当事者ではなかった。彼らは削除を指示した。それにもかかわらず、別の訴訟を担当する裁判官の判断によって、削除は削除を意味しないことになった。私はOpenAIを非難しているわけではない。同社は強く反論した。重要なのはそこだ。データを他社のプラットフォームに置けば、そのデータの扱いは他社が関わる法的紛争や契約、方針によって決まる。ここで、自社に置き換えて考えてみよう。自社の契約書、保険金請求の記録、ソースコード、顧客の医療記録。その多くが、自社で所有していないインフラ上で稼働し、自社が作成していない利用条件に従うAIモデルを通じて処理されるようになっている。ソブリンAIが本当に意味するのは、国旗や国境ではない。コントロールだ。数字が示す、これは一部だけの懸念ではないという事実McKinseyは昨年末、経営幹部、投資家、政府関係者300人を対象に調査を実施した。回答者の71%が、ソブリンAIを「存続を脅かす懸念」または「戦略上の必須課題」と捉えていた。McKinseyは、ソブリンAI市場が2030年までに6,000億ドル規模に達し、AIワークロードの最大40%がソブリン環境へ移行する可能性があると見積もっている。企業を対象とした調査結果も、同じ傾向を示している。 組織の約5分の4が、ソブリンAIは戦略上の優先事項だとLinux Foundationに回答した。また、約90%が、オープンソースはその実現に不可欠、または非常に重要だと答えた。 欧州、中東、アフリカのITリーダー900人超のうち74%が、今後18か月間の優先事項としてAIの主権確保を挙げたとRed Hatに回答した。92%は、エンタープライズ向けオープンソースが鍵になると答えた。 組織の63%がすでにオープンソースAIモデルを利用している。これは、41か国のテクノロジーリーダー700人超を対象にしたMcKinseyとMozilla Foundationの調査によるものだ。76%は、今後さらに利用を増やすと見込んでいる。 共通する傾向に注目してほしい。ソブリンAIとオープンソースは、繰り返し一緒に取り上げられている。偶然ではない。私が有望視する理由以前にも述べたが、モデルの性能はすでに十分だ。企業が日々必要とする要約、調査、指示への対応、文書処理の大半では、最先端モデルの性能向上は実務に大きな変化をもたらさない。オリンピック級の数学コンテストで優勝するモデルでも、保険金請求の処理が速くなるわけではない。私はQwenのようなオープンモデルを自分のハードウェア上で動かし、実際のアプリケーション業務をうまくこなす様子を見てきた。データを一件も外部に送ることなく、自分のデータを使って自分のマシンでファインチューニングできる。2年前なら、これは企業が本格的に選択できる手段ではなかった。今では選択肢になっている。この変化によって、AIの主権を確保するための条件も変わる。自社のAIを所有するために、最先端モデルを一から構築する必要はない。高性能なオープンウェイトモデルを採用し、自社の施設内やソブリンクラウドで動かし、自社データで調整したうえで、モデルの重みを自社で保持すればよい。供給側にも変化が起きている。8月、NvidiaはPoolsideに対し、モデル構築プラットフォームのライセンス料として60億ドルを支払うことに合意し、さらに同社のエンジニア100人超に採用を持ちかけた。いずれも、オープンウェイトモデル群であるNemotronを強化することを目的としている。採掘道具を売る企業がオープンモデルにこれほどの資金を投じるなら、オープンモデルは今後も進化を続けるだろう。セキュリティツールも追いつきつつある。機密推論では、CPUやGPU内の信頼実行環境を使い、チップ内の隔離された領域にデータが届くまで暗号化した状態を保つ。クラウドプロバイダーでさえ、そのデータを見ることはできない。これにより、データが安全であることを願うだけの状態から、安全だと確信できる状態へ移行できる。そう、ソブリンAIは非常に優れたものになり得る。ワークロードあたりのコストを抑えられ、突然の値上げもなく、使っているモデルが一方的に廃止されることもない。そして、取締役会からデータの行き先を尋ねられたとき、明確に答えられる。しかし、ここで話を終えるのは、かえって皆さんに不利益をもたらすだろう。契約に署名する前に細則を確認しよう計算資源は一部に集中しており、安価ではない。Center for a New American SecurityのSovereign AI Indexによると、最先端AI向け計算資源の約90%は米国と中国に集中している。McKinseyによれば、高度なAIワークロードに対応できる計算資源を備えた国は約30か国にすぎない。自社で技術基盤を所有するには、GPU、電力、冷却設備、そしてそれらを運用できる人材が必要だ。チップだけでなく、すべてを賄える予算を確保しよう。主権を持つことは、自給自足を意味しない。 CNASは、政府が支援する主権AIプロジェクトを184件追跡している。5分の3を超えるプロジェクトが少なくとも1つの外国パートナーを公表しており、そのパートナーの大半は米国企業だ。国でさえ、単独ではこれを成し遂げられない。World Economic Forum and Bainは、主権とは実際には「戦略的相互依存」だと主張している。私もそう思う。どの層を自ら管理する必要があり、どの層なら安心して外部に委ねられるのかを見極めよう。オープンモデルは、最も難しいタスクでは依然として後れを取っている。 McKinseyは、ローカライズされたモデルの性能が最先端の水準に届かない場合があると指摘している。用途によっては、この差が重要になる。すべてかゼロかで考える必要はない。機密性が高く大量の処理が必要な業務には自社で管理するモデルを使い、本当に必要な問題に対応できるよう、ガバナンスの効いた形で最先端のAPIを利用する道も確保しておこう。ほとんどのプログラムが行き詰まるのは、運用の段階だ。...
著者 Brian Rowe, AI・機械学習担当シニアバイスプレジデント、Marlabs
-

ソートリーダー最良の支援役:コンタクトセンターのエージェント型AIに、今なお人間の主導が必要な理由
エージェント型AIは、顧客の質問に答えるだけでなく、顧客に代わって行動する段階へと急速に進んでいます。担当者の対応を待たずにアカウント情報を取得し、依頼を先へ進めることもできます。限られたリソースでより多くの問い合わせに対応する必要があるコンタクトセンターにとって、これは魅力的な見通しです。しかし、ソフトウェアに行動する権限を与えると、顧客が例外的な対応を必要とする場合や、自動判断が技術的には正しくても明らかに不公平な場合に何が起こるのか、という問題も生じます。こうした状況はカスタマーサービスの日常にあり、信頼が築かれるか失われるかを左右する場面でもあります。コンタクトセンターが、AIにどの判断を任せるのか、また、どの場面で人間の主導が必要なのかを慎重に見極めれば、大きな可能性が広がります。コンタクトセンターにとって有力な選択肢は、定型業務を自動化しつつ、複雑な顧客の問題を解決する権限を担当者に与えることです。エージェント型AIがカスタマーサービス業務をどう変えているのか従来のコンタクトセンター自動化でできることには限りがありました。顧客は電話のメニューをたどったり、限られた選択肢から選んだりするしかないことが多く、より複雑な用件では、通常、担当者と話せるまで待つ必要がありました。エージェント型システムなら、さらに踏み込んだ対応が可能です。適切な権限が与えられれば、複数のシステムをまたいで顧客の依頼を追跡し、承認済みの手続きを実行できます。たとえば、予約の変更依頼では、対象条件を確認して予約を更新することが考えられます。これにより、人間の担当者の役割も変わります。最初の数分を情報探しに費やす代わりに、担当者はこれまでの経緯を把握したうえで会話に臨めます。適切に設計されたアシスタントなら、担当者が次の質問をする前に、過去のやり取りを提示して要約できます。AIはカスタマーサービスに大きな変化をもたらし得ます。カスタマーサポート担当者を対象に5,000人を超える労働者を調査した研究では、AIの支援を受けた担当者は、1時間当たりに解決した顧客の問題が約15%多かったことが分かりました。改善が最も大きかったのは経験の浅い担当者で、顧客の依頼に対応する際に役立つ提案を利用できたことが効果につながりました。この結果は心強いものですが、考慮すべき重要な点があります。AIは担当者の業務を支援しており、判断を下すのは引き続き人間でした。ここから、エージェント型AIの導入を検討するコンタクトセンターには、重要な問いが残ります。顧客と直接やり取りする際、こうしたシステムにどこまで責任を担わせるべきでしょうか。迅速さが優れたサービスの一要素であることは確かですが、顧客は正確な回答と公平な対応も期待しています。AIエージェントが請求に関する問い合わせを数秒で解決できたとしても、顧客の状況を誤解したり、誤った方針を適用したりすれば、その迅速な解決が新たな苦情につながる可能性があります。コンタクトセンターは、問題をどれだけ早く解決したかだけでなく、顧客が実際に必要な支援を受けられたかどうかも考慮する必要があります。人間の判断が今なお重要なのはどんな場面か顧客記録にアクセスできても、AIが常に全体像を把握できるとは限りません。たとえば、請求に関する異議申し立てを考えてみましょう。AIがアカウントを確認し、請求額が契約内容に合致していると判断します。しかし、以前のサービス停止時に顧客へクレジットを付与すると約束していたものの、その情報は請求システムに登録されていませんでした。AIは利用可能な記録に基づいて回答するかもしれませんが、経験豊富な担当者なら情報の欠落に気づき、さらに調査できます。2026年のAlibabaのカスタマーサービス業務に関する調査では、AIによって会話時間が短縮された一方、AI対応可能なやり取りでの顧客評価は低かったことが示されました。また、人間の介入がどれほど効果を発揮するかは、担当者が介入したタイミングと、何が問題だったかによって異なることも明らかになりました。これらの結果は、AIに何を任せられるかを知るのと同じくらい、人間の担当者をいつ関与させるかを知ることが重要だと示唆しています。コンタクトセンターでは、AIエージェントから人間の担当者への引き継ぎにも、テクノロジーそのものと同じくらい注意を払う必要があります。顧客は、引き継がれるたびに懸念を繰り返し説明させられるべきではありません。担当者がシステムの対応を引き継げるよう、過去の会話やAIがすでに実行した対応を確認できる必要があります。スムーズな引き継ぎは、すでに不満を感じ、ただ問題を解決してほしいと願っている顧客にとって、とりわけ大きな違いを生みます。カスタマーサービスにおけるAIの権限を定めるコンタクトセンターの責任者は、AIにどこまでの権限を与えるかを慎重に検討する必要があります。たとえば、返金を提案するだけなら、承認なしに高額のクレジットを発行する場合よりリスクは低くなります。こうした制限を最初からシステムに組み込み、担当者が介入すべき状況を明確なルールで定めましょう。コンタクトセンターは、いくつかの実践的な対策に重点を置くことで、こうした境界を設定できます。 承認済みの業務を定める:注文状況の確認や予約の変更など、AIが単独で対応できる依頼を特定します。 承認の上限を設定する:高額の返金、アカウントの変更、または社内規定の例外については、担当者の承認を必須にします。 エスカレーションのルールを定める:顧客情報に食い違いがある場合、依頼が承認済みの手順の範囲外である場合、またはシステムが信頼できる回答を提示できない場合は、自動的に担当者を介入させます。 データへのアクセスを管理する:AIには、承認されたタスクの完了に必要な顧客情報だけへのアクセスを許可します。 パフォーマンスを定期的に見直す:不正確な回答や顧客からの苦情を監視し、追加の安全策が必要な箇所を特定します。 AIが担う責任が増えるにつれて、実際の顧客対応におけるテクノロジーのパフォーマンスに基づき、こうした境界を見直して調整する必要があります。そうすることで、コンタクトセンターは、下される判断に対する説明責任を維持しながら、自動化の範囲を拡大できます。コンタクトセンターが実際に測定すべき指標顧客の信頼が失われているにもかかわらず、コンタクトセンターが平均処理時間の短縮を喜ぶこともあります。AIエージェントが実行されなかった変更を約束したために、顧客が翌朝に再び電話をかけてきたとしたら、最初の会話は成功とは言えません。レポートには、そうした状況が分かるように示す必要があります。チームは対応の速さや問い合わせの完結率だけでなく、再度の問い合わせ、再開された案件、訂正率、顧客からの苦情、自動化された処理を人間が取り消さなければならない頻度も確認すべきです。エスカレーションの際に情報が不足していないかを見直し、AIの推奨が、それを受け取った担当者にとって役立ったかどうかも追跡する必要があります。自動化された処理が顧客の金銭やサービスへのアクセスに影響する場合、これらの指標は重要です。リーダーは、システムがどのような間違いをするのか、担当者にも尋ねるべきです。最前線の担当者は、気まずい沈黙を耳にし、顧客がいら立ち始めたことに気づきます。担当者からのフィードバックは、業務に関する貴重な情報源です。誤りをすぐに報告できる方法を用意し、それを受けて何が変わったのかを担当者に伝えましょう。訂正内容がすべて一般的なフィードバックフォームに埋もれてしまえば、チームは報告をやめてしまいます。ただし、担当者の経験を把握するためにAIを使うことには、従業員をどこまで詳しく監視すべきかという問題も伴います。音声から人の感情を検出できるとうたうツールもあります。たとえば、EU AI法は、限定的な例外を除き、職場でAIを使って担当者の感情を特定することを原則として禁止しています。欧州委員会も、コールセンターをその一例として取り上げています。企業は、こうしたツールを導入する前に、自社の地域に適用される法律を確認すべきです。AIがより多くの業務を担う中で、人間の説明責任を保つほとんどすべての会話が人間を介さずに終わるコンタクトセンターという構想には、魅力があります。プレゼンテーションのスライドにまとめるには、すっきりとした話です。しかし、実際の顧客対応はそう単純ではありません。顧客は考えを変え、説明を誤解し、例外を求め、システムが公平に判断できないかもしれない個人的な事情を抱えていることもあります。AIが担う責任が増えるにつれて、コンタクトセンターのリーダーは、チームが間違いに気づき、速やかに修正できるようにしなければなりません。顧客に問題を繰り返し説明させたり、誤った自動判断の結果に対処させたりしてはなりません。カスタマーサービスにおけるAIの成功は、顧客が期待するサービスを担当者が提供できるよう、AIがどれだけ適切に支援できるかにかかっています。
著者 Dennis Johns, TASKE Technologyの社長兼CEO
-

ソートリーダーAIエージェントを拡大する前に、何を知らないのかを問う
こうした場面を想像してみてください。CFOが、大手機関投資家との会議に向けて準備を進めています。準備を支援するため、IRチームはAIツールに、相手企業との前回の会議の日付、相手が示した優先事項、保有株式数などの背景情報を集めるよう依頼します。ツールは、自信たっぷりに投資家の保有株式数は250万株だと答えます。誰も疑問を抱かず、CFOはこの重要な対話に向けて、そのまま準備を進めます。しかし、問題がありました。AIは、前四半期末時点の保有状況を報告するForm 13Fの提出書類から、その数値を取得していたのです。報告当時は正確な情報でしたが……今となっては数カ月前のものです。その間に投資家はひそかに200万株を売却し、保有株式数を大幅に減らしていました。会議の議題(そして場合によっては会議そのものも!)は、もはや意味をなさないように思われます。何が問題だったのでしょうか。この例では、AIは幻覚を起こしたわけでも、数値を捏造したわけでもありません。信頼できる情報を取得したものの、その情報に条件を付したり、限界を説明したりできなかったのです。この場合の結果は気まずい会話や機会損失にとどまるかもしれませんが、別の状況では、重要な文脈を欠いたまま断定的に示される回答が、さらに大きなリスクをもたらす可能性があります。モデルの性能向上だけでは解決しない基盤モデルの性能はますます向上しています。それなのに、業界を問わず企業が直面しているように、自信に満ちているのに誤った回答が以前にも増して現れるように思えるのは、なぜでしょうか。まず、生成AI(GenAI)は完全に普及しました。McKinseyのレポート「2026年のAIの現状」によると、ビジネスパーソンの約10人に9人が、自社では少なくとも1つの業務機能でAIを日常的に利用していると答えています。また、組織が実験段階を脱し、日常業務や意思決定でAIに頼る場面が増えるにつれて、こうしたツールが持つ知識や理解の限界にも直面するようになっています。最近の業界調査は、問題の根本にあるものを示しています。過去6カ月だけでも、企業の約10社に6社(57%)が、自信に満ちているのに誤ったAIエージェントの回答の原因は、ビジネスの文脈情報の欠如または不足にあると突き止めました。AIが利用できるデータの多さを考えると、意外に思えるかもしれません。しかし、重要な違いがあります。文脈はデータと同じものではありません。文脈とは何か、何ではないのか文脈には、組織に蓄積された知識、規則の例外、関係性、業務の進め方に関するプロセスや期待などが含まれます。こうした細かな事情は、企業ごとに異なることが少なくありません。私はIRチームと仕事をする中で、こうした違いがいかに重要かを目の当たりにしています。一見すると単純な例をいくつか考えてみましょう。 会計年度:ある企業の第1四半期は暦年の第1四半期と一致する一方、別の企業では9月に始まることがあります。その文脈がなければ、AIエージェントは誤った報告期間の業績を比較しかねません。 財務指標:企業はGAAPベースと非GAAPベースの1株当たり利益を両方報告する場合があります。どちらを、いつ引用すべきか理解していないエージェントは、企業の業績を誤って伝えるおそれがあります。 企業のメッセージ:企業が何を強調し、何を取り上げないかについて意図的に決定する中で、その発信内容は時間とともに変化します。その経緯や理由を理解していないAIエージェントは、慎重に練り上げられたメッセージを損なうコンテンツを生成しかねません。 こうした事情を踏まえると、同じ基盤モデルでも、利用できる文脈や専門知識によって、企業ごとに大きく異なる結果を出すのは当然です。特定の目的や業界に特化して構築された「垂直型」AIは、その分野固有の知識や業務の流れ、細かな事情を認識し、こうしたギャップの一部を埋めるのに役立ちます。しかし、どれほど高度な技術でも、組織が持つ知識をすべて把握することはできません。そのため、人間にも果たすべき役割があります。AIがあなたのビジネスについて知らないことしかし、人間がいつまでも会社にとどまるとは限りません。経験豊富なIR担当役員(IRO)が、たとえば5年勤務した後に退職する場合を考えてみましょう。その人は、投資候補先の特定と選定、株主の動向分析、関係構築、決算発表への準備、経営幹部の準備支援など、ほかにも数多くの業務に時間を費やしてきたはずです。企業には決算説明会の台本やプレゼンテーション資料、その他のファイルが残ります。しかし、それらを支える組織に蓄積された知識はどうでしょうか。特に、IROの10人にほぼ8人(78%)は後任者が決まっていないことを考えると、その知識の多くも一緒に失われてしまいます。だからこそ組織は、AIシステムが活用できる形で、知識や理解を保存するために取り組む必要があります。AIエージェントを共有ドライブに接続するだけでは、多くの場合不十分です。重要な知識や業務フロー、たとえば重要な意思決定の背景にある理由、関係性の経緯、正式な文書に記録されなかったその他の事業継続に不可欠な情報を、体系的に記録する手段を持つことは、あらゆる業界の企業にとって重要です。そうしたナレッジベースを機能させるには、人の力が必要です。情報を記録するためにも、その情報に判断を加えるためにも、人が欠かせません。AIは知識の整理を支援できますが、テクノロジーが見落としがちな重要な背景情報を提供するのは従業員です。重大なリスクを伴う環境では、文脈の不足が深刻な問題を招くAIが誤った回答をした場合に何が起きるかについては、これまで説明してきました。しかし、AIエージェントが正確で最新かつ関連性の高い正しい情報を取得していても、それでも、誤った状況でその情報を共有すれば問題を引き起こすことがあります。規制の厳しい業界では、こうした過ちが特に大きな損失につながります。たとえば投資家向け広報では、未公表の業績などの重要な未公開情報(MNPI)をアナリストや投資家に共有すると、米国証券取引委員会(SEC)の公正開示規則(Reg FD)に違反する可能性があり、金銭的な制裁や評判の毀損につながりかねません。医療、金融サービス、法律サービスなどの業界も同様の規制リスクに直面しており、AIエージェントが機密情報にアクセスできる場合には、制御策が必要であることが浮き彫りになっています。このことからも、人間が引き続き重要な役割を担い、伝達される内容の確認と承認に不可欠であることがわかります。企業は、リスクの大きさに応じて人による確認の程度を調整し、AIを使ったワークフローの種類ごとに自律性のレベルを変えることを検討できます。AIエージェントを拡大する前に確認すべき3つの質問仕事でも日常生活でも、自分が何を知らないのかさえわからない状況に遭遇したことは、おそらく誰にでもあるでしょう。重大な結果を招かない場合もあれば、より深刻な事態につながる場合もあります。今日のAIが利用できるデータセットは膨大で、AIモデルは以前よりはるかに多くのことを把握しています……それでも、情報に欠落があれば「声を上げる」必要があります。企業がAIを活用して、より戦略的な優先事項や業務フローに取り組むようになるなか、導入を拡大する前に、次の点を確認することが重要です。 エージェントは、回答の情報源と、その情報が最後に更新された時期を示せるか。尋ねられなくても、この情報を提示できるか。 エージェントは、依頼を解釈して応答するために必要な業務上の背景情報を備えているか。自らの限界を明示するか。 確認と承認のために人間が介入すべきタイミングを把握しているか。どのような状況で介入が必要になり、確認プロセスはどのように開始されるのか。 AIを避けることが答えではないはっきりさせておきたいのですが、私はAIに大きな期待を寄せています。仕事で毎日使っており、現在と将来のメリットを実感しています。そして、さまざまな意味で、私たちはまだAIの可能性のほんの一端に触れたにすぎないと考えています。AIを避ける企業も、体系的かつ効果的に導入できない企業も、後れを取る現実的なリスクを抱えていることに疑いはありません。しかし、AIを導入することは、汎用モデルに企業データへのアクセスを与え、好き勝手に動かせばよいという意味ではありません。現時点で、私の見る限り、完全自律型AIがすべての業務や意思決定に適しているわけではありません。組織は、AIが独立して対応できる領域、追加の文脈情報を必要とする領域、そして人間の判断が不可欠な領域を理解する必要があります。ですから、AIエージェントが何を知っているかを尋ねる前に、何を知らないのかを尋ねてください。その答えによって、導入方法や任せる業務、そして成果を上げられるように整える方法が決まります。
著者 Dror Nadler, Q4 Inc.の最高製品責任者
-

ソートリーダーAIは驚異的な速さで脆弱性を発見する。修正となると、話はまったく別だ。
サイバーセキュリティに新たな問題が生じている。皮肉なことに、これまで以上の速さで問題を発見できるようになったことが、その引き金だ。フロンティアAIモデルは、ソフトウェアの脆弱性、つまり何年も見つからずにいた可能性のある欠陥を発見し、悪用する能力を急速に高めている。わずか数カ月前には想像も難しかったほどの速さで、そうした欠陥が明らかになっている。しかし課題は、業界では脆弱性を発見する能力の向上に比べ、修正する能力の向上が大きく遅れていることだ。最新のAnthropicによる研究を見てみよう。Zhipu AIのオープンウェイトモデルGLM-5.3は、ベンチマーク「ExploitBench」の410回の試行のうち50回で、エンドツーエンドで実際に機能するエクスプロイトの開発に成功した。一方、Claude Mythos Previewは56回成功した。利用が制限されたフロンティアモデルと、重みが公開されているモデルの差は、極めて小さい。かつては高度に専門化したセキュリティ研究者にしか扱えなかった能力が、はるかに幅広い人々に利用可能になりつつある。その一方で、私たちが使っているソフトウェアの脆弱性が、急になくなったわけではない。ゼロデイ脆弱性の発見にかかる時間が、修正のプロセスよりも短くなり得る時代に、私たちは足を踏み入れた。最近のPHP2Shell脆弱性は、その典型例だ。Wiz、Calif、そしてOpenAIのCodexセキュリティチームによる研究によると、フロンティアAIの支援により、1人の研究者が約1週間でPHPエンジンの重大な欠陥を発見した。これらの脆弱性は、WordPress、Drupal、Joomlaで構築されたアプリケーションを含め、ウェブのかなりの部分を支えるランタイムに影響した。セキュリティチームにとって、これは切迫した疑問を投げかける。攻撃者が、防御側が脆弱性にパッチを適用するよりも速く脆弱性を発見できるようになったら、何が起きるのか。脆弱性管理の定石は、こうした事態を想定していなかった長年、脆弱性管理はおなじみの手順に沿って進められてきた。脆弱性が発見され、誰かが報告し、CVEが割り当てられ、パッチが公開される。スキャナーが脆弱性を検出し、セキュリティチームがリスクを評価して修正の優先順位を決め、パッチを適用する。完璧なプロセスではないが、セキュリティを取り巻くエコシステム全体は、この手順を中心に築かれてきた。しかし、本当の問題は、そもそも脆弱性の存在を把握していることが前提になっている点だ。従来のスキャナーは、環境内にどの既知の脆弱性があるかを知らせるのには優れている。では、まだ公表されていない脆弱性はどうだろうか。CVEも、注意喚起も、パッチもない脆弱性はどうだろうか。PHP2Shellの公表は、この仕組みがいかに私たちを危険にさらすかを示している。2つの重大な脆弱性、CVE-2026-109618とCVE-2026-109619は、いずれもCVSS 9.2と評価され、PHP自体のメモリ安全性に関する欠陥だった。研究者は、広く使われているWordPress、Drupal、Joomlaなどのアプリケーションに対して、リモートコード実行とメモリ情報の漏えいが可能であることを実証した。根本的な弱点が基盤となるランタイムにあったため、それ以外のコードが安全なアプリケーションでさえ、脆弱である可能性があった。公表までの経緯も、同じように示唆的だった。早期の警告が公になった後、PHPのセキュリティチームはリリース日程を前倒しした。パッチが公開された時点で、すでに初期の攻撃試行が確認されていた。さらに、その日に問題となったのはPHPだけではなかった。別のソフトウェアサプライチェーン攻撃により、大規模言語モデル向けの人気オープンソースゲートウェイであるLiteLLMのバージョン1.107.0が侵害された。攻撃者は公開済みのPythonパッケージに情報窃取マルウェアとリモートアクセス型トロイの木馬を仕込んだ一方、プロジェクトのソースリポジトリはクリーンな状態だった。ソースコードだけを確認したチームは、悪意のあるペイロードを完全に見逃していただろう。こうした事例は、信頼されているソフトウェアコンポーネントの奥深くに、何年も脆弱性が潜んでいる可能性があることを示している。同時に、組織が日常的にインストールする依存関係を通じて、悪意のあるコードが侵入することもある。どちらも、必ずしもアプリケーション自体のコードに起因するとは限らない。また、アプリケーションが依存するソフトウェアに深刻な脆弱性が残っていても、スキャナーが問題なしと判定することがある。最近まで、隠れた欠陥を大規模に発見するには、相当な研究の専門知識とリソースが必要だった。しかし、フロンティアAIがその状況を変えつつある。バグを見つけるのは簡単なほうだ。では、その先は?AIによるゼロデイ脆弱性の発見能力には、大きな期待が寄せられている。それも当然だ。進歩は目覚ましい。しかし私は、AIがどれだけ多くの脆弱性を発見できるかという点ばかりが過度に注目され、その後に何が起きるのかについては、十分に議論されていないと考えている。脆弱性を発見しただけでは、安全性は高まらない。まず、それが実在することを確かめる必要がある。AIが生成した検出結果が自動的に正しいとは限らず、説得力のあるエクスプロイトに見えても、再現できるとは限らないからだ。次に、どのバージョンが影響を受けるのか、実際に脆弱性を悪用できるのか、どのようなリスクが生じるのかを把握しなければならない。そのうえで修正が必要になる。特に興味深いのはここだ。1Passwordによる研究では、AIが生成したパッチ6,080件を調査した。その結果、53.9%は元の脆弱性を解消できなかったか、新たなセキュリティ上の欠陥を生じさせたか、その両方に該当した。その調査では、生成されたパッチの半数以上に、それ自体がセキュリティ上の問題を抱えていました。もちろん、こうした結果は特定のテスト条件下で得られたものです。しかし、経験豊富なエンジニアなら誰もが知っていることを示しています。修正したように見えるコードを書くことと、実際に問題が修正されたと証明することは、まったく別のことです。パッチが正しくても、それで終わりではありません。既存の機能に影響しないでしょうか。アプリケーションが依存する古いバージョンのライブラリでも動作するでしょうか。ほかに十数件もの問題を引き起こすアップグレードを強いずに、導入できるでしょうか。何百ものアプリケーション、チーム、環境に展開する必要がある場合はどうなるでしょうか。テスト環境では動作しても、本番環境に届かないパッチでは、誰も守れません。セキュリティ業界が向き合うべき大きな隔たりは、ここにあると私は考えています。脆弱性の発見は驚くほどの速さで進んでいる一方、その発見を実際の保護につなげるために必要な作業の多くは、もどかしいほど遅いままです。そして、この隔たり自体が新たなセキュリティリスクになりつつあります。では、この隔たりを実際にどう埋めればよいのでしょうか?すでに手いっぱいのセキュリティチームに、もっと努力するよう、あるいはより多くのアラートを処理するよう求めても解決にはならないと思います。脆弱性の発見が最大のボトルネックではなくなった今、効果的な脆弱性管理とは何かを考え直す必要があります。私なら、まず次の4つから取り組みます。1. CVEデータベースだけで全体を把握できると思わないCVEや脆弱性スキャナーは欠かせませんが、そこに記録されているのは既知の情報であり、実在する脆弱性のすべてではありません。セキュリティチームは、公表済みの脆弱性だけに目を向けるのではなく、従来のスキャンに、能動的な調査、コード解析、脅威インテリジェンス、そして組織が依存するソフトウェアコンポーネントへの明確な理解を組み合わせる必要があります。CISAの既知の悪用脆弱性カタログのような情報源は、既知の脅威に優先順位を付けるうえで有用ですが、まだ公表されていない脆弱性については教えてくれません。PHP2Shellの事例は、基盤となるソフトウェアに深刻な脆弱性が存在していても、発見されるまで何年もかかる場合があることを示しました。最先端のAIがこうした欠陥を数日で発見できるようになれば、公表済みの勧告だけに頼る防御側は、常に他者のペースに合わせて対応することになります。2. 発見件数が増えても、セキュリティが向上するとは限らないAIは膨大な数の潜在的な問題を見つけ出せますが、そのすべてについて、エンジニアリングチームがほかの作業をすべて中断して調査する価値があるとは限りません。本当の価値は、どの脆弱性が実在し、悪用可能で、自組織の環境に関係するのかを見極めることにあります。その問題を再現できるでしょうか。どのバージョンが影響を受けるのでしょうか。現実的な攻撃経路はあるでしょうか。実際のビジネスへの影響はどの程度でしょうか。こうした背景情報がなければ、攻撃者が機密システムや認証情報に実際にどう到達できるかを見落とし、深刻度スコアだけを基準に脆弱性の優先順位を決めてしまうおそれがあります。3. 技術的に正しいだけでなく、導入できる修正にするこれは、脆弱性の修正において最も過小評価されている課題の一つです。企業が運用する環境は、すべての依存関係を一晩で最新バージョンにアップグレードできるような、何の問題もない環境ではありません。レガシーアプリケーション、相互接続されたシステム、互換性要件があり、簡単には置き換えられないソフトウェアのバージョンも抱えています。そのため、組織にインフラの半分を再構築させるような修正は、あまり役に立ちません。セキュリティパッチを旧バージョンに適用する方法を改善し、互換性を保ち、不要な攻撃対象領域を減らし、チームがすでに使っているツールやワークフローを通じて更新を提供する必要があります。NISTの企業向けパッチ管理ガイダンスは、更新の特定、優先順位付け、インストール、検証の重要性を強調しています。今の課題は、AIによる発見の速さに追いつけるよう、こうした一連のプロセス全体を十分に迅速化することです。どれほど優れたパッチでも、誰も導入できなければ役に立ちません。4. 実際に保護されるまでの速さを測定するAIが今日、深刻な脆弱性を発見したとしたら、その検証、機能するパッチの開発、パッチのテスト、本番環境への導入までに、どれくらいの時間がかかるでしょうか。PHP2Shellへの対応は、有用な基準となります。Echoでは、上流でパッチが公開されるとすぐに修正済みのPHPパッケージを提供し、サポート対象のPHPバージョン向けに更新したイメージも、その日の午後に再構築しました。セキュリティチームは、発見と検証からパッチの開発、互換性テスト、導入に至るまで、修復の全工程にかかる時間を測定すべきです。影響を受けたソフトウェアをどれほど迅速に再構築できるか、脆弱な依存関係を使っているアプリケーションをすべて特定できるか、そして保護を実現するためにどれだけの手作業が必要かを把握する必要があります。最先端AIによって脆弱性の発見がより迅速かつ容易になるにつれ、発見から悪用される可能性が生じるまでの期間は、今後も短縮し続けるでしょう。従来の開示やパッチ適用のサイクルがそのペースに追いつくと考えることはできません。脆弱性管理の次の時代を左右するのは、攻撃者が行動を起こす機会を得る前に、発見された脆弱性を信頼性が高く、実際に導入できる修正へと転換できるかどうかです。
著者 Eylam Milner, Echoの共同創業者兼CTO
-

ソートリーダーそう、EU AI法はエージェント型AIも対象にしている――その仕組みを解説
現在、エージェント型AIやAIエージェントは規制の隙間に入り込んでおり、EU AI法では十分に規制できないという見方が広く語られています。信頼できるノルウェーの報道機関(MorgenbladetやDagensnæringsliv)でこの見方が取り上げられ、第一線の研究者(University of Oslo)も繰り返し述べています。こうした主張には根本的な問題が二つあると私たちは考えます。そして、それらは事実ではなく、恐れに基づいていると考えています。第一に、エージェント型AIはEU AI法の下で規制されています。第二に、こうした主張は既存の規制を損ないます。AI企業は自社システムに伴うリスクを管理するうえで、より適した立場にあるという考えを強めるものです。これは、規制の虜を招くよくある主張です。私たちは、ノルウェー標準化協会の国家AI委員会の委員として、AI法にかなり深く携わっています。また、高リスクAIシステムの提供者向けに整合規格を策定する欧州委員会にも参加しています。これらの規格は、企業がAI法の法的要件を満たす助けとなります。EU AI法はエージェント型AIを複数の形で規制している欧州委員会は、「エージェント」や「エージェント型AI」に関する、平易で読みやすいFAQを複数公開し、これらも規制の対象となることを明確にしています。理由は単純で、AIシステムのより広範な定義に該当するからです(AI法ではAIエージェントはどのように扱われるのか? | AI Act Service Desk)。ほかにも、次のような例があります。 エージェント型AIは大規模言語モデルを基盤とすることが多く、これらのモデルは汎用目的AIモデルとして規制されています。 エージェント型AIシステムが人間とやり取りする場合、規制の透明性要件も適用されます。 AIモデルがシステミックリスクをもたらすと分類された場合、提供者には追加要件が課されます。要件には、モデルの能力評価などが含まれ、自律性やエージェントとしての機能も評価の対象となります。 AI法に「エージェント」という言葉が登場しないのは、特定の種類の技術を規制する法律ではないためです。そうではなく、その技術が何をするために設計されているか、そしてその機能に伴うリスクを規制しています。AI法は基本的人権の保護を目的としているより多くの規制を求める人々からのAI法批判の多くは、リスクを完全に取り除くことが構造上不可能である点に起因します。しかし、国際的な規制枠組みが将来のあらゆるリスクを予測することは不可能だったでしょう。その代わり、AI法は、健康、安全、基本的人権に影響を及ぼす可能性のあるAIシステムのリスクに焦点を当てています。この点は、第一条の冒頭の一文に明記されています。この冒頭の一文で私たちが取り上げていない点も、同じく重要です。AI法は市場志向の法律です。AIの利用を促進し、イノベーションを支援することを定めています。つまり、AI法はAI推進の立場を取っています。この枠組みの中で、特定の用途や分野が規制されています。特定の分野はあらかじめ高リスクに分類されている次の分野で利用されるAIシステムが、その例です。 採用 不可欠なサービスの割り当て 医療機器 安全性が最優先される重要インフラに組み込まれたシステム。 エージェント型か否かを問わず、私たちの権利に影響を及ぼす可能性のあるAIシステムの提供者は、包括的なリスク管理システムを構築することが義務付けられています。その中には、利用者がAIシステムをどのように誤用する可能性があるかの評価も含まれます。規制の虜:提供者が自主規制を提案するときAnthropic、OpenAI、Metaに加え、ノルウェーの議論における一部の声に耳を傾けると、AIやエージェント型AIは複雑すぎてAI法では扱えないという印象を受けるかもしれません。EUには高度すぎる。各社以外には規制できないほど危険だ、と。世界で最も影響力のあるテクノロジー企業は、AI法の適用を緩やかにするよう強く働きかけてきました。そうした企業が今、自社の最も強力なシステムを規制するには法律が不十分だと主張していることには、慎重になるべきです。企業が提案する解決策は、自らを「規制」することです。これは「規制の虜」と呼ばれる典型的な仕組みです。法律や規制が、本来規制の対象とするはずの当事者自身によって、当事者の利益のために徐々に形作られていく過程を指します。米国は、その明確な例を示しています(超知能時代の幕開け – ホワイトハウス)。ホワイトハウスの「超知能に関する合意」は、X、Meta、Anthropic、OpenAI、Googleの各社幹部が参加する「自主的な協定」であり、各社は自主規制を約束しています。文書では、将来の仮定上のある時点であれば、法律が適切となる可能性があるとしています。「時間がたてば、こうした措置を法律や規則として定めることが妥当になるかもしれない。」時間がたてば。おそらく。規制を検討することが妥当である可能性はあります。しかし現時点では、米国民はこうした大手テック企業が自らを規制すると信頼することを求められています。米国とは異なり、欧州には法的拘束力のある法律、AI法があります。それでも、規制の虜が生じるリスクは残っており、この法律への信頼が損なわれることも、その一因となり得ます。巨大テック企業が、AI法では不十分だと人々に信じ込ませれば、私たちはもはやその執行を支持しなくなるからです。エージェント型AIはAI法では扱えないほど高度すぎる、賢すぎる、あるいは危険すぎると示唆する主張は、規制への支持を弱める議論です。いったん規制の虜に陥ると、そこから抜け出すのは困難です。一部のAIシステムが、予測困難な結果をもたらす可能性があるという懸念は、私たちも共有しています。まさにこのため、リスク管理手順が必要です。AI法もそれを求めています。(Dr. Mullerは、リスク管理に関する整合規格18228の策定をほぼ終えた委員会に参加しています。)EU AI法は完璧ではなく、今後さらに発展させる必要が生じる可能性が高いでしょう。しかし、エージェント型AIをEU AI法の対象外の領域として描くことは、安全性ではなく、不確実性を高めるだけです。
著者 Dr. Ley Muller, 創業者兼CEO、Values-Driven AI
-

ソートリーダー意図から自律的な行動へ:エンタープライズにおけるAIエージェントのガバナンス
「サービスを復旧せよ」という指示は、AIエージェントがその指示によって何を許可されているのか判断しなければならない段階になるまでは、単純に聞こえる。アプリケーションの再起動、設定の変更、インフラのプロビジョニングはいずれもその目的に役立つ可能性があるが、それぞれがもたらす結果は異なる。エージェントが行動を提案する段階から実行する段階へ移るにつれ、組織には、ビジネス上の意図と運用上の権限を明確に結び付ける仕組みが必要になる。ガバナンスは、組織がどの責任を安心して委ねられるかを左右するため、製品の中に組み込まれるべきだ。合意された境界の範囲内で確実にタスクを完了し、その行動の証拠を示せるエージェントは、権限が曖昧なままのエージェントよりも、エンタープライズでの導入に向けた強固な基盤となる。アーキテクチャ上の課題は、こうした境界をシステムの動作に組み込むことだ。こうした境界を実際に機能させるには、エージェントの行動を一貫した方法で統制する必要がある。エージェント型のコントロールプレーンは、エージェントのアイデンティティ、承認済みの機能、ポリシーの適用、メモリの制御、実行の監督を既存のエンタープライズシステム全体で連携させ、その基盤を提供できる。これにより、誰が行動を要求したのか、その行動を裏付ける権限は何か、どのリソースに影響を及ぼし得るのか、結果をどのように検証するのかが明確になる。エンタープライズにおけるAIエージェントのガバナンスについて、私たちが推奨する実践的な指針を3つ紹介する。機能と明示的な権限を結び付けるすべてのエージェントに、特定可能な所有者、明確な目的、タスクに適した権限を設定すべきだ。これは、AIのライフサイクル全体を通じてガバナンスを継続的な機能として捉えるNISTのAIリスク管理フレームワークの考え方にも沿っている。エージェントについては、この原則を、行動によってエンタープライズシステムに変更が加わる瞬間まで適用しなければならない。あるエージェントが別のエージェントに作業を委ねる場合も、こうした境界を維持する必要がある。機能を発見・把握する際にも、同様の規律が求められる。承認済みのカタログには、各ツールの目的、入力、出力、使用が認められる環境、起こり得る副作用を記載すべきだ。ツールを発見しただけでは実行権限は与えられないため、行動を試みる時点で認可を確認しなければならない。OWASPの「過剰なエージェンシー」に関するガイダンスも、機能と権限を制限し、後続システムで認可を徹底するよう推奨することで、この区別を強調している。たとえば、エージェントがアプリケーションの動作低下を調査し、コンポーネントの再起動を提案する、サービス復旧の一連の作業を考えてみよう。ポリシー上、承認済みのテレメトリへのアクセスは認められている一方、本番環境での再起動には、冗長性が正常であることを示す証拠とサービス所有者の承認が必要だ。こうした条件によって、幅広い指示を、境界の明確な運用上の判断へと落とし込める。運用上の意図を、統制されたツールに変える承認済みの復旧ツールがあれば、エージェントはその機能を使ってリクエストを準備できる。そのようなツールがない場合は、スクリプト、手順書、入力スキーマ、ツール記述子の作成を支援し、運用上の意図を、他者が検証できる提案機能へと変換できる。これが、エージェントによるツールのコーディングがもたらす実践的な価値だ。エージェントはツールを使うだけでなく、運用を支える仕組みづくりにも貢献できる。ただし、こうした仕組みを生成したからといって、自動的に本番環境で実行可能にすべきではない。提案された機能には、責任を負う所有者の明確化、セキュリティチェック、バージョン管理に加え、無効な入力、過剰な適用範囲、部分的な障害、繰り返し実行を対象とするテストを含む、独立したリリースプロセスが必要だ。エージェントが生成したテストも証拠の一部にはなり得るが、その機能が運用上の要件を満たすかどうかは、承認済みカタログに登録する前に独立して検証しなければならない。実行に関する境界では、リソースの適用範囲、ネットワークアクセス、実行時間、支出を制限し、必要な承認は個々の行動、対象、バージョンにひも付けるべきだ。変更の中にはロールバックできるものがある一方、補償措置が必要なものや元に戻せないものもあるため、復旧策にも同等の注意を払う必要がある。各機能では、こうした制約を明確に示し、オペレーターが実行の継続を停止できる、テスト済みの方法を用意すべきだ。保持された観測情報は、元の状況が変わった後も将来の判断に影響し得るため、メモリには別のガバナンス上の責任が伴う。組織は、エージェントが何を保存できるのか、情報をどれだけの期間利用可能にするのか、どのようなアクセス境界を適用するのかを定め、情報の出所を追跡する仕組みや訂正の仕組みで支えるべきだ。記憶された権限が恒常的な権限になってはならず、古くなった運用知識が新たな行動をひそかに導くことも避けなければならない。証拠に基づいて自律性を高める実効性のある監督には、元のリクエスト、適用されるポリシー、承認、ツールのバージョン、実行結果、その後の検証を結び付ける証拠が欠かせない。人間のレビュアーには、不要な詳細に圧倒されることなく、提案された変更、その不確実性、復旧の選択肢を評価できるだけの文脈が必要だ。監督を支えるため、エスカレーションは、観測結果の不一致や未知のシステム状態など、定められた条件に基づいて行うべきであり、エージェントが示す確信度だけに頼ってはならない。IT部門の責任者は、まず対象を限定したワークフローから始め、運用上の証拠に基づいて権限を段階的に拡大すべきです。その際、成功した結果だけでなく、例外の発生件数、復旧に要する時間、ポリシー違反、監督にかかる労力も測定します。こうした指標は、エージェントにより大きな責任を任せる準備ができているか、また、どの領域で追加の安全策やテストが必要かを判断するのに役立ちます。委任を再現性のあるものにすることが重要です。承認された能力ごとに、エージェントが何を、どのような条件の下で、どのような責任を負って実行できるかを明確にします。この規律により、レジリエンスと効率性を高めながら、組織がより大きな自律性を認めるための正当性を説明できる基盤を整えられます。最も重要な点は、こうした段階的な拡大を可能にすることで、ガバナンスが製品に不可欠な役割を果たすということです。
著者 Casey Kindiger, 創業者兼CEO, Droma
-

ソートリーダーAIの組み立てラインには、最初からテストを組み込む必要がある理由
私は20年以上にわたってテストツールを開発してきましたが、その大半の期間、エンジニアリングチームとの会話はよく似たものでした。テスターはソフトウェア開発のライフサイクルで二級市民のように扱われていました。テストは後回しにされ、リリース前に残された時間へ無理に押し込まれることも少なくありませんでした。また、本来は別の目的で構築されたCIパイプラインに、後から付け足されていました。AIはいま、コードの書き方を大きく変えています。そして、その影響は良い面でも悪い面でも、テストにはっきり及んでいます。多くの点で、AIによってこの課題がより見えやすくなりました。ここ数カ月、私はテストやクラウドネイティブに関するカンファレンス(LeadDev、CloudX、StarWest)にいくつか参加しました。話をしたチームのほぼすべてが、同じ構想のいずれかに取り組んでいました。エージェントが仕様から本番環境で稼働するものまで作業を進め、その過程に適切な程度で人間が関与する、AI主導のソフトウェアデリバリーライフサイクルです。私はこれを組み立てラインのようなものだと考えています。エージェントがコードを書き、別のエージェントがレビューし、パイプラインがビルドとデプロイを行います。人間は全体を見守ります。このラインのどこにテストが位置するのかについては、あまり耳にしません。まだ誰も答えを見つけていない現状は、いわば開拓時代の西部のようなものです。新しいエージェントの機能が数週間ごとに登場し、大手AI研究機関は次々と新しいモデルを公開しています。チームもベンダーも、何がうまくいくかを確かめようと、さまざまなものを手当たり次第に試しています。すでにギャップが表面化していることを示すデータもあります。Googleが実施した最新のAI支援ソフトウェア開発に関するDORAレポートでは、約5,000人のテクノロジー専門家を調査し、AIの導入がデリバリースループットの向上と関連していることが分かりました。これは朗報です。一方で、AIの導入は依然としてデリバリーの安定性の低下とも関連しています。研究者らは、AIによって開発が加速することで、下流工程にある弱点が顕在化すると説明しています。また、変更の増加が不安定さの増大につながるのを防ぐ制御策の一つとして、堅牢な自動テストを挙げています。これは意外ではありません。処理量が大幅に少ないことを前提に設計されたプロセスに、はるかに多くのコードを流し込めば、どこかで速度が落ちるか、どこかで破綻します。開発者の作業は速くなったが、リリースの大半は速くなっていないAIが生成したコードで何が起きるかを考えるとき、多くの人はエージェントがひどいものを本番環境に投入する場面を思い浮かべます。そういうことも起きるでしょうし、起きたときの結果は芳しくありません。バグや顧客の不満、場合によってはセキュリティインシデントにつながります。でも正直なところ、私が日常的に目にするのは、そうした事態ではありません。2026年版Stack Overflow開発者調査からは、現在AIの利用がどこに集中しているかが分かります。開発者の主な用途は、自分がすでに知識を持つ分野でのコード生成(67%)とデバッグ(61%)です。一方、本番システムのデプロイ、運用、トラブルシューティングにAIを使う人はわずか20%です。これまでのところ、AIによって主に速くなったのはコードを書く作業です。そのコードを検証して本番環境に投入する工程は、依然としておおむね従来と同じやり方で進められています。これは、私が目にしている状況とも一致します。チームは以前よりはるかに多くのコードを作り出していますが、リリースの速度は上がっていません。個々の開発者やチームは、機能を2倍の数だけ開発しているように感じるかもしれません。しかし、その機能は下流工程で行き詰まり、レビュー待ち、テスト待ち、テスト環境待ちになります。こうした余分なコードがパイプラインを詰まらせ、多くの場合、チーム全体のデリバリーまで遅らせています。ガードレールをめぐる疑問を抱くのはマネージャーAIによってデリバリーのボトルネックが生じるという懸念は、非常に現実的です。しかし、チームから寄せられる質問はそれだけではありません。開発者が知りたいのは、主にどうすればより良いコードをより速く書けるかです。ガードレールについて尋ねるのは、エンジニアリングマネージャーや、エージェント主導のワークフローを構築する人たちです。エージェントが勝手な振る舞いをしないようにするには、どうすればよいのか。リグレッションを持ち込んだり、実行するはずだった作業を気づかれないように省いたりしていないと、どうすれば分かるのか。エージェントが書いたテストが、検証すべきものを実際に(そして本当に!)検証していると、どうすれば確かめられるのか。それは、両者が見ているものが違うからだと思います。開発者は一度に一つのプルリクエストを見ます。エンジニアリングマネージャーは、多数のエージェントや人々が関わる中でリリースされるすべてに責任を負い、本番環境で何かが壊れたときには説明を求められる立場です。慎重になるのには理由があります。研究者らは、ユニットテストが仕様と矛盾するコーディング課題を使って、ImpossibleBenchというベンチマークを作成しました。合格する唯一の方法は、不正をすることです。主要なモデルはしばしば実際に不正を行い、たとえばコードを修正する代わりに、失敗するテストを編集したり削除したりしました(!!)。別のエージェントが作成したプルリクエストに関する研究では、エージェントが自らの変更をどれだけ適切にテストできるかに課題があることが分かりました。また、マージされたエージェント作成のプルリクエストのほぼ3分の1に、後続の修正やリファクタリングが必要だったとする先行研究も引用しています。私の結論は、ガードレールをエージェント自身の環境の中だけに置くことはできず、コードの出荷後に設けるだけでも不十分だということです。コードを書いたエージェントが、そのコードがテストに合格したかどうかまで判断するのであれば、その結果から分かることは多くありません。だからといって、エージェントがテストを書くべきではないという意味ではありません。判定は、エージェントが変更できない場所から下されなければならないということです。人間が書いた変更であれ、エージェントが書いた変更であれ、すべてが通過する独立した工程として、テストをラインに組み込む必要があります。その工程に必要なもの答えは、まったく新しい種類のテストではありません。必要とされることの多くは、優れたQAチームが以前から求めてきたことです。ただ、今はそれがいっそう重要になっています。テストは、テスト対象のコードと同じように、要件に照らして正確かどうかをレビューする必要があります。また、ソフトウェアが実行される環境でテストを実行することも必要です。エージェントのサンドボックスで合格したテストだけでは、ステージング環境や本番環境についてほとんど分かりません。また、どの依存関係がモック化されていたのか、どのようにモック化されていたのかが見えなくなることもあります。エージェントが生成したテストファイル約180,000件を対象とした最近の調査では、エージェントは人間が作成したテストよりも多くのエッジケースを網羅していた一方、テストが不安定である兆候もより多く見られました。その主な理由は、テストを実行する環境についてエージェントが十分に把握していなかったことです。テストを早い段階で実際のインフラ上で実行すれば、そうした問題を検出できます。テストとその結果は、後から参照できるように残しておく必要があります。エージェントがテストを作成する場合、既存のテストとその結果をコンテキストとして与えるべきです。そうすることで、網羅性と不安定になる可能性の両方から学習できます。テストもほかのコードと同様にレビューし、バージョン管理する必要があります。そうすれば、セッション終了時に消えてしまうのではなく、次の変更時にも再実行できます。パイプライン、開発者、エージェントのいずれが要求した場合でも、合格という結果は同じ意味を持つべきです。そのためには、同じテストを同じインフラ上で実行し、結果を一か所に集約する必要があります。そして、人間は自らの判断力を保つべきです。定型的な作業や配線は、エージェントに任せても構いません。何をテストする価値があるのか、失敗が何を意味するのかを判断するのは、少なくとも今のところ、依然として人間の役目です……。つまり、テストをCI/CDの中だけで行うべきではないということです(この記事から一つだけ覚えておくなら、これです!)。CIパイプラインは、コードをビルドしてリリースするために設計されたものであり、自動テストを大規模に実行するために作られたものではありません。エージェント型SDLCへの移行が進み、コード量が増え続けるにつれて、CIはテストの実行にますます適さなくなります。テストは、パイプラインの最後に付け加える工程ではなく、ソフトウェアを提供する仕組みの中核に位置づける必要があります。そのためには、エージェントと人間のどちらが作業を主導するかにかかわらず、チームが使うあらゆるツールや環境を横断して、テストを独立したシステムとしてオーケストレーションする必要があります。どこから始めるか多くのチームはすでに、Playwright、Cypress、k6、Postmanなど、標準として採用しているツールで信頼できるテストを実施しています。そこから始めるのがよいでしょう。私から提案したいことをいくつか挙げます。 現在、変更がプロンプトから本番環境に届くまでの流れを図にし、各段階でテストが実行される箇所を記入してください。テストが一度しか実行されず、それが終盤にあたるなら、まずそこから着手しましょう。 エージェントに既存のテストを気づかれないうちに変更させないよう、注意してください。ImpossibleBenchの研究者たちは、エージェントがテストにアクセスできないよう制限すると、不正が減ることを明らかにしました。エージェントがテストを変更する必要がある場合は、ほかのコードと同様に、担当者がレビューするプルリクエストとして変更を提出させるべきです。 テストは、エージェントのサンドボックスではなく、できるだけ実際のテスト環境で、可能な限り早い段階から実行してください。たとえ、エージェントが生成した変更のたびにステージング環境で小規模なスモークテスト一式を実行するだけでも構いません。AIを使ってテストを作成する場合は、その環境で実行されるまでは受け入れないでください。 レポートツール、利用中のAPMソリューション、専用のテストプラットフォームなどを使い、テスト結果を一つのコントロールプレーンに集約してください。人間とエージェントの両方が結果を参照できるようにしましょう。 活動量ではなく、デリバリーを測定してください。プルリクエストの数から分かることはほとんどありません。変更のリードタイムや変更失敗率といったDORAのデリバリーメトリクスのほうが、AIが役立っているかどうかをはるかによく示します。 エージェントにもチームのメンバーと同じテストインフラを使わせ、同じ基準で作業を検証できるようにしてください。 期待は持てるが、条件もある私はAIについては楽観的なほうで、ソフトウェアチームの能力を大きく高め、最終的には生産性も向上させると考えています。しかし、そこに到達するには、チームがエージェントの成果をリリースできるほど信頼する必要があります。そして、エージェント型SDLC全体を見渡したテストのアプローチが欠かせません。信頼は、まさにそこで築かれるか、失われるかが決まるからです。エージェント型SDLCを目指すなかで、テストは現在どのような位置づけにありますか?
著者 Ole Lensmar, Testkubeの共同創業者兼CTO
-

ソートリーダーアプリ経済は変わりつつある:誰もが自分専用のソフトウェアを作れるようになったら、何が起きるのか?
アプリを選ぶ時代から、欲しいアプリを言葉で伝える時代へ2026年10月13日、Googleは発表した。AndroidユーザーはGoogle AI Studioを使って独自のアプリを作り、一般公開のストア掲載を必要とせず、Google Playを通じて自分のスマートフォン上で非公開のまま実行できるようになった。アプリは「バイブコーディング」で作られる。欲しいものを平易な言葉で説明すると、AIがそれを書き上げる。最初の提供地域は米国に限られ、対象は18歳以上のユーザーとなる。信頼できる少人数の知人との共有は、今後数カ月のうちに可能になる予定だ。この変化は簡単に言い表せる。15年間、問いは「どのアプリをダウンロードしよう?」だった。これからは「スマートフォンに何をしてほしい?」となるかもしれない。Google Playおよびデベロッパーエコシステム担当バイスプレジデント兼ゼネラルマネージャーのSam Brightは、この変化を「それ用のアプリがある」から「私のためのアプリがある」への移行だと表現した。今週の学校への迎え当番表、サッカーの予定、買い物リストをひとつの画面で確認したい親を想像してみてほしい。どのストアにもそのアプリはない。そんなアプリを作るストアなどないからだ。今なら、その親は欲しいものを説明するだけで、夕方には自分のスマートフォンで使えるようになる。私はこの変化を歓迎する。これまで創作する力を持てなかった人々の手に、本物の創造力をもたらすからだ。しかし同時に、明確な答えを出す価値のある問いも浮かび上がる。個人用アプリはソフトウェアと同じものなのだろうか。私の考えでは、そうではない。アプリを作ることと、大規模に運用するソフトウェアを開発することは同じではない個人用アプリは、ひとりのユーザーだけが使うのであれば、それで十分かもしれない。一方、顧客や従業員、一般の人々が使うソフトウェアは、それを頼りにする人々のために安定して動作しなければならない。どちらもソフトウェアだが、作ったものを他者が頼りにするようになれば、負う責任は変わる。 個人利用のアプリケーション 複数のユーザーにサービスを提供する本番環境のソフトウェア 利用者 自分、または信頼できる少人数 数百人から数百万人の見知らぬ人々 例 習慣トラッカー、家族の家事分担ボード、レシピの分量換算ツール 給与計算システム、病院の予約プラットフォーム、銀行のモバイルサービス 故障した場合 自分で修正できることもある 給与が支払われず、予約が失われ、お金が誤って移動する データ 個人情報や機微な情報が含まれる場合がある 法的義務のもとで預かる他者のデータ セキュリティ プライバシーとセキュリティへの配慮は引き続き必要 堅牢なセキュリティ、監視、適切な監査が必要 連携 ほとんどない、またはまったくない 決済、本人確認、ERP、規制当局、その他のシステム...
著者 Bindesh Vijayan, 共同創設者兼CTO、Myndlab
-

ソートリーダーAIの後に何が残るのか?価値が生き残る場所
10月、複数の大口投資家が、AI市場は1990年代後半のドットコム・ブームにますます似てきていると指摘した。億万長者でBridgewater Associatesの創業者であるRay Dalioは、金利が上昇するなか、企業が負債を通じてAIインフラに資金を投じている状況を「典型的なバブル」と表現した。これに続き、ヘッジファンドCitadel LLCの創業者兼CEOであるKen Griffinも、AIへの巨額投資が利益をもたらすのか疑問を示した。AIから得られる収益を上回る資金が今もAIに流れ込んでおり、ある企業が別の企業に投資し、投資を受けた企業がその資金を投資元の製品に使うという、循環的な取引も一部で見られる。Gartnerの推計によると、現在の投資ペースが続けば、2030年末までにAIインフラに投じられた3兆5,000億ドル超の価値が失われる可能性がある。過大評価された市場はどれも風船のようなものだ。資金を注ぎ込む限り、膨らみ続ける。しかし、実際の利益を伴わずに膨らめば膨らむほど、表面は薄くなり、いずれ破裂する可能性がある。いつ破裂するかを正確に予測しようとしても意味はない。より重要なのは、表面が最も薄いのはどこか、つまり、何が最初に崩れ、そこからどのような機会が生まれるのかを見極めることだ。優れた製品でも生き残れるとは限らない一部の推計によると、2024年に設立されたAIスタートアップの約40%が、すでに事業を終了している。たとえば、Relayのようなワークフロー自動化ツールは、GoogleやOpenAIといった大手企業がその機能を自社製品に組み込んでいるため、単に閉鎖に追い込まれている。こうしたツールを独立したサービスとして利用する必要性は薄れつつある。こうした状況を生き抜くには、企業は強固な基盤を築かなければならない。地震を思い浮かべてほしい。倒壊するのは必ずしも最も高い建物ではなく、揺れに耐えられるよう建てられていなかった建物だ。AI企業にとって、その基盤となるのは自社のデータと専門知識である。サードパーティーのモデルに依存する企業は、モデルを提供する企業が類似製品を発売したとき、競争力を失うリスクがある。これまでにも、プラットフォームが、以前は専用ツールを必要としていた機能を徐々に取り込む例を何度も見てきた。たとえば、OS自体がPDFを開いたりファイルを圧縮したりできるようになると、数百ものユーティリティが不要になった。AIの登場により、この変化はさらに速まっている。サードパーティーの技術を基盤とするアドオン製品が入り込む余地は、ますます小さくなっているからだ。そのため、製品を評価する際は、今それを必要としている人がいるかどうかだけでなく、大手プラットフォームが同じ機能を自社製品に組み込んだ後も、必要とされ続けるかを問う価値がある。危機は成長の新たな機会を生み出すAIバブルが崩壊すれば、市場は打撃を受けるかもしれない。しかし、誰にとっても破滅的な事態になるわけではない。危機は企業を破綻させるだけでなく、新たな機会も生み出す。まず挙げられるのは人材だ。景気後退によって、それまで多くの企業には手が届かなかった経験豊富な専門家が、再び市場に出てくる可能性がある。イスラエルのAI企業AI21 Labsを例に見てみよう。自社で言語モデルを開発する数少ない独立系企業の一つである同社は、以前GoogleとNvidiaから投資を受けていた。しかし今年、研究者や開発者を含む従業員の60%超を削減した。2つ目は、新たな市場やニッチ分野だ。多くの事業者が撤退し、コストを削減すると、新しい企業が参入できる余地が生まれる。Kauffman Foundationの推計によると、2009年版のFortune 500に名を連ねた企業の半数以上は、景気後退期または経済低迷期に設立された。たとえば、Airbnbは2008年に、Uberは2009年に創業した。どちらも景気回復を待たず、好況期なら既存企業が占めていたであろう市場へと進出した。最後は資源だ。市場の需要を上回る資源があれば、価格は下がる傾向にある。2000年以降の光ファイバーケーブルの動向はその一例だ。Global Crossingは、2002年に破産する前に、約10万マイルのケーブル網を敷設した。それでも、そのネットワークは使われ続けた。AI業界でも、データセンターや電力供給能力が同様に別の用途へ転用される可能性がある。しかし、新たな機会を生かすことは、結果を一つに決め打ちすることではない。元OpenAI研究者のLeopold Aschenbrennerの事例が、その理由を示している。彼は2024年にヘッジファンドSituational Awarenessを設立した。同ファンドはAIインフラに投資する一方、AIとの競争に苦戦する可能性のあるソフトウェア企業に対しても賭けた。一見すると別々の賭けに見えるが、どちらもAIブームが加速するという前提に依存していた。2年足らずで、ファンドの運用資産は450億ドルに達した。しかし2026年夏、投資家はAIへの巨額投資が短期間で利益をもたらすのか、疑い始めた。Situational Awarenessの運用資産が約100億ドルにまで減少するのに、わずか2カ月しかかからなかった。Aschenbrennerは、AIが世界を変える可能性について誤っていたわけではない。問題は、彼のファンドの投資がすべて、同じ一つのシナリオに依存していたことだった。バブル崩壊後に生き残るのは誰かこうした時代に重要なのは、企業が何を期待しているかではなく、実際に何が起きているかを見ることです。今日、AIを導入する企業はますます増え、実証実験も軌道に乗り始め、すべて順調に見えます。しかし、数字は別の実態を示しています。AIプロジェクトが成功するのは、平均して5件に1件にすぎません。また、調査対象となった2,000人を超えるIT部門責任者のうち、自社がAIから大きなメリットを得たと報告したと答えたのは、わずか13%でした。より大きなリスクにさらされているのは、いまだに次の2点を学んでいない企業です。プロジェクトを始める前にAI投資のリターンを算出する方法と、成果の出ないプロジェクトをいつ中止すべきかです。では、AIブームがバブルに終わった場合、自社が生き残れるかどうかを見極めるには、どうすればよいでしょうか。まず、次のいくつかの問いに答えてみましょう。 AIモデルの提供会社が明日、同じ機能をリリースしたとしても、顧客はあなたの製品にお金を払い続けるでしょうか。 あなたの製品は、本当に自社独自の知識、データ、経験に基づいて作られていますか。それとも、他社のモデルを利用しているのでしょうか。 自社の成長はどこから生まれていますか。自社の収益によるものですか、それとも借入金によるものですか。 事業を前進させているのは何でしょうか。数人の重要な人材と少しの幸運ですか。それとも、誰が関わるかに左右されず機能する強固な仕組みですか。 これまでの経験から言うと、チームに優秀な人材が数人いることや、運に恵まれることが企業にもたらす優位性は、一時的なものにすぎません。そして、その優位性は生まれたときと同じくらいあっという間に消え去ることがあります。企業の真の強さを支えるのは、時間をかけて築き上げた、確立されたプロセス、独自のデータ、専門知識から成る仕組みです。危機が訪れると、付け足しの要素がたいてい最初に崩れます。残るのは仕組みです。こうしたものは、他人のモデルからコピーしたり、他人の基盤から借りたりできません。
著者 Dmytro Korchevskyi, 創設者、Sintegrum
-

ソートリーダーAIにとって最も賢明な判断は、メッセージを送らないことかもしれない
生成AIによって、パーソナライズされたメッセージを作成するコストは大幅に下がった。しかし、そのメッセージを送るべきかどうかの判断が容易になったわけではない。AIが顧客とのやり取りに関する意思決定を担うようになるにつれ、この違いは重要性を増している。システムは適切なオファーを作成し、相手がクリックする可能性を予測できても、誤った判断を下すことがある。顧客は返金を待っているかもしれない。未解決の苦情を抱えているかもしれない。あるいは、別のメールアドレスを使ってすでに商品を購入しているかもしれない。文章を改善しても、こうした問題は解決しない。システムには、顧客をより深く理解すること、企業が実際に重視する価値を反映した目標、そして実行可能なことに対する明確な制限が必要だ。システムに何を最適化するよう求めていますか?配信数、開封数、クリック数は簡単に数えられる。そのため、業務指標としては役立つ一方、企業が本当に求めているもの――顧客が関係に価値を感じ、何度も戻ってきてくれること――の代わりとして使いたくなりやすい。接触頻度への制約がほとんどない状態でクリック総数を最適化するAIシステムは、メッセージの配信数を増やせばスコアが上がると判断するかもしれない。追加の配信は、それぞれ単独で見れば妥当に思えることがある。しかし、複数のキャンペーンやチャネルを通じて、同じ顧客がブランドから意図していた以上に頻繁に連絡を受けることになりかねない。最適化の対象となっている指標には、コストが表れないこともある。Validityが実施した2026年のホリデーシーズン消費者調査では、回答者の3分の1が、ホリデーシーズンのメールの多さだけで配信登録を解除するには十分だと答えた。これは、過剰な配信をAIが引き起こしたことを示すものではない。活動を増やせば、顧客との関係が損なわれる可能性があることを示している。配信登録の解除は目に見える。しかし、その前に生じた不満は、多くの場合、表面化しない。今日のクリックで評価される一方、顧客が翌月に戻ってくる可能性を下げてもペナルティがなければ、システムがそのトレードオフを考慮する理由はほとんどない。何もしないことも、ひとつの判断だ先週注文品を返品し、今も返金を待っている顧客を考えてみよう。マーケティングシステムは、最近購入したばかりで反応する可能性が高い顧客と判断し、販促メールの配信を予定する。顧客からすれば、ブランドは返すべきお金を返す前に、さらにお金を使うよう求めていることになる。返品情報は注文管理システムに、返金状況は顧客サービスツールに、購入情報はマーケティング用プロフィールに、それぞれ記録されているかもしれない。それらの記録が、同じ人物にひも付けられているとは限らない。モデルが設計どおりに正確に動作していても、顧客について不完全な情報に基づいて判断していることがある。こうした記録をつなげれば、システムが把握できる情報は変わる。しかし、それだけでシステムの行動が変わるわけではない。意思決定のプロセスでは、未解決の返金を考慮し、販促を見送ることも妥当な結果として認める必要がある。そうしなければ、システムに情報を与えても、評価される行動は変わらない。だからこそ、顧客の状況と目標は一体的に設計しなければならない。顧客の状況は何が起きているかを説明し、目標と意思決定のルールは次に何をすべきかを定める。返品があったからといって、すべての連絡を止める必要があるとは限らない。顧客は返金に関する案内を必要としているかもしれない。役立つサービス連絡と、さらなる販促との違いが重要だ。メールの文章が拙いのは、コンテンツの問題だ。顧客が返金を待っている間に、よく書かれたメールを送るのは、判断の問題である。後者を、前者の改善によって解決することはできない。会員登録はロイヤルティと同じではないロイヤルティプログラムにも、同じ問題の別の形がある。成功の指標が登録者数の増加なら、システムは割引を使って人を集めるよう学習するかもしれない。登録者数は増える。しかし、そうした顧客が次の割引なしでも戻ってくるかどうかは、別の問題だ。本当に知る価値のある問いに答えるには、時間がかかる。会員は再び購入しているか。特典のコストを差し引いても、会員の支出は利益につながっているか。プログラムは顧客の行動を変えているのか、それとも、いずれにせよ行われていた購入に報酬を与えているだけなのか。こうした問いに答えるには、ロイヤルティプログラムの利用状況と、購入履歴やサービス利用履歴を長期にわたって結び付ける必要がある。また、プログラムの効果と、もともと起こる可能性が高かった行動とを切り分けるための比較も必要だ。会員数が増えただけでは、こうしたことは分からない。人による監督は、意思決定を変えるものでなければならないシステムが何を最適化すべきかを決める責任は、人にある。顧客維持率、利益率、顧客の手間をめぐるトレードオフは、経営陣が責任を持って判断しなければならない。モデルは、そうしたトレードオフの評価を支援できる。しかし、どれを選ぶかについて責任を負うことはできない。行動にどのような制限を設けるかについても、同じことが言える。出発点となる問いは、「その行動を取り消すのは、どれほど難しいか」だ。販促メッセージを保留して確認することと、価格を変更すること、クレジットを発行すること、予約をキャンセルすることでは、結果が異なる。どの処理を自動で実行でき、どれに承認が必要かは、その結果、顧客から与えられた許可、そして利用できる情報の信頼性に基づいて決めるべきだ。返金処理が保留中だからといって、毎回人手による確認が必要になるわけではありません。方針が明確であれば、ルールに基づいて販促を見合わせつつ、カスタマーサービスからの連絡は続けられます。状況が曖昧な場合、ルール同士が矛盾する場合、または結果がシステムの権限を超える場合には、人による確認が必要です。その判断に必要な情報が不足しているなら、システムに推測を許すのではなく、明確に定めた代替措置を用意する必要があります。確認担当者に必要なのは、信頼度スコアだけではありません。推奨の根拠となった顧客記録、それらがどの程度最新か、システムが何を達成しようとしているか、どのような制約が適用されるかも確認できる必要があります。古い記録や内容が一致しない記録に基づく推奨は、信頼度が高くても適切とは言えません。人による介入は、判断の根拠として記録に残すべきです。同じ種類の販促を人が何度も止めているなら、その理由を記録しましょう。繰り返し起きるパターンから、カスタマーサービスのデータ不足、本人確認の問題、あるいは望ましくない行動を促す目標設定が明らかになるかもしれません。そのパターンを是正するほうが、同じ誤りに人がいつまでも気づき続けることを期待するよりも有益です。販促を控えることが有効かどうかを測定する顧客とのあらゆるやり取りを一度に見直そうとするのではなく、まずは一つの判断から始められます。販促メッセージの配信を取り上げ、判断に必要な状況を特定したうえで、どのような条件で配信を見合わせるべきかを定めましょう。必要なカスタマーサービスのメッセージは、その配信停止ルールの対象外にします。次に、その変更が有効かどうかを検証します。対象となる販促メッセージについて、現行の方法と、定めた条件下で配信を見合わせる方針を比較しましょう。購買サイクルに合った期間を設け、リピート購入、顧客維持率、苦情、利益率を追跡します。配信数やクリック数も、何が起きたかを説明するうえでは役立ちますが、最終的な評価指標にすべきではありません。販促を減らすことで顧客との関係を守れると、検証によって分かるかもしれません。特定の制限が広すぎると判明することもあります。どちらの結果も有益です。何も送らない判断も、送信する判断と同じように、無条件に正当化されるべきではありません。どちらも、その結果を測定できる判断です。こうした取り組みによって、エンジニアリング上の作業が不要になるわけではありません。顧客記録は正しい人物に結び付ける必要があります。直近の出来事は、判断に反映できるタイミングで意思決定プロセスに届かなければなりません。権限によって実行可能な操作を制限し、チームが何が起きたのか、なぜ起きたのかを記録できるようにする必要もあります。より優れた目標設定があっても状況の把握不足は補えません。同様に、状況を十分に把握できても、誤った目標設定を正すことはできません。顧客との関係を重視して設計するリーダーが問うべきことは明快です。自社のシステムは、何を良い判断と見なしているでしょうか。答えがクリック数なら、顧客体験を損ないながら、システムはその役割を果たしているのかもしれません。信頼できる顧客情報があれば、人もAIも、何をすべきかを判断するための確かな基盤を得られます。明確な目標と制御の仕組みによって、その理解をどのように活用するかが決まります。目指すべきは、今メッセージを送ることが有益な理由を説明し、そうでない場合を見極め、その後に起きたことから学べるシステムです。AIシステムが下せる最も賢明な判断は、何も送らないことかもしれません。
著者 Derek Slager, 共同創設者兼共同CEO、Amperity
-

ソートリーダーパーソナルAIが顧客ロイヤルティを脅かす、ブランドは備えができていない
ブランドが顧客ロイヤルティと呼ぶものの大半は、実際には乗り換えの面倒さにすぎない。人々が同じ携帯電話会社、銀行、保険会社、サブスクリプションを使い続けるのは、乗り換えに手間がかかるからです。代わりの選択肢を調べ、複雑な条件を比較し、交渉し、書類に記入したうえで、数ドルの節約が面倒に見合うかどうかを判断しなければなりません。パーソナルAIは、近いうちにこうした作業を無意味なものにするかもしれません。消費者はAIに目標を伝え、それを実現する権限を与えられるようになります。毎月の支出を10%減らして。旅行の予算を守って。いつも最もお得な条件で利用できるようにして。AIが顧客にとって最善の結果が得られているかを継続的に評価できるようになれば、企業は顧客の離脱を防いできた要因のうち、どれほどが惰性によるものだったのかを知ることになるでしょう。その兆しはすでに見え始めています。MetaのパーソナルAIエージェントMuseは500万回以上ダウンロードされており、OpenAIは、消費者の目標達成に向けてバックグラウンドで常時稼働するエージェント「Dots」を発表しました。Googleをはじめとする企業も、同じ未来を目指して競い合っています。こうした動きを受け、最近発表されたPersonal Agent Protocolなどの取り組みを通じて、業界ではインフラの構築が始まっています。私の会社はMeta、Sierraなどとともに、パーソナルAIエージェントが企業とやり取りする際に、誰を代表しているのか、何をする権限があるのかを示すための共通の仕組みづくりに取り組んでいます。業界がすでにこの課題に取り組んでいるという事実は、重要なことを示しています。パーソナルAIは、消費者が試しに使うものから、企業が対応せざるを得ないものへと急速に変わりつつあります。何百万ものパーソナルAIエージェントが企業の入り口に押し寄せても、そこにあるのは、そもそもエージェントを想定して設計されていないインフラかもしれません。顧客がたどる体験の道筋から、記入するフォーム、本人確認を行うシステムに至るまで、今日の顧客体験のほぼすべては、人間を前提に作られています。あらゆるブランドに迫っているのは、まさにこの衝突です。体験の設計方法、関係の築き方、価値の生み出し方が変わろうとしています。人間がたどらない顧客体験の道筋は、どう変わるのか?パーソナルAIは、企業と、企業が獲得し関係を維持したい顧客との間に、新たな層を生み出します。消費者は、刷新されたウェブサイトを見ることも、購入手続きを進めることも、利用継続を促すために用意されたオファーを検討することもないかもしれません。パーソナルAIの利用が広がるにつれ、AIはブランドとの接点となり、顧客体験の道筋を根本から変えていくでしょう。消費者はAIに達成したいことを伝え、その目標をどう実現するかはAIに任せられます。企業はその意図を理解し、顧客のAIと連携しながら、自社側の人材、AI、システムを統率して、目標とする結果を実現する必要があります。パーソナルAIは、企業による顧客体験の評価方法も変えます。やり取りが非同期化するにつれて、成功の基準は対応の完結から、意図した成果の実現へと移ります。顧客は目標を達成できたのか、そして、そのためにどれほどの手間がかかったのかが問われます。ブランドは、これまでとは異なる問いを軸に、顧客体験の道筋を見直す必要があります。やり取りしているのは誰なのか、あるいは何なのか。それは誰を代表しているのか。顧客は何を達成しようとしているのか。AIには何を知り、何をする権限が与えられているのか。顧客本人とAIのどちらに、いつ働きかけるべきなのか。企業は、入り口にいるのが誰なのか、あるいは何なのかを把握する必要がある企業がパーソナルAIに大規模に対応するには、まずそれを識別できなければなりません。現在、多くの企業は、顧客のために行動する権限を持つAIと顧客本人とを、確実に見分けられません。しかし、身元を確認できても、権限があるとは限りません。企業はさらに、AIにどの情報へのアクセス、どの判断、どの行動が許可されているのかを把握する必要があります。消費者は明確な境界を設定する必要があります。請求額の交渉はしても、サービスは解約しないで。フライトの予約変更はしても、500ドルを超えて使わないで。AIのためのデジタルな委任状と考えてください。そこでは、身元確認、認証、委任された権限が基盤となります。権限情報はエージェントに伴って引き継がれ、行動は追跡可能でなければなりません。そうすれば、消費者と企業は何が起きたのか、誰の権限に基づいて行われたのかを把握できます。AIが設定された境界に達したときや、許可されていない判断を求められたときには、制御権が人間に戻ります。委任された権限の問題を、パーソナルAIが出会う企業それぞれが独自に解決することはできません。だからこそ、Personal Agent Protocolのような共通標準が重要になります。MastercardとVisaも、AIが開始する取引を安全に実現するためのインフラを同様に開発しています。共通の信頼基盤がなければ、パーソナルAIはあらゆる場所で行動できる能力があっても、ほとんどどこでも行動する権限を持てないかもしれません。AIに人間のふりをさせるのはやめようもう一つ、根本的な障壁があります。パーソナルAIは、人間向けに作られた入り口から企業にアクセスしています。ウェブサイトを閲覧し、フォームに記入し、チャットを操作し、さらには電話をかけることもできます。企業は、エージェントを前提とした窓口を整える必要があります。認可されたパーソナルAIと企業向けAIが直接通信し、本人確認と権限の確認を行い、コンテキストを共有して、行動を連携させるための安全な手段です。A2Aのようなオープン標準は、異なるベンダーやアーキテクチャをまたいでエージェントが通信・連携するための道筋をつくるのに役立ちます。人向けに設計されたインターフェースをAIに操作させるのではなく、エージェントが顧客の意図を軸に直接やり取りできるようになります。たとえば、フライトがキャンセルされた場合を考えてみましょう。旅行者のパーソナルAIが航空会社のAIに連絡し、顧客の希望に照らして代替案を評価します。例外的な対応が必要になれば、AIの支援を受ける従業員が対応に加わります。旅行者自身が再び関与するのは、承認が必要な場合に限られます。パーソナルAIから企業向けAIへ。AIから従業員へ。従業員から顧客へ。そして、再び戻ることもあります。顧客体験はもはや単一のチャネルや参加者だけのものではなく、企業はその前提で構築する必要があります。体験が参加者間を移るなかで、本人性、意図、コンテキスト、権限を保つことが重要です。パーソナルAI時代に、オーケストレーションはさらに重要になる顧客体験は、人と人とのやり取りにとどまらず、人々、企業向けAI、パーソナルAIがすべて一つの成果の実現に関わる世界へと移行しています。相互運用性だけでは、信頼できる体験は生まれません。オーケストレーションによって、体験が実際にどのように提供されるかが決まります。適切なリソースを結び付け、顧客が達成しようとしていることに沿って行動を調整します。パーソナルAIによって比較、交渉、乗り換えが容易になれば、企業は顧客をつなぎ留めるために惰性に頼ることはできません。あらゆる成果を通じて、顧客のロイヤルティを勝ち取らなければならないのです。
著者 Mike Szilagyi, ゼネラルマネージャー、上級副社長(SVP)、プロダクト責任者、Genesys
-

ソートリーダーAIの賢さは、その基盤となる財務データの質で決まる
AIは、金融の未来をめぐるほぼあらゆる議論に登場するようになりました。組織は、定型業務の自動化、予測の精度向上、従業員の迅速な意思決定を支援するために、AIへの投資を進めています。こうした議論の多くは、モデルやアプリケーションから始まります。しかし私の経験では、まず目を向けるべきなのは、それらのシステムが依存するデータの品質、連携性、ガバナンスです。私はキャリアを通じて、決済インフラの構築と拡大に取り組んできました。最も難しい課題は、アルゴリズムに関するものではないことがほとんどでした。会計プラットフォーム、銀行、給与計算サービス事業者、決済ネットワークが、同じ事業上の出来事を同じように表現できるようにするための、基盤となるインフラこそが課題でした。この課題は、金融分野でとりわけ顕著です。会計、銀行取引、給与計算、請求書発行、決済はすべて、事業上の意思決定に影響する情報を生み出します。これらのシステムが個別に稼働していると、データ環境が分断され、AIが組織全体の状況を把握することは格段に難しくなります。AIは個々のシステム内でパターンを特定できますが、組織の財務をつなげて把握できなければ、事業全体で何が起きているのかを確実に説明することはできません。Melioの創業初期に、些細に聞こえるものの、実際にはそうではない問題に直面しました。「支払い済み」とは何を意味するのか、という問題です。顧客が月曜日に支払いを承認します。火曜日に顧客の口座から資金が引き落とされます。木曜日に取引先の銀行で資金が利用可能になります。翌週、その取引が請求書と照合されます。4つのタイムスタンプがあり、「いつ支払われたのか」には、いずれも正当といえる4つの答えがあります。どれも間違いではありません。人間の会計担当者は、意識することなくこの曖昧さに対処します。一方、「支払日」を単一の項目として扱う予測モデルは、タイミングについて確信を持ちながら一貫して誤った予測を出します。そして、タイミングこそ、キャッシュフロー予測で正確さが欠かせない要素です。こうしたシステムを連携させることが、最初に必要な一歩でした。さらに、各項目の意味についてシステム間で合意できて初めて、その連携に価値が生まれました。金融分野で「AI対応」を実現するには、まずデータをつなげる必要があります。ただし、システム間で同じ出来事を同じように表現できて初めて、その連携に意味があります。可視性の向上が、より良い意思決定につながる財務データを連携させる必要性は、ますます高まっています。Xeroの「Small Business Insights」レポートによると、米国の中小企業が支払いを受けるまでにかかる期間は、現在平均29.3日です。一方、年間売上高の成長率は4.0%にとどまり、長期平均を下回っています。入金のタイミング、経費、需要がそれぞれ独立して変動する場合、組織に必要なのは、各シグナルを個別に分析するのではなく、相互に結び付けられるシステムです。これは、大企業の財務部門の資金管理業務にも、従業員10人の企業にも当てはまります。四半期末までに新たな従業員を雇用できるかどうかを検討している企業を考えてみましょう。その判断に必要なのは、今日の銀行残高だけではありません。顧客からの入金予定、給与支払いの確定額、定期的な経費、近く納付期限を迎える税金、売上予測など、さまざまな要素が関わります。単一の指標だけでは、信頼できる答えは得られません。こうした情報をまとめることで、経営者は自社の財務状況をより明確に把握でき、AIにも有意義な分析の材料を与えられます。自動化には取引データへのアクセスが必要です。推論には文脈が必要です。財務チームは毎月初め、意味のある分析に着手する前に、システム間のデータ照合作業に時間を費やすことがあります。全体像を把握できる頃には、理解しようとしていたキャッシュフローの変化が、すでに数週間前のものになっているかもしれません。連携されたデータによって短縮できるのは、まさにこの遅れです。AIは事業を理解してこそ価値を生む金融分野における初期のAI活用は、効率化を重視していました。取引の分類、請求書の処理、定型業務をチームがより迅速に完了できるようにすることなどです。こうした機能は今も価値をもたらしますが、期待される役割は、タスクの自動化から、文脈を踏まえた意思決定支援へと移りつつあります。具体的には、キャッシュフローのリスクを早期に把握すること、予測精度を高めること、そして支払い行動、経費、売上の傾向の変化が将来の業績にどう影響するかを理解することです。それを実現するには、AIが財務データを文脈に沿って分析できなければなりません。取引の意味は、その周辺状況によって変わります。経費の増加は、過剰支出を示している場合もあれば、季節的な需要に備えた在庫購入を反映している場合もあります。現金準備高の減少は、資金繰りの逼迫を示すこともあれば、四半期ごとの納税時期によるものにすぎないこともあります。AIは、過去の取引、現金残高、売掛金、業務上のシグナルに見られるパターンを結び付け、重要な変化と通常の変動を見分けられるようになって初めて、価値を発揮します。適切な基盤を築く金融分野でAIの導入を検討する技術リーダーにとって、重要なのは、どのアプリケーションを最初に導入するかではありません。基盤となるデータ環境が、アプリケーションに必要な全体的かつタイムリーな文脈を提供できるかどうかです。こうしたシステムを構築するうえで、特に重要な投資がいくつかあります。連携を単なる接続ではなく、契約として扱う。会計プラットフォームと決済システムを一度だけ同期しても、いずれ整合性は崩れます。スキーマ、項目の定義、データの鮮度に関する保証など、明示的なデータ契約を定めましょう。そうすれば、上流のシステムに変更があっても、下流のAIの性能が気付かないうちに低下する事態を防げます。バッチ処理による照合から、イベント駆動型のデータフローへ移行する。 財務データの照合が週次または月次で行われていると、AIは古い情報をもとに予測することになる。取引の発生に合わせてデータを伝達するイベント駆動型のパイプラインを構築すれば、モデルは変化を早期に検知するために必要な情報の鮮度を保てる。財務指標のセマンティックレイヤーを確立する。 「キャッシュポジション」「未回収債権」「収益」は、どのシステムでも同じ意味で使われなければならない。一貫した定義がなければ、AIは自信ありげに回答を生成しても、チームによって解釈が異なることになる。AIの出力を実際の正解と照らし合わせて評価する。 台帳は、ほとんどのAI分野に対して財務が持つ優位性だ。検証可能な記録が存在するからである。AIが生成する財務上の洞察は、若手アナリストの仕事と同じ基準で評価し、実績値と照合したうえで、精度を継続的に測定するべきだ。AIの提案への信頼は、主張することで得られるのではなく、測定を通じて築かれる。こうした投資は、その上に構築されるAIアプリケーションほど注目されないが、アプリケーションが機能するかどうかを左右する。真の差別化要因AIが財務管理に組み込まれるにつれて、技術的な課題は、個々のモデルに何ができるかという点から、より広範な財務データアーキテクチャの中でモデルをどれだけ効果的に機能させられるかという点へと移りつつある。データの連携に投資する組織は、キャッシュフローの変化をより早く把握し、AIが生成する予測への信頼を高められる。違いを生むのはモデルではない。その背後にあるデータだ。
著者 Ilan Atias, Melioの共同創業者兼最高技術責任者





