Hyoun Park, テレコム＆モビリティ・マネジメントのVP、Calero Hyoun Park テレコム＆モビリティ・マネジメントのVP、Calero

AIが行動するとき、ITは依然として結果を所有する

テクノロジーを担当する幹部は、不快な現実に直面しています。以前、管理、説明責任、回復力を確保していたIT管理戦略は、将来に向けて適切ではありません。これは、リーダーシップや規律の欠如、または孤立した失敗の結果ではありません。テクノロジーがどのように動作し、現代の企業内で決定が下されるかという構造的な変化を反映しています。この変化の中心には、組織が使用するツールやガバナンスのメカニズムを再定義する人工知能があります。人工知能は、既存のシステムを拡張するのではなく、システムが動作するペース、スケール、自律性を変更し、制御が確立され維持される方法を再考する必要性を生み出します。課題は、すべてのアクションを制御する方法を見つけることではありません。自律システムが迅速に動作できるようにガードレールを設計する方法を見つけることです。リスク、コスト、または予期せぬ結果のレベルが受け入れられないものにならないようにします。ガバナンスの窓が失われるとき数十年間、ITガバナンスは、システムが人間の監視を可能にするペースで動作するという基本的な前提に基づいていました。ポリシーはレビューされ、予算は評価され、コンプライアンスはチェックされ、例外はエスカレートされました。なぜなら、結果が実現する前に介入する時間があったからです。組織がモバイル、クラウド、ビッグデータのイノベーションの波を経て拡大したときでも、この前提はほぼ維持されました。ガバナンスの窓、つまり意図と実行の間に人間の判断が適用されるポイントがありました。その前提はもはや維持されません。 EYの2026年3月テクノロジー・パルス・ポールによると、85%のテクノロジー・リーダーは、ガバナンスよりもAIへのスピードを優先しています。これは、制御と速度のバランスがすでに実行の方向に傾いていることを示しています。そして、私たちがその理由を知っています。人工知能は、伝統的な制約 such as 予算、コンプライアンス、セキュリティ監視から独立した複雑で相互接続された自律的な意思決定ループを導入します。これらのシステムはレビューのために停止したり、承認を待ったりしません。目標を達成するために、執拗に動作し、適応し、完了します。 souvent 実時間で、人間の理解を超えるスケールで動作し、人間の礼儀正しさの外見で話します。結果は、意思決定サイクルが人間の介入が不可能なレベルまで圧縮されることです。AIが実行の経済学を変える同時に、この変化は、企業テクノロジーを形作り変える別の構造的な変化と収束します。消費は、固定投資から使用ベースのモデルと結果駆動型モデルへの移行を遂げており、コストは実行とともに動的にスケールします。 Menlo Venturesの2025年12月報告書、 企業におけるジェネレーティブAIの状態は、この変化の規模を示しています。2025年だけで、企業はジェネレーティブAIに370億ドルを費やしたことを示しています。これは、前年比で3.2倍の増加です。この新しい環境では、AIシステムは結果を達成するために最適化されており、事前に定義された制約に従うのではなく、リソース消費パターンを通じて目的を達成します。これらのパターンは、事前に予測するのが本質的に困難です。単一のリクエストは、API、内部サービス、第三者依存関係を横断する一連のアクションをトリガーする可能性があります。財務的および運用上の結果は、実行が発生した後のみに可視化されることがよくあります。開始時に単純に見えたものは、伝統的な予算やガバナンスの枠組みに収まらない複雑な相互作用の連鎖に拡大する可能性があります。伝統的な制御モデルの崩壊ガバナンスへの影響は深刻です。伝統的なIT管理モデルは、ポリシーを定義し、決定を事前に承認し、例外を管理し、結果を監査するというシーケンスに依存しています。各ステップは、意図と影響の間に明確な分離があるという前提に基づいています。しかし、AI駆動の環境では、意図と影響の間のギャップは実質的に消滅しています。ポリシーは、ダイナミックでリアルタイムの実行を制御するには十分に適応できません。ミリ秒で展開する決定に対して事前の承認は実用的ではありません。例外は、結果がすでにシステム全体に広がった後のみに発生します。監査は可能ですが、事実上、結果がすでに実現した後のみに再構築できます。この崩壊の証拠はすでにあります。 IBMのデータブリーチ報告書によると、97%の組織は、AI関連の重大なブリーチを経験し、適切なアクセス制御を欠如していました。にもかかわらず、AIの戦略的価値のため、導入は加速し続けています。歴史は、不均衡は長続きしないことを示しています。テクノロジーは、ガバナンスなしで長期的に運用されることはありません。AIは、新しい形式の構造、規律、強制可能な制御を要求し、これらは今日の前提とは異なるものでなければなりません。ジェネレーティブAIの上にエージェントAIが登場することで、この変化はさらに進みます。計画、実行、行動の改善を可能にするシステムは、作業が行われる方法に根本的な変化を表します。制御は、人間の意思決定のシーケンスに埋め込まれたものではありません。システム自体の設計に埋め込まれたものです。その設計は、取られるアクションだけでなく、そのアクションがどの程度、どの速度で、どのコストで広がるかを決定します。したがって、組織が維持する必要がある前提、制約、義務をエンコードしなければなりません。規制コンプライアンス、運用ポリシー、顧客の信頼などです。説明責任は依然として人間にあるこれにより、能力と責任の間で緊張が生じます。AIはマシンの速度で動作しますが、説明責任は人間のペースに制約されます。結果を解釈し、理解し、対応するには、人間のペースが遅すぎます。取締役会、規制当局、株主は、自律システムが設計どおりに動作したというだけの説明では不十分です。責任は、自動化とともにシフトしません。企業とその監督を担当する幹部に残ります。結果は、行動と説明責任の間で広がるギャップです。決定は、管理できるよりも速く実行され、しばしば追跡するのが困難な方法で実行されます。同時に、説明、管理、説明の義務は、決定の量と影響が増加するにつれて強化されます。このギャップは、現代のITリーダーシップが直面する中央の課題を定義します。介入が仮定できない、コストが本質的に変動し、制御が事後的に完全に再構築できない環境を管理することです。新しいカテゴリの企業リスクAI駆動の決定の速度と自律性は、実質的に異なるリスクプロファイルを作り出します。これらのシステムは、財務、運用、法的、評判のリスクなどの既知のカテゴリにさらされるのではなく、リスクがどのように発生し、拡大し、実現するかを変更します。財務への露出は、リアルタイムで消費活動が蓄積するにつれて急速に拡大します。運用の混乱は、検出される前に相互接続されたシステムを横断して広がる可能性があります。法的および規制上の違反は、明確な意図または追跡可能性なしに発生する可能性があります。評判の被害は、組織が対応するよりも速く広がる可能性があります。これらのリスクは、理論的なものではありません。個人は、支出を承認し、システムを変更し、アクションを開始することができるAIエージェントを展開できます。財務、運用、コンプライアンスの影響は、法務、IT、または財務機能が制限を定義し、動作を監視し、制御を施す能力を超えています。説明責任は、伝統的なガバナンスメカニズムが実行速度に追いつかないため、ますます困難になります。予算は、 nhỏな漸進的なアクションが重要な財務結果に集積するため、より一貫性がなくなる可能性があります。この環境では、AIシステムは、組織の期待から外れたパスを追求することがよくあります。明確に定義された制約がない限り、目標を達成するための最も効率的なパスを追求します。インフラストラクチャ管理からガードレール設計へこれらの現実は、ITリーダーシップの役割を再定義しています。テクノロジーリーダーは、単にシステムを管理するのではなく、スケールで自律的な行動を管理しています。ITの役割は、インフラストラクチャの直接的な制御から、許容される意図、リスク、コストのレベルを定義するガードレールの設計と施行への移行しています。ITは、ストレージ、コンピューティング、接続性のプロビジョニングに焦点を当てていたのですが、システムが定義された境界内でどのように動作するかを形作ることに焦点を当てる必要があります。なぜなら、ITの将来は、これらのガードレールの有効性に依存するからです。この変化に適応できない組織は、顧客や市場が要求する速度で運用するのに苦労するでしょう。成功する組織は、速度と制御を組み合わせることで、持続可能な競争上の優位性を獲得します。この瞬間は、企業にとって転換点を表し、AIをどれだけ効果的に活用して出力の拡大、パフォーマンスの向上、そして動的な環境での競争に成功するかを決定することになります。最終的に、説明責任は人間に残ります。成功する組織は、この現実を認識し、その中に運用する準備ができている組織です。将来を見据いたCIOが次にすべきことこれらの変化は、将来を見据いたCIOにとって明確な優先事項を生み出します。CIOは、AIアクティビティに対する強力な財務および運用ガバナンスを確立しなければなりません。これには、コスト、実行トリガー、エージェントの動作を管理するリアルタイムの制御が含まれます。これらの制御には、支出上限、使用上限、自動カットオフなどの施行可能なメカニズムが必要です。これらは、実行が発生する前に物質的な財務影響を生み出すことを防ぎます。同時に、組織はAIの根底にある経済学を定義し、管理しなければなりません。これには、プロンプト、モデルコール、エージェント、アクセスパターンなどの主要なドライバーを追跡し、これらの測定がビジネス結果 such as 顧客需要、サービス提供、運用生産性、収益成長に直接結び付くことを確認することが含まれます。ガバナンスには、AIアクティビティに対する継続的なリアルタイムの可視性も含まれなければなりません。追跡可能性と監査可能性は、事後分析に依存するのではなく、システムがどのように動作するか、活動がどこから発生するか、どのモデルとエージェントが関与するか、リソースがどのように消費されるかについての継続的な理解を提供しなければなりません。この可視性により、組織は行動が展開されるのを観察し、必要に応じて介入できます。AIの実行は、単一のイベントではなく、相互作用とハンドオフの連鎖として理解されなければなりません。単一のリクエストは、内部システム、外部サービス、調整されたエージェントを横断するダウンストリームのアクティビティをトリガーする可能性があります。コストと運用の影響を増幅します。有効なガバナンスは、依存関係の連鎖と定義を必要とし、実行の範囲を完全に理解するために必要です。明確な所有権と説明責任がこれらの努力の下になければなりません。組織は、AIシステムを構築して展開する責任者、生成された出力の所有者、財務、運用、コンプライアンスの結果に対する説明責任者を定義しなければなりません。明確な所有権なしでは、ガバナンスは成功しません。最後に、CIOは、技術的なアクティビティを企業の洞察に変換する一連のエグゼクティブレベルの指標を標準化しなければなりません。これには、モデル使用のコスト、AI駆動の結果ごとのコスト、管理下のAI総支出、モデルとエージェントを横断するポートフォリオレベルの可視性が含まれます。これらの測定は、AI使用のスケールと効率についての明確なビューを提供し、企業の最高レベルでの情報に基づいた決定を可能にします。