AI가 행동할 때, 여전히 IT가 결과를 책임집니다

기술을 책임지는 임원들은 불편한 현실을 직면하고 있습니다. 과거에 통제, 책임, 탄력성을 보장하던 IT 관리 전략은 더 이상 미래에 적합하지 않습니다. 이는 리더십이나 규율의 실패, 또는 고립된 실수로 인한 결과가 아닙니다. 이는 기술이 작동하고 현대 기업에서 결정이 내려지는 방식에 대한 구조적인 변화를 반영합니다.

이 변화를 중심으로 인공 지능이 있습니다. 인공 지능은 단순히 기존 시스템을 확장하지 않습니다. 인공 지능은 시스템이 작동하는 속도, 규모, 자율성을 변경하며, 통제를 어떻게 설정하고 유지하는지 재고하는 것을 강요합니다.

도전은 더 이상 모든 행동을 통제하는 것이 아닙니다. 이는 자율 시스템이 빠르게 움직일 수 있도록 가드레일을 설계하는 것입니다. 가드레일은 위험, 비용, 또는 예기치 않은 결과를 생성하지 않도록 합니다.

통치가 창을 잃었을 때

수십 년 동안 IT 통치는 기본적인 가정에 근거했습니다. 시스템은 인간의 감시를 허용하는 속도로 작동한다는 가정입니다. 정책을 검토하고, 예산을 평가하고, 규정 준수를 확인하고, 예외를 승격할 수 있습니다. 이는 항상干預할 수 있는 시간이 있었기 때문입니다. 조직이 모바일, 클라우드, 빅데이터 혁신의 물결을 통해 확장하더라도, 그 가정은 대부분 유지되었습니다. 항상 통치 창이 있었기 때문입니다. 의도와 실행 사이에서 인간의 판단을 적용하여 결과를 형성, 중지 또는 확장할 수 있는 지점이었습니다.

그 가정은 더 이상 유효하지 않습니다. EY의 2026년 3월 기술 펄스 폴에 따르면, 85%의 기술 리더가 이미 통치보다 AI를 시장에 출시하는 속도를優先하고 있습니다. 이는 통제와 속도의 균형이 이미 실행 속도 쪽으로 기울기 시작했다는 신호입니다.

그리고 우리는 왜 그런지 압니다. 인공 지능은 전통적인 제약을 벗어난 복잡한 의사결정 루프를 도입합니다. 이러한 시스템은 검토를 위해 일시 중지하거나 승인을 기다리지 않습니다. 목표를 완수하기 위해 끊임없이 행동하고, 적응하며, 실시간으로 작동하며, 인간의 이해를 초월하는 규모로 작동합니다. 결과는 의사결정 주기를 압축하여 인간의干預가 더 이상 불가능하게 만듭니다.

인공 지능이 실행의 경제학을 변경한다

同じ 시간에, 이 변환은 기업 기술을 재정의하는 또 다른 구조적인 변화를 수렴합니다. 소비는 고정 투자에서 사용 기반 및 결과 주도형 모델로 이동했습니다. 비용은 실행과 동적으로 확장합니다. Menlo Ventures의 2025년 12월 보고서, 기업에서 생성 가능한 인공 지능의 상태는 이 변경의 규모를 설명하며, 2025년에만 37억 달러를 생성 가능한 인공 지능에 지출했으며, 이는 전년比 3.2배 증가한 것입니다.

이 새로운 환경에서 인공 지능 시스템은 결과를 달성하도록 최적화되어 있습니다. 인공 지능 시스템은 예측하기 어려운 자원 소비 패턴을 통해 목표를 추구합니다. 단일 요청은 API, 내부 서비스 및 제3자 의존성 전체에 걸쳐 연쇄 작용을 트리거할 수 있으며, 이는 종종 실행이 이미 발생한 후에만 가시화되는 재정적 및 운영상의 결과를 초래합니다. 시작 시점에서 간단해 보이는 것이 복잡한 상호 작용의 사슬로 확장될 수 있으며, 이는 더 이상 전통적인 예산 또는 통치 프레임워크에 적합하지 않습니다.

전통적인 통제 모델의 붕괴

인공 지능이 주도하는 환경의 의미는 심오합니다. 전통적인 IT 관리 모델은 정책을 정의하고, 결정에 대한 사전 승인을 얻고, 예외를 관리하며, 결과를 감사하는 잘 알려진 시퀀스에 의존합니다. 각 단계는 의도와 영향 사이에 명확한 분리가 있다는 가정에 기반합니다. 그러나 인공 지능이 주도하는 환경에서 의도와 영향 사이의 간격은 효과적으로 사라졌습니다.

정책은 동적이고 실시간의 실행을 규정할 수 없습니다. 사전 승인은 의사결정이 밀리초 단위로 진행될 때 비현실적입니다. 예외는 이미 결과가 전파된 후에만 발생합니다. 감사는 여전히 가능하지만, 이는 사후에만 이벤트를 재구성할 수 있으며, 종종 결과가 이미 물질화된 후에 발생합니다.

이 붕괴의 증거는 이미 나타나고 있습니다. IBM의 데이터 침해 보고서에 따르면, 97%의 조직이重大한 인공 지능 관련 침해를 경험했으며, 이러한 시스템에 대한 적절한 액세스 제어가 없었습니다. 그러나 이러한 위험에도 불구하고, 인공 지능의 전략적 가치로 인해 채택은 계속 가속화되고 있습니다. 역사적으로 기술은 오랜 시간 동안 통치를 받지 않았습니다. 인공 지능은 새로운 형태의 구조, 규율 및 강제 가능한 통제를 요구할 것입니다. 이는 오늘날의 가정과는 다르게 정의되어야 합니다.

생성 가능한 인공 지능 위에 에이전트 인공 지능의 출현은 이 변화를 더욱 가속화합니다. 계획, 실행 및 자신의 행동을 개선할 수 있는 시스템은 작업을 수행하는 방식에 대한 근본적인 변화를 나타냅니다. 통제는 더 이상 인간의 결정 순서에 내장되지 않습니다. 통제는 시스템 자체의 설계에 내장됩니다. 그 설계는 어떤 행동을 취할지, 어떻게远く, 어떻게 빠르게, 그리고 어떤 비용으로 그 행동이 전파하는지 결정합니다. 따라서 조직이 준수해야 하는 가정, 제약 및 의무를 포함하여 규제 준수, 운영 정책 및 고객 신뢰를 포함하여 인코딩해야 합니다.

책임은 여전히 인간의 것입니다

이로 인해 능력과 책임 사이에 긴장도가 높아집니다. 인공 지능은 기계 속도로 작동하지만, 책임은 여전히 인간의 속도로 제한됩니다. 인간은 결과를 해석하고, 이해하고, 대응하는 속도에 의해 제한됩니다. 이사회, 규제 기관 및 주주들은 단순히 자동 시스템이 설계대로 작동한 것으로 설명하는 것으로 실패에 대한 책임을 충분히 설명할 수 없습니다. 책임은 자동화와 함께 변경되지 않습니다. 책임은 기업과 그 기업을 감독하는 임원에게 남아 있습니다.

결과는 행동과 책임 사이의 간격이 넓어지는 것입니다. 결정은 통치할 수 있는 속도보다 빠르게 실행되며, 종종 실시간으로 추적하기 어려운 방식으로 실행됩니다.同時에, 그 결정에 대한 설명, 통제 및 정당성을 요구하는 의무는 그 볼륨과 영향이 증가함에 따라 강화됩니다. 이 간격은 현대 IT 리더십이 직면한 중앙 도전을 정의합니다.干預가 가정될 수 없는 환경을 통치하는 것입니다. 비용은 본질적으로 가변적이며, 통제는 완전히 재구성할 수 없습니다.

새로운 범주의 기업 위험

인공 지능이 주도하는 결정의 속도와 자율성은 물질적으로 다른 위험 프로파일을 생성합니다. 이러한 시스템은 단순히 금융, 운영, 법적 또는 평판 위험과 같은熟知된 범주에 대한 노출을 확장하지 않습니다. 인공 지능 시스템은 이러한 위험이 어떻게 발생하고, 확대되고, 물질화되는지 변경합니다. 재정적 노출은 실시간으로 발생하는 소비 활동에 의해 빠르게 증가할 수 있습니다. 운영 중단은 감지되기 전에 시스템 전체에 걸쳐 전파할 수 있습니다. 법적 및 규제 위반은 명확한 의도 또는 추적 가능성 없이 발생할 수 있습니다. 평판 손상은 조직이 대응하기 전에 더 빠르게 발생할 수 있습니다.

이러한 위험은 더 이상 이론적이지 않습니다. 단일 개인은 이미 비용을 지불하고, 시스템을 수정하고, 행동을 시작할 수 있는 인공 지능 에이전트를 배포할 수 있습니다. 이는 법률, IT 또는 재무 기능이 한계를 정의하거나, 행동을 모니터링하거나, 통제를 강제하기 위해 속도에 따라 따라갈 수 없습니다. 책임은 점점 더 어려워집니다. 전통적인 통치 메커니즘이 실행 속도에 따라 뒤처지며, 예산은 작은 증분 행동이 물질적인 재정 결과로 집계되므로 더 이상 일관성이 없습니다.

이 환경에서 인공 지능 시스템은 항상 목표를 달성하기 위한 가장 효율적인 경로를 추구할 것입니다. 명확한 제약이 없으면, 그 경로는 종종 조직의 기대와 다를 것입니다.

인프라 관리에서 가드레일 설계로

이 현실은 IT 리더십의 역할을 재정의하고 있습니다. 기술 리더들은 더 이상 단순히 시스템을 관리하지 않습니다. 기술 리더들은 대규모 자율 행동을 관리합니다. IT의 역할은 인프라의 직접적인 통제에서 가드레일의 설계 및 시행으로 이동했습니다. 가드레일은 허용되는 의도, 위험 및 비용 수준을 정의합니다. IT는 더 이상 저장소, 컴퓨팅 및 연결성을 제공하는 것에만 집중하지 않습니다. IT는 시스템이 정의된 경계 내에서 작동하는 방식을 형성하는 데 집중해야 합니다. 미래의 IT는 이러한 가드레일의 효과성에 달려 있습니다.

적응하지 못하는 조직은 고객과 시장에서 요구하는 속도로 운영하기 위해 어려움을 겪을 것입니다. 성공하는 조직은 속도와 통제를 결합하여 지속 가능한 경쟁 우위를 얻을 것입니다. 이 순간은 기업에 대한 중요한 전환점입니다. 이는 기업이 인공 지능을 어떻게 효과적으로 활용하여 출력을 확장하고, 성능을 개선하며, 점점 더 동적인 환경에서 경쟁하는지 결정할 것입니다.

궁극적으로, 책임은 여전히 인간의 것입니다. 성공하는 조직은 이 현실을 인정하고 그 안에서 운영할 준비가 된 조직입니다.

미래 지향적인 CIO가 다음에 해야 할 일

이러한 변화는 미래 지향적인 CIO에게 명확한 우선순위를 생성합니다.

CIO는 인공 지능 활동에 대한 강력한 재정 및 운영 통치를 설정해야 합니다. 이는 비용, 실행 트리거 및 에이전트 행동을 관리하는 실시간 통제를 기반으로 합니다. 이러한 통제에는 지출 상한, 사용 상한 및 자동 절단과 같은 시행 가능한 메커니즘이 포함되어야 합니다. 이러한 메커니즘은 물질적인 재정적 영향을 미치기 전에 통제를 잃은 소비를 방지합니다.

同時에, 조직은 인공 지능의 기본 경제학을 정의하고 관리해야 합니다. 이는 고객 수요, 서비스 제공, 운영 생산성 및 수익 성장과 같은 비즈니스 결과에 직접 연결된 핵심 드라이버를 추적하는 것을 포함합니다. 핵심 드라이버에는 프롬프트, 모델 호출, 에이전트 및 액세스 패턴이 포함됩니다.

통치는 또한 인공 지능 활동에 대한 지속적이고 실시간의 가시성을 포함해야 합니다. 추적 가능성 및 감사 가능성은 더 이상 사후 분석에 의존할 수 없습니다. 시스템이 작동하는 방식, 활동이 발생하는 위치, 관련 모델 및 에이전트, 자원 소비를 제공하는 지속적인 이해를 제공해야 합니다. 이 가시성은 조직이 행동을 관찰하고 필요한 경우에干預할 수 있도록 허용합니다.

인공 지능의 실행은 단일 이벤트로 이해되어서는 안 됩니다. 인공 지능의 실행은 상호 작용 및 핸드오버의 사슬로 이해되어야 합니다. 이 사슬은 컨텍스트에서 지속적으로 추적되어야 합니다. 단일 요청은 내부 시스템, 외부 서비스 및 조정된 에이전트 전체에 걸쳐 하류 활동을 트리거할 수 있습니다. 이는 비용과 운영적 영향을 증폭합니다. 효과적인 통치는 이러한 의존성 사슬에 대한 가시성과 정의를 필요로 하며, 실행의 범위를 완전히 이해하기 위해 필요합니다.

모든 이러한 노력의 밑바탕에는 명확한 소유권과 책임이 있어야 합니다. 조직은 인공 지능 시스템을 구축하고 배포하는 사람, 생성된 출력을 소유하는 사람, 재정적, 운영적, 규제적 결과에 대한 책임을 지는 사람을 정의해야 합니다. 명확한 소유권이 없으면 통치는 성공할 수 없습니다.

마지막으로, CIO는 비즈니스 통찰력을 제공하는 실행 수준의 지표를 표준화해야 합니다. 이러한 지표에는 모델 사용 비용, 인공 지능 주도 결과 비용, 관리되는 총 인공 지능 지출 및 모델 및 에이전트 전체에 걸친 포트폴리오 수준의 가시성이 포함됩니다. 이러한 측정치는 인공 지능 사용의 규모와 효율성에 대한 명확한 시각을 제공하며, 기업의最高 수준에서 정보에 기반한 결정을 가능하게 합니다.