AI 보안 비용이 증가하지만 AI 위험은 줄어들지 않는다

AI 보안 예산은 빠르게 증가하고 있다. 많은 조직에서 이 예산은 보호해야 할 시스템보다 더 빠르게 증가하고 있다.

이 불균형은 쉽게 간과할 수 있다. 인공 지능에 대한 투자는 계속 가속화되고 있으며, 2025년 alone 글로벌 사적 자금은 $33.9 billion에 달했다.同時에, 보안 리더들은 모델 행동, 데이터 노출, 적대적 조작과 관련된 새로운 위험에 대해 책임을 지고 있다. 이에 대한 반응은 예측 가능했다: 더 많은 도구, 더 많은 제어, 더 많은 예산.

이것을 비즈니스 비용의 문제로 만들기 쉽지만, 이것은 잘못된 접근이다. 조직은 자신의 AI 투자가 실제로 올바른 도구를 보호하는지 살펴보아야 한다.

대부분의 기업에서, AI는 여전히 작업 수준에서 도입되고 있다. 팀은 요약, 코드 작성 지원, 분석 또는 워크플로 자동화를 통해 개인 생산성을 향상시키기 위해 실험한다. 이러한 도구는 지역적인 이점을 제공하지만, 더广い 수준에서 결정이나 시스템이 운영되는 방식을 변경하지 않는다. 이 갭은 결과에 나타나기 시작했다. 채택은 광범위하지만, 약 20%의 조직만이 의미 있는 영향을 보고한다.

보안 투자는 이 실험과 함께 확대되고 있다. 그러나 많은 경우, 이것은 연결되지 않은 도구의 모음에 적용되는 것이 아니라, 비즈니스 운영에 실제로 영향을 미치는 시스템에 적용된다. AI는 작업 수준에서 평가되고, 시스템 수준에서 보호되고, 워크플로 수준에서 설계되지 않는다.

AI 채택은 통합보다 빠르게 확장하고 있다

현재의 대부분의 AI 배포는 좁은 설계이다.它们는 개인 작업을 더 빠르게 만들기 위해 설계되었지, 팀이나 시스템 전체의 워크플로를 재구성하기 위해 설계되지 않았다.

판매 팀은 이메일을 작성하거나 통화를 요약하기 위해 AI를 채택할 수 있다. 엔지니어링 팀은 코드 생성을 가속화하기 위해 이를 사용한다. 운영 팀은 분석 또는 예측 지원으로 실험한다. 이러한 사용 사례는 개인 수준에서 측정할 수 있는 생산성 이점을 제공하며, 이는 초기 투자를 정당화하기에 충분하다.

복잡성은 이러한 고립된 이점이 축적되기 시작할 때 나타난다.

각 배포는 자신의 모델, 데이터 액세스 패턴, API 및 종속성을 도입한다. 시간이 지남에 따라, 조직은 함께 작동하도록 설계되지 않은 AI 기능의 확대하는 생태계를 관리하게 된다. 아직도, 많은 기업은 초기 실험 단계에 남아 있으며, 많은 이니셔티브는 아직 핵심 비즈니스 운영에 통합되지 않았다.

보안 팀은 이 환경을 물려받는다. 그들은 단일 시스템을 보호하는 것이 아니라,不断히 변경되는 도구, 통합 및 데이터 흐름의 모음에 대해 책임을 진다. 통일된 아키텍처 없이, 보안은 통제보다는 커버리지에 대한 연습이 된다.

실제 위험은 개인 도구가 아니다. 시스템 단편화이다

AI 실험은 계속되고, 리더십의 기대는 변하기 시작한다. 이사회와 경영 팀은 증가하는 AI 지출이 측정할 수 있는 비즈니스 결과로 어떻게 변환되는지 묻고 있다.

초기 이니셔티브가 부족하면, 조직은 거의 느리게 않는다. 그들은 노력을 확대한다. 더 많은 파일럿이 시작된다. 더 많은 도구가 도입된다. 더 많은 통합이 가치가 아직 물질화되지 않은 것을 찾기 위해 생성된다. 예측은 이미 반 이상의 AI 프로젝트가 향후 몇 년 안에 생산이나 예상 결과에 도달하지 못할 것이라고 한다.

보안 팀을 위해, 이 사이클은 새로운 종류의 위험을 생성한다.

도전은 더 이상 개인 응용 프로그램이나 모델을 보호하는 것이 아니다.不断히 변경되는 환경을 관리하는 것이다. 각 새로운 도구는 추가적인 身份, 데이터 흐름 및 모델 행동을 도입하여 공격 표면을 확대하기 전에 방어자가 이를 완전히 이해할 시간을 주지 않는다.

이 컨텍스트에서 보안 지출의 증가로 위험이 반드시 감소하는 것은 아니다. 그것은 오히려 운영 복잡성을 증가시킬 수 있다. 단편화된 시스템을 보호하려면 더 많은 도구, 더 많은 모니터링, 더 많은 조정이 필요하지만, 그것은 근본적인 문제를 해결하지 않는다. 즉, AI를 배포하고 사용하는 방식에 대한 일관된 구조의 부재이다.

보안 지출은 AI가 운영될 때 전략적으로 된다

우리는 AI 보안 투자 덕분에 좋은 위치에 있다; 혁신의 정도는 천문학적이며, AI 사용 사례의 미래는 밝지만, 보안 투자는 실제로 가치가 창조되는 곳에서 종종 분리된다.

AI가 주로 분리된 생산성 도구로 배포될 때, 보안 노력은 그 단편화를 따라간다. 팀은 제한된 영향력しか 없는 수십 개의 분리된 응용 프로그램을 보호하게 된다.

더 큰 가치가 나타날 때 AI가 워크플로에 통합된다. 계획, 예측, 자원 할당, 운영 결정은 AI가 의미 있는 방식으로 결과에 영향을 미치기 시작하는 곳이다. 이것은 또한 보안 투자가 더 전략적으로 되는 환경이다.

분리된 도구를 보호하면 작업을 보호한다. 통합된 시스템을 보호하면 비즈니스 프로세스를 보호한다.

이것이 작업 수준의 채택과 워크플로 수준의 설계 간의 구별이 중요한 이유이다. 의사 결정에 영향을 미치지 않는 AI는 측정할 수 있는 영향을 미치지 못할 것이다. 의사 결정 시스템과 일치하지 않는 보안은 의미 있는 위험을 감소시키지 못할 것이다.

변화는 빨리 일어나야 한다

조직은 더 적은 AI 이니셔티브가 필요하지 않다. 더 의도적인 이니셔티브가 필요하다.

첫 번째 변화는 AI 성공을 평가하는 방식이다. 배포가 결정이나 팀 간의 작업 흐름을 변경하지 않는다면, 그 영향은 제한적일 것이다. 워크플로 수준에서 성공을 측정하면 AI가 실제로 가치를 창조하는 곳에 대한 더 명확한 신호를 제공한다.

두 번째 변화는 보안 투자 우선순위이다. 모든 실험 도구에 대한 제어를 분산시키는 대신, 조직은 계획, 운영, 의사 결정과 관련된 시스템을 중심으로 보호를 집중해야 한다. 이것은 위험과 가치가 교차하는 환경이다.

세 번째 변화는 구조적이다. AI 시스템은 전통적인 애플리케이션 경계를 넘어 확장하는 새로운 소유권 형태를 도입한다. 모델, 훈련 데이터, 데이터 파이프라인, AI 생성 출력은 모두 명확한 책임이 필요하다. 명확한 소유권 없이, 거버넌스는 일관성이 없으며 보안 격차는 더 어려워진다.

이러한 변화는 조직을 활동을 보호하는 것에서 결과를 보호하는 것으로 이동시킨다.

실제로 확장할 수 있는 AI 시스템을 구축한다

조직은 AI 채택을 워크플로 수준의 설계와 일치시키면, 가치와 제어에 대한 더 명확한 경로를 얻는다.

보안 자원은 가장 중요한 시스템에 집중될 때 더 효과적이다. 리더십은 AI 투자가 운영적 영향에 어떻게 변환되는지에 대한 더好的 가시성을 얻는다. 시간이 지남에 따라, AI 프로그램은 구조화된 시스템에 기반하여 누적된 도구에 기반하지 않기 때문에 더 지속 가능해진다.

AI 투자는 느리게 않는다. 보안 지출도 계속 증가할 것이다. 차이는 이러한 투자가 어떻게 적용되는지에 있다.

조직이 작업 수준에서 AI를 계속 확장하면, 분리된 도구의不断히 확대하는 표면을 보호하게 될 것이다. 워크플로 수준에서 AI를 설계하는 조직은 실제로 보호할 가치가 있는 시스템을 보호할 것이다.