작업장의 다음 전선은 관리되는 AI입니다

우리는 10년 동안影 IT와 싸웠습니다. 승인되지 않은 SaaS 앱. 유령 스프레드시트. 승인되지 않은 Dropbox 계정. IT 리더들은 이 문제를 해결하기 위해 전체 컴플라이언스 프로그램을 구축했으며, 대부분의 경우 패배했습니다. Reco AI의 2025년 影 AI 보고서에 따르면 평균 기업 내의 SaaS 애플리케이션 중 47%만이 공식적으로 승인된 것으로 나타났으며, 평균 조직은 현재 490개의 애플리케이션을 관리하고 있습니다.

그것은 옛 문제였습니다. 새로운 문제는 더 심각합니다.

이번에는 影 AI 문제가 다릅니다

직원이 승인되지 않은 프로젝트 관리 도구에 가입하면 피해는 제한적입니다. 팀의 작업이 잘못된 위치에 있습니다. 아마 일부 데이터가泄露될 수 있습니다. 데이터泄露의 유형은 비교적 예측 가능합니다.

AI는 다릅니다. 직원들은 이제 고객 커뮤니케이션을 작성하기 위해, 재무 보고서를 생성하기 위해, 기밀 회의를 요약하기 위해, 자동화된 워크플ロー를 구축하기 위해 AI 도구를 사용하고 있으며, 종종 아무에게도 말하지 않고 있습니다. Microsoft의 2024년 워크 트렌드 지수에 따르면 78%의 AI 사용자는 작업에 자신의 AI 도구를 가져옵니다. 그들이 어려움을 일으키거나 악의적이라고 생각해서가 아니라, 도구가真正로 유용하고, 직원들은 더 나은 성과를 내야 한다는 압력을 느끼고 있기 때문입니다. 그러나 조직은 프로세스, 절차, 도구를 제공하기에 너무 느립니다.

여기서 문제는 출력입니다. AI 도구가 고객 계약을 초안으로 작성하거나, 법적 통화를 요약하거나, 분기별 이사회 보고서를 생성할 때, 위험은 단순히 “우리가 사용한 도구를 모른다”는 것이 아닙니다. 데이터 관행, 정확성, 의사 결정이 이러한 출력에 내재되어 있기 때문입니다. 그리고 이러한 출력은 조직에 완전히 투명하지 않습니다. 아무도 프롬프트를 검토하지 않았습니다. 아무도 결과를 검증하지 않았습니다. 아무도 그것이 발생했다는 것을 알지 못합니다. 그리고 AI가 इतन 자신감이 넘치기 때문에, 대부분의 사용자는 출처를 교차 확인하지 않고 결과를 맹목적으로 수용할 것입니다.

KPMG의 2025년 影 AI 분석에 따르면, 작업에서 AI를 사용하는 직원 중 44%가 회사 정책 및 지침에 위배되는 방식으로 AI를 사용했습니다. 그것은 주변 행동이 아닙니다. 그것은 거의 반의 작업력입니다.

자율 에이전트가 이것을 더 어렵게 만들고(better) 하는 이유

여기서 대화가 интерес해집니다. 우리는 더 이상 직원이 ChatGPT에 텍스트를 붙여 넣는 것에 대해 이야기하지 않습니다. 우리는 AI 에이전트의 시대에 진입하고 있습니다. – 연속적으로 실행할 수 있는 자율 시스템, 다단계 작업을 실행할 수 있는 시스템, 기업 도구에 연결할 수 있는 시스템, 그리고 매 결정마다 인간이 개입할 필요 없는 시스템.

Deloitte의 2025년 기술 트렌드 보고서는 이것을 “실리콘 기반 작업력”으로의 전환으로 설명하며, 많은 초기 에이전트 AI 구현이 인간을 위한 프로세스를 자동화하려고 시도하는 것에 실패한다고 지적합니다. 이러한 프로세스는 에이전트 AI에 적합하지 않습니다.

이것은 갈림길입니다. 자율 AI는 두 가지 방향으로 갈 수 있습니다:

첫 번째 경로: 더 많은 影 IT, 그러나 더 나쁨. 직원들은 개인 계정을 사용하여 에이전트를 실행하고, 회사 IT에 연결하고, 개인 API 키를 통해 회사 도구에 연결하고, 팀의 다른 구성원이 볼 수 없고, 감사할 수 없고, 재현할 수 없는 출력을 생성합니다. 에이전트는 일일 보고서를 실행합니다. 보고서가 잘못되었습니다. 아무도 몇 주 동안 그것을 잡지 못합니다. 왜냐하면 아무도 그것이 존재한다는 것을 알지 못하기 때문입니다. 이것은 가상적인 것이 아닙니다. 이것은 현재 일어나고 있는 것입니다. AI 채택을 개인 생산성으로 취급하는 조직에서 일어나는 것입니다.

두 번째 경로: 관리되는 자율성. 동일한 에이전트가 동일한 일일 보고서를 실행하지만, 팀이 무엇을 하는지, 어떤 데이터에 접근하는지, 누가 설정했는지, 무엇을 생성했는지 볼 수 있는 환경에서 실행됩니다. 에이전트는 공유됩니다. 출력은 투명합니다. 권한은 범위가 지정되어 있습니다. 그리고何か가 잘못되면, 경로가 있습니다.

이 두 경로 사이의 차이는 기술이 아닙니다. 그것은 환경입니다.

관리되는 AI는 실제로 어떻게 작동하는가

관리는 일반적으로 빌더가 움찔하게 만드는 단어입니다. 그것은 일반적으로 “느리다”는 것을 의미합니다. 더 많은 승인. 더 많은 프로세스. 작업을 수행하는 사람과 위험을 관리하는 사람 사이에 더 많은 마찰.

그러나 관리되는 AI는那样일 필요는 없습니다. 내가 본 가장好的 구현은 몇 가지 특징을 공유합니다:

기본적으로 투명합니다. 모든 AI 생성 출력 – 모든 보고서, 모든 경고, 모든 초안 – 팀에게 투명합니다. 개인 채팅 기록에 숨겨져 있지 않습니다. 이것은 감시와 관련이 아닙니다. 그것은 공유된 컨텍스트와 관련이 있습니다. 에이전트가 주간 경쟁 분석을 생성할 때, 팀 전체가 그것을 볼 수 있어야 하며, 질문할 수 있어야 하며, 그것을 기반으로 작업할 수 있어야 합니다.

범위가 지정된 권한, 전체 접근이 아닙니다. 오류 로그를 모니터링하는 에이전트는 CRM에 접근할 필요가 없습니다. 소셜 콘텐츠를 작성하는 에이전트는 재무 데이터에 접근할 필요가 없습니다. 최소 권한의 원칙은 새로운 것이 아닙니다. 단지 AI 시스템에 적용되지 않는 것입니다. 그리고 그것은 적용되어야 합니다.

실제로 존재하는 감사 트레일입니다. McKinsey의 에이전트 AI 보안 플레이북은 자율 에이전트가 “새로운 및 복잡한 위험 및 취약성”을 나타낸다고 강조하며, 이러한 위험에는 에이전트가 무엇을 했는지, 어떤 데이터에 접근했는지, 어떤 결정을했는지 추적할 수 없는 경우가 포함됩니다. 그것은 기본적인 것입니다. 그것은 관리할 수 없다는 것을 의미합니다.

팀 수준의 제어, IT 수준의 제어가 아닙니다. 이것은 대부분의 관리 프레임워크가 잘못된 부분입니다.它们는 모든 AI 제어를 IT 또는 보안에 집중시킵니다. 이것은 처음부터 影 IT를 유발하는 병목 현상을 생성합니다. 이것을 올바르게 구현하는 조직은 IT가 설정하지만 미세하게 관리하지 않는 가드레일 내에서 팀이 에이전트를 구성하고, 범위를 지정하고, 모니터링할 수 있도록 제어를 팀 수준으로 푸시하고 있습니다.

조직이 올바르게 구현하는 곳

AI 에이전트를 잘 구현하는 회사들은 가장 복잡한 모델을 갖고 있는 것이 아닙니다. 가장 명확한 운영 경계를 갖고 있는 것입니다.

나는 세 가지 분야에서 가장 강력한 결과를 보고 있습니다:

보고서 및 모니터링. 일일 스탠드업, 주간 메트릭 요약, 오류 로그 요약과 같은 예약 보고서를 실행하고 팀 채널에 직접 전달하는 에이전트. 여기서의 가치는 자동화뿐만 아니라 일관성입니다. 보고서가 매일 아침 실행되며, 누군가 데이터를 가져오는지 기억하지 못하더라도 실행됩니다. 그리고 팀이 볼 수 있기 때문에, 오류가 더 빠르게 잡을 수 있습니다.

콘텐츠 및 커뮤니케이션 워크플ロー. 출판이 아닌 초안 작성. 내부 업데이트, 회의 요약 또는 아웃바운드 콘텐츠의 첫 번째 초안을 생성한 다음 인간의 검토를 위해 표면화하는 에이전트. 여기서의 관리 부분이 중요합니다. 출력의 품질 기준은 고객에게 전달되는 것과 내부 Slack 채널에 전달되는 것과 다르기 때문입니다.

분석 및 경고. 대시보드를 모니터링하고, 비정상성을 플래그하고, 메트릭이 예상 범위를 벗어날 때 경고를 푸시하는 에이전트. 이것은 모든 팀이 생산 문제를 놓치고 주말을 잃어버리는 문제를 대체합니다.

대부분의 조직이 여전히 잘못하는 것

가장 큰 실수는 AI 관리를 정책 문제로 취급하는 것입니다. 그것은 인프라 문제가 아닙니다.

당신은 원하는 만큼 사용 정책을 작성할 수 있습니다. 그러나 직원이 사용하기 쉬운 환경에서 AI를 배포할 수 있는 승인된 환경이 없다면, 직원들은 정책을 우회할 것입니다. 그것은 사람들의 문제가 아닙니다. 그것은 디자인 문제입니다.

IDC의 影 AI 분석은 이 점을 명확히 합니다. 스텔스 AI 생산성은 “기업 AI 채택을 가로막고” 있으며, 조직은 이익을 원하지만 위험을 두려워하기 때문에, 결과는 무위입니다. 그리고 이것은 최악의 결과입니다. 왜냐하면 그것은 제어되지 않은 채택을 보장하기 때문입니다.

두 번째 실수는 관리와 속도를 반대하는 것으로 취급하는 것입니다. 그것은 반대가 아닙니다. 가장 잘 관리되는 AI 환경은 또한 가장 빠른 환경입니다. 왜냐하면 팀이 이미 존재하는 작업을 재창조하거나, 볼 수 없는 에이전트를 디버깅하거나, 개인 AI 계정이 회사에서 떠난 후에 중단된 워크플로우를 재구축하는 시간을 쓰지 않기 때문입니다.

전선은 모델이 아니라 환경입니다

산업의 주목은 모델 능력에 집중되어 있습니다. 더 큰 컨텍스트 창. 더 나은 추론. 멀티모달 입력. 그것은 중요합니다. 그러나 대부분의 팀이 작업을 수행하려고 할 때, 병목 현상은 모델이 아닙니다. 그것은 모델이 실행되는 환경입니다.

팀이 무엇을 하는지 볼 수 있나요? 팀이 접근할 수 있는지 볼 수 있나요? 팀이 생성한 것을 공유할 수 있나요? 팀이 올바른 데이터와 올바른 제약조건으로 작동하는지 신뢰할 수 있나요?

그것은 인프라 질문입니다. 모델 질문이 아닙니다. 그리고 그것은 조직이 AI에서 실제로 지속적인 가치를 얻는 것과 단지 또 다른 층의 影 IT를 추가하는 것을 구분할 것입니다.

전선은 더智能한 모델을 구축하는 것이 아닙니다. 그것은智能한 모델이 실제로 작동할 수 있는 환경을 구축하는 것입니다.