AI 에이전트를 거버닝하기 위한 아키텍처적 전환

AI는 더 이상 단순한 채팅봇이 아니다. 기업 환경에서 AI 에이전트는 민감한 데이터를 검색하거나 워크플로우를 트리거하거나 도구를 호출하거나 시스템 전체에서 활동을 로깅하는 등의 행동을 한다. 자율성은 거버넌스 논의를 완전히 변경한다. 인간 사용자와 전통적인 애플리케이션을 위해 처음으로 설계된 컨트롤과 절차는 런타임에 다중 단계 행동을 실행할 수 있는 소프트웨어를 거버닝하기 위해 설계되지 않았다.

이러한 위험은 이론적인 것이 아니다. 가시성, 접근 제어, 감사 가능성의 작은 격차는 빠르게 누적되어難etect하고 역전이 어려운 런타임 실패로 변할 수 있다.

이 새로운 시대에 따라서, AI 에이전트를 거버닝하는 것은 더 많은 정책 문서를 추가하는 것으로 할 수 없다. 그것은 거버넌스 바이 디자인(governance by design)을 필요로 한다. 즉, 컨트롤 플레인에 컨트롤을 임베딩하고 런타임에 지속적으로 적용하는 아키텍처적 접근 방식이다. 에이전트가 디지털 동료처럼 행동한다면, 인간과 동일한 엔터프라이즈 가드레일을 상속받고, 더 강한 런타임 감시를 받아야 한다.

수렴의 시대에 거버넌스가 깨지는 이유

엔터프라이즈 아키텍처는 수렴의 시대로 들어섰다. 데이터와 워크로드는 이제 여러 클라우드, 프라이빗 데이터 센터, 에지 환경에 걸쳐 있다.

여러 프로세스를 동시에 관리해야 하는 조직이 있다. 이는 별도의 아이덴티티 시스템, 로깅 파이프라인, 카탈로그, 승인된 프로세스를 포함한다. 결과는 일부에서 “프랑켄슈타인 플랫폼”이라고 부르는 것인데, 여기서 통합 오버헤드가 새로운 도구나 클라우드 환경이 추가될 때마다 증가한다. 실제로 이러한 조각조각난 부분은 일상적인 현실에서 나타나고 있다.

최근 조사에 따르면, 47%의 응답자는 복잡한 접근 요구 사항과 프로세스를, 44%의 응답자는 데이터가 어디에 있는지에 대한 가시성이 부족을 데이터를 효과적으로 사용하는 데 대한 장애물로 지적했다.

이것이 에이전트가 시스템 간의 틈을 노출하는 순간이다.

비즈니스 질문에 답하기 위해 에이전트는 온프레미스 ERP 시스템, 클라우드 CRM, 다른 클라우드의 운영 텔레메트리, 협업 스위트의 문서에서 데이터를 가져와야 할 수 있다. 조직이 각 장소에서 정책을 다르게 적용한다면, 에이전트는 실패하거나, 더 나쁘게는 설명이나 제어할 수 없는 방식으로 성공할 수 있다.

이것이 엔터프라이즈 리더가 주의해야 할 순간이다. 에이전트는 환경 전체에서 일관성과 런타임에서 책임성을 요구하는 더 높은 기준을 강제한다.

거버넌스는 이 이유로 규제 기관과 보안 기관에 의해 주목을 받고 있다. 예를 들어, NIST AI 리스크 관리 프레임워크는 AI 라이프사이클 전체에 걸쳐 리스크 관리를 강조하며, 빌드 타임에만 집중하지 않는다. 이것은 컴플라이언스와 신뢰가 운영 책임이라는 것을 상기시킨다.

정책에서 플랫폼으로

거버넌스 바이 디자인(governance by design)은 거버넌스가 워크로드와 함께 이동하는 것을 의미한다. 즉, 각 실로에서 거버넌스를 재구현하는 대신에, 거버넌스가 플랫폼과 함께 이동하는 것이다. 실제로 이것은 세 가지 빌딩 블록에 의존한다:

• 통합된 컨트롤 플레인

아이덴티티, 접근, 정책, 카탈로그, 엔티틀먼트를 클라우드와 데이터 센터 전체에서 정의하고 적용할 수 있는 하나의 장소.

목표는 정책을 한 번 작성하고 데이터와 모델이 실행되는 모든 곳에서 적용하는 것이다. 즉, 시스템마다 컨트롤 시스템을 재구축하는 대신에, 에이전트가 한 환경에서 안전하게 행동하지만 다른 환경에서 위험하게 행동하는 에이전트 행동 드리프트를 방지한다.

실제적인 테스트는 간단하다: 사용자가 열에 접근할 수 없는 경우, 에이전트가 사용자를 대신해 접근할 수 없는지 확인해야 한다. 이것은 작성된 정책이 플레인 전체에서 적용되고 있는지 여부를 나타낼 것이다.

• 오픈 표준에 기반한 데이터 패브릭

에이전트는 작동하기 위해 컨텍스트가 필요하다. 컨텍스트가 다른 팀이 소유한 다른 구조에 분산되어 있는 경우, 데이터 패브릭은 에이전트가 각 데이터셋에 대해 새로운 규칙을 학습할 필요 없이, 의미론과 접근 패턴을 표준화하는 데 도움이 된다.

Apache Iceberg와 같은 오픈 테이블 형식은 여러 엔진이 관리되는 데이터를 공유할 수 있도록 지원한다. 즉, 데이터를 새 실로로 복사할 필요가 없다. 이것은 중요하다. 데이터 복제는 일반적으로 거버넌스가 실패하는 곳이다. 팀이 “에이전트가 필요한 것만” 복사하기 시작하면, 새로운 환경을 만들게 되고, 거버넌스가 약화된다.

에이전트가 데이터셋을 건너가면서 새로운 권한 격차를 도입하지 않는다면, 거버넌스는 의도한 대로 작동한다.

• 실시간 관측 가능성과 계보

에이전트는 런타임에 볼 수 있는 경우에만 거버닝할 수 있다.

여기서 관측 가능성은 런타임 컨트롤과 인시던트 응답의 기초이다.

具体적으로, 에이전트 행동에 대한 종단 간 증거가 필요하다. 에이전트는 어떤 데이터에 접근했는지, 어떤 도구를 호출했는지, 어떤 정책을 확인했는지 등을 증명할 수 있어야 한다. 그리고 거기서 계보를 통해 출력을 입력과 연결할 수 있다. 이것은 팀이 결정과 실패를 감사하고, 필요한 경우 문제를 해결할 수 있도록 한다.

에이전트를 “디지털 동료”로 취급한다

에이전트를 디지털 동료로 취급하는 가장 유용한 정신 모델 중 하나이다.

비교를 통해 이것을 분해해보자: 직원이 일부 건물이나 방에 접근할 수 있는 배지を持っている 것처럼, 거버넌스는 에이전트가 제한된 접근을 허용한다. 하나의 주요 추가는 에이전트가 상황에 따라 어떤 정보를 공개할 수 있는지 인식해야 한다는 것이다.

지원 에이전트를 고려해 보자. 이전의 지원 사례에 접근하여 문제를 해결해야 할 수 있지만, 다른 고객의 개인 정보를 유출할 수 없다. 즉, 에이전트는 제한된 지식을 사용하여推論할 수 있지만, 공개 경계를 강제해야 한다. 이것은 역사적으로 네비게이션할 수 있는 “프롬프트 작성” 문제가 아니라, 아이덴티티와 런타임 적용 문제이다.

2026년에 변경되는 것: 에이전트가 실험에서 생산으로 이동한다

2026년은 실험이 끝나고 에이전트가 생산을 담당하는 해이다.

이 전환은 기업이 두 가지 속도로 운영하도록 강요한다. 하나는 혁신 속도이다. 여기서 팀은 경쟁 우위를 얻기 위해 새로운 모델, 도구, 에이전트 워크플로우를 테스트한다. 또 다른 속도는 보안 속도이다. 여기서 시스템은 컴플라이언스와 운영 요구 사항을 충족해야 한다. 이는 엄격한 접근 제어와 盲点을 포함할 수 있다.

아키텍처적 거버넌스가 없으면, 이러한 두 속도가 충돌할 것이다.

팀이 에이전트를 거버닝하기 전에 배포하면, 일회성 컨트롤과 운영 실패의 패치워크가 나타날 것이다. 반대로, 보안이 모든 것을 차단하고, 혁신이 거버넌스를 약화시키는 그림자 IT로 이동한다면, 거버넌스에 실패할 것이다.

목표는 속도를 선택하는 것이 아니다. 두 속도를 지원하는 아키텍처를 구축하는 것이다.

에이전트를 런타임에 거버닝하기 위한 실용적인 체크리스트

• 에이전트를 구축하거나 확장하는 경우, 거버넌스가真正로 아키텍처적인지 여부를 나타내는 다음 질문을 자신에게 물어보아야 한다: 에이전트가 답변을 생성하거나 행동을 취하기 위해 접근한 데이터를 종단 간으로 설명할 수 있나요?
• 접근 결정이 하이브리드 환경 전체에서 일관적인가요, 아니면 플랫폼에 따라 다르나요?
• 에이전트 행동, 도구 호출, 정책 확인, 인간 에스컬레이션에 대한 텔레메트리를 가지고 있나요?
• 에이전트가 예상치 못한 방식으로 행동할 경우 런타임에 에이전트를 제한, 일시 중지 또는 격리할 수 있나요?
• 규제적 의무와 리스크 감수 능력과 일치하는 배포 후 모니터링 계획이 있나요?

이 질문에 답할 수 없다면, 에이전트 배포를 생산 중단으로 간주해야 한다.

거버넌스 전환은 아키텍처적이어야 하며, 그렇지 않으면 존재하지 않는다

에이전트는 표준적인 엔터프라이즈 운영의 일부가 될 것이다. 질문은 에이전트가 신뢰할 수 있는 엔터프라이즈 운영의 일부가 될 수 있는지 여부이다.

에이전트가 인간과 임무에 중요한 소프트웨어만큼 자신감 있게 거버닝되지 않는다면, 결과는 실제로 나타날 것이다. 우리는 데이터 누출, 컴플라이언스 실패, 운영 중단, AI 프로그램에 대한 신뢰 상실을 볼 것이다.

리더는 에이전트 거버넌스를 문서화 작업으로 취급하는 것을 중단해야 한다. 플랫폼 기능이 확장됨에 따라, 에이전트 거버넌스는 다른 역할의 감시를 맡아야 한다. 이것은 컨트롤 플레인에 컨트롤을 임베딩하고, 행동을 관측 가능하게 하고, 결정이 감사 가능하게 하는 것을 의미한다. 그리고 확장한다.

그것이 빠르게 움직이는 에이전트를 얻는 방법이다. 그러나 엔터프라이즈를 깨지 않는다.