자동화에서 인지로: 에이전트 AI의 진화

수십 년 동안 기업 자동화는 익숙한 논리를 따라 왔습니다: 프로세스를 정의하고, 단계를 코딩한 뒤 소프트웨어가 일관되게 실행하도록 하는 것이었습니다. 스크립트는 명령을 자동화하고, 런북은 절차를 기록하며, 오케스트레이션은 시스템 간 작업을 연결하고, AIOps는 증가하는 운영 데이터에 머신러닝을 적용했습니다. 각 진보는 자동화의 역량을 높였지만, 의사결정은 여전히 사람에 의해 이루어졌습니다. 사람은 프로세스를 정의하고, 소프트웨어가 이를 수행했습니다.

Agentic AI는 이러한 관계를 변화시킵니다. 고정된 명령 집합으로 시작하는 대신, 에이전트는 목표를 설정하고 정의된 경계 내에서 이를 달성하는 방법을 스스로 찾을 수 있습니다. 이는 단순히 답을 생성하는 것을 넘어서는 요구사항입니다. 시스템은 목표를 해석하고, 관련 컨텍스트를 모으며, 증거를 평가하며, 메모리를 활용하고, 도구나 자동화 중에서 선택하며, 상황 변화에 따라 조정해야 합니다. Anthropic은 워크플로와 에이전트를 구분하는 유사한 차이를 제시합니다. 워크플로에서는 모델과 도구가 미리 정의된 코드 경로를 따르지만, 에이전트에서는 모델이 자체적으로 프로세스와 도구 사용을 동적으로 지시할 수 있습니다.

결정론적 실행에서 적응형 의사결정으로

이것이 전통적인 자동화를 구식으로 만들지는 않습니다. 실제로, 결정론적 자동화는 알려진 조건에서 행동으로 이어지는 경로가 명확히 이해될 때 여전히 올바른 답입니다. 서비스가 건강 검사를 통과하지 못하면 재시작합니다. 요청이 특정 기준을 충족하면 적절한 큐로 라우팅합니다. 인터페이스가 임계값을 초과하면 티켓을 열고 진단을 실행합니다. 이러한 반복 가능한 작업은 자동화가 잘 처리하는 바로 그 종류입니다.

AIOps는 자동화가 실행되기 전 상황을 해석하도록 조직을 돕는 방식으로 이 모델을 확장했습니다: 이벤트를 상관관계 분석하고, 이상을 식별하며, 잡음을 줄이고 컨텍스트를 추가합니다. 에이전트형 AI는 신호와 행동 사이에 판단을 도입함으로써 다음 단계로 나아갑니다. 질문은 이제 단순히 “이 조건이 어떤 워크플로를 트리거합니까?”가 아니라, “현재 가지고 있는 목표와 증거를 바탕으로 다음에 가장 적합한 단계는 무엇인가?”가 됩니다.

성능이 저하되는 서비스를 고려해 보십시오. 에이전트는 텔레메트리, 토폴로지, 최근 변경 사항, 티켓, 구성 데이터, 과거 사건 및 비즈니스 영향을 검토한 뒤 어떤 조치를 취할지 결정해야 할 수 있습니다. 한 상황에서는 증거가 익숙한 복구 방안을 가리킬 수 있고, 다른 상황에서는 에이전트가 추가 정보를 수집하거나 읽기 전용 진단을 실행해야 할 수도 있습니다. 그리고 잠재적 영향이 크거나 증거가 불충분할 경우, 올바른 결정은 인간을 투입하는 것이 될 수 있습니다. 시스템이 발견한 내용에 따라 경로를 조정하는 이러한 능력이 의미 있는 전환점입니다.

컨텍스트와 메모리가 의사결정의 품질을 변화시킨다

맥락 없는 에이전시는 그다지 유용하지 않습니다. 동일한 증상도 토폴로지, 유지보수 활동, 최근 변경, 의존성 또는 고객 영향에 따라 완전히 다른 의미를 가질 수 있습니다. 숙련된 운영자는 이를 직감적으로 이해하며, 단일 신호만으로 중대한 결정을 내리지는 않습니다. 그들은 전체 그림을 구성하고, 관찰과 추론을 구분하며, 증거가 얼마나 신뢰할 만한지 판단합니다.

메모리는 또 다른 차원을 추가합니다. Google Cloud는 메모리를 에이전트형 아키텍처의 핵심 구성 요소로 정의하는데, 이는 에이전트가 컨텍스트를 유지하고 이전 상호작용의 정보를 활용하도록 돕기 때문입니다. 운영에서는 단순히 오래된 티켓을 찾아오는 것을 넘어선 기회가 있습니다. 유용한 운영 메모리는 유사한 상황이 발생했을 때 어떤 일이 있었는지, 어떤 가설이 옳았는지, 어떤 복구가 시도됐는지, 성공했는지 롤백됐는지, 그리고 운영자가 이후에 무엇을 배웠는지를 보존할 수 있습니다. 이러한 경험이 검증되면, 사후 분석이나 전문가의 머리 속에만 남는 지식이 아니라 다음 결정에 대한 증거가 될 수 있습니다.

인지 과학에서도 흥미로운 유사점이 있습니다. 인지적 오프로드에 관한 연구는 사람들이 외부 도구와 행동을 사용해 작업의 정신적 부담을 줄이는 방식을 조사하고, 도구 사용에 관한 연구는 도구와의 반복적인 상호작용이 사람들의 실질적인 도달 범위와 행동 능력에 어떻게 변화를 주는지를 보여줍니다. 기업 AI에 대한 비유를 문자 그대로 받아들여서는 안 되지만, 기본 아이디어는 유용합니다: 도구는 단순히 시간을 절약하는 것을 넘어섭니다. 시간이 지나면서 문제에 접근하는 방식을 바꿀 수 있습니다. 잘 알려진 런던 택시 기사에 관한 연구와 내비게이션 전문성은 지속적인 경험이 인지를 자체적으로 형성할 수 있음을 상기시켜 줍니다. 기업 입장에서는 설계 질문이 단순히 에이전트가 얼마나 많은 작업을 인계받을 수 있는지가 아니라, 인간‑에이전트 시스템이 복잡성을 이해하고 행동하는 데 더 나아질 수 있는가가 됩니다.

에이전트는 자동화를 대체하지 않고 오케스트레이션해야 한다

이것이 제가 에이전트형 AI를 자동화에 대한 거부로 보지 않는 이유이기도 합니다. 제 경력 초기에 저는 수년간 운영 자동화를 구축했으며, 한 교훈이 남아 있습니다: 실행만으로는 충분하지 않다는 점입니다. 자동화는 신뢰를 얻어야 합니다. 운영자는 올바른 상황에 올바른 행동이 사용되고 있으며, 적절한 권한과 충분한 증거를 통해 왜 그런 선택이 이루어졌는지 이해할 수 있다는 확신이 필요합니다.
실용적인 에이전트형 아키텍처는 이러한 투자를 기반으로 합니다. 기존 스크립트, 워크플로, API, 오케스트레이션 플랫폼 및 도메인‑특화 도구들은 에이전트가 필요에 따라 호출할 수 있는 기능이 됩니다. 증거가 알려진 복구 방안을 뒷받침한다면, 에이전트는 새로운 행동을 즉흥적으로 만들기보다 검증된 자동화를 사용할 수 있습니다. 증거가 불완전하면 추가 조사를 수행할 수 있습니다. 가치가 있는 점은 신뢰할 수 있는 실행을 유지하면서 언제, 어떻게 실행이 이루어져야 하는지에 대한 보다 적응적인 의사결정을 결합한다는 것입니다.

자율성이 높아질수록 거버넌스가 더욱 중요해진다

소프트웨어가 행동 중 하나를 선택할 수 있게 되는 순간, 거버넌스는 사후에 추가되는 것이 될 수 없습니다. 기업 에이전트는 기술적으로 수행할 수 있는 것뿐만 아니라, 특정 환경, 특정 위험 수준, 특정 신원이나 역할에 따라 허가된 작업이 무엇인지도 이해해야 합니다. NIST의 AI 위험 관리 프레임워크는 거버넌스, 매핑, 측정 및 관리라는 네 가지 기능을 중심으로 AI 위험 관리를 조직화하며, 거버넌스는 다른 기능 전반에 걸쳐 작동합니다.

실제로 이는 에이전트가 권고 뒤에 있는 증거를 제시하고, 사용한 시스템과 데이터를 명확히 밝히며, 불확실성을 드러내고, 승인 요구사항을 준수하며, 발생한 일에 대한 감사 추적을 남길 수 있어야 함을 의미합니다. 되돌릴 수 있음도 중요합니다. 읽기 전용 진단과 프로덕션 구성 변경은 동일한 자율성 임계값을 가져서는 안 됩니다.

따라서 인간 감독은 단순히 사라지는 것이 아니라 더욱 정밀해집니다. 동일한 에이전트가 증거를 자율적으로 수집하고, 복구를 권고하며, 고위험 행동 전에 승인을 요구하고, 승인된 행동이 실제로 작동했는지 검증할 수 있습니다. 목표는 인간을 전면적으로 ‘포함’하거나 ‘제외’하는 것이 아니라, 인간 판단을 가장 가치가 높은 지점에 배치하는 것입니다.

실제 이점은 행동 이후에 일어나는 일이다

아마도 가장 중요한 차이는 행동이 수행된 후에 나타납니다. 전통적인 자동화는 보통 워크플로가 성공적으로 실행됐는지 여부만 묻습니다. 인지 시스템은 더 어려운 질문을 해야 합니다: 행동이 의도한 결과를 낳았는가, 그리고 그 결과로부터 무엇을 배워야 하는가?

이는 피드백 루프의 가치를 변화시킵니다. 성공적인 복구는 향후 유사 상황에 대한 증거를 강화할 수 있습니다. 실패한 가설은 시스템이 같은 추론을 반복할 가능성을 낮춥니다. 운영자의 수정은 다음 권고를 개선하고, 롤백은 신뢰도가 사용 가능한 증거가 정당화할 수 있는 수준을 초과했음을 드러낼 수 있습니다. 시간이 지나면서 중요한 자산은 자동화 라이브러리의 규모가 아니라 상황, 증거, 결정, 행동 및 결과 사이에 누적된 관계입니다.

이러한 관점에서 기업 자동화의 진화는 한 세대의 기술을 다른 세대로 교체하는 것이 아니라, 기존에 작동하던 것에 새로운 역량을 추가하는 과정이라 할 수 있습니다. 스크립트는 행동을 인코딩하고, 런북은 절차를 기록하며, 오케스트레이션은 이를 연결하고, AIOps는 점점 복잡해지는 운영 신호를 해석하는 데 도움을 주었습니다. 에이전트형 AI는 목표를 추구하고, 컨텍스트와 증거를 기반으로 추론하며, 메모리를 활용하고, 사용 가능한 역량 중에서 선택하고, 거버넌스된 경계 내에서 행동하고, 결과로부터 학습하는 능력을 추가합니다.

목표는 무제한 자율성이 되는 것이 아니라, 책임 있는 자율성이 되어야 합니다: 시스템이 언제 행동하고, 언제 조사하고, 언제 허가를 요청하고, 언제 멈춰야 하는지를 인식할 수 있어야 합니다. 이것이 자동화에서 인지로의 전환이며, 기계가 인간의 운영을 대체하는 것이 아니라, 기업이 인식하고, 결정하고, 행동하고, 학습하는 더 나은 방식을 개발하는 것입니다.