아키텍처 테스트: 실제 에이전트 AI와 리배지드 자동화 구별하는 방법

오늘날 대부분의 마케팅 기술 벤더의 홈페이지를 열면, 위쪽에 “AI로 구동됨”이라는 세 단어가 보입니다. 이 클레임은 너무나 보편적이어서 거의 아무 의미도 없습니다. 가트너는 이 관행을 “에이전트 워싱”이라고 부르며, 의미 있는 방식으로 기본 시스템을 변경하지 않고, 자동화된 규칙 기반 시스템을 자율 에이전트로 재포장하여 기업의 관심을 끌고 있습니다.

이 구분은 학술적인 것이 아닙니다. 기업 구매자는 라벨에 기반한 실제 예산 결정을 내리고 있습니다. 라벨만으로는 더 이상 신뢰할 수 있는 능력의 지표가 아닙니다. 에이전트와 규칙 엔진을 구분하는 것이 무엇인지, 그리고 왜 비용, 위험, 장기적인 유연성에 있어서 차이가 중요한지 이해하는 것은 2026년에 AI를 사용하는 소프트웨어를 평가하는 사람들에게 기본적인 문해력 요구사항이 되고 있습니다.

자동화와 에이전트 시스템 사이의 경계를 긋다

전통적인 자동화 시스템은 앞면 인터페이스가 얼마나 정교하든, 하나의 중앙 메커니즘을 중심으로 구축됩니다: 입력에 따라 어떤 사전 작성된 규칙을 실행할지 묻는 규칙 엔진입니다. 리드가 점수 임계값을 넘을 때; 이메일이 발송됩니다. 프로스펙트가 특정 행동을 완료하면; 시퀸스가 트리거됩니다. 이러한 규칙은 모두 인간 엔지니어가 미리 예상한 정확한 시나리오를 작성했습니다. 하지만 인간이 생성한 규칙의 한계에 도달하면 어떻게 합니까? 이 아키텍처는 알려진 시나리오를 완벽하게 실행할 수 있지만, 미지의 상황에 신뢰할 수 있게 적응할 수 없습니다.

에이전트 시스템은 완전히 다른 질문을 중심으로 회전합니다: “나의 목표, 현재 상황, 그리고 사용 가능한 행동을 고려할 때, 다음에 무엇을 해야 합니까?” 이것은 현대 AI에서 사용되는 지능형 에이전트의 정의 중 하나를 반영합니다. 하지만 구매자에게 더 중요하게는, 이것은 마케팅 용어뿐만 아니라 근본적인 메커니즘의 의미 있는 변화입니다. 에이전트는 목표를 유지하며, 사용 가능한 도구와 정보를 평가하며, 자신의 행동의 결과에 대한 예측을 평가하며, 계획이 실패하면 변경합니다 – 반복적으로 인간이 논리를 다시 작성할 필요 없이.

왜 우리는 지금 이 질문을 묻는가?

기업의 채택 속도만큼 이해하기 위해 이 질문이 왜 इतन급하게 된지 보십시오. 가트너는 2026년 말까지 40%의 기업 애플리케이션이 작업별 AI 에이전트를 통합할 것으로 예상합니다. 이는 이전 해보다 5% 이상 증가한 것입니다. IDC는 동일한 내장 에이전트 사용이 2027년까지 10배 증가할 것으로 예측합니다. 이는 조직의 워크플로우에 에이전트가 통합되는 정도를 측정하는 추론 수요의 1000배 증가를 의미합니다.

이 성장 곡선과 수요 타임라인은 “에이전트 워싱” 문제가 구매자가 주의하지 않으면 확산할 이유를 설명합니다. 수요가 공급을 초과할 때(진정한 능력을 가진 솔루션의 공급), 시장은 새로운 레이블을 단 재사용된 레거시 제품으로 범람하며, 구매자는 이미 알고 있는 시스템에 대해 과도한 가격을 지불합니다.

기업의 허핑과 실제 제공 가치 사이의 간격이 넓어지는 중

아마도 더 중요한 것은, 허핑과 실제 배포된 능력 사이의 간격이 얼마나 클 수 있는지 고려하는 것입니다. 2025년 7월에 발표된 MIT의 NANDA 이니셔티브의 연구에 따르면 95%의 생성형 AI 파일럿이 측정 가능한 P&L 영향에 실패했습니다. 이는 조직이 집단적으로 AI 시스템에 30~40억 달러를 투자했음에도 불구하고, 연구자들이 파일럿이 실패하는 이유를 통합으로 식별한 것은 흥미롭습니다. 모델 품질이 아니라. 모든 회사는 자신이 호스팅할 수 없는 대형 모델을 테스트하고 있지만, 거의 모든 회사가 워크플로우에 모델을 아키텍처링하지 못하고 있습니다. 따라서 그들은 조직적 맥락을 학습하고 시간이 지남에 따라 개선할 수 있는 능력이 없습니다.

가트너는 에이전트 프로젝트에 대해 유사한 예측을 했습니다: 2027년 말까지 40% 이상의 에이전트 AI 프로젝트가 취소될 수 있다고 예측했습니다. 이는 조직이 거버넌스와 ROI를 조정하기 전에 확장하지 않는 한 발생할 수 있습니다. 생성형 AI, 특히 에이전트가 시장에 나오고 있는 것은 좋습니다. 그러나 사용 가능한 기술을 채택하는 것은 그것이 조직 내에서 사고 있게 배포된다는 것과 다릅니다.

에이전트 전문성이 기술적, 아키텍처적 선택

모든 지속 가능한 에이전트 구현을 “에이전트 워싱” 클래스와 구분하는 결정은 하나입니다: 모든 것을 처리하기 위한 단일 시스템을 구축하거나, 때때로 “에이전트 크루”라고 하는 Narrowly scoped execution 에이전트 클러스터를 구축할 것인가?

따라서 많은 기업 아키텍처는 Narrowly scoped execution 에이전트에게 작업을 위임하는 planner 에이전트를 사용합니다.

전문가 모델은 Narrowly scoped execution 에이전트와 일반 목적 모델은 다릅니다. Narrowly scoped execution 에이전트는 더 좁고 관련된 데이터에 대해 훈련되며, 일반 목적 모델은 더广泛한 데이터에 대해 훈련됩니다. Narrowly scoped execution 에이전트는 특정 도메인에 대해 훈련된 모델이며, 일반 목적 모델은 더广泛한 도메인에 대해 훈련된 모델입니다.

도메인 적응과 세부 튜닝이 완벽한 해결책은 아닙니다. 도메인에 특화된 언어 모델에 대한 연구에 따르면 새로운 도메인에 특화된 정보에 대해 훈련된 모델은 새로운 자료에 대해 신뢰할 수 있게 추론하지 못하고, 훈련 중에 기억한 패턴 밖으로 밀어붙일 때 여전히 환각을 일으킬 수 있습니다.

さらに進む: 에이전트 데이터는 어디로 흐르고 있습니까?

전문성은 의도적으로 호스팅된, 전문 모델에 대한 또 다른 논쟁을 피드백합니다: 데이터 노출. 외부로 호스팅된 모델에 전송된 프롬프트는 조직의 직접 인프라 경계를 벗어나지 않는 한, 기본적으로 조직의 경계를 벗어납니다. 벤더의 보장으로 고객 데이터가 훈련에 사용되지 않는다는 것은 정책이지만, 아키텍처가 아닙니다. 정책은 변경될 수 있습니다.

이것은 공포를 조성하는 것이 아닙니다. 2023년에 삼성 엔지니어는 내부 도구 내에서 민감한 알고리즘과 코드를 노출시킨 후, 퍼블릭 챗봇에 반도체 소스 코드를 프롬프트했습니다.最近의 설문 조사 데이터는 이러한 기본적인 행동이 여전히 일반적임을 시사합니다: 연구자들은 대략 4.7%의 직원이 기밀 정보를 퍼블릭 LLM에 붙여넣었으며, 약 11%의 모든 직원 제출 콘텐츠가 기밀로 분류됨을 추정합니다. 직원이 마지막 방어선인 경우, 어떤 내부 정책도 이 격차를 완전히 닫을 수 없습니다.

규제는 이 현실에 따라잡고 있습니다. 높은 위험을 가진 AI 시스템을 실행하는 미국 회사에는 규정 준수 날짜가 있습니다. 최근, 2026년 8월 2일, EU AI법의 대부분의 의무가 시행되었습니다. 이 규정은 2025년 2월부터 단계적으로 시행되어 왔으며, 이 날짜는 다음 주요 물결을 표시합니다 – 제6조(1항)을 제외하고, 이는 높은 위험 분류 규칙을 다루며, 2027년 8월까지 별도의 후속 일정에 있습니다.

기업은 더 이상 이론적으로 아닌 직접적인 규정 준수 노출에 직면해 있습니다. 그들은 자신의 AI 시스템이 처리하는 데이터와 그 데이터가 어디로 가는지 문서화할 수 없습니다. 사내에서 호스팅되는 전문 모델은 거버넌스 작업을 제거하지 않지만, 가장 큰 노출 소스를 제거합니다: 기본적으로 제3자에게 내부 데이터의 라이브 파이프라인.

또는 더 직접적으로 말하자면, 벤더에게 데이터가 어디로 가는지 물어보십시오. 그들이 주저하거나 “클라우드에 머물러 있다”고 주장한다면, 다른 사람에게 물어보십시오. 진지하게.

거버넌스는 아키텍처에 속합니다, 검토 큐에는 없습니다

에이전트 기반 시스템에 대한 마지막 오해는 거버넌스가 마무리에서 발생한다는 것입니다. 너무 많은 조직이 AI 출력을 환각된 LLM 응답과 동일한 방식으로 처리합니다 – 인간 검토자가 반드시 필요하다고 생각합니다. 마지막 순간에 나쁜 출력을 중단하는 것은 아무것도 하지 않는 것보다 낫지만, 에이전트 벤더가 거버넌스 프레임워크에 대해 자랑하는 이유가 있습니다. 그들은 그것을 핵심적인 추론 레이어 자체에 두었습니다. 거버넌스는 관찰 가능해야 하며, 정책 평가, 승인 이벤트 및 제약 위반을 운영 신호로 노출해야 합니다

잘 설계된 에이전트 시스템은 제약 조건을 가지고 있으며, 이는 관찰 가능성 도구가 출력을 생성한 데이터를 추적하고, 예측의 정확도를 독립적인 제3자 표준과 벤치마크할 수 있도록 합니다. 오류를 수정하는 것은 좋은 거버넌스입니다. 그러나 자동으로 발생하는 오류 클래스를 방지하는 것이 더 좋습니다. 이를 염두에 두고, 구매자는 실제로 다음을 물어야 합니다:

• • 목표 대 규칙. 시스템이 명시적으로 설계되지 않은 입력을 만났을 때 무엇을 합니까? 규칙 엔진은 폴백 규칙을 가리킬 것입니다. 에이전트는 목표를 재평가하고 사용 가능한 행동을 고려할 것입니다.
  • 모델 호스팅 및 전문성. 기본 모델은 도메인에 특화되어 있으며, 어디에서 실행됩니까? 이것은 능력 질문과 데이터 개인 정보 보호 질문을 동시에 답변합니다.
  • 메모리 및 컨텍스트. 시스템은 조직적 컨텍스트를 상호 작용 간에 유지합니까, 아니면 모든 세션을 새로운 것으로 취급합니까? 영구적 메모리, 거버넌스 경계 내에서 유지되면, 에이전트가 엔지니어가 규칙을 다시 작성하지 않고도 개선할 수 있도록 합니다.
  • 환각 처리. 시스템은 라이브 프로세스에 도달하기 전에 잘못된 출력을 어떻게 감지하고 제한합니까? 이는 단순히 전문 모델이 환각을 일으킬 가능성이 낮다고希望하는 것만으로는 충분하지 않습니다.
  • 감사 가능성. 모든 출력을 생성한 이유와 데이터를 추적할 수 있으며, 독립적인 제3자에 의해 벤치마크되었습니까?

• 관찰 가능성. 조직이 에이전트 시스템을 프로덕션에 배포할 때, 관찰 가능성은 추론만큼 중요해집니다. 의사 결정, 메모리, 도구 사용 및 정책 시행에 대한 가시성이 없으면, 기업은 전통적인 소프트웨어와 동일한 신뢰로 AI 시스템을 운영할 수 없습니다.

기업 경제학은 왜 이것이 중요합니까?

벤더 잠금에 대해 이야기하면서, 가격 논쟁은 항상 비교에서 사라지는 것입니다. 하지만 경제학은 여기서 완전히 일치합니다. 대형 제공업체는 항상 토큰 기반 API를 제공할 수 있으므로 지수적인 구독 가격을 청구할 수 있습니다. 새로운 모델의 모든 세대. 출력을 해결하기 위해 필요한 모든 반복. 자동화가 필요한 모든 복잡한 다단계 마케팅 캠페인 작업. 토큰을 소비합니다.

同じ 구독 계층에는 사용량 상한선이 있어, AI에 의존하는 워크플로우의 대부분에 도달하면, 대규모 운영 병목 현상을 만들게 됩니다. 사내에서 전문 모델을 구축하고 호스팅하면, 가변 사용 비용과 예측할 수 없는 생성 비용을 대신하여, 기반이 되는 인프라 비용과 같은 것을 대체합니다. 규모에선, 이는 기술적인 것만큼 경제적인 선택입니다.

결론 – 레이블은 결코 문제의 핵심이 아니었습니다

“AI로 구동됨”은 여기서부터 하이프 사이클이 끝날 때까지 모든 벤더 홈페이지에 표시될 것입니다. 하지만 중요한 것은 형용사가 아니라 아키텍처입니다. 추론은 어디서 일어납니까? 데이터는 어디로 가나요? 시스템은 얼마나 전문적인가요? 거버넌스는 아키텍처 단계에서 고려되었나요, 아니면 후속 조치였나요? 이러한 핵심 기능은 진정한 경쟁 우위를 제공하는지, 아니면 매우 비싼 도장만 제공하는지 결정할 것입니다.