AI의 기억 위기: 우리는 디지털 암흑시대를 만들어가고 있다

수백만 개의 AI 에이전트가 실제 운영 시스템에 투입되고 있지만, 운영 경험을 공유할 수 있는 에이전트는 거의 없습니다. 바로 이 때문에 아키텍처 설계가 중요하며, 제대로 설계했을 때 어떤 변화가 일어나는지 살펴볼 필요가 있습니다.

오후 2시 06분에 한 고객이 온라인으로 노트북을 주문했습니다.

결제 담당자는 운영 데이터베이스를 조회합니다. 구매 내역은 정상이며, 금액도 정상 범위 내에 있고, 배송 주소도 이전에 사용했던 주소이며, 기기와 위치 정보도 최근 성공적인 주문과 일치합니다. 모든 것이 정상적으로 보입니다. 담당자는 주문을 승인합니다.

동시에 행동 분석 에이전트는 회사 데이터 레이크하우스에서 클릭스트림 데이터를 처리합니다. 세션에서 분석 에이전트는 사용자가 탐색이나 비교 활동 없이 바로 결제 페이지로 이동했다는 패턴을 도출합니다. 이 신호는 단독으로는 미약하지만, 정상적인 구매 활동과 결합될 경우 계정 탈취 시나리오의 전조 신호로 알려져 있습니다.

행동 에이전트는 이러한 해석을 후속 분석 및 모델 훈련을 위한 파생 지식으로 기록합니다.

계산대 직원은 해당 신호를 절대 볼 수 없습니다. 신호가 처리되지 않아서도 아니고, 무시되어서도 아닙니다. 그 이유는 해당 정보가 계산대 직원이 승인 과정에서 참조하지 않는 시스템 내부에 저장되어 있기 때문입니다.

각 에이전트는 자신이 볼 수 있는 정보에 따라 올바르게 행동합니다. 각 에이전트는 자신이 소유한 시스템에 데이터를 기록합니다. 그러나 한 에이전트가 도출한 통찰력은 의사 결정 시점에 다른 에이전트에게는 보이지 않습니다.

노트북이 배송됩니다.

36시간 후, 해당 결제 건에 대한 이의 제기가 있었습니다. 조사 결과, 계정이 당일 오전에 해킹당한 것으로 확인되었습니다. 공격자는 결제 담당자의 의사 결정 과정 외부에 존재하는 행동 정보라는 점을 이용하여 거래를 정상적인 범위 내에서 진행했습니다.

실패의 원인은 데이터 누락, 느린 처리 ​​속도 또는 잘못된 모델이 아니었습니다. 에이전트 사일로, 즉 지식은 생성되었지만 공유되지 않은 것이 문제였습니다.

그리고 이는 거의 아무도 언급하지 않는 문제를 드러냅니다. 우리는 인공지능 에이전트가 의사결정을 내릴 때 다른 인공지능 에이전트가 이미 발견한 정보에 접근할 수 없는 아키텍처를 구축해 왔습니다.

인쇄기가 해결한 문제

인쇄술이 발명되기 전에는 지식이 매우 취약했습니다. 학자가 세상을 떠나면 그들이 연구했던 많은 지식도 함께 사라졌습니다. 런던의 수학자가 수십 년에 걸쳐 발견한 원리를 파리의 수학자가 50년 후에 독자적으로 재발견하는 식이었죠. 진보는 분명히 존재했지만, 그 속도는 느리고 끊임없이 재설정되는 양상을 보였습니다.

인쇄기 개인을 더 똑똑하게 만든 것은 아닙니다. 기억을 외부화한 것입니다. 지식은 더 이상 한 사람의 마음에 갇히지 않고 창조자의 생애를 넘어 지속되기 시작했습니다. 통찰력은 세대를 거쳐 공유되고, 되짚어보고, 발전시킬 수 있게 되었습니다. 이것이 발전이 누적적으로 이루어질 수 있게 한 원동력입니다.

우리는 AI를 사용하면서 인쇄기 이전 시대의 실수를 되풀이할 위험에 처해 있습니다.

현재 대부분의 조직은 운영 시스템 전반에 걸쳐 AI 에이전트를 배포하고 있습니다.고객 지원, 소프트웨어 개발, 연구 및 사기 탐지와 같은 분야에서 훨씬 더 많은 에이전트가 활발하게 실험하고 있습니다. 이러한 에이전트는 일반적으로 최신 기술에 맞춰 독립적인 서비스로 배포됩니다. 마이크로서비스 아키텍처각 에이전트는 고유한 데이터와 운영 경계를 가지고 있습니다. 심지어 같은 조직 내에서도 에이전트들은 자신의 생산 경험에서 통찰력을 얻지만, 관련 결정을 내리는 다른 에이전트들과 자신이 생산한 지식을 공유하는 경우는 드뭅니다.

결과적으로 운영상의 통찰력은 단편적으로만 남게 됩니다. 개별적인 의사 결정은 개선될 수 있지만, 경험이 시스템 전체에 축적되지는 않습니다. 단일 담당자 내에 갇힌 모든 혁신은 누적될 수 없습니다.

이번에는 지능이나 속도가 제한 요소가 아닙니다. 바로 메모리입니다. AI 시스템이 발견한 내용을 외부에 저장하고 공유할 방법이 없다면, 발전은 누적되기보다는 오히려 후퇴하는 경우가 더 많습니다.

공유 메모리의 실제 모습

더 넓은 맥락 창은 개별적인 추론을 풍부하게 할 수 있지만, 공유된 맥락을 만들어내지는 않습니다. 에이전트 전반에 걸쳐 일관된 경험.

공유 메모리는 모델을 개선하는 것이 아니라, 의사 결정 시점에 에이전트가 볼 수 있는 것을 변경함으로써 결과를 바꿉니다.

사일로화된 시스템에서는 각 에이전트가 자신의 영역 내에서 정확하게 추론합니다. 결제 에이전트는 거래 위험을 평가하고, 행동 분석 에이전트는 클릭 스트림 패턴을 분석합니다. 각 에이전트는 자신이 소유한 시스템에 결론을 기록하지만, 병렬로 작동하는 다른 에이전트는 이러한 결론을 볼 수 없습니다. 따라서 의사 결정은 자체적으로는 정확하지만, 전체적인 관점에서는 불완전합니다.

공유 메모리 계층이 있으면 그러한 경계가 사라집니다.

행동 에이전트는 세션을 처리하면서 계정 탈취 시도 초기 단계와 관련된 탐색 패턴이라는 약하지만 의미 있는 신호를 도출합니다. 에이전트는 이 정보를 오프라인 분석용으로만 저장하는 대신, 활성 세션에 연결된 공유 메모리에 기록합니다.

잠시 후, 계산대 담당자가 구매를 검토할 때 동일한 메모리를 조회합니다. 거래는 여전히 정상적으로 보입니다. 하지만 이제 담당자는 추가적인 맥락, 즉 평소에는 알 수 없었던 행동 경고를 확인할 수 있습니다. 이 두 신호는 각각 단독으로는 결정적인 증거가 되지 못합니다. 하지만 두 신호가 함께 작용할 때 추가 검증 단계로 넘어갈 수 있습니다.

에이전트 자체는 아무것도 변하지 않았습니다. 모델을 재학습하지도 않고, 중앙 제어기가 개입하지도 않습니다. 차이점은 가시성입니다. 한 에이전트가 얻은 통찰력이 여전히 중요한 시점에 다른 에이전트에게 전달됩니다.

무엇보다 중요한 것은 그러한 통찰력이 지속된다는 점입니다. 나중에 결과가 밝혀지면(사기인지 합법적인지 여부) 신호와 결과 사이의 연관성이 기록됩니다. 시간이 지남에 따라 시스템은 어떤 약한 지표가 어떤 조건에서 중요한 역할을 하는지에 대한 경험적 기록을 축적합니다. 미래의 결정은 특정 상호작용이나 행위자에 국한되지 않는 경험을 바탕으로 이루어집니다.

공유 메모리는 데이터 웨어하우스도 아니고 운영 데이터베이스도 아닙니다. 이는 파생된 컨텍스트, 즉 상호 작용을 통해 생성된 신호, 해석 및 연관성을 위한 저지연 기반입니다. 이러한 컨텍스트는 관련 결정을 내리는 다른 에이전트가 계속해서 쿼리할 수 있도록 유지됩니다.

경험이 축적되는 방식은 바로 이런 것입니다. 특정 모델 내부에서가 아니라 시스템 전체에 걸쳐 축적되는 것이죠.

에이전트 사일로의 아키텍처적 절충점

에이전트 사일로는 구현상의 오류가 아닙니다. 이는 다른 유형의 소비자를 중심으로 설계된 엔터프라이즈 아키텍처의 예측 가능한 결과입니다.

수십 년 동안 운영 시스템은 기능별로 작업 부하를 분리해 왔습니다. 운영 시스템은 지연 시간이 짧고 일관된 트랜잭션에 최적화되었고, 분석 시스템은 대규모 집계 및 과거 패턴 발견에 최적화되었습니다.OLTP와 OLAP이러한 분리는 통찰력이 소비되는 방식을 반영했습니다. 분석 결과는 기계가 아닌 인간을 위해 생성되었으며, 따라서 의사 결정의 핵심 경로에서 벗어나 비동기적으로 도착할 것으로 예상되었습니다.

AI 에이전트는 이러한 아키텍처 분할을 물려받지만, 그 구조에 부합하지는 않습니다.

그 결과는 단순히 통찰력의 지연뿐만 아니라 구조적인 사각지대를 초래합니다. 분석 시스템에서 생성된 통찰력은 설계상 실시간 의사 결정이 이미 내려진 후에 발견됩니다. 결과에 영향을 미칠 수 있는 신호는 존재하지만, 자율적인 의사 결정자가 지속적으로 조회하도록 설계되지 않은 시스템에 존재하기 때문에 의사 결정 시점에 드러날 수 없습니다.

아키텍처 자체가 고장난 것은 아닙니다. 자율 시스템의 요구 사항과 맞지 않는 것입니다.

빠진 분야: 컨텍스트 엔지니어링

공유 메모리는 대부분의 팀이 해결할 준비가 되어 있지 않은 문제를 야기합니다. 바로 어떤 경험을 보존해야 할지 결정하는 것입니다.

AI 시스템은 거래, 클릭, 메시지, 행동, 결과 등 방대한 양의 가공되지 않은 경험을 생성합니다. 이 모든 것을 저장하는 것은 현실적으로 불가능하며 유용하지도 않습니다. 의도적인 선별이 없다면 공유 메모리는 잡음에 불과합니다. 핵심 과제는 더 많은 데이터를 수집하는 것이 아니라, 다른 에이전트가 활용할 수 있도록 경험을 맥락에 맞게 구성하는 것입니다.

이것은 의 역할 컨텍스트 엔지니어링.

컨텍스트 엔지니어링은 어떤 관찰 결과를 지속적인 신호로 만들지, 그러한 신호를 어떻게 표현할지, 그리고 언제 다른 에이전트에게 노출할지를 결정하는 분야입니다. 이는 원시 이벤트와 에이전트 추론 사이에 위치하여 일시적인 활동을 공유되고 의사 결정에 관련된 이해로 변환합니다.

실제로 이는 패턴, 지표 및 조건부 연관성을 강조하는 동시에 대부분의 원시적인 경험은 사라지도록 하는 것을 의미합니다. 약한 신호나 예외적인 경우는 단독으로는 중요하지 않을 수 있지만, 축적되어 적절한 순간에 드러날 때 가치가 있게 됩니다.

컨텍스트 엔지니어링은 공유 메모리가 단순히 경험을 저장하는 데 그치지, 아니면 경험을 축적할 수 있도록 지원하는지를 결정합니다.

우리가 이걸 제대로 해낸다면 어떤 일이 벌어질까요?

이는 미래의 문제가 아닙니다. 이는 인프라 팀이 오늘날 암묵적으로나마 내리고 있는 아키텍처 관련 결정입니다.

기본 경로는 고립입니다. AI 에이전트는 독립적으로 행동하며 오직 자신의 경험에만 의존합니다. 각 에이전트는 빠르고 국소적으로는 정확한 결정을 내리지만, 지능은 정체됩니다. 동일한 예외 상황이 반복되고, 약한 신호가 재발견되며, 실패가 더 빠른 속도와 더 많은 양으로 반복됩니다.

대안은 공유 메모리 계층입니다.

파생된 맥락이 지속되고 의사 결정 시점에 드러나면 경험은 사라지지 않습니다. 한 번 발견된 통찰력은 계속 활용 가능합니다. 미약한 신호도 축적을 통해 의미를 얻습니다. 의사 결정이 개선되는 것은 모델이 바뀌어서가 아니라, 행위자들이 더 이상 고립적으로 추론하지 않기 때문입니다.

이를 위해서는 더 큰 모델, 실시간 재학습 또는 중앙 집중식 제어가 필요하지 않습니다. 메모리를 저지연 접근, 영속성 및 공유 가시성을 위해 설계된 핵심 아키텍처 계층으로 취급해야 합니다.

아키텍처 기본 설정은 빠르게 고착화됩니다. 공유 메모리 없이 구축된 시스템은 에이전트가 증가함에 따라 수정하기가 점점 더 어려워집니다. 선택은 간단합니다. 경험을 축적하는 시스템을 구축하든지, 아니면 끊임없이 초기화되는 시스템을 구축하든지 해야 합니다.