AI의記憶 위기: 디지털 암흑기를 건설하고 있다

수백만개의 AI 에이전트가 생산 시스템에 들어가고 있다. 거의 모두가 운영 경험을 공유할 수 없다. 이것이 왜 그 아키텍처 선택이 중요하며, 우리가 그것을 올바르게 한다면 무엇이 달라지는지에 대한 것이다.

오후 2시 6분, 고객이 노트북을 온라인으로 주문한다.

체크아웃 에이전트는 운영 데이터베이스를 조회한다: 깨끗한 구매 이력, 정상 범위 내의 금액, 이전에 사용된 배송 주소, 장치와 위치가 최근 성공적인 주문과 일치한다. 모든 것이 정상적으로 보인다. 에이전트는 주문에 승인한다.

同じ 시간에, 행동 에이전트는 데이터 레이크하우스에서 클릭스트림 데이터를 처리한다. 세션에서, 그것은 패턴을 유도한다: 사용자가 직접 체크아웃 URL로 이동했으며, 브라우징이나 비교 행동이 없다. 이 신호는 혼자서는 약하지만, 다른 정상적인 구매와 결합했을 때 계정 탈취 시나리오에서 알려진 전조이다.

행동 에이전트는 이 해석을 나중에 분석과 모델 훈련을 위해 파생된 지식으로 기록한다.

체크아웃 에이전트는 그것을 볼 수 없다. 신호가 계산되지 않았거나 무시된 것이 아니라, 지식이 체크아웃 에이전트가 승인 시에 조회하지 않는 시스템 내에 존재하기 때문이다.

각 에이전트는 자신이 볼 수 있는 것에 근거하여 올바르게 행동한다. 각 에이전트는 자신이 소유하는 시스템에 기록한다. 그러나 한 에이전트가 유도한 통찰력이 다른 에이전트에게는 결정 시간에 보이지 않는다.

노트북은 배송된다.

36시간 후, 충전이 논쟁된다. 조사 결과는 그 계정이 그날早く에 위조되었다는 것을 확인한다. 공격자는 거래를 정상 범위 내에서 유지했으며, 체크아웃 에이전트의 결정 맥락 외부에 갇혀 있던 행동 지식的事実을 이용했다.

실패는 데이터가 부족하거나 처리가 느리거나, 나쁜 모델 때문이 아니었다. 그것은 에이전트 실로였다: 지식이 형성되었지만, 공유되지 않았다.

그리고 이것은 거의 아무도 말하지 않는 문제를 노출한다. 우리는 AI 에이전트가 결정할 수 있는 것을 다른 AI 에이전트가 이미 발견한 것을 접근할 수 없는 아키텍처를 구축했다.

인쇄기が 해결한 문제

인쇄기 이전에, 지식은 취약했다. 학자가 죽으면, 그가 배운 대부분의 지식도 함께 죽었다. 런던의 수학자는 파리의 수학자가 50년 후에 독립적으로 재발견할 원리를 수십 년 동안 발견할 수 있었다. tiến보는 실제였지만, 지역적이었고, 느렸고, 반복적으로 초기화되었다.

인쇄기는 개인을 더智能하게 만들지 않았다. 그것은 기억을 외부화했다. 지식은 더 이상 단 하나의 마음에 결합되지 않았고, 창조者の 생명보다 더 오래 지속되기 시작했다. 통찰력이 공유되고, 재방문되고, 세대 간에 축적될 수 있었다. 그것이 진행을 합성할 수 있게 허용했다.

우리는 인쇄기 이전의 실수를 AI와 함께 반복할 위험이 있다.

대부분의 조직은 현재 생산 시스템에 걸쳐 AI 에이전트를 배치하고 있다, 많은 조직이 고객 지원, 소프트웨어 개발, 연구, 사기 탐지와 같은 분야에서 실험을积極적으로 진행하고 있다. 이러한 에이전트는 일반적으로 독립된 서비스로 배치되며, 현대적인 마이크로 서비스 아키텍처와 일치하며, 각자 자신의 데이터와 운영 경계를 가지고 있다. 동일한 조직 내에서조차, 에이전트는 자신의 운영 경험에서 통찰력을 얻지만, 다른 관련된 결정에 대한 지식을 다른 에이전트와 거의 공유하지 않는다.

결과적으로, 운영 통찰력은 단편적으로 남아 있다. 지역적인 결정은 개선될 수 있지만, 경험은 시스템 전체에 걸쳐 축적되지 않는다. 하나의 에이전트 내에 갇혀 있는 모든 획기적인 발전은 축적될 수 없는 것이다.

이번에는 제한 요소가 지능이나 속도가 아니다. 그것은 기억이다. AI 시스템이 외부화하고 공유할 수 있는 방법이 없으면, 진행은 더 자주 초기화된다.

공유 기억이 실제로 무엇인지

더 큰 컨텍스트 윈도우는 개별적인推論을 풍부하게 할 수 있지만, 에이전트 간에 지속적인 경험을 생성하지 않는다.

공유 기억은 모델을 개선하는 것이 아니라, 에이전트가 결정 시간에 볼 수 있는 것을 변경함으로써 결과를 변경한다.

실로된 시스템에서, 각 에이전트는 자신의 경계 내에서 올바르게 행동한다. 체크아웃 에이전트는 거래 위험을 평가한다. 행동 에이전트는 클릭스트림 패턴을 분석한다. 각 에이전트는 자신이 소유하는 시스템에 결론을 기록한다. 그러나 다른 에이전트가 운영하는 동안에는 그 결론이 보이지 않는다. 결정은 지역적으로 올바르지만, 전역적으로는 불완전하다.

공유 기억 계층이 있는 경우, 그 경계가消滅한다.

행동 에이전트가 세션을 처리할 때, 그것은 약하지만 의미 있는 신호를 유도한다: 계정 탈취 시도의 초기 단계와 관련된 네비게이션 패턴이다. 오프라인 분석을 위해만 기록하는 것이 아니라, 활성 세션에 연결된 공유 기억에 그 신호를 기록한다.

몇 분 후, 체크아웃 에이전트가 구매를 평가할 때, 그것은 동일한 기억을 조회한다. 거래는 여전히 정상적으로 보인다. 그러나 추가적인 컨텍스트가 보인다: 행동 경고가 없으면 отсутств하는 것이다. 어느 신호도 독자적으로 결정적이지 않다. 함께하면 검증을 위해 임계값을 넘는다.

에이전트 자체에는 아무런 변화도 없다. 모델이 재훈련되지 않는다. 중앙 제어기가 개입하지 않는다. 차이는 가시성이다: 한 에이전트가 형성한 통찰력이 다른 에이전트에게 결정 시간에 사용할 수 있게 된다.

그 통찰력이 지속된다. 결과가 나중에 알려지면(사기 또는 합법적인), 신호와 결과 간의 연관성이 기록된다. 시간이 지나면, 시스템은 어느 약한 지표가 중요하고, 어떤 조건에서 중요한지에 대한 경험적 기록을 축적한다. 미래의 결정은 단 하나의 상호작용이나 에이전트를 넘어서는 경험에 의해 정보를 제공받는다.

공유 기억은 데이터 웨어하우스도 아니며, 운영 데이터베이스도 아니다. 그것은 파생된 컨텍스트를 위한 저지연 서브스트레이트이다: 신호, 해석, 그리고 상호작용이 생성한 것을 переж는 연관성이지만, 다른 에이전트가 관련된 결정에 질의할 수 있는 것이다.

이것이 경험을 축적하는 방법이다. 어느 한 모델 내에서가 아니라, 전체 시스템에서이다.

에이전트 실로 뒤에 있는 아키텍처 트레이드오프

에이전트 실로는 구현 오류가 아니다. 그것은 다른 종류의 소비자를 위한 엔터프라이즈 아키텍처의 예측 가능한 결과이다.

수십 년 동안, 생산 시스템은 기능에 따라 작업을 분리했다. 운영 시스템은 저지연, 일관된 트랜잭션을 위해 최적화되었으며, 분석 시스템은 대규모 집계와 역사적인 패턴 발견을 위해 최적화되었다(OLTP vs. OLAP). 이 분리는 어떻게 통찰력이 소비되는지 반영했다: 분석 결과는 인간을 위해, 기계가 아닌, 비동기적으로 그리고 결정의 임계 경로 외부에서 생성되었다.

AI 에이전트는 이 아키텍처 분리를 물려받지만, 그것에 맞지 않는다.

결과는 단순히 지연된 통찰력이 아니다. 구조적인 맹점이다. 분석 시스템에서 생성된 통찰력은, 실시간 결정이 이미 이루어진 후에 발견된다. 결정 시간에 영향을 줄 수 있는 신호가 존재하지만, 자동화된 결정자에 의해 지속적으로 조회되지 않는 시스템에 존재하기 때문에 표면화할 수 없다.

아키텍처는 깨진 것이 아니다. 그것은 자율 시스템의 요구 사항에 맞지 않는다.

누락된 규율: 컨텍스트 엔지니어링

공유 기억은 대부분의 팀이 해결할 준비가 되지 않은 문제를 도입한다: 어떤 경험을 지속시킬지 결정하는 것이다.

AI 시스템은 원시 경험을大量으로 생성한다: 트랜잭션, 클릭, 메시지, 동작, 결과. 모든 것을 지속시키는 것은 실제적이지도, 유용하지도 않다. 의도적인 선택 없이, 공유 기억은 노이즈가 된다. 도전은 더 많은 데이터를 수집하는 것이 아니라, 다른 에이전트가 사용할 수 있는 컨텍스트로 경험을 형성하는 것이다.

이것이 컨텍스트 엔지니어링의 역할이다.

컨텍스트 엔지니어링은 어떤 관찰이 지속적인 신호가 되는지, 어떻게 그 신호가 표현되는지, 그리고 언제 다른 에이전트에게 노출되는지 결정하는 것이다. 그것은 원시 이벤트와 에이전트의 推論 사이에 위치하며, 일시적인 활동을 공유할 수 있는, 결정에 관련된 이해로 변환한다.

실제로, 이것은 패턴, 지표, 조건부 연관성을 높이고, 대부분의 원시 경험을 사라지게 하는 것을 의미한다. 약한 신호 또는 에지 케이스가 분리되어서는 중요하지 않을 수 있지만, 축적되고 결정하는 순간에 표면화되면 가치가 있다.

컨텍스트 엔지니어링은 공유 기억이 단순히 경험을 저장하는지, 아니면 경험을 축적할 수 있는지 결정한다.

우리가 이것을 올바르게 한다면 무슨 일이 일어날까

이것은 미래의 문제가 아니다. 이것은 오늘날 인프라 팀이 하는 아키텍처 결정이다.

기본 경로는 고립이다. AI 에이전트는 독립적으로 행동하며, 오직 자신의 경험만을 참조한다. 각 에이전트는 빠르고 지역적으로 올바른 결정한다. 그러나 지능은 정체된다. 동일한 에지 케이스가 반복되고, 약한 신호가 재발견되고, 실패는 더 빠르고 더 많이 반복된다.

대안은 공유 기억 계층이다.

파생된 컨텍스트가 지속되고 결정 시간에 가시적일 때, 경험은 증발하지 않는다. 통찰력이 한 번 발견되면 사용할 수 있다. 약한 신호는 축적을 통해 의미를 얻는다. 결정은 모델이 변경된 것이 아니라, 에이전트가 더 이상 고립되지 않기 때문에 개선된다.

이것은 더 큰 모델, 실시간 재훈련, 또는 중앙 제어기를 필요로 하지 않는다. 기억을 1차 아키텍처 계층으로 다루는 것을 필요로 한다: 저지연 액세스, 지속성, 공유 가시성을 위한 것이다.

아키텍처 기본 설정은 빠르게 굳어진다. 공유 기억이 없는 시스템은 에이전트가 증식할수록 점점 더 어려워진다. 선택은 간단하다: 경험을 축적하는 시스템을 구축하거나, 시스템을 초기화하는 시스템을 구축하는 것이다.