AI 모델 및 플랫폼

백보드, AI 메모리 새로운 세계 표준 설정 — 진정한 에이전트 AI로의 도약

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트백보드의 메모리 우선 아키텍처는 AI 에이전트와 모델 간 지속적인 공유 컨텍스트를 가능하게 합니다.
더 보기
  • 백보드의 메모리 우선 아키텍처는 AI 에이전트와 모델 간 지속적인 공유 컨텍스트를 가능하게 합니다.
  • 메모리 인프라는 에이전트 AI를 데모 단계에서 실제 운영 환경으로 전환하는 데 있어 핵심적인 병목 현상으로 부상하고 있습니다.
  • 백보드의 벤치마크 선도적 성능은 작업별 최적화가 아닌 시스템 수준의 설계에서 비롯됩니다.

백보드는 인공 지능 시스템에서 중요한 한계를 돌파하여 메모리가 취약한 부가 기능이 아니라 핵심 인프라로 취급될 수 있음을 보여주었다. 회사는 두 개의 주요 AI 메모리 벤치마크인 LoCoMo와 LongMemEval에서 1위를 차지했으며, 일관된 학술적·독립적 평가 방법에 따라 두 벤치마크 모두를 선도한 최초의 플랫폼이 되었다.

뉴매스데이터(NewMathData)의 독립적인 평가에 따르면, 백보드는 LongMemEval에서 93.4%의 정확도를 달성했으며, 이는 벤치마크의 원래 사양에 따라 실행된 최고의 공개된 점수이다. 이는 이전에 발표된 LoCoMo의 90.1% 점수를 기반으로 하며, 백보드는 짧은 시간의 정밀도와 긴 시간의 맥락적 연속성을 모두 유지할 수 있는 시스템의 매우 작은 그룹 중 하나로 자리 잡았다.

검토자들은 백보드의 응답이 벤치마크의 예상 답변보다 맥락상 더 정확한데도 오답으로 표시된 사례를 여러 건 발견했다. 이러한 경우, 시스템은 더 좁은 해석의 프롬프트에 따라야 하는 대신 상호작용에서 이미 존재하는 사실 정보를 통합했다. 따라서 보고된 점수는 성능의 상한이 아닌 보수적인 기준선이다.

AI에서 메모리가 제한 요인이 된 이유

대부분의 현대적인 AI 시스템은 실제 과거가 없다고 행동한다. 큰 언어 모델은 유창한 응답을 생성하는 데 뛰어나지만, 세션이 끝나거나 프롬프트 창이 채워지면 맥락을 잊어버린다. 이 제한은 개발자가 상태를 반복적으로 재구성하도록 강제하며, 이는 검색 방법, 프롬프트 엔지니어링 또는 깨지기 쉬운 도구의 사슬을 통해 이루어지며, 이러한 사슬은 시스템이 복잡해질수록 자주 깨진다.

메모리는 단순히 회상에 관한 것이 아니다. 실제 배포에서 메모리는 AI 시스템이 시간이 지남에 따라 일관성을 유지하고, 작업을 조정하고, 사용자와 신뢰를 구축할 수 있는지 여부를 결정한다. 지속 가능한 메모리가 없으면 시스템은 재설정되거나, 환각을 보이거나, 스스로 모순되는 말을 한다. AI가 단일 턴의 상호작용에서 장기 실행 워크플로우로 이동함에 따라 메모리는 주요 병목 현상이 되었다.

백보드는 메모리를 1차 인프라로 취급함으로써 이 문제에 접근한다. 응용 프로그램 계층에 메모리를 부착하는 대신, 지속성, 임베딩, 검색 및 오케스트레이션을 통합된 플랫폼으로 결합하고, 단일 API를 통해 접근할 수 있다.

벤치마크 튜닝이 아닌 시스템 수준의 접근

백보드는 벤치마크 점수를 따라가기 위해 아키텍처를 설계하지 않았다. 평가는 독립적으로 시작되었거나 시스템이 학술 연구와 비교되는 방법을 이해하기 위해 내부적으로 사용되었다. 결과는 실제 조건에서 시스템 수준의 동작을 반영하며, 작업별 최적화가 아니다.

이 구분은 중요하다. 대부분의 벤치마크는 모델 동작을 분리하여 측정하지만, 실제 AI 시스템은 많은 부분으로 구성된다. 백보드의 결과는 메모리 성능이 모델 크기 또는 순수한 계산 능력의 함수만이 아니라, 메모리가 구조화되고 업데이트되고 공유되는 방식에 달려 있음을 시사한다.

플랫폼은 지속적인 장기 메모리, 네이티브 임베딩 및 벡터화, 내장 검색 증강 생성, 에이전트 간 공유 메모리 및 17,000개 이상의 대규모 언어 모델에 대한 접근과 사용자가 자신의 API 키를 사용하는 기능을 결합한다. 이러한 요소를 통합함으로써 백보드는 기업이 실제 운영 환경의 제약 조건에서 실패하는 오픈 소스 구성 요소를 함께 연결할 필요를 제거한다.

실제적인 에이전트 AI 만들기

에이전트 AI에 대한 관심은 계속 증가하지만, 대부분의 구현은 데모를 넘어서지 못한다. 이유는 간단하다. 지속 가능한 공유 메모리가 없는 에이전트는 효과적으로 조정할 수 없다. 그들은 단편화되고, 맥락을 잃고, 시간이 지남에 따라 예측할 수 없게 행동한다.

백보드는 다른 기본 모델을 사용하는 에이전트 간에도 지속 가능한 공유 메모리를 가능하게 한다. 메모리가 신뢰할 수 있다면, 에이전트 행동은 스크립팅되지 않고 자연스럽게 나타난다. 시스템은 이전 결정을 기억하고, 세션 간에 맥락을 유지하고, 지속적인 재 프롬프트 없이 조정을 수행할 수 있다.

플랫폼의 기본 메모리 프레임워크는 정적 그래프 또는 반복된 검색을 통해 상태를 재구성하는 대신 시간적 일관성을 유지하도록 설계되었다. 이는 AI 시스템이 복잡성이 증가함에 따라 일관성과 감사 가능성을 유지할 수 있도록 한다.

잊을 수 없는 시스템을 위한 구축

백보드의 아키텍처는 설립자이자 CEO인 롭 임보(Rob Imbeault)의 경험에 뿌리를 두고 있다. 그는 이전에 어센트(Assent)를 초기 스타트업에서 글로벌 기업 플랫폼으로 발전시켰으며, 이는 14억 달러 이상의 가치를 평가받았다. 어센트에서 임보는 고객 운영의 심장부에 깊이 통합된 시스템을 작업했으며, 규제 준수와 복잡한 공급망 워크플로우를 지원했다. 여기서 일관성, 정확성 및 신뢰는 협상할 수 없는 것이었다.

그 경험은 명확한 신념을 형성했다. 가장 가치 있는 인프라는 화려하지 않은 것이다. 그것은 조용히, 일관되게, 오랜 시간 동안 작동하는 인프라인다. 이러한 환경에서 시스템은 맥락을 잃었을 때 재설정될 수 없다. 상태가 사라지거나 신뢰가 손상되면 시스템은 단순히 기술적으로만이 아니라 운영 측면에서도 실패한다.

임보는 현대적인 AI에서 구조적인 불일치가 나타나고 있다고 보았다. 큰 언어 모델은 급속히 발전했지만, 본질적으로 상태가 없다. 맥락은 세션 간에 사라지고, 개발자는 깨지기 쉬운 프롬프트 체인과 임시 검색 계층을 통해 메모리를 재구성해야 했다. 이러한 접근 방식은 데모에서는 작동할 수 있지만, AI 시스템이 지속적으로 실행되고, 에이전트 간에 조정하고, 시간이 지남에 따라 발전해야 하는 경우에는 실패한다.

백보드는 이러한 격차를 메우기 위해 구축되었다. 메모리는 애플리케이션 논리보다 지속 가능한 인프라로 취급된다. 이는 AI 시스템이 상호작용, 모델 및 에이전트 간에 상태를 유지할 수 있도록 한다. 지속성, 정확성 및 장기 신뢰성에 대한 중점은 백보드 이전에 형성된 신념을 반영한다. 즉, 생산 환경에서 메모리 실패는 사소한 결함이 아니다. 그것은 시스템적인 위험이다.

이 관점은 백보드의 설계 철학을 뒷받침한다. 목표는 분리된 순간에 지능을 보여주는 것이 아니라, 복잡성이 증가하고 시간 지평이 확장됨에 따라 신뢰할 수 있는 소프트웨어처럼 행동하는 AI 시스템을 가능하게 하는 것이다.

AI의 미래를 위한 의미

백보드의 결과가 갖는 더 넓은 의미는 다음 단계의 AI 진행이 단순히 더 큰 모델이나 더 긴 컨텍스트 창에 의해 주도되지 않을 것이라는 것이다. 그것은 시간이 지남에 따라 기억하고, 추론하고, 발전할 수 있는 시스템에 의해 주도될 것이다.

기업이 AI를 고객 지원, 운영, 연구 및 규제 준수에 배포함에 따라, 지속 가능한 메모리는 신뢰와 확장성의 기반가 된다. 인프라 수준에서 메모리를 해결하는 플랫폼은 에이전트 AI가 실험에서 일상적인 사용으로 이동하는 방법을 정의할 것이다.

학술적 및 독립적인 벤치마크에서 메모리 아키텍처가 검증된 후, 백보드는 팀이 실제 제약 조건에서 AI 시스템 동작을 더 잘 이해하고 평가하는 데 도움을 주는 것을 목표로 한다. 회사가 곧 출시할 스위치보드(Switchboard) 기능은 복잡한 AI 구성이 더 투명하고 예측 가능하도록 할 것이다.

AI의 미래는 영리한 프롬프트 요령보다 시간이 지나도 신뢰할 수 있는 시스템에 의해 더 많이 형성될 것이다. 메모리는 그 변화의 기반이며, 백보드의 최신 결과는 이 기반이 마침내 모습을 갖추고 있음을 시사한다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.