AI 모델 및 플랫폼

백보드, AI 메모리 새로운 세계 표준 설정 — 진정한 에이전트 AI로의 도약

mm
Unite.AI를 Google의 선호 소스에 추가

백보드는 인공 지능 시스템에서 중요한 한계를 돌파하여 메모리가 핵심 인프라로 취급될 수 있음을 보여주었다. 회사는 두 개의 주요 AI 메모리 벤치마크인 LoCoMo와 LongMemEval에서 1위를 차지했으며, 이는 학술적이고 독립적인 평가 방법에 따라 첫 번째 플랫폼이 도달한 성과이다.

뉴매스데이터(NewMathData)의 독립적인 평가에 따르면, 백보드는 LongMemEval에서 93.4%의 정확도를 달성했으며, 이는 벤치마크의 원래 사양에 따라 실행된 최고의 공개된 점수이다. 이는 이전에 발표된 LoCoMo의 90.1% 점수를 기반으로 하며, 백보드는 짧은 시간의 정밀도와 긴 시간의 맥락적 연속성을 모두 유지할 수 있는 시스템의 매우 작은 그룹 중 하나로 자리 잡았다.

검토자들은 백보드의 응답이 벤치마크의 기대 응답보다 맥락적으로 더 정확한 경우가 여러 번あった 것을 발견했다. 이러한 경우, 시스템은 더 좁은 해석의 프롬프트에 따라야 하는 대신 상호작용에서 이미 존재하는 사실 정보를 통합했다. 따라서 보고된 점수는 성능의 상한이 아닌 보수적인 기준선이다.

AI에서 메모리가 제한 요인이 된 이유

대부분의 현대적인 AI 시스템은 실제 과거가 없다고 행동한다. 큰 언어 모델은 유창한 응답을 생성하는 데优秀하지만, 세션이 끝나거나 프롬프트 창이 채워지면 맥락을 잊어버린다. 이 제한은 개발자가 상태를 반복적으로 재구성하도록 강제하며, 이는 검색 방법, 프롬프트 엔지니어링 또는 깨지기 쉬운 도구의 사슬을 통해 이루어진다.

메모리는 단순히 회상에 관한 것이 아니다. 실제 배포에서 메모리는 AI 시스템이 시간이 지남에 따라 일관성을 유지하고, 작업을 조정하고, 사용자와 신뢰를 구축할 수 있는지 여부를 결정한다. 지속 가능한 메모리가 없으면 시스템은 재설정되거나, 환각을 보이거나, 자신과矛盾한다. AI가 단일 턴의 상호작용에서 장기 실행 워크플로우로 이동함에 따라 메모리는 주요 병목 현상이 되었다.

백보드는 메모리를 1차 인프라로 취급함으로써 이 문제에 접근한다. 응용 프로그램 계층에 메모리를 부착하는 대신, 지속성, 임베딩, 검색 및 오케스트레이션을 통합된 플랫폼으로 결합하고, 단일 API를 통해 접근할 수 있다.

벤치마크 튜닝이 아닌 시스템 수준의 접근

백보드는 벤치마크 점수를 따라가기 위해 아키텍처를 설계하지 않았다. 평가는 독립적으로 시작되었거나 시스템이 학술 연구와 비교되는 방법을 이해하기 위해 내부적으로 사용되었다. 결과는 실제 조건에서 시스템 수준의 동작을 반영하며, 작업별 최적화가 아니다.

이 구분은 중요하다. 대부분의 벤치마크는 모델 동작을 분리하여 측정하지만, 실제 AI 시스템은 많은 부분으로 구성된다. 백보드의 결과는 메모리 성능이 모델 크기 또는蛮力 계산의 함수만이 아니라, 메모리가 구조화되고 업데이트되고 공유되는 방식에 달려 있음을 시사한다.

플랫폼은 지속적인 장기 메모리, 네이티브 임베딩 및 벡터화, 내장 검색 증강 생성, 에이전트 간 공유 메모리 및 17,000개 이상의 큰 언어 모델에 대한 액세스를 결합한다. 이러한 요소를 통합함으로써 백보드는 기업이 생산성 제약 조건에서 실패하는 오픈 소스 구성 요소를 함께 연결할 필요를 제거한다.

실제적인 에이전트 AI 만들기

에이전트 AI에 대한 관심은 계속 증가하지만, 대부분의 구현은 데모를 넘어서지 못한다. 이유는 간단하다. 지속 가능한 공유 메모리가 없는 에이전트는 효과적으로 조정할 수 없다. 그들은 단편화되고, 맥락을 잃고, 시간이 지남에 따라 예측할 수 없게 행동한다.

백보드는 다른 기본 모델을 사용하는 에이전트 간에도 지속 가능한 공유 메모리를 가능하게 한다. 메모리가 신뢰할 수 있다면, 에이전트 행동은 스크립팅되지 않고 자연스럽게 나타난다. 시스템은 이전 결정과 일관성을 유지하고, 세션 간에 맥락을 유지하고, 지속적인 재 프롬프트 없이 조정을 수행할 수 있다.

플랫폼의 기본 메모리 프레임워크는 정적 그래프 또는 반복된 검색을 통해 상태를 재구성하는 대신 시간적 일관성을 유지하도록 설계되었다. 이는 AI 시스템이 복잡성이 증가함에 따라 일관성과 감사 가능성을 유지할 수 있도록 한다.

잊을 수 없는 시스템을 위한 구축

백보드의 아키텍처는 설립자이자 CEO인 로비 임보(Rob Imbeault)의 경험에 뿌리를 두고 있다. 그는 이전에 어센트(Assent)를 초기 스타트업에서 글로벌 기업 플랫폼으로 발전시켰으며, 이는 14억 달러 이상의 가치를 평가받았다. 어센트에서 임보는 고객 운영의 심장부에 깊이埋め込여 있는 시스템을 작업했으며, 규제 준수와 복잡한 공급망 워크플로우를 지원했다. 여기서 일관성, 정확성 및 신뢰는 협상할 수 없는 것이었다.

그 경험은 명확한 신념을 형성했다. 가장 가치 있는 인프라는 화려하지 않은 것이다. 그것은 조용히, 일관되게, 오랜 시간 동안 작동하는 인프라인다. 이러한 환경에서 시스템은 맥락을 잃었을 때 재설정될 수 없다. 상태가 사라지거나 신뢰가 손상되면 시스템은 작동적으로 실패한다.

임보는 현대적인 AI에서 구조적인 불일치가出现하고 있다고 보았다. 큰 언어 모델은 급속히 발전했지만, 본질적으로 상태가 없다. 맥락은 세션 간에 사라지고, 개발자는 깨지기 쉬운 프롬프트 체인과 임시 검색 계층을 통해 메모리를 재구성해야 했다. 이러한 접근 방식은 데모에서는 작동할 수 있지만, AI 시스템이 지속적으로 실행되고, 에이전트 간에 조정하고, 시간이 지남에 따라 발전해야 하는 경우에는 실패한다.

백보드는 이러한 격차를 메우기 위해 구축되었다. 메모리는 애플리케이션 논리보다 지속 가능한 인프라로 취급된다. 이는 AI 시스템이 상호작용, 모델 및 에이전트 간에 상태를 유지할 수 있도록 한다. 지속성, 정확성 및 장기 신뢰성에 대한 중점은 백보드 이전에 형성된 신념을 반영한다. 즉, 생산 환경에서 메모리 실패는 사소한 결함이 아니다. 그것은 시스템적인 위험이다.

이 관점은 백보드의 설계 철학을 뒷받침한다. 목표는 분리된 순간에 지능을 보여주는 것이 아니라, 복잡성이 증가하고 시간 지평이 확장됨에 따라 신뢰할 수 있는 소프트웨어처럼 행동하는 AI 시스템을 가능하게 하는 것이다.

AI의 미래를 위한 의미

백보드의 결과의 더广い 의미는 다음 단계의 AI 진행이 단순히 더 큰 모델이나 더 긴 컨텍스트 창에 의해 주도되지 않을 것이라는 것이다. 그것은 시간이 지남에 따라 기억하고, 추론하고, 발전할 수 있는 시스템에 의해 주도될 것이다.

기업이 AI를 고객 지원, 운영, 연구 및 규제 준수에 배포함에 따라, 지속 가능한 메모리는 신뢰와 확장성의基础가 된다. 인프라 수준에서 메모리를 해결하는 플랫폼은 에이전트 AI가 실험에서 일상적인 사용으로 이동하는 방법을 정의할 것이다.

학술적 및 독립적인 벤치마크에서 메모리 아키텍처가 검증된 후, 백보드는 팀이 실제 제약 조건에서 AI 시스템 동작을 더 잘 이해하고 평가하는 데 도움을 주는 것을 목표로 한다. 회사의 即将 출시하는 스위치보드(Switchboard) 기능은 복잡한 AI 구성이 더 투명하고 예측 가능하도록 할 것이다.

AI의 미래는 시간이 지남에 따라 신뢰할 수 있는 시스템에 의해 형성될 것이다. 메모리는 그 변화의基础이며, 백보드의 최신 결과는 이基础가终于 형성되고 있음을 시사한다.

앙투안은 유나이트.AI의 비전적인 리더이자 공동 설립자로서 AI와 로봇공학의 미래를 형성하고 촉진하는 데 대한 불변의 열정을 가지고 있습니다. 연속적인 기업가로서, 그는 AI가 사회에 전기와 같은 변화를 가져올 것이라고 믿으며, 종종 파괴적인 기술과 AGI의 잠재력에 대해 열광합니다.

作为 미래학자로서, 그는 이러한 혁신이 우리 세계를 어떻게 형성할지 탐구하는 데 헌신하고 있습니다. 또한, 그는 Securities.io의 설립자로서, 미래를 재정의하고 전체 부문을 재구성하는 최첨단 기술에 투자하는 플랫폼을 운영하고 있습니다.