์ธ๊ณต์ง๋ฅ
๋ฐฑ๋ณด๋, AI ๋ฉ๋ชจ๋ฆฌ์์ ์๋ก์ด ๊ธ๋ก๋ฒ ํ์ค ์ค์ โ ์ง์ ํ ์์ด์ ํธ AI๋ก์ ๋์ฝ
Backboard는 인공 지능 시스템에서 메모리가 취약한 추가 기능이 아닌 핵심 인프라로 취급될 수 있다는 중요한 문턱을 넘었다. 회사는 현재 LoCoMo와 LongMemEval이라는 두 개의 주요 AI 메모리 벤치마크에서最高 성적을 기록하고 있으며, 일관된 학술적 및 독립적인 평가 방법에 따라 이를 달성한 최초의 플랫폼이 되었다.
NewMathData에서 수행한 독립적인 평가에서 Backboard는 LongMemEval에서 93.4%의 정확도를 달성했으며, 이는 벤치마크의 원래 사양에 따라 실행된 경우 지금까지 보고된最高 성적이다. 이는 이전에 발표된 90.1%의 LoCoMo 성적에 이어 짧은 시간 горизонт에서 정밀도와 긴 시간 горизонт에서 맥락적 연속성을 모두 유지할 수 있는 시스템 중 하나로 백보드를 위치시킨다.
주목할 점은, 검토자들이 백보드의 응답이 벤치마크의 기대 답변보다 더 맥락적으로 정확한 경우에도 잘못된 것으로 표시된 여러 경우를 식별했다는 것이다. 이러한 경우 시스템은 더 좁은 의미의 프롬프트 해석에 따라야 하는 대신 상호작용에서 이미 존재하는 사실 정보를 통합했다. 결과적으로 보고된 점수는 성능의 상한을 나타내는 것이 아니라 보수적인 기준을 나타낸다.
AI에서 메모리가 제한 요소가 된 이유
대부분의 현대적인 AI 시스템은 여전히 실제 과거가 없는 것처럼 행동한다. 대규모 언어 모델은 유창한 응답을 생성하는 데 탁월하지만, 세션이 종료되거나 프롬프트 창이 채워지면 맥락을 잊어버린다. 이 제한으로 인해 개발자는 반복적으로 상태를 재구성하기 위해 검색을 다시 수행하거나, 프롬프트 엔지니어링을 수행하거나, 시스템이 더 복잡해짐에 따라 종종 깨지는 도구의 취약한 체인을 사용해야 한다.
메모리는 단순히 회상에 관한 것이 아니다. 실제 배포에서 메모리는 AI 시스템이 시간이 지남에 따라 일관성을 유지하고, 작업을 조정하고, 사용자와 신뢰를 구축할 수 있는지 여부를 결정한다. 지속 가능한 메모리가 없으면 시스템은 재설정되거나, 환각을 일으키거나, 자신과矛盾한다. AI가 단일 턴 상호작용에서 장기 실행 워크플로우로 이동함에 따라 메모리는 주요 병목 현상이 되었다.
백보드는 메모리를 최초의 인프라로 취급함으로써 이 문제에 접근한다. 응용 프로그램 계층에 메모리를 부착하는 대신, 지속성, 임베딩, 검색 및 오케스트레이션을 단일 API를 통해 액세스할 수 있는統一된 플랫폼으로 통합한다.
벤치마크 조정을 위한 시스템 수준 접근
백보드는 벤치마크 점수를 추구하기 위해 아키텍처를 설계하지 않았다. 평가는 독립적으로 시작되었거나 내부적으로 시스템이 학술 연구와 비교되는 방법을 이해하기 위해 사용되었다. 결과는 실제 조건에서 시스템 수준 동작을 반영한다. 이는 작업별 최적화가 아닌 벤치마크 점수를 추구하는 것과는 다르다.
이 구별은 중요하다. 대부분의 벤치마크는 모델 동작을 분리하여 측정하는 반면, 실제 AI 시스템은 많은 이동 부분으로 구성된다. 백보드의 결과는 메모리 성능이 모델 크기 또는蛮力 계산의 함수만이 아니라 메모리가 구조화되고, 업데이트되고, 시간이 지남에 따라 공유되는 방식에 달려 있음을 시사한다.
플랫폼은 지속적인 장기 메모리, 네이티브 임베딩 및 벡터화, 내장 검색 및 생성, 에이전트 간 공유 메모리 및 17,000개 이상의 대규모 언어 모델(사용자 키 지원 포함)에 대한 액세스를 결합한다. 이러한 요소를統一함으로써 백보드는 기업이 생산 환경에서 종종 실패하는 오픈 소스 구성 요소를 함께 연결할 필요를 제거한다.
실제적인 에이전트 AI 구현
에이전트 AI에 대한 관심은 계속 증가하고 있지만, 대부분의 구현은 데모를 넘어서는 데 어려움을 겪고 있다. 이유는 간단하다. 공유 및 지속 가능한 메모리가 없는 에이전트는 효과적으로 조정할 수 없다. 그들은 단편화되고, 맥락을 잃고, 상호작용이 시간이 지남에 따라 예측할 수 없게 된다.
백보드는 기본 모델에 관계없이 에이전트 간에 지속 가능한 공유 메모리를 가능하게 한다. 메모리가 신뢰할 수 있을 때, 에이전트 행동은 자연스럽게 나타난다. 시스템은 이전 결정과 세션 간의 연속성을 유지하고, 상호작용을 조정할 수 있다.
플랫폼의 기본 메모리 프레임워크는 상태를 정적으로 재구성하거나 반복적으로 검색하는 대신 시간적 일관성을 유지하도록 설계되었다. 이는 AI 시스템이 복잡해짐에 따라 일관성과 감사가 가능하도록 한다.
잊을 수 없는 시스템을 위한 구축
백보드의 아키텍처는 설립자이자 CEO인 Rob Imbeault의 경험에 뿌리를 두고 있다. 그는 이전에 Assent를 초기 스타트업에서 14억 달러 이상의 가치를 가진 글로벌 엔터프라이즈 플랫폼으로 성장시켰다. Assent에서 Imbeault가 작업한 시스템은 고객의 운영 및 복잡한 공급망 워크플로우에서 규제 준수 및 신뢰를 지원하는 데 깊이埋め込여 있었다.
그 경험은 명확한 信念을 형성했다. 가장 가치 있는 인프라는 드물게 화려하다. 그것은 조용히, 일관되게, 오랜 시간 동안 작동하는 인프라이다. 이러한 환경에서 시스템은 맥락이 손실되면 재설정할 수 없다. 상태가 사라지거나 신뢰가 손상되면 시스템은 작동하지 않는다.
Imbeault는 현대적인 AI에서 구조적인 불일치가 나타나고 있다고 보았다. 대규모 언어 모델은 빠르게 발전했지만, 본질적으로 상태가 없다. 세션 간에 맥락이 사라지며, 개발자는 취약한 프롬프트 체인 및 임시 검색 계층을 통해 메모리를 재구성해야 한다. 이러한 접근 방식은 데모에서는 작동할 수 있지만, AI 시스템이 지속적으로 실행되고, 에이전트 간에 조정하고, 시간이 지남에 따라 발전해야 하는 경우에는 작동하지 않는다.
백보드는 이 간격을 메우기 위해 구축되었다. 메모리는 애플리케이션 논리 대신耐久 인프라로 취급된다. 이는 AI 시스템이 상호작용, 모델 및 에이전트 간에 상태를 유지할 수 있도록 한다. 지속성, 정확성 및 장기 신뢰성에 대한重点은 백보드가 존재하기 전에 형성된 信念을 반영한다. 생산 환경에서 메모리 실패는 사소한 결함이 아니다. 그것은 시스템적인 위험이다.
이 관점은 백보드의 설계 철학을 뒷받침한다. 목표는 분리된 순간에 지능을展示하는 것이 아니다. 복잡성이 증가하고 시간 지평이 확장됨에 따라 신뢰할 수 있는 소프트웨어처럼 행동하는 AI 시스템을 가능하게 하는 것이다.
AI의 미래를 위한 의미
백보드의 결과의 더广い 의미는 향후 AI의 발전이 단순히 더 큰 모델이나 더 긴 컨텍스트 창으로만 주도되지 않을 것이라는 것이다. 그것은 시간이 지남에 따라 기억하고, 추론하고, 발전할 수 있는 시스템에 의해 주도될 것이다.
기업이 고객 지원, 운영, 연구 및 규제 준수와 같은 분야에서 AI를 배포함에 따라, 지속 가능한 메모리는 신뢰와 확장성의 기초가 된다. 인프라 수준에서 메모리를 해결하는 플랫폼은 에이전트 AI가 실험에서 일상적인 사용으로 이동하는 방법을 정의할 것이다.
학술적 및 독립적인 벤치마크에서 메모리 아키텍처가 지금 검증됨에 따라, 백보드는 팀이 실제 제약 조건에서 AI 시스템 동작을 더 잘 이해하고 평가하는 것을 도와주는 데 주목한다. 회사의 即将 출시하는 Switchboard 기능은 복잡한 AI 구성이 더 투명하고 예측 가능하게 만드는 것을 목표로 한다.
AI의 미래는 지능적인 프롬프트 기술보다 시간이 지남에 따라 신뢰할 수 있는 시스템에 의해 형성될 것이다. 메모리는 이러한 전환의 기초이며, 백보드의 최신 결과는 이 기초가终于 형성되고 있음을 시사한다.
