ChatGPT의 메모리 제한은 좌절감을 줄 수 있다 — 뇌가 더 나은 방법을 보여준다

ChatGPT의 파워 유저라면 최근에 “메모리가 가득 찼습니다”라는 경고 메시지를 만날 수 있습니다. 이 메시지는 ChatGPT의 저장된 메모리 제한에 도달했을 때 나타나며, 이는 장기 프로젝트에서 큰 장애물이 될 수 있습니다. 메모리는 복잡하고 지속적인 작업에 대한 핵심 기능으로 설계되어야 합니다. 즉, AI는 이전 세션에서 얻은 지식을 미래의 출력에 적용할 수 있어야 합니다. 시간이 지날수록 중요한 프로젝트(예: 우리의 자매 웹사이트에서 지속적인 HTTP 502 서버 오류를 해결하는 동안)에서 메모리 가득 찼다는 경고 메시지를 보는 것은 매우 좌절감을 줄 수 있습니다.

ChatGPT의 메모리 제한에 대한 좌절

핵심적인 문제는 메모리 제한이 존재한다는 것이 아닙니다. 심지어 ChatGPT Plus의 유료 사용자도 저장할 수 있는 메모리의 실제 제한이 있을 수 있다는 것을 이해할 수 있습니다. 실제 문제는 메모리 제한에 도달했을 때 이전 메모리를 어떻게 관리하는지입니다. 현재의 메모리 관리 인터페이스는 번거롭고 시간이 걸립니다. ChatGPT가 메모리가 100% 가득 찼다고 알릴 때, 두 가지 옵션이 있습니다. 하나는 메모리를 하나씩 삭제하는 것입니다. 다른 하나는 모든 메모리를一度에 삭제하는 것입니다. 효율적으로 저장된 정보를 정리하기 위한 중간 또는 일괄 선택 도구는 없습니다.

메모리를 하나씩 삭제하는 것은, 특히 매일 이렇게 해야 한다면, 지속적인 사용에 방해가 되는 일입니다. 대부분의 저장된 메모리는 이유가 있기 때문에 저장되었습니다. 즉, 사용자가 ChatGPT에게 제공한 귀중한 컨텍스트를 포함합니다. 자연스럽게, 사용자는 가능한 한 최소한의 항목만 삭제하여 AI의 이해를 손상시키지 않기를 원합니다. 그러나 메모리 관리의 디자인은 모든 항목을 삭제하거나 느린 수동 관리를 강요합니다. 제가 개인적으로 관찰한 바에 따르면, 삭제된 각 메모리는 약 1%의 메모리 공간만 해제하며, 이는 시스템이 약 100개의 메모리만 허용한다는 것을 의미합니다(100% 사용). 이 하드 캡은 현대적인 AI 시스템의 규모를 고려할 때 임의적으로 느껴지며, 사용자와 함께 성장하는 지식 있는 보조工具이 되는 ChatGPT의 약속을 약화시킵니다.

어떻게 해야 하는가

ChatGPT와 그 뒤의 인프라가 거의 무제한의 계산 리소스에 접근할 수 있다는 것을 고려하면, 장기 메모리의 해결책이如此 초보적이라는 것은 놀라운 일입니다. 이상적으로, 장기 AI 메모리는 인간의 뇌가 정보를 처리하는 방식을 더 잘 모방해야 합니다. 인간의 뇌는 정보를 관리하기 위한 효율적인 전략을 진화시켰습니다. 우리는 단순히 모든 이벤트를 단어 그대로 기록하고 무제한으로 저장하지 않습니다. 대신, 뇌는 효율성을 위해 설계되었습니다. 우리는 세부 정보를 자세하게 저장하지만, 시간이 지남에 따라 점차적으로 세부 정보를 통합하고 압축하여 장기 메모리에 저장합니다.

신경과학에서 메모리 통합은 불안정한 단기 메모리가 안정적이고 오래 지속하는 메모리로 변환되는 과정입니다. 통합의 표준 모델에 따르면, 새로운 경험은 초기에 해마라는 뇌의 특정 영역에 의해 인코딩되며, 시간이 지남에 따라 지식은 영구 저장을 위해 대뇌피질에 “훈련”됩니다. 이 과정은 즉시 발생하지 않으며, 휴식이나 수면期间에 발생할 수 있습니다. 해마는 빠른 학습 버퍼의 역할을 하며, 대뇌피질은 정보를 더 내구성 있는 형태로 통합합니다. 즉, 뇌의 “단기 메모리”(작업 메모리와 최근 경험)는 체계적으로 분산된 장기 메모리 저장소로 전송되고 재조직됩니다. 이 다단계 전송은 메모리를 간섭이나 잊어버림에 더 강력하게 만듭니다.

인간의 뇌는 또한 세부 정보를 필터링하여 중요한 것만 저장합니다. 우리는 과거의 사건이나 학습한 정보를 회상할 때, 세부 사항을 완벽하게 기억하는 것이 아니라, 일반적으로 그 요약본을 기억합니다. 예를 들어, 책을 읽거나 영화를 본 후, 주요 줄거리와 테마를 기억하지만, 모든 대화를 기억하지는 않습니다. 시간이 지남에 따라 경험의 정확한 단어와 세부 사항은 사라지며, 중요한 부분만 남습니다. 실제로, 연구에 따르면 우리의 정확한 메모리(세부 사항)는 시간이 지남에 따라 더 빠르게 사라지며, 요약본(일반적인 의미)은 더 오래 지속됩니다. 이는 정보를 저장하는 효율적인 방법입니다. 불필요한 세부 사항을 버림으로써, 뇌는 정보를 “압축”하여, 중요한 부분만 남깁니다.

이 신경 압축은 컴퓨터가 파일을 압축하는 방식과 유사하며, 과학자들은 뇌에서도 유사한 과정을 관찰했습니다. 우리는 기억을 재생하거나 미래의 시나리오를 상상할 때, 신경 표현은 효과적으로 가속화되고 세부 사항이 제거됩니다. 즉, 기억은 압축된 형태로 저장됩니다. 텍사스 오스틴 대학교의 신경과학자들은 뇌파 메커니즘을 발견했으며, 이는 우리가 기억을 재생할 때, 세부 사항을 생략하고, 주요 내용만 유지하는 방식으로 작동합니다. 즉, 우리의 뇌는 기억을 빠르게 재생할 수 있으며, 중요하지 않은 세부 사항을 생략하여, 기억을 더 효율적으로 저장할 수 있습니다.

또 다른 중요한 인간의 메모리 관리 측면은 우선순위입니다. 모든 단기 메모리가 장기 저장소에 영구적으로 저장되지 않습니다. 우리의 뇌는 무의식적으로 중요한 것과 중요하지 않은 것을 구분하여, 무엇을 기억할지 결정합니다. 최근의 연구에 따르면, 뇌는 중요한 메모리를 강화하여, 장기 저장소에 저장합니다. 즉, 뇌는 중요하지 않은 세부 사항을 필터링하여, 기억을 더 효율적으로 관리합니다.

즉, 뇌는 노이즈를 필터링하여, 중요한 메모리를 저장합니다. 연구자들은 뇌의 특정 영역, 즉 해마와 대뇌피질 사이의 조정자 역할을 하는 전두신경을 발견했습니다. 이 영역은 중요한 메모리를 저장하도록 대뇌피질에 지시합니다. 즉, 뇌는 중요하지 않은 세부 사항을 버리고, 중요한 메모리를 저장하여, 기억을 더 효율적으로 관리합니다.

인간의 원리를 적용한 AI 메모리 재고

인간의 뇌가 메모리를 처리하는 방식은 ChatGPT와 유사한 AI 시스템이 어떻게 장기 정보를 관리해야 하는지에 대한 명확한 청사진을 제공합니다. 저장된 각 메모리를孤立된 데이터 포인트로 취급하여, 사용자가 수동으로 삭제하거나 영원히 저장해야 하는 대신, AI는 이전 메모리를 자동으로 통합하고 요약할 수 있습니다. 예를 들어, 사용자가 프로젝트에 대한 10개의 관련된 대화 또는 事實을 저장했다면, AI는 이를 요약하여, 주요 결론이나 키 포인트로 압축할 수 있습니다. 즉, 메모리를 압축하여, 중요한 내용을 저장할 수 있습니다.

또 다른 인간의 원리를 적용한 개선은 메모리 보존의 우선순위입니다. AI는 사용자의 필요에 따라 메모리를 우선순위로 저장하여, 중요하지 않은 메모리를 삭제하거나 축소할 수 있습니다. 즉, AI는 사용자의 목적에 따라, 중요한 메모리를 저장하고, 중요하지 않은 메모리를 버림으로써, 기억을 더 효율적으로 관리할 수 있습니다.

결론적으로, AI의 장기 메모리 시스템은 발전해야 합니다. 즉, 메모리가 가득 찼다는 경고 메시지를 표시하는 대신, 사용자와 함께 성장하여, 지식을 축적하고, 중요한 내용을 저장할 수 있어야 합니다. 인간의 뇌는 시간이 지남에 따라, 메모리를 압축하고, 통합하여, 기억을 더 효율적으로 관리합니다. AI도 이러한 원리를 적용하여, 사용자와 함께 성장하고, 지식을 축적할 수 있어야 합니다.

결론

ChatGPT의 현재 메모리 제한은 임시적인 해결책으로, AI의 전체적인 힘을 활용하지 못합니다. 인간의 인지 능력을 살펴보면, 효과적인 장기 메모리는 무제한의 원시 데이터를 저장하는 것이 아니라, 지능적인 압축, 통합, 그리고 잊어버림을 통해 중요한 내용을 저장하는 것입니다. 인간의 뇌는 중요한 내용을 저장하고, 저장소를 효율적으로 관리하는 능력으로 인해, 장기 메모리가如此 넓고 유용한 것입니다. AI도 이러한 전략을 채택하여, 사용자와 함께 성장하고, 지식을 축적할 수 있어야 합니다. 즉, 이전의 상호작용을 요약하여, 지속적인 통찰력을 제공하고, 사용자와 함께 성장하는 시스템이 필요합니다.