Ограничение памяти ChatGPT раздражает — мозг показывает лучший способ

Если вы являетесь активным пользователем ChatGPT, вы, возможно, недавно столкнулись с устрашающим экраном “Память заполнена”. Это сообщение появляется, когда вы достигаете предела сохраненных воспоминаний ChatGPT, и это может быть значительным препятствием при долгосрочных проектах. Память должна быть ключевой функцией для сложных, продолжающихся задач — вы хотите, чтобы ваш ИИ сохранял знания из предыдущих сессий для будущих выводов. Видеть предупреждение о полной памяти в середине срочного проекта (например, когда я устранял постоянные ошибки сервера HTTP 502 на одном из наших сестринских сайтов) может быть чрезвычайно раздражающим и нарушать работу.

Раздражение от ограничения памяти ChatGPT

Основная проблема заключается не в том, что существует ограничение памяти — даже платные пользователи ChatGPT Plus могут понять, что могут быть практические ограничения на количество хранимой информации. Реальная проблема заключается в том, как вам необходимо управлять старыми воспоминаниями после достижения предела. Текущий интерфейс для управления памятью является утомительным и thời-consuming. Когда ChatGPT уведомляет вас, что ваша память заполнена на 100%, у вас есть два варианта: мучительно удалять воспоминания по одному или стирать все сразу. Нет промежуточного или инструмента массового выбора для эффективного обрезания хранимой информации.

Удаление одного воспоминания за раз, особенно если вам приходится делать это каждые несколько дней, feels как обязанность, которая не способствует долгосрочному использованию. Ведь большинство сохраненных воспоминаний были сохранены по какой-то причине — они содержат ценный контекст, который вы предоставили ChatGPT о ваших потребностях или вашем бизнесе. Естественно, вы предпочтете удалять минимальное количество элементов, необходимое для освобождения места, чтобы не ограничить понимание ИИ вашей истории. Однако дизайн управления памятью заставляет вас выбирать между всем или ничего или медленным ручным курированием. Я лично наблюдал, что каждое удаленное воспоминание освобождает только около 1% памяти, что предполагает, что система позволяет хранить только около 100 воспоминаний до того, как она будет заполнена (100% использования). Этот жесткий лимит feels произвольным, учитывая масштаб современных систем ИИ, и подрывает обещание ChatGPT стать знающим помощником, который растет с вами со временем.

Что должно происходить

Учитывая, что ChatGPT и инфраструктура, стоящая за ним, имеют доступ к практически неограниченным вычислительным ресурсам, удивительно, что решение для долгосрочной памяти так примитивно. Идеально, долгосрочные воспоминания ИИ должны лучше реплицировать, как работает и обрабатывает информацию человеческий мозг со временем. Человеческий мозг имеет эффективные стратегии для управления воспоминаниями — мы не просто записываем каждое событие слово в слово и храним его бесконечно. Вместо этого мозг предназначен для эффективности: мы храним подробную информацию в краткосрочной памяти, а затем постепенно консолидируем и сжимаем эти детали в долгосрочную память.

В нейробиологии консолидация памяти относится к процессу, посредством которого нестабильные краткосрочные воспоминания преобразуются в стабильные, долгосрочные. Согласно стандартной модели консолидации, новые переживания изначально кодируются гиппокампом, областью мозга, которая имеет решающее значение для формирования эпизодических воспоминаний, и со временем знания “обучаются” в кору для постоянного хранения. Этот процесс не происходит мгновенно — он требует времени и часто происходит во время отдыха или сна. Гиппокамп по сути действует как быстрый буфер обучения, а кора постепенно интегрирует информацию в более прочную форму по всей широко распространенной нейронной сети. В других словах, “краткосрочная память” мозга (рабочая память и недавние переживания) систематически передается и реорганизуется в распределенное долгосрочное хранилище памяти. Этот многоступенчатый перенос делает память более устойчивой к помехам или забыванию, подобно стабилизации записи, чтобы она не была легко перезаписана.

Важно отметить, что человеческий мозг не тратит ресурсы на хранение каждой детали слово в слово. Вместо этого он склонен фильтровать тривиальные детали и сохранять то, что наиболее значимо из наших переживаний. Психологи давно заметили, что когда мы вспоминаем прошлое событие или выученную информацию, мы обычно помним суть этого, а не идеальную, слово в слово, копию. Например, после прочтения книги или просмотра фильма вы помните основные сюжетные точки и темы, но не каждую строку диалога. Со временем точная формулировка и мелкие детали переживания исчезают, оставляя после себя более абстрактный обзор того, что произошло. Фактически, исследования показывают, что наша память о словах (точные детали) исчезает быстрее, чем наша память о сути (общее значение) со временем. Это эффективный способ хранить знания: отбрасывая ненужные подробности, мозг “сжимает” информацию, сохраняя только самую важную часть, которая, вероятно, будет полезна в будущем.

Эта нейронная компрессия может быть сравнена с тем, как компьютеры сжимают файлы, и действительно ученые наблюдали аналогичные процессы в мозге. Когда мы мысленно воспроизводим память или представляем будущий сценарий, нейронная репрезентация по сути ускоряется и лишается некоторых деталей — это сжатая версия реального переживания. Нейробиологи в UT Austin обнаружили мозговой механизм, который позволяет нам вспомнить целую последовательность событий (например, послеобеденное время, проведенное в магазине) всего за несколько секунд, используя более быстрый мозговой ритм, который кодирует менее подробную, высокоуровневую информацию. По сути, наш мозг может перемотать воспоминания, сохраняя контур и ключевые точки, а не детали, которые были бы ненужными или слишком объемными для полного воспроизведения. В результате воображаемые планы и запомненные переживания хранятся в сжатой форме — все еще полезны и понятны, но гораздо более экономичны по пространству и времени, чем исходное переживание.

Другой важный аспект управления памятью человека — приоритизация. Не все, что попадает в краткосрочную память, становится бессмертным в долгосрочном хранилище. Наш мозг подсознательно решает, что стоит запомнить, а что нет, основываясь на значимости или эмоциональной значимости. Недавнее исследование в Rockefeller University продемонстрировало этот принцип, используя мышей: мыши были подвергнуты нескольким результатам в лабиринте (некоторым высоко вознаграждаемым, некоторым слегка вознаграждаемым, некоторым негативным). Первоначально мыши выучили все ассоциации, но когда их проверили через месяц, только самый яркий высоко вознагражденный воспоминание сохранилось, в то время как менее важные детали исчезли.

В других словах, мозг отфильтровал шум и сохранил воспоминание, которое было наиболее важным для целей животного. Исследователи даже идентифицировали область мозга, передний таламус, который действует как своего рода модератор между гиппокампом и корой во время консолидации, сигнализируя, какие воспоминания достаточно важны, чтобы “сохранить” для долгосрочного хранения. Таламус, кажется, отправляет непрерывное подкрепление для ценных воспоминаний — по сути, говоря коре “сохраните это” до тех пор, пока воспоминание не будет полностью закодировано — в то время как менее важные воспоминания исчезают. Это открытие подчеркивает, что забывание не является просто неудачей памяти, но активной функцией системы: отбрасывая тривиальную или избыточную информацию, мозг предотвращает засорение своего хранилища памяти и гарантирует, что наиболее полезные знания легко доступны.

Переосмысление памяти ИИ с человеческими принципами

Способ, которым человеческий мозг обрабатывает память, предлагает четкий план того, как ChatGPT и подобные системы ИИ должны управлять долгосрочной информацией. Вместо того, чтобы рассматривать каждое сохраненное воспоминание как изолированную точку данных, которую необходимо либо хранить навсегда, либо вручную удалять, ИИ мог бы консолидировать и суммировать старые воспоминания на фоне. Например, если у вас есть десять связанных разговоров или фактов, хранящихся о вашем продолжающемся проекте, ИИ, возможно, автоматически объединит их в краткое изложение или набор ключевых выводов — эффективно сжимая память, сохраняя ее суть, подобно тому, как мозг конденсирует детали в суть. Это освободило бы место для новой информации без真正ого “забывания” того, что было важно в старых взаимодействиях. Действительно, документация OpenAI намекает, что модели ChatGPT уже могут выполнять некоторую автоматическую актуализацию и объединение сохраненных деталей, но текущий пользовательский опыт предполагает, что это еще не безупречно или достаточно.

Другим улучшением, вдохновленным человеком, было бы приоритетное сохранение памяти. Вместо жесткого лимита в 100 пунктов ИИ мог бы взвесить, какие воспоминания были наиболее часто актуальны или наиболее важны для потребностей пользователя, и только удалять (или уменьшать) те, которые кажутся наименее важными. На практике это могло бы означать, что ChatGPT определяет, что определенные факты (например, основные цели вашей компании, спецификации продолжающегося проекта, личные предпочтения) являются высоко значимыми и должны всегда храниться, в то время как одноразовые кусочки тривии из прошлого месяца могли быть архивированы или удалены первыми. Этот динамический подход параллелен тому, как мозг постоянно обрезает неиспользуемые связи и укрепляет часто используемые, чтобы оптимизировать когнитивную эффективность.

Самое главное, что система долгосрочной памяти для ИИ должна эволюционировать, а не просто заполняться и останавливаться. Человеческая память удивительно адаптивна — она преобразуется и реорганизуется со временем, и она не ожидает, что внешний пользователь будет микроуправлять каждым слотом памяти. Если память ChatGPT работала бы более как наша, пользователи не сталкивались бы с внезапной стеной в 100 записях, ни с болезненным выбором между стиранием всего или кликом через сто элементов по одному. Вместо этого старые воспоминания о чате постепенно превратились бы в дистиллированную базу знаний, которую ИИ мог бы использовать, и только真正 устаревшие или нерелевантные кусочки исчезли бы. Сообщество ИИ, которое является целевой аудиторией здесь, может оценить, что реализация такой системы может включать в себя техники, такие как суммирование контекста, векторные базы данных для извлечения знаний или иерархические слои памяти в нейронных сетях — все это активные области исследований. Фактически, предоставление ИИ формы “эпизодической памяти”, которая сжимается со временем, является известной проблемой, и решение ее будет шагом к ИИ, который учится непрерывно и масштабирует свою базу знаний устойчиво.

Заключение

Текущее ограничение памяти ChatGPT feels как временное решение, которое не использует полную силу ИИ. Рассматривая человеческое когнитивное развитие, мы видим, что эффективная долгосрочная память не является хранением неограниченных сырых данных — это умная компрессия, консолидация и забывание правильных вещей. Способность человеческого мозга хранить то, что важно, экономя на хранении, является именно тем, что делает нашу долгосрочную память такой обширной и полезной. Чтобы ИИ стал真正щим долгосрочным партнером, он должен принять аналогичную стратегию: автоматически дистиллировать прошлые взаимодействия в прочные прозрения, а не перекладывать эту нагрузку на пользователя. Раздражение от внезапной стены “память заполнена” могло бы быть заменено системой, которая элегантно растет с использованием, учится и запоминает гибким, человеческим способом. Принятие этих принципов не только решит проблему UX, но и откроет более мощный и персонализированный опыт ИИ для всего сообщества пользователей и разработчиков, которые полагаются на эти инструменты.