Ограничение памяти ChatGPT разочаровывает — мозг показывает лучший способ

Если вы опытный пользователь ChatGPT, вы, возможно, недавно столкнулись с ужасным экраном «Память заполнена». Это сообщение появляется, когда вы достигаете предела сохраненных воспоминаний ChatGPT, и это может стать серьезным препятствием во время долгосрочных проектов. Память должна быть ключевой функцией для сложных, текущих задач — вы хотите, чтобы ваш ИИ переносил знания из предыдущих сеансов в будущие результаты. Увидеть предупреждение о переполнении памяти в середине чувствительного ко времени проекта (например, когда я устранял постоянные ошибки сервера HTTP 502 на одном из наших дочерних веб-сайтов) может быть крайне раздражающим и разрушительным.

Разочарование из-за ограничения памяти ChatGPT

Основная проблема заключается не в том, что существует ограничение памяти – даже платные пользователи ChatGPT Plus могут понимать, что могут быть практические ограничения на то, сколько можно хранить. Реальная проблема заключается в том, это вы должны управлять старыми воспоминаниями, как только предел достигнут. Текущий интерфейс для управления памятью утомителен и отнимает много времени. Когда ChatGPT уведомляет вас, что ваша память заполнена на 100%, у вас есть два варианта: кропотливо удалять воспоминания одно за другим или стереть их все сразу. Не существует промежуточного или массового инструмента выбора для эффективного удаления сохраненной информации.

Удаление одного воспоминания за раз, особенно если вам приходится делать это каждые несколько дней, кажется рутиной, которая не способствует долгосрочному использованию. В конце концов, большинство сохраненных воспоминаний были сохранены не просто так — они содержат ценный контекст, который вы предоставили ChatGPT о своих потребностях или бизнесе. Естественно, вы бы предпочли удалить минимальное количество элементов, необходимое для освобождения места, чтобы не мешать ИИ понимать вашу историю. Однако дизайн управления памятью вынуждает использовать подход «все или ничего» или медленное ручное курирование. Я лично наблюдал, что каждое удаленное воспоминание освобождает только около 1% пространства памяти, что говорит о том, что система допускает только около Всего 100 воспоминаний до того, как он заполнится (100% использования). Этот жесткий предел кажется произвольным, учитывая масштаб современных систем ИИ, и он подрывает обещание ChatGPT стать знающим помощником, который растет вместе с вами с течением времени.

Что должно происходить

Учитывая, что ChatGPT и инфраструктура, стоящая за ним, имеют доступ к практически неограниченным вычислительным ресурсам, удивительно, что решение для долговременной памяти настолько элементарно. В идеале, Долгосрочная память ИИ должна лучше воспроизводить то, как работает человеческий мозг и обрабатывает информацию с течением времени. Человеческий мозг выработал эффективные стратегии управления воспоминаниями – мы не просто записываем каждое событие слово в слово и храним его бесконечно. Вместо этого мозг создан для эффективности: мы удерживаем подробную информацию в краткосрочной перспективе, а затем постепенно консолидировать и сжимать эти детали в долговременную память.

В нейробиологии консолидация памяти относится к процессу, посредством которого нестабильные краткосрочные воспоминания преобразуются в стабильные, долгосрочные. Согласно стандартной модели консолидации, новый опыт изначально кодируется гиппокамп, область мозга, имеющая решающее значение для формирования эпизодических воспоминаний, и со временем эти знания «обученный» в кору головного мозга для постоянного хранения. Этот процесс не происходит мгновенно — он требует времени и часто происходит во время периодов отдыха или сна. Гиппокамп по сути действует как быстро обучающийся буфер, в то время как кора постепенно интегрирует информацию в более прочную форму через широко распространенные нейронные сети. Другими словами, «кратковременная память» мозга (рабочая память и недавний опыт) систематически переносится и реорганизуется в распределенное хранилище долговременной памяти. Эта многоступенчатая передача делает память более устойчивой к помехам или забыванию, сродни стабилизации записи, чтобы ее было нелегко перезаписать.

Главное, человеческий мозг не Тратить ресурсы, сохраняя каждую деталь дословно. Вместо этого он имеет тенденцию отфильтровывать тривиальные детали и сохранять то, что наиболее значимо из нашего опыта. Психологи давно заметили, что когда мы вспоминаем прошлое событие или усвоенную информацию, мы обычно помните суть этого а не идеальный, слово в слово отчет. Например, после прочтения книги или просмотра фильма вы запомните основные сюжетные моменты и темы, но не каждую строку диалога. Со временем точная формулировка и мельчайшие детали опыта стираются, оставляя после себя более абстрактное изложение того, что произошло. Фактически, исследования показывают, что наша дословная память (точные детали) стирается быстрее, чем наша основная память (общий смысл) с течением времени. Это эффективный способ хранения знаний: отбрасывая посторонние подробности, мозг «сжимает» информацию, сохраняя существенные части, которые, вероятно, пригодятся в будущем.

Эти нервное сжатие можно сравнить с тем, как компьютеры сжимают файлы, и ученые действительно наблюдали аналогичные процессы в мозге. Когда мы мысленно воспроизводим воспоминание или представляем себе будущий сценарий, нейронное представление фактически ускоряется и лишается некоторых деталей — это сжатая версия реального опыта. Нейробиологи Техасского университета в Остине открыли механизм мозговых волн, который позволяет нам вспоминать целую последовательность событий (например, день, проведенный в продуктовом магазине) всего за несколько секунд, используя более быстрый мозговой ритм, который кодирует менее подробную, высокоуровневую информацию. По сути, наш мозг может быстро перематывать воспоминания, сохраняя схему и критические точки, опуская богатые детали, которые были бы ненужными или слишком громоздкими для полного воспроизведения. Следствием этого является то, что воображаемые планы и запомненные переживания хранятся в сжатой форме — все еще полезной и понятной, но гораздо более эффективной с точки зрения пространства и времени, чем исходный опыт.

Другим важным аспектом управления человеческой памятью является приоритетов. Не все, что попадает в кратковременную память, увековечивается в долговременном хранилище. Наш мозг подсознательно решает, что стоит помнить, а что нет, основываясь на значимости или эмоциональной выразительности. недавнее исследование в Университете Рокфеллера продемонстрировали этот принцип с помощью мышей: мышам предлагали несколько результатов в лабиринте (некоторые из них были очень полезными, некоторые умеренно полезными, некоторые отрицательными). Сначала мыши выучили все ассоциации, но при тестировании через месяц обнаружилось, что только наиболее заметный Воспоминания с высокой степенью вознаграждения сохранились, а менее важные детали исчезли.

Другими словами, мозг отфильтровывал шум и сохранял память, которая была наиболее важна для целей животного. Исследователи даже определили область мозга, передний таламус, который действует как своего рода модератор между гиппокампом и корой во время консолидации, сигнализируя, какие воспоминания достаточно важны, чтобы «сохранить» их на долгий срок. Таламус, по-видимому, посылает непрерывное подкрепление для ценных воспоминаний — по сути, говоря коре «сохрани это», пока воспоминание не будет полностью закодировано — в то же время позволяя менее важным воспоминаниям исчезать. Это открытие подчеркивает, что забывание — это не просто сбой памяти, а активная функция системы: избавляясь от тривиальной или избыточной информации, мозг предотвращает загромождение своей памяти и обеспечивает легкий доступ к самым полезным знаниям.

Переосмысление памяти ИИ с учетом человеческих принципов

То, как человеческий мозг обрабатывает память, дает четкий план того, как ChatGPT и подобные системы ИИ должны управлять долгосрочной информацией. Вместо того, чтобы рассматривать каждое сохраненное воспоминание как изолированную точку данных, которую нужно либо хранить вечно, либо вручную удалять, ИИ мог бы консолидировать и обобщить старые воспоминания в фоновом режиме. Например, если у вас есть десять связанных разговоров или фактов, хранящихся о вашем текущем проекте, ИИ может автоматически объединить их в краткое резюме или набор ключевых выводов — эффективно сжимая память, сохраняя ее суть, подобно тому, как мозг сжимает детали в суть. Это освободит место для новой информации, не «забывая» по-настоящему то, что было важно в старых взаимодействиях. Действительно, документация OpenAI подсказки модели ChatGPT уже могут выполнять автоматическое обновление и объединение сохраненных данных, но текущий пользовательский опыт показывает, что это пока неэффективно и не является достаточным.

Другим усовершенствованием, вдохновленным человеком, станет приоритетное сохранение памяти. Вместо жесткого ограничения в 100 элементов ИИ может взвешивать, какие воспоминания чаще всего были релевантными или наиболее важными для потребностей пользователя, и отбрасывать (или уменьшать выборку) только те, которые кажутся наименее важными. На практике это может означать, что ChatGPT определяет, что определенные факты (например, основные цели вашей компании, текущие спецификации проекта, личные предпочтения) являются весьма существенными и всегда должны сохраняться, в то время как единичные мелочи, произошедшие несколько месяцев назад, могут быть архивированы или удалены в первую очередь. Этот динамический подход параллелен тому, как мозг постоянно обрезает неиспользуемые соединения и усиливает часто используемые для оптимизации когнитивной эффективности.

Суть в том, что система долговременной памяти для ИИ должна развивается, а не просто заполнить и остановиться. Человеческая память удивительно адаптивна — она трансформируется и реорганизуется со временем, и она не ожидает, что внешний пользователь будет микроуправлять каждым слотом памяти. Если бы память ChatGPT работала больше как наша собственная, пользователи не сталкивались бы с внезапной стеной на 100 записях, и не мучились бы с выбором между стиранием всего или пролистыванием сотни элементов по одному. Вместо этого старые воспоминания чата постепенно трансформировались бы в очищенную базу знаний, на которую может опираться ИИ, и только действительно устаревшие или неактуальные части исчезали бы. Сообщество ИИ, которое является целевой аудиторией здесь, может оценить, что реализация такой системы может включать такие методы, как контекстное обобщение, векторные базы данных для поиска знаний, или иерархические слои памяти в нейронных сетях – все это активные области исследований. Фактически, предоставление ИИ формы «эпизодической памяти», которая сжимается со временем, является известной проблемой, и ее решение стало бы скачком к ИИ, который постоянно учится и масштабирует свою базу знаний устойчиво.

Заключение

Текущее ограничение памяти ChatGPT кажется временным решением, которое не использует всю мощь ИИ. Рассматривая человеческое познание, мы видим, что эффективная долговременная память заключается не в хранении неограниченного количества необработанных данных, а в интеллектуальном сжатии, консолидации и забывании нужных вещей. Способность человеческого мозга удерживать то, что важно, экономя при этом хранилище, — это именно то, что делает нашу долговременную память такой обширной и полезной. Чтобы ИИ стал настоящим долгосрочным партнером, он должен принять похожую стратегию: автоматически перерабатывать прошлые взаимодействия в устойчивые идеи, а не перекладывать это бремя на пользователя. Разочарование от столкновения со стеной «памяти заполнено» можно заменить системой, которая изящно растет по мере использования, обучения и запоминания гибким, похожим на человеческий, способом. Принятие этих принципов не только решит проблему UX, но и откроет более мощный и персонализированный опыт ИИ для всего сообщества пользователей и разработчиков, которые полагаются на эти инструменты.