В больших языковых моделях обычно используются два типа памяти. Первый — встроенная память, которая формируется во время обучения модели до развертывания. Второй тип — контекстная память, которая сохраняется на протяжении всего диалога и включает в себя историю разговора.
Исследовательские проекты экспериментировали с предоставлением LLM памяти, которая сохраняется за пределами контекстного окна. Контекстное окно ограничивает количество токенов, которые модель может обработать одновременно. Некоторые методы включают динамическое управление историей контекста, сжатие предыдущей истории путем обобщения, ссылки на векторные базы данных для хранения внешней информации или периодическое введение дополнительной информации через системное приглашение (инструкции, получаемые ChatGPT в начале каждого диалога).
OpenAI не раскрыла, какой вариант использует. Память в ChatGPT будет работать одним из двух способов. Вы можете попросить чат-бота запомнить что-то конкретное о вас, например, что вы всегда пишете код на Javascript. Или ChatGPT может просто попытаться со временем собрать эти данные, сохраняя информацию о пользователе, когда он задает вопросы и получает ответы.
OpenAI утверждает, что воспоминания могут помочь подписчикам ChatGPT Enterprise и Team эффективнее работать вместе, поскольку общие командные воспоминания могут включать конкретные настройки форматирования документов или те платформы программирования, которые использует команда. Каждый пользовательский тег GPT будет иметь свои собственные возможности изолированной памяти. OpenAI использует Books GPT в качестве примера: при включенной памяти он может автоматически запоминать, какие книги вы уже читали и какие жанры вам нравятся больше всего.
Сохранение информации вызывает опасения по поводу конфиденциальности. OpenAI предупреждает, что использует предоставленные данные для обучения своих моделей искусственного интеллекта, если пользователь не отключил историю разговоров или не использует Enterprise или Team. Компания предпринимает меры для снижения предвзятости, а также избегает запоминания личной информации, такой как сведения о здоровье, если пользователь явно не запросит это.
Пользователи смогут контролировать, что запоминает ChatGPT, с помощью интерфейса «Управление памятью». Память ChatGPT развивается вместе с взаимодействием и не связана с конкретными разговорами. Удаление чата не стирает его воспоминания; необходимо полностью отключить память.
Функции памяти ChatGPT пока предоставляются случайно как платным, так и бесплатным учетным записям. В ближайшее время OpenAI поделится планами по более широкому развертыванию.
