К содержанию
О какой памяти идёт речь?
Разделяйте контекст, рекуррентное состояние, параметры и постоянное хранилище.
Как это работает
Контекст и память
Контекст содержит информацию для вычисления. Рекуррентная сеть передаёт состояние между шагами. Внешнее хранилище сохраняет документы и извлекает нужные для запроса. Вместимость и гарантии хранения различаются.
Проверить понимание
Прежде чем ответить, сформулируйте своё объяснение.
Документ из индекса может обогатить контекст без изменения параметров модели.
Ключевая мысль
Файл в одном разговоре не обязательно доступен в другом. Сохранение зависит от продукта и настроек; извлечение документа не всегда требует обучения.
ПодробнееОт понятия к практикеПрименить на практике
Научные источники
- Hochreiter & Schmidhuber · 1997Long Short-Term MemoryПервичная публикация
- Lewis et al. · 2020Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksПервичная публикация
Учебное изложение указанных источников. Результаты публикаций ограничены их задачами, протоколами и ресурсами.