本文へ移動実験する
どの記憶のこと?
コンテキスト、再帰状態、パラメータ、永続ストレージを区別します。
要点
仕組み
コンテキストは計算に渡す情報です。再帰型ネットワークはステップ間で状態を引き継ぎます。外部ストレージは文書を保存し、依頼に必要なものを検索できます。それぞれ容量や保持の保証が異なります。
覚えておきたいこと
ある会話に加えたファイルが別の会話でも使えるとは限りません。永続性は製品と設定に依存します。文書の検索に必ず再学習が必要なわけではありません。
概念から実践へ実践する
科学的な出典
- Hochreiter & Schmidhuber · 1997Long Short-Term Memory原著論文
- Lewis et al. · 2020Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks原著論文
引用した公開資料の学習用要約です。各論文の結果は、その課題、手順、計算資源の条件に依存します。